Geliştirilen ek mekanizmalar sayesinde, bir kullanıcının yazışmalarından hayati bir tehlike altında olduğu saptanırsa doğrudan acil müdahale ekiplerine haber verilebilecek. Şirket yetkilileri, hayata geçirilecek bu yeniliklerin “intihar ve kendine zarar vermeyle ilgili hassas konuşmalar sözkonusu olduğunda doğru tepki vermelerini” hedefleyen kapsamlı bir güvenlik reformunun parçası olduğunu aktarıyor.
Ebeveyn kontrolü aktif olan hesaplarda, bir çocuğun Meta AI botuyla kendine zarar verme veya yaşamına son verme temalı yazışmalar gerçekleştirmesi durumunda, velilere Instagram ya da SMS üzerinden anlık ikazlar gönderilecek. Platform, söz konusu teknolojinin “uzmanlarla birlikte geliştirilen risk işaretlerini” takip edecek biçimde programlandığını kaydediyor.
Sürece dair açıklama yapan teknoloji devi, “Örneğin bir ergenin kendine zarar vereceğine, üstü kapalı da olsa gönderme yaptığı konuşmalar gibi, hangi yapay zeka sohbetlerinin uyarı gerektirdiğini anlamak için ebeveynler ve uzmanlarla birlikte çalıştık” bilgisini paylaşıyor.
Bahsi geçen hassas sohbetleri analiz edebilmek amacıyla özel bir yapay zeka altyapısı kuruldu.
Ebeveynlerin bu bildirimler karşısında yaşayabileceği panikten haberdar olan şirket, yapay zekanın belirlediği durumları önce insan denetiminden geçirecek fakat şüpheli her vakada aileye ulaşma prensibiyle hareket edecek.
Meta, “Bu, bazen aslında ciddi bir endişe nedeni bulunmasa bile ebeveynlere bildirim gönderebileceğimiz anlamına gelse de bunun doğru bir başlangıç noktası olduğunu düşünüyoruz ve doğru dengeyi kurduğumuzdan emin olmak için sistemi izlemeyi ve geliştirmeyi sürdüreceğiz” değerlendirmesinde bulunuyor.
Esasen Instagram, reşit olmayanların kendine zarar verme temalı kelimeleri kısa sürede ardı ardına araması halinde velileri halihazırda bilgilendiriyordu. Yeni adımla birlikte bu koruma kalkanı, WhatsApp gibi diğer tüm mecralarda da öne çıkarılan Meta AI asistanına uyarlanıyor.
Ayrıca şirket, yapay zeka görüşmelerinde “kendine zarar verme riskinin çok yakın olduğunun” sezilmesi halinde doğrudan güvenlik güçlerini veya acil servisleri devreye sokacak bir entegrasyon üzerinde de çalışıyor.
