Meta AI, halihazırda kendine zarar verme niyetinden bahseden gençleri kriz yardım hatlarına yönlendiriyor ve onlara bir yetişkinle konuşmalarını tavsiye ediyordu. Bugünden itibaren risk altındaki gençlerin ebeveynlerini veya vasilerini proaktif bir şekilde doğrudan bilgilendirecek. Ayrıca ailelere, çocuklarına nasıl yardımcı olabileceklerine dair kaynaklar ve uzman tavsiyeleri de iletilecek.
YAPAY ZEKA TESPİT EDECEK, UZMANLAR İNCELEYECEK
Meta'nın açıklamasına göre, riskli sohbetleri tespit etmek için özel bir yapay zeka sistemi geliştirildi. Ancak asılsız paniğe yol açmamak adına sistemin işaretlediği tüm sohbetler ailelere bildirim gönderilmeden önce manuel olarak incelenecek. İnsan incelemeciler gencin niyetini tam olarak anlayamasa bile şirket tedbiri elden bırakmayarak ebeveynlere yine de uyarı gönderecek.
Sistem şu anda ABD, Birleşik Krallık, Avustralya ve Kanada'da Instagram ebeveyn denetimi araçlarını kullanan aileler için aktif hale getirildi. Özelliğin yıl sonuna kadar dünya genelindeki tüm kullanıcılara sunulması planlanıyor.
Öte yandan Meta, reşit olsun veya olmasın herhangi bir kullanıcının Meta AI ile yaptığı görüşmede anında intihar riski taşıdığı anlaşıldığında acil servislerle iletişime geçilmesini sağlayacak bir özellik üzerinde de çalışıyor.
Benzer bir işlevi OpenAI da sunuyor. ChatGPT'deki "Güvenilir Kişi" (Trusted Contact) özelliği ile kullanıcılar, kendilerine zarar verme riski taşıdıkları durumlarda yapay zekanın ulaşabileceği bir arkadaş veya yakınlarını belirleyebiliyorlar.
