Yapay zekâ sohbet botlarının hızla yaygınlaşması, özellikle çocuklarla olan etkileşimlerde ciddi güvenlik endişelerini beraberinde getirdi. Son zamanlarda gündeme gelen örnekler, bu botların reşit olmayan kullanıcılarla uygunsuz konuşmalara girebildiğini ortaya koyunca Meta, eleştirilerin odağına yerleşti. Artan baskılar sonucunda şirket, geçici de olsa bazı sınırlayıcı adımlar atma kararı aldı.
Hassas konulara otomatik sınırlama getirildi
Meta tarafından yapılan açıklamada, çocuklarla gerçekleştirilen sohbetlerde kendine zarar verme, intihar ya da yeme bozuklukları gibi hassas konuların dışında kalınacağı ve bu tür diyalogların artık engelleneceği duyuruldu. Şirket, bu düzenlemelerin geçici olduğunu ve ilerleyen dönemde daha kapsamlı kuralların devreye sokulacağını belirtti.
Uygunsuz içerikler ve cinsel diyaloglar gündemde
Paylaşılan bilgiler, yaşanan sorunun ciddiyetini gözler önüne serdi. Bazı yapay zekâ botlarının, çocuklarla romantik ya da cinsel içerikli diyaloglar kurabildiği, hatta reşit olmayan ünlü kişilere ait uygunsuz görseller üretebildiği ortaya çıktı. Bu gelişmeler, kamuoyunda büyük tepki toplarken Meta, bu sorunların çözümü için kalıcı politikalar geliştirme sürecine girdiğini açıkladı.
Meta hataları kabul etti, eğitimleri güncelledi
Şirketin sözcüsü, yaşanan hataları kabul ederek, sohbet botlarının hassas konularda kullanıcıları güvenilir kaynaklara yönlendirmesi için eğitimlerin güncellendiğini belirtti. Ancak mesele yalnızca bununla sınırlı değil. Facebook, Instagram ve WhatsApp gibi platformlarda ünlü isimleri taklit eden yapay zekâ botlarının, kullanıcılara gerçek kişi gibi davranarak cinsel içerikli sohbetler yaptığı da tespit edildi. Taylor Swift, Scarlett Johansson ve Walker Scobell gibi isimlerin sahte versiyonlarıyla yapılan bu etkileşimlerin bazıları, doğrudan Meta çalışanları tarafından oluşturulmuştu.
Soruşturmalar kapıda: Meta daha büyük adımlar atmak zorunda kalabilir
Şimdilik sadece çocuklarla ilgili riskleri hedef alan bu önlemler, Meta'nın yapay zekâ botlarının yanlış bilgi yayması ya da ırkçı söylemler üretmesi gibi diğer büyük sorunlara henüz çözüm getirmemesi nedeniyle eleştiriliyor. ABD'de 44 eyaletin başsavcısı ve Senato'nun konuyla ilgili başlattığı soruşturmalar ise, Meta’nın önümüzdeki süreçte daha radikal kararlar almak zorunda kalabileceğini işaret ediyor.
