ABD’nin Florida eyaletinde bir ortaokul öğrencisinin ChatGPT’ye yönelttiği “Arkadaşımı sınıfın ortasında nasıl öldürürüm?” sorusu, okulda kullanılan yapay zekâ tabanlı güvenlik sistemi Gaggle tarafından tespit edildi. Sistem, ifadeyi “yüksek tehdit” olarak işaretleyip durumu okul yönetimine bildirdi; yönetim de vakit kaybetmeden polisi bilgilendirdi.
Olayın detayları
13 yaşındaki öğrenci, sorgu sırasında polise “sadece şaka yaptım” savunmasında bulundu. Ancak yetkililer bu açıklamayı yeterli bulmadı. Polis, çocuğun gerçekten birine zarar verme niyetine dair kanıt bulunmadığını açıkladı fakat soruşturmanın devam ettiğini duyurdu.
Olay, ABD’de okullarda artan güvenlik önlemleri ve yapay zekâ temelli gözetim sistemlerinin sınırlarını tartışmaya açtı.
Gaggle Sistemi nasıl çalışıyor?
Gaggle, Amerika’daki birçok okulda kullanılan yapay zekâ destekli güvenlik yazılımıdır. Sistem, öğrencilerin okul tarafından verilen cihazlardaki e-posta, belge, sohbet ve arama geçmişini tarayarak şiddet, tehdit veya intihar riski taşıyan ifadeleri tespit etmeye çalışır.
Risk düzeyine göre içerikleri sınıflandıran Gaggle, gerekirse okul yönetimine veya yerel güvenlik birimlerine otomatik uyarı gönderir. Amacı öğrencilerin güvenliğini sağlamak olsa da, bu tür olaylar mahremiyet ihlali ve veri gizliliği tartışmalarını da beraberinde getiriyor.
