Mahremiyet bitiyor mu? Şirketler zihin okuma ile bizi kontrol edebilir!
Son dönemde yapay zekâ ile nörobilimin kesişiminde hız kazanan 'zihin okuma' teknolojileri, yalnızca bilimsel çevrelerin değil kamuoyunun da gündeminde.
Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümünden Dr. Öğr. Üyesi Belaynesh Chekol, bu alandaki çalışmaları değerlendirerek olası risklere ve etik kaygılara dikkat çekti.
Meta gibi teknoloji devlerinin, yapay zekâyı beyin sinyalleriyle entegre eden projelere yöneldiğini vurgulayan uzmanlar, bu girişimlerin "zihin okuma" kavramıyla ilişkilendirildiğini belirtiyor. Dr. Öğr. Üyesi Belaynesh Chekol, "Meta'nın araştırma ekibi tarafından geliştirilen bir modelin, bir kişinin ne düşündüğünü tahmin etmede yüzde 80 doğruluk oranına ulaştığı iddia ediliyor. Benzer şekilde, Texas Üniversitesi’nden araştırmacılar da yapay zekâ kullanarak beyin aktivitesini konuşmaya çevirmeyi başardı. Bu gelişmeler, felç gibi konuşma bozukluklarına yol açan durumlar yaşayan bireyler için umut verici bir potansiyele sahip olsa da kişisel mahremiyetin ihlali gibi ciddi etik sorunları da beraberinde getiriyor. Bireysel özerklik ve veri güvenliği açısından riskler taşıyan bu tür teknolojilerin etik boyutları göz ardı edilmemeli." sözleriyle mevcut durumu özetledi.
MANİPÜLASYON VE MAHREMİYET ENDİŞESİ
Bu teknolojilerin yaygınlaşması halinde kişisel düşüncelerin izinsiz bir şekilde analiz edilme tehlikesi doğabileceğini belirten Chekol, bu durumun bireylerin mahremiyet haklarını ciddi şekilde etkileyebileceğine dikkat çekti:
“Şirketler ve kuruluşlar bu teknolojiyi benimsediğinde, bireylerin özel düşüncelerine ve sırlarına erişerek onları kontrol etme ve manipüle etme gücüne sahip olacaklar.”
ETİK İLKELER VE YASAL STANDARTLAR ŞART
Yapay zekâ destekli beyin analizlerinde kullanılacak verilerin toplanma ve işlenme sürecinde etik çerçevenin net çizilmesi gerektiğini ifade eden Dr. Chekol, konuya ilişkin değerlendirmesinde şu ifadelere yer verdi:
“Kullanıcılardan toplanan veriler, nasıl toplandığı, saklandığı, kullanıldığı ve paylaşıldığı konusunda dikkatli bir şekilde ele alınmalıdır. Benzer şekilde, bireylerden elde edilen sinirsel veriler, onların mahremiyetini, güvenliğini ve güvenini korumak için sıkı etik değerlendirmeler gerektirir.”
Dr. Chekol, bu çerçevede dikkate alınması gereken bazı temel etik ilkeleri de şöyle sıraladı:
Açık ve Geri Alınabilir Rıza: Kullanıcılar, nöral verilerinin amacı, formatı, süresi ve mülkiyeti hakkında tam olarak bilgilendirilmeli ve istedikleri zaman rızalarını geri çekme olanağına sahip olmalıdır.
Şeffaflık: Bilinçli karar vermeyi sağlamak için bireyler teknolojinin potansiyel faydaları ve sınırlamaları konusunda bilinçlendirilmelidir.
Gizlilik Koruması: Diğer hassas veriler gibi, nöral veriler de yetkisiz erişimi veya kötüye kullanımı önlemek için sağlam önlemlerle korunmalıdır.
Denge: Yapay zekâ kullanımında aşırı bağımlılık veya tamamen göz ardı etme yerine, dengeli bir yaklaşım benimsenmelidir; her iki uç nokta da sorunlara yol açabilir.
Yasal Uyumluluk: Bu tür teknolojilerin benimsenmesi hem ulusal hem de uluslararası yasa ve yönetmeliklerle uyumlu olmalıdır.
Ayrıca Chekol, ilgili sistemlerin gelişen teknolojiye ayak uyduracak şekilde düzenli olarak izlenmesi gerektiğini ve potansiyel risklerin sürekli değerlendirilmesinin önem taşıdığını belirtti.
DÜŞÜNCE SÜREÇLERİNE MÜDAHALE Mİ?
Bu tür teknolojilerin, bireylerin zihinsel mahremiyetini ihlal edip etmediği tartışmalarına da değinen Chekol, “Evet, doğal olarak, erişilen veriler duygularımızı, düşüncelerimizi, sırlarımızı ve genel zihinsel durumumuzu kapsayan sinirsel verilerdir. Bu tür hassas bilgiler, kullanıcının rızası veya niyeti olmadan çeşitli amaçlarla toplanır ve kullanılırsa, bu ciddi bir müdahale anlamına gelir. Bu yetkisiz kullanım yalnızca gizliliği ihlal etmekle kalmaz, aynı zamanda güven ve özerkliği de baltalayarak önemli etik ve ahlaki kaygıları gündeme getirir.” ifadelerini kullandı.
TOPLUMSAL VE PSİKOLOJİK ETKİLER
Zihin okuma teknolojilerinin sadece bireyler üzerinde değil, toplumsal ilişkilerde de etkiler yaratabileceğini belirten Chekol, “Bireyler üzerindeki önemli psikolojik etkilerden bazıları, bir kişinin kendi düşünce süreçlerinin aşırı bilincine vardığı yüksek kendi kendini izlemeyi içerir. Bu, yargılanma, kontrol edilme veya manipüle edilme duygularının yanı sıra aynı zamanda, kişinin geçici ve kendisini tam olarak yansıtmayan düşüncelerinden ötürü gözetlendiği veya ihbar edileceği korkusu ortaya çıkabilir. Zamanla, bu kümülatif etkiler kişisel ilişkileri zorlayabilir, aile dinamiklerini bozabilir ve topluluklar içinde daha geniş çaplı gerilimlere yol açabilir.” şeklinde konuştu.
Zihin okuma teknolojilerine dair yaklaşımın dengeli olması gerektiğini vurgulayan Chekol, sözlerini şu şekilde noktaladı:
“Zihin okuma teknolojileri veya benzeri yapay zekâ uygulamaları daha çok ‘hayır içindeki şerler’ gibidir. Eğer bu gizli riskleri doğru şekilde anlamazsak, sundukları potansiyel faydalar da boşa gidebilir. İster zihin okuma teknolojiler ister diğer yapay zekâ destekli araçlar olsun, onlara tamamen bağımlı olmak veya onlardan tamamen kaçınmak yerine hem bireyler hem de topluluk olarak onları daha iyi anlamak ve bir denge kurmak için zaman ayırmamız çok önemlidir. Şu an için, zihin okuma teknolojileri herkesin erişimine açık değil, yani en azından şimdilik.”
