ESET, yapay zekâ destekli özel ders araçlarının çocuklar üzerindeki olası etkilerini ve ebeveynlerin alması gereken önlemleri mercek altına aldı.
Yapay zekâ, sağlık hizmetlerinden pazarlamaya kadar pek çok sektörde önemli değişimler yaratırken eğitim de bu teknolojinin hızla yaygınlaştığı alanlardan biri haline geldi. Yapay zekâ destekli ders ve özel öğretmen uygulamaları, öğrencilere kişiselleştirilmiş öğrenme fırsatı sunuyor. Ancak bu araçların yaygınlaşmasıyla birlikte güvenlik, gizlilik ve çocukların bilişsel gelişimi konusunda yeni riskler de ortaya çıkıyor.
Siber güvenlikte küresel bir lider olan ESET, yapay zekâ öğretmenleri mercek altına alarak güvenlikle ilgili öneri ve uyarılarını paylaştı.
Yapay zekâ özel ders pazarı büyüyor
Yapay zekâ destekli özel ders araçlarına yönelik pazarın hızla büyüdüğü belirtiliyor. Bir tahmine göre yapay zekâ özel ders pazarının 2025 ile 2033 yılları arasında yaklaşık 2 milyar dolardan 17,7 milyar doların üzerine çıkması bekleniyor.
İngiliz hükümeti de eğitim teknolojisi ve yapay zekâ şirketlerini sınıflarda kullanılabilecek araçlar geliştirmeye davet etti. Hükümet, yapay zekânın özel öğretmen tutmak için maddi imkânı bulunmayan ailelere destek olabileceğini belirterek, 450 bin kadar dezavantajlı öğrencinin bu teknolojiden yararlanabileceğini öne sürdü.
Pazarın hızla gelişmesiyle birlikte bugün farklı amaçlara ve özelliklere sahip çok sayıda yapay zekâ özel öğretmeni bulunuyor. “Yapay zekâ özel öğretmeni” ifadesi, oldukça geniş bir ürün grubunu kapsıyor.
Bazı araçlar eğitim etiketi taşıyan genel amaçlı sohbet robotlarından biraz daha fazlasını sunarken bazıları doğrudan müfredat üzerine yapılandırılmış öğrenme sistemleri olarak çalışıyor. Piyasada basit sohbet robotlarından müfredata göre çalışan Akıllı Özel Ders Sistemlerine (ITS) kadar farklı çözümler yer alıyor.
En gelişmiş sistemlerde amaç, öğrenciye doğrudan cevabı vermek yerine ipuçları aracılığıyla öğrenme sürecini desteklemek. Bu yaklaşım aynı zamanda uygunsuz içerik riskini de azaltıyor.
Yapay zekâ öğretmenler gerçekten işe yarıyor mu?
Yapay zekâ öğretmenlerin eğitimde ne ölçüde etkili olduğu konusunda henüz kesin bir sonuca ulaşılmış değil. Mevcut kanıtların bazı açılardan umut verici olduğu belirtilirken, yapay zekâ öğretmenlerin her ortamda öğrenme süreçlerini geliştireceği yönündeki genel iddiaların yeterince desteklenmediği görülüyor.
Hatta bazı durumlarda teknolojinin öğrenme sürecini daha da kötüleştirebileceği ifade ediliyor.
İngiltere’de yakın zamanda gerçekleştirilen bir çalışmada öğretmenlerin üçte ikisi, yapay zekâ kullanımına bağlı olarak öğrencilerin yazma ve problem çözme becerilerinde düşüş gözlemlediklerini belirtti.
Ayrı bir çalışma ise “sık yapay zekâ aracı kullanımı ile eleştirel düşünme becerileri arasında önemli bir negatif korelasyon” olduğunu ortaya koyuyor. Çalışmada, çocuklara özel ders vermek amacıyla yapay zekâ kullanımının “kullanıcıların derin ve yansıtıcı düşünme süreçlerine katılımını istemeden azaltabileceğini” ifade ediliyor.
Bu durum, çocukların yapay zekâ araçlarını kullanmaya teşvik edilmesiyle ortaya çıkabilecek en önemli gelişimsel risklerden biri olarak öne çıkıyor.
Yapay zekânın bir sorunun cevabını çok hızlı vermesi ya da öğrenme sürecini çocuk açısından fazlasıyla kolaylaştırması, uzun vadede bilişsel tembelliğe yol açabilecek bir risk oluşturabilir.
Yapay zekâ çocukların duygusal gelişimini de etkileyebilir
Yapay zekâ öğretmenlerle ilgili riskler yalnızca akademik başarı ve bilişsel gelişimle sınırlı değil. Psikososyal açıdan da çeşitli riskler bulunuyor.
Çocukların kendinden emin şekilde konuşan yapay zekâ öğretmenlere gereğinden fazla güvenmesi mümkün. Çocukların, yetişkinlere kıyasla yapay zekânın halüsinasyonlarına daha kolay inanabileceği belirtiliyor.
Bunun yanı sıra çocuklar yapay zekâ öğretmenleri zaman içerisinde bir arkadaş gibi görmeye başlayabilir. Böyle bir durumun, çocukların akran gruplarıyla kurduğu duygusal bağları zayıflatma ihtimali bulunuyor.
Yapay zekânın bir diğer dezavantajı ise insan öğretmenin sahip olduğu bazı özelliklerden yoksun olması. Bir yapay zekâ bir sorunun “cevabını” biliyor olabilir ancak öğrenme sürecinde hayal kırıklığı yaşayan bir çocuğu yönetme konusunda bir insan öğretmenin sahip olduğu becerilere sahip değil.
Bir makinenin insan öğretmenin empati ve sosyal becerilerini taklit etmesi mümkün olsa da bunun oldukça zor olduğu vurgulanıyor.
Yapay zekâ kullanımında güvenlik ve gizlilik riski
Çocukların kısıtlamasız sohbet robotları ve benzeri yapay zekâ araçlarını kullanması, görüşmelerin yaşa uygun olmayan konulara yönelmesi riskini de beraberinde getiriyor.
Üstelik yapay zekâ öğretmenler, çocuğun yalnızca sorduğu soruları değil, çok daha fazla kişisel veriyi toplayabilir.
Kullanılan ürüne bağlı olarak sorular, okul ödevleri, performans verileri, ilgi alanları, hesap bilgileri, cihaz tanımlayıcıları ve ses kayıtları saklanabilir.
Model ile paylaşılan bilgilerin eğitim amacıyla kullanılması ve muhtemelen diğer kullanıcılara sızması ihtimali de bulunuyor. Bunun yanında söz konusu veriler reklamverenler ve diğer üçüncü taraflarla paylaşılabilir.
Bu durum yalnızca bir gizlilik riski oluşturmakla kalmıyor. Model sağlayıcısının veya çocuğun verilerini elinde bulunduran güvenilir üçüncü taraflardan birinin güvenlik ihlali yaşaması durumunda konu doğrudan bir güvenlik sorununa dönüşebiliyor.
Sesle etkinleştirilen yapay zekâ araçlarında ise risk daha da farklı bir boyut kazanıyor. Sağlayıcı, çocuğun biyometrik verilerine sahip olabilir. Hackerlar bu verileri çocuğun kimliğiyle ilişkilendirebilirse söz konusu bilgiler son derece değerli hale gelebilir.
Ebeveynler yapay zekâ öğretmen seçerken nelere dikkat etmeli?
Çocukların özel ders almasına yardımcı olması amacıyla yapay zekâ araçlarından yararlanmak isteyen ebeveynlerin öncelikle kullanılan sistemin özelliklerini anlaması gerekiyor.
Basit bir yardımcı ile özel bir Akıllı Özel Ders Sistemi (ITS) arasındaki farkın bilinmesi önem taşıyor. Ebeveynlerin yalnızca basit cevaplar veren sistemler yerine çocuğun öğrenme yolculuğuna rehberlik edecek araçları tercih etmesi öneriliyor.
ESET'in ebeveynlere yönelik önerileri arasında şu noktalar yer alıyor:
• Veri koruma düzenlemelerine uygun araçlar tercih edilmeli. Bu, çocuğun verilerinin altta yatan yapay zekâ motoruyla paylaşılmayacağı anlamına geliyor.
• Çocuğun okulu tarafından onaylanmış veya eğitimsel kanıtlarla desteklenen araçlar tercih edilmeli.
• Gizlilik bilgileri dikkatle okunmalı. Özellikle model eğitimi, veri saklama, reklamcılık ve üçüncü taraf sağlayıcılarla ilgili bölümlere bakılmalı.
• Araç çocukla birlikte kullanılmalı. Yapay zekâ ne kadar iyi olursa olsun, çocuğun muhtemelen bir insanla birlikte öğrenmekten daha fazla fayda sağlayacağı unutulmamalı.
• Çocuklara yapay zekâ ile asla kişisel bilgilerini paylaşmamaları öğretilmeli. Bunun ileride yapay zekâ kullanırken de fayda sağlayacağı belirtiliyor.
• Çocuklarla konuşularak yapay zekâ hakkında ne düşündükleri öğrenilmeli ve yapay zekânın hissetme veya duygu gösterme yeteneğinin olmadığı anlatılmalı.
• Yapay zekâ öğretmenin yanlış olsa bile kendinden emin konuşabileceği açıklanmalı. Önemli cevaplar öğretmenlerle görüşülerek veya ders kitapları ve diğer güvenilir kaynaklarla karşılaştırılarak doğrulanmalı.
• Varsa yaşa uygun ayarlar etkinleştirilmeli.
• Ekran süresi sınırlandırıldığı gibi günlük “Yapay zekâ süresi” de sınırlandırılmalı.
• Çocuğun komut geçmişi kontrol edilerek aracı doğru ve güvenli şekilde kullandığından emin olunmalı.
Yapay zekâ öğretmenler geleneksel eğitimin yerini tutabilir mi?
Yapay zekâ teknolojisi hızla gelişirken pazara da sürekli yeni ürünler sunuluyor. Bu nedenle yapay zekâ öğretmenleri kullanmayı düşünen ebeveynlerin piyasadaki araçları ve sundukları özellikleri takip etmesi önem taşıyor.
Ancak tüm bu gelişmelere rağmen yapay zekâ destekli öğrenmenin eski usul çevrim dışı eğitimin yerini tutmayabileceği de unutulmamalı. Çocukların eğitiminde teknolojiden yararlanılırken insan öğretmenin rehberliği, sosyal becerileri ve öğrenme sürecindeki rolü de göz önünde bulundurulmalı.
