Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, sağlık alanında kullanılan yapay zekâ sistemlerinin yüksek doğruluk oranlarına ulaşmasının tek başına güvenilir oldukları anlamına gelmediğini belirtti. Baydar, modellerin karar verirken klinik açıdan anlamlı olmayan özelliklerden yararlanabileceğini vurgulayarak, karar süreçlerinin açıklanabilir olmasının önemine işaret etti.
Tıbbi görüntülerin değerlendirilmesi, hastalık risklerinin tahmin edilmesi, genomik verilerin analiz edilmesi ve klinik karar destek sistemleri gibi alanlarda yapay zekânın kullanımının yaygınlaştığını ifade eden Baydar, bu sistemlerin sağlık profesyonellerine yardımcı olabilecek sonuçlar ürettiğini söyledi. Ancak modellerin başarısının yalnızca tahmin doğruluğu üzerinden değerlendirilmesinin yeterli olmadığını kaydetti.
Yüksek doğruluk, güvenilirlik anlamına gelmeyebilir
Derin öğrenme modellerinin karmaşık örüntüleri öğrenebildiğini ancak kararlarını hangi bilgilere dayandırdıklarının her zaman kolayca anlaşılamadığını belirten Baydar, bu sistemlerin çoğu zaman “kara kutu” olarak tanımlandığını ifade etti.
Baydar, "Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir" dedi.
Bir modelin yüksek doğrulukla sonuç üretmesine rağmen tahminlerini biyolojik veya klinik açıdan anlamlı olmayan örüntülere dayandırabileceğini belirten Baydar, bu durumun farklı hasta gruplarında veya farklı koşullarda güvenilirliği etkileyebileceğini söyledi.
Modelin karar süreci anlaşılmalı
Yapay zekâ sistemlerinin verdiği kararların hangi özelliklerden etkilendiğinin anlaşılmasının sağlık profesyonelleri açısından önemli olduğunu vurgulayan Baydar, tıbbi görüntülerde modelin hangi bölgelere odaklandığının, hasta verilerinde hangi değişkenleri öne çıkardığının ve genomik analizlerde DNA dizisinin hangi bölümlerinin tahmini etkilediğinin incelenmesi gerektiğini belirtti.
Bu yaklaşımın açıklanabilir yapay zekâ olarak adlandırıldığını aktaran Baydar, modellerin yalnızca başarılı sonuçlar üretmesinin değil, karar süreçlerinin de mümkün olduğunca anlaşılabilir olmasının önem taşıdığını ifade etti.
Açıklanabilirlik, hasta güvenliği açısından önemli
Yapay zekâ modellerinin eğitim verilerindeki beklenmedik özelliklerden, kullanılan cihazlar arasındaki farklılıklardan veya belirli hasta gruplarına özgü yanlılıklardan etkilenebileceğine dikkat çeken Baydar, bu durumların tahmin sonuçlarını değiştirebileceğini belirtti.
Baydar, "Açıklanabilirlik, yapay zekâ sistemlerinin karar süreçlerini insanlar için daha anlaşılır hâle getirmeyi amaçlar. Bunun sağlık alanında özellikle önemli olmasının nedenlerinden biri, modelin doğru sonuca doğru gerekçelerle ulaşıp ulaşmadığını değerlendirmeye yardımcı olabilmesidir. Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir. Sağlık alanında bu nedenle yalnızca tahminin doğru olması değil, modelin bu tahmine hangi bilgilere dayanarak ulaştığının anlaşılması da önemlidir. Bir model yüksek doğruluk oranına sahip olsa bile, karar verirken klinik olarak anlamlı olmayan bir örüntüden yararlanıyor olabilir. Eğitim verisindeki beklenmedik bir özellik, kullanılan cihazlar arasındaki farklılıklar ya da belirli bir hasta grubuna özgü yanlılıklar modelin tahminlerini etkileyebilir."
Her açıklama gerçek nedeni göstermeyebilir
Açıklanabilir yapay zekâ sistemlerinin hekimlerin karar destek süreçlerine katkı sağlayabileceğini belirten Baydar, modellerin sunduğu açıklamaların da bilimsel açıdan değerlendirilmesi gerektiğini söyledi.
Bir hekimin yapay zekâ tarafından sunulan risk puanının yanı sıra tahmini destekleyen bulgular hakkında da bilgiye ihtiyaç duyabileceğini ifade eden Baydar, açıklanabilirliğin yapay zekânın klinik karar süreçlerine daha kontrollü biçimde dahil edilmesine yardımcı olabileceğini kaydetti.
Baydar, "Bir modelin hangi verilerden etkilendiğini görselleştirmek, hastalığın nedenini ortaya çıkardığı anlamına gelmez. Bu nedenle açıklanabilirlik yöntemlerinin sonuçları da eleştirel biçimde değerlendirilmeli ve mümkün olduğunda klinik bilgi, biyolojik kanıt ve bağımsız doğrulamalarla desteklenmelidir."
Yapay zekâ yeni araştırma soruları ortaya çıkarabilir
Açıklanabilir yapay zekâ yaklaşımlarının bilimsel araştırmalara da katkı sağlayabileceğini belirten Baydar, modellerin öğrendiği örüntülerin incelenmesinin daha önce fark edilmemiş biyolojik ilişkilere işaret edebileceğini ifade etti.
Bu incelemelerin araştırmacılara yeni hipotezler geliştirme fırsatı sunabileceğini belirten Baydar, yapay zekânın yalnızca tahmin üreten bir araç olarak görülmemesi, öğrendiği örüntülerin de anlaşılmaya çalışılması gerektiğini söyledi.
Yapay zekâ uzmanlarla birlikte kullanılmalı
Sağlık alanında yapay zekânın hekimlerin yerini alan bağımsız bir karar mekanizması olarak değerlendirilmemesi gerektiğini vurgulayan Baydar, bu sistemlerin uzmanların karar süreçlerini destekleyen araçlar olarak kullanılmasının daha doğru olacağını belirtti.
Baydar, "Sağlık alanında yapay zekâyı, uzmanın yerini alan bağımsız bir karar mekanizmasından ziyade, karar süreçlerini destekleyen güçlü bir araç olarak değerlendirmek daha doğru olacaktır. Bu açıdan bakıldığında, açıklanabilirlik daha da önemli hâle gelir. Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır." dedi.
Güvenilirlik için modelin sınırları bilinmeli
Sağlıkta yapay zekâ sistemlerinin başarısının yalnızca doğruluk oranlarıyla ölçülemeyeceğini belirten Baydar, modellerin hangi verilerle eğitildiğinin, hangi hasta gruplarında başarısız olabileceğinin ve kararlarını hangi özelliklere dayandırdığının da değerlendirilmesi gerektiğini ifade etti.
Baydar, "Sağlıkta yapay zekânın başarısını gelecekte yalnızca ulaştığı doğruluk oranı değil, verdiği kararları ne ölçüde açıklayabildiğimiz de belirleyecektir. Bu nedenle ‘Model ne kadar doğru?’ sorusunu sormak tek başına yeterli değildir. ‘Hangi verilerden öğrendi?’, ‘Hangi hasta gruplarında başarısız olabilir?’, ‘Kararını hangi özelliklere dayanarak verdi?’ ve ‘Bu açıklama klinik veya biyolojik olarak anlamlı mı?’ gibi sorular da doğruluk kadar önemlidir. Sağlıkta yapay zekânın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır."
