Yapay zeka teknolojilerinin sağlık alanında kullanımı giderek yaygınlaşırken, uzmanlar bu sistemlerin ürettiği sonuçların yalnızca doğruluk oranlarına göre değerlendirilmemesi gerektiğini vurguluyor.
Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü’nden Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekanın doğru tahminler yapsa bile bu sonuçlara klinik olarak anlam ifade etmeyen veriler üzerinden ulaşabileceği konusunda uyarıda bulundu.
Baydar, yapay zeka modellerinin karar alma süreçlerinin anlaşılır ve denetlenebilir olmasının hasta güvenliği açısından kritik bir öneme sahip olduğunu belirtti.
“DOĞRU TAHMİN İLE GÜVENİLİR TAHMİN AYNI DEĞİLDİR”
Yapay zekanın tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemleri gibi pek çok alanda kullanıldığını dile getiren Baydar, bu teknolojilerin sağlık profesyonellerine önemli katkılarda bulunabildiğini ifade etti.
Ancak sistemlerin başarısının genellikle tahmin doğruluğu üzerinden değerlendirildiğine dikkat çeken Baydar, şu sözleri sarf etti:
“Bu ilerlemeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığına göre değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda sadece doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir.”
YAPAY ZEKÂNIN “KARA KUTU” SORUNUNA DİKKAT ÇEKTİ
Derin öğrenme modellerinin karmaşık veri ilişkilerini analiz edebildiğini ancak kararlarını hangi bilgilere dayanarak oluşturduklarının her zaman anlaşılamadığını kaydeden Baydar, bu durumu “kara kutu” sorunu olarak tanımladı.
Özellikle genetik araştırmalar, ilaç keşfi ve hastalıkların incelenmesinde kullanılan modellerin karar süreçlerinin açıklanabilir olması gerektiğini vurgulayan Baydar, şunları ifade etti:
“Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik veya klinik olarak anlamlı bir işarete mi yoksa verideki rastgele veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır.”
Baydar, bir yapay zeka sisteminin tıbbi görüntüde risk tespit etmesinin tek başına yeterli olmadığını; görüntünün hangi kısmına odaklandığının ve hangi hasta verilerini dikkate aldığının da bilinmesi gerektiğini vurguladı.
“DOĞRU CEVAP İLE DOĞRU NEDENE DAYANAN CEVAP AYNI DEĞİLDİR”
Yapay zeka sistemlerinin bazı durumlarda doğru sonuçlara yanıltıcı veriler üzerinden ulaşabileceğini belirten Baydar, bunun özellikle farklı hasta gruplarında güvenilirlik sorunlarına yol açabileceğine dikkat çekti.
Eğitim verilerindeki beklenmedik özelliklerin, tıbbi cihazlar arasındaki farklılıkların ve belirli hasta gruplarına özgü önyargıların modellerin tahminlerini etkileyebileceğini söyleyen Baydar, şu değerlendirmeyi yaptı:
“Bir yapay zeka modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa farklı hasta gruplarında ya da farklı koşullarda güvenilir sonuçlar vermeyebilir.”
Bu nedenle baydar, yapay zeka sistemlerinin yalnızca başarılı sonuçlar üretmesinin değil; bu sonuçlara hangi gerekçelerle ulaşıldığının da araştırılması gerektiğinin altını çizdi.
YAPAY ZEKÂNIN AÇIKLAMALARI DA DENETLENMELİ
Yapay zeka modellerinin kararlarını açıklayabilmesinin hekimler açısından önemli olduğunu belirten Baydar, bu açıklamaların her zaman gerçek biyolojik ya da klinik nedenleri ortaya koymayabileceği konusunda uyardı.
Baydar, “Bir modelin hangi verilerden etkilendiğini görselleştirmek hastalığın nedenini ortaya çıkardığı anlamına gelmez” dedi.
Açıklanabilir yapay zeka yöntemlerinin sonuçlarının klinik bilgilerle, biyolojik kanıtlarla ve bağımsız doğrulamalarla desteklenmesi gerektiğini vurgulayan Baydar, bu yaklaşımın hekimlerin yapay zeka destekli önerileri daha sağlıklı değerlendirmesine yardımcı olabileceğini söyledi.
BİLİMSEL ARAŞTIRMALAR İÇİN YENİ FIRSATLAR SUNABİLİR
Açıklanabilir yapay zekanın yalnızca güvenilirlik açısından değil; bilimsel araştırmalar bakımından da önemli fırsatlar sunduğunu belirten Baydar, modellerin öğrendiği örüntülerin incelenmesiyle daha önce fark edilmemiş biyolojik ilişkilerin araştırılabileceğini ifade etti.
Baydar, “Modeli yalnızca bir tahmin aracı olarak görmek yerine hangi örüntüleri öğrendiğimizi anlamaya çalıştığımızda hem modeli geliştirebiliriz hem de biyoloji hakkında yeni sorular sorabiliriz” şeklinde konuştu.
“YAPAY ZEKÂ HEKİMLERİN YERİNİ ALAN BİR SİSTEM OLMAMALI”
Bayer sağlık alanında yapay zekanın bağımsız bir karar mekanizması olarak değil; uzmanların değerlendirmelerini destekleyen bir araç olarak kullanılması gerektiğini vurgulayarak insan denetiminin önemine dikkat çekti.
Bayer,“Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır” diye ekledi.
“GÜVENİLİR YAPAY ZEKÂ SINIRLARI BELLİ OLAN YAPAY ZEKADIR”
Bayer sağlıkta yapay zekanın geleceğinin yalnızca yüksek doğruluk oranlarına bağlı olmadığını söyleyerek sistemlerin hangi koşullarda başarısız olabileceğinin de bilinmesi gerektiğine vurgu yaptı.
Bayer ayrıca yapay zeka modellerinin hangi verilerle eğitildiğinin, hangi hasta gruplarında hata yapabileceğinin ve kararlarını hangi özelliklere dayandırdığının sorgulanması gerektiğini belirterek sözlerini şöyle tamamladı:
“Sağlıkta yapay zekanın güvenilir olması sadece doğru tahmin yapan değil; sınırları bilinen ve kararları eleştirilebilir biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır.”
