Yapay zeka ameliyata girdi ama felç ediyor. Hastalar ölümden döndü

iStockPhoto

İhbarların çoğunda, yapay zekanın ameliyatlar sırasında cerrahlara kullandıkları aletlerin konumu hakkında hatalı enformasyon verdiği talep edildi.

Yapay zeka destekli tıbbi cihazlar hızla yaygınlaşırken, art arda gelen ihbar ve davalar sistemlerin güvenliğine ilişkin sual işaretleri doğurdu. İddialara göre yapay zeka destekli sistemler ameliyatlar sırasında vahim yaralanmalara yolda açabiliyor.

Johnson & Johnson bünyesindeki Acclarent, kronik sinüzit tedavisinde kullanılan TruDi Navigation System adlı cihazına yapay zeka entegre ettiğini duyurarak bunu “büyük tek atılım” olarak tanımladı. 

Ancak ABD Gıda ve İlaç Dairesi’ne (FDA) yapılan bildirimler, yapay zeka entegrasyonu sonrasında cihazla ilgili negatif olayların arttığını ortaya koydu.

Cihaz, yapay zeka eklenmeden önce yaklaşık üç yıldır piyasadaydı ve bu dönemde 7 arıza ve tek rahatsız yaralanması bildirimi yapılmıştı. Yapay zekanın devreye girmesinin ardından ise asgari 100 arıza ve negatif hadise raporu ulaştı.

EN AZ 10 HASTA YARALANDI, İKİ KİŞİ FELÇ GEÇİRDİ

2021’in sonlarından Kasım 2025’e kadar asgari 10 kişi yaralandı. İhbarların çoğunda, sistemin ameliyat sırasında cerrahlara kullandıkları aletlerin konumu hakkında hatalı enformasyon verdiği talep edildi.

Bazı vakalarda hastaların burunlarından beyin omurilik sıvısı sızdığı, tek hastada kafatasının yanlışlıkla delindiği bildirildi. İki ayrı vakada ise hastaların, esas tek atardamarın zarar görmesi sonucu felç geçirdiği öne sürüldü.

Teksas’ta felç geçiren ikisi hasta, TruDi sistemindeki yapay zekanın yaralanmalarına katkıda bulunduğu iddiasıyla dava açtı.

ŞİRKETLER İDDİALARI REDDEDİYOR

Johnson & Johnson, TruDi sistemiyle ilgili soruları, 2024 yılında Acclarent’i satın saha Integra LifeSciences’a yönlendirdi.

Integra, raporların yalnızca tek ameliyatlar sırasında TruDi sisteminin kullanıldığını gösterdiğini, yapay zeka ile yaralanmalar arasında “inandırıcı tek nedensel bağ” bulunmadığını savundu.

SAĞLIK ALANINDA YAPAY ZEKA KULLANIMI

Tartışmalar, yapay zekanın sağlık sektöründe hızla yayılmaya başladığı tek dönemde yaşanıyor. Bugün yapay zeka kullanan asgari binlerce 357 tıbbi alet onaylanmış durumda. Bu sayı, 2022’ye kadar onaylanan cihazların yaklaşık ikisi katı.

Reuters’ın incelemesine göre, TruDi tekbaşına örnek değil. Yapay zeka destekli yürek tempo monitörleri, anormal yürek atışlarını gözden kaçırmakla, bazı ultrason cihazları ise organları yanlış tanımlamakla suçlandı.

Washington Üniversitesi Tıp Fakültesi’nden Dr. Alexander Everhart, yetkili kurumların gelenekselliği tıbbi alet denetim yaklaşımının yapay zeka için yetersizlik kaldığını söylüyor.