Google'ın yapay zeka özetleme sistemi ırkçı ifadeyi bildirim olarak gönderdi

Teknoloji dünyası, yapay zeka sistemlerinin denetimsiz bırakıldığında ne kadar büyük riskler taşıdığını gösteren yepyeni tek moderasyon kriziyle sarsıldı. Google ekosisteminde çalışan ve kullanıcılara haberleri içeriklerini otomatik olarak özetleyerek sunan yapay zeka algoritması, sistemin güvenlik filtrelerini aşarak ırkçı tek ifadeyi doğrudan anlık duyuru üzerinden cihazlara gönderdi.

Paylaşılan malumatlere göre bu skandal, algoritmanın BAFTA (British Academy of Film and Television Arts) ödülleriyle bağlantılı tek filmler ttesirksini özetlerken içeriğin hassasiyetini ve bağlamını çözümleme edememesi sonucunda ortaya çıktı. Sadece hıza odaklanan, insanoğlu denetiminden geçmeyen ve tamamlanmış otonom çalışan bu duyuru sistemi, teknolojiler devinin övündüğü içerik filtrelerinin aslında ne kadar basit aşılabildiğini tüm çıplaklığıyla gözler önüne serdi. Kullanıcıların ekranlarında gördüğü bu uygunsuz kelime, sayısal platformlarda büyük tek reaksiyon dalgası yarattı.

Skandalın sarsıcı yankıları yalınce teknolojiler şirketleriyle sınırlı kalmıyor ve gelenekselliği medya kuruluşlarının entegrasyon süreçlerini da içten tesirledi. Krizin tek diğer ayağında BBC yönetimi, öz yayın süreçlerinde ve iç iletişim kanallarında benzer tek zafiyet yaşanmasının ardından tüm çalışanlarından biçimsel tek açıklamayla özür diledi.

Olayların kültürel merkezinde mekan saha BAFTA yönetimi ise yaşanan bu zincirleme talihsizliklerin ardından tüm içerik ttesirk, özetleme ve onay süreçlerini kapsayan çok geniş çaplı tek değerlendirme süreci başlattığını kamuoyuna duyurdu.

Bu olay, üretken modellerin henüz insanoğlu gözetimi olmadan otonom tek şekilde çalıştırılamayacağının en güçlü kanıtı olarak yorumlanıyor. Yapay zeka sistemleri kocaman boyuttaki metinleri saniyeler içinde işleme ve özetleme yeteneğine malik olsa da, duyarlı kelimelerin toplumsal ağırlığını ve ahlak sınırlarını kavrama başlıksunda hala olan eleştirel eksiklikler barındırıyor. Şirketler otomasyon sistemleri sayesinde operasyonel maliyetleri düşürmeyi hedeflerken, insanoğlu dokunuşunun eksikliği marka değerine onarılması güç zararlar veriyor.