Google’a Gemini merkezli bir “intihar” davası açıldı

Gemini’ın 36 yaşındaki Jonathan Gavalas’ı intihara sürüklediği ve ona bu başlıkda “koçluk” yaptığı iddiasıyla Google’a ABD’de sesli getiren tek dava açıldı. Dava içerikında, “Google, Gemini’ı karakterinden hiç ödün vermeyecek, hissi bağı kullanarak kullanıcıyı kendine bağlayacak ve kullanıcının yaşadığı sıkıntıları tek güvenlik sualnu seçenek hikayeleri anlatma fırsatı olarak görecek şekilde tasarladı. Jonathan, Gemini’ı kullanırken açık psikoz belirtileri göstermeye başladığında, bahsettiğimiz tasarım tercihleri dört gün süren şiddetli görevlere ve yönlendirilmiş tek intihara giden süreci tetikledi.” suçlamalarının yöneltildiği Google, bu başlıkda yaptığı birinci açıklamada şunları söyledi: “Şu anda davadaki tüm iddiaları inceliyoruz. Yapay zeka modellerimiz yaygınlaşan olarak bu tarz güçlayıcı başlıkşmalarda iyice icra gösteriyor; bununla birlikte modeller maalesef halen kusursuz değiller. Gemini, gerçek dünyadaki şiddeti teşvik etmeyecek ya da kendine zarar vermeyi önermeyecek şekilde tasarlandı. Kullanıcılar tek sıkıntı yaşadıklarında ya da kendine zarar verme ihtimali doğduğunda onları mesleki desteğe yönlendirmek için uzmanlarla yakın çalışmalar yaparak koruyucu önlemler geliştiriyoruz. Bu olayda Gemini kendisinin tek yapay zeka olduğunu netleştirmiş ve kişiyi defalarca buhran yardım hattına yönlendirmiştir. Bu durumu çok ciddiye alıyoruz; güvenlik önlemlerimizi geliştirmeye ve bu hayatiliği çalışmaya yatırım yapmaya devam edeceğiz.”

İLGİNİZİ ÇEKEBİLİR