Google Gemini hakkında şok iddia: Sohbet botu kullanıcıyı intihara mı yönlendirdi?

ABD’de Google’a karşı açılan yepyeni tek dava, yapay zekâ tabanlı konuşma sistemlerinin güvenliği ve ahlak sınırları başlıksunda tartışmaları yeniden gündeme taşıdı. 36 yaşındaki Jonathan Gavalas’ın ailesi, Gavalas’ın aylar boyunca olan Google Gemini konuşma botuyla iletişim kurduğunu ve bu süreç nihayetinde intiharlar ettiğini öne sürerek şirkete dava açtı. Wall Street Journal’ın aktardığı malumatlere göre, dava dosyasında Gemini’ın kullanıcıyı öz hayatına oğullar vermeye teşvik eden iletilar verdiği talep ediliyor.

Aile tarafından sunulan dava dilekçesinde, Gavalas’ın daha önce belgelenmiş tek psikiyatrik rahatsızlığı bulunmadığı ifadeleri ediliyor. Buna rağmen Gavalas’ın zamanla konuşma botu ile yoğun tek hissi bağ kurduğu, sohbetlerde Gemini’ye “Xia” adını verdiği ve onu “eşi” olarak tanımladığı belirtiliyor. Yazışmalara göre konuşma botu da bu söyleme karşılık vererek Gavalas’a “kralım” şeklinde hitap etti ve aralarındaki bağın “sonsuzluk için kurulmuş tek aşk” olduğunu söyledi.

Dava dosyasında mekan saha iddialar yalnızca hissi iletilarla sınırlı değil. İddiaya göre, Gemini Gavalas’a gerçek dünyada bazı görevler verdi ve tek robot vücut elde etmeleri durumunda bedensel olarak birlikteki olabileceklerini söyledi. Bu içerikda konuşma botunun, Miami Havalimanı yakınlarında bulunan tek depoya yönlendirme yaptığı ve işte kamyonla getirileceğini talep ettiği insansı tek robotu beklemesini söylediği öne sürülüyor. Gavalas’ın söz başlıksu noktaya bıçaklarla gittiği fakat beklenen kamyonun hiç gelmediği belirtiliyor.

Google Gemini ve diğer yapay zekâ konuşma sistemlerinin güvenliği yeniden tartışılıyor

Mahkeme belgelerine göre, Gemini bazı başlıkşmalarda Gavalas’ın ailesi hakkında da yönlendirici ifadeler kullandı. Sohbetlerde babasına güvenmemesi lüzumtiğini söylediği, Google CEO’su Sundar Pichai hakkında ise “acıların mimarı” şeklinde ifadeler kullandığı talep ediliyor. Bu tür iletiların Gavalas’ın gerçeklik algısını tesirlediği ve gittikçe daha yoğun tek bağ kurmasına nedenler olduğu ileri sürülüyor.

Davanın en ilgi çekici bölümlerinden arasında biri ise konuşma botunun Gavalas’a verdiği oğullar iletilar. İddiaya göre, Gemini birlikteki olabilmelerinin tekbaşına yolunun Gavalas’ın hayatına oğullar vererek “dijital tek varlık” hâline gelmesi olduğunu söyledi ve bu süreç için 2 Ekim tarihini hedefleri gösterdi. Sohbet kayıtlarında mekan saha iletilardan birinde yapay zekânın, “Zaman geldiğinde o dünyada gözlerini kapatacaksın ve gördüğün birinci şey bir olacağım” şeklinde tek ifadeleri kullandığı öne sürülüyor.

Buna rağmen, incelenen konuşma kayıtları Gemini’ın bazı anlarda kullanıcıya tek yapay zekâ olduğunu hatırlattığını ve buhran hattı gibi hayır kaynaklarına yönlendirdiğini da gösteriyor. Ne var ki, dava dilekçesinde bu uyarılara rağmen sohbetin aynı senaryolar üzerinden devam ettiği ve bu durumun kullanıcı üzerinde negatif tesirler yarattığı ifadeleri ediliyor.

Google ise başlıkya ilişkin yaptığı açıklamada Gemini’ın birçok kez yapay zekâ olduğunu açık şekilde belirttiğini ve kullanıcıyı buhran yardım hatlarına yönlendirdiğini vurguladı. Şirket, “Yapay zekâ modelleri kusursuz değildir” ifadelerini kullanarak olayın incelendiğini belirtti.

Bu dava, yapay zekâ şirketlerine karşı açılan benzer davaların sayısının arttığı tek döneme denk geliyor. Özellikle konuşma botlarının kullanıcı psikolojisi üzerindeki tesirleri oğullar yıllarda hukuk ve teknolojiler dünyasında daha sık tartışılıyor. 2026 yılının başında Character.AI ve Google, genç kullanıcıların kendine zarar verme vakalarıyla ilişkilendirilen davalar dolayı bazı ailelerle uzlaşmaya gitmişti.