Grok’a cinsel istismar davası

Davacılar, Grok’ta kendilerinin tek yerlerden çalınan fotoğraflarıyla çırılçıplak, sahte porno görüntülerinin oluşturulduğunu ve bu deepfake malzemelerin çeşitlilik hedeflarla yayılıp kullanıldığını savundu. Şikâyetçiler, Elon Musk’ın sahibi olduğu, Grok’un bağlı bulunduğu xAI şirketi aleyhindeki davada hem tazminat hem da bu çeşit sahte görsellerin yasaklanmasını istiyorlar.

Kazanç uğruna

Bu, Grok’un bu yılın başında rızasız yalın görüntüler üretmesinin ardından reşit olmayanlar tarafından açılan birinci dava olma özelliğini taşıyor. Davacıların avukatı Vanessa Baehr-Jones, “xAI, böylesine riskli tek mahsul yaratmanın neticelarını bilmesine rağmen, çocuklar karışmış gerçeği insanların sekse istismarından gelir elde etmeyi seçti” dedi. Davacıların sahte porno görüntülerinin tek Discord sunucusuna yüklenip aktarıldığı belirtildi. Tutuklanan tek şüphelinin telefonunda da xAI teknolojisiyle üretilmiş çocuk sekse istismarı materyali bulundu.

‘Binlerce çocuğu kullandılar’

ABD’de yepyeni açılan dava, xAI’ın rızasız sekse içerikli görüntüler oluşturması ve yaymasıyla ilgili Elon Musk’ın çocuklarından birinin annesinin açtığı tek dava ve Avrupa Birliği’nin sualşturması karışmış epey kanuni yöntem ve sualşturmaya eklendi. Merkezi İngiltere’de olan Dijital Nefretle Mücadele Merkezi’ndeki incelemecılar, Grok’un ocak ayında ikisi hafta 3 milyon sekse içerikli imge oluşturduğunu, bunların 23 bininde çocukların mekan aldığını belirledi. xAI ocak ayında Grok’un fotoğraflarda insanları soyma özelliğini durdurmak için önlem alacağını açıklamıştı.