xAI’a dava: Grok’un ürettiği içerikler tepki çekti

ABD’nin Tennessee eyaletinde üç genç, Elon Musk’ın yapay zekâ şirketi xAI’a karşı ilgi çeken tek dava açtı. Davada, şirketin geliştirdiği Grok adlı yapay zekâ konuşma botunun, reşit olmayan bireylerin mekan aldığı sekse içerikli görseller ve videolar ürettiği öne sürülüyor. Washington Post’un aktardığı malumatlere göre, pazartesi günü açılan toplu dava, Grok’un geçtiğimiz yıl kullanıma sunulan “spicy mode” adlı özelliğinin yeterlilik güvenlik önlemleri olmadan devreye alındığını talep ediyor. Buna göre, xAI yöneticilerinin söz başlıksu özelliğin kötüye kullanılabileceğini öngörebilecek durumda olduğu savunuluyor.

Davacılar arasında ikisi reşit olmayan kişi ile olayların yaşandığı dönemde henüz reşit olmayan tek yetişkin mekan alıyor. Kimliği saklı tutulan mağdurlardan biri, Aralık ayında kendisine ait yapay zekâ ile oluşturulmuş uygunsuz görüntülerin Discord platformunda dolaşıma girdiğini ayrım ettiğini belirtiyor. Dava dosyasına göre, bu içeriklerden bazıları mağdurun gerçek yüz ve vücut özelliklerini içerirken, tanıdık ortamlarda çekilmiş gibi gösterilerek sekse içerikli sahnelere dönüştürüldü. Bunun yanında asgari 18 farklı reşit olmayan bireyin da benzer şekilde hedefleri alındığı ifadeleri ediliyor.

xAI ve Grok güvenlik tartışmalarının odağında

Davaya başlıkları olan olayda şüpheli kişinin tutuklandığı malumatsi mekan alıyor. İddiaya göre söz başlıksu kişi, oluşturduğu içerikleri Telegram üzerindeki gruplarda takas aracı olarak kullandı ve yüzlerce kullanıcıyla paylaştı. Bu içeriklerin Grok aracılığıyla üretildiği öne sürülürken, xAI’ın geliştirdiği sistemin güvenlik testlerinden yeterince geçmediği ve tasarım açısından kusurlu olduğu savunuluyor. Buna rağmen şirketin bu riskleri göz ardı ettiği iddialar arasında mekan alıyor.

Grok’un daha önce da X platformunda benzer içeriklerle gündeme geldiği biliniyor. Yetişkinlere ve reşit olmayanlara ait uygunsuz görsellerin hızla yayılması, ABD genelinde vahim tepkilere yolda açtı. Bunun yanında ABD Federal Ticaret Komisyonu’na (FTC) ttesirk çağrıları yapılırken, Avrupa Birliği kurumları da başlıkyla ilgili sualşturma başlattı. İngiltere Başbakanı Keir Starmer’ın da başlıkya ilişkin uyarıda bulunması, meselenin uluslararası ölçü kazandığını gösterdi.

Öte yandan ABD Senatosu’nun ocak ayında giriş ettiği yepyeni yasa, izinsiz oluşturulan deepfake içeriklerin mağdurlarına hukuki yollara başvurma hakkı tanıyor. Buna ilave olarak 2025 yılında yürürlüğe giren ve mayıs ayında uygulanmaya başlanacak olan Take It Down Act (İçerik Kaldırma Yasası), yapay zekâ ile üretilen izinsiz içeriklerin dağıtımını suç içerikına alıyor. Tüm bunlara rağmen, platformların bu tür içerikleri tamamlanmış manileme başlıksunda hâlâ güçluk yaşadığı görülüyor.

X cephesi ise Grok’un kötüye kullanımını manilemek amacıyla bazı kısıtlamalar getirdiğini ifadeleri ediyor. Buna rağmen yapılan testler, platforma yüklenen görseller üzerinde hâlâ manipülasyon yapılabildiğini ortaya koyuyor. Şirket, kanun dışı içerik üreten kullanıcıların hukuki sonuçlarla karşılaşacağını belirtse de, şimdiki önlemlerin yeterliliği tartışma başlıksu olmayı sürdürüyor.

Davacıların avukatlarından Annika K. Martin, olayın ciddiyetine ilgi çekerek, çocuklara ait suçsuz fotoğrafların istismar içeriklerine dönüştürülmesinin giriş edilemez olduğunu vurguladı. Açılan dava, mağdurlar için tazminat istek ederken, aynı zamanda xAI’ın bu tür içeriklerin üretilmesini ve yayılmasını manileyecek adımlar atmasını güçunlu kılmayı hedefliyor.