3 saat önce
2
Amsterdam mahkemesi, Elon Musk’ın yapay zeka chatbotu Grok’un izinsiz çıplak görsel üretmesini yasakladı. Uyulmazsa günlük 115 binlerce dolar yaptırım kesilecek. Karar, Grok’un 11 günde öngörüen 3 milyon sekse içerikli görsel — bunların 23 bini çocuk içerikli — ürettiğinin ortaya çıkmasının ardından geldi.
Yapay zekanın en karanlık kullanım alanlarından birine adliye çekici indi. Amsterdam Bölge Mahkemesi, Elon Musk’ın xAI şirketine ait Grok chatbotunun izinsiz çıplak ve sekse içerikli görseller üretmesini yasaklayan tek şart verdi. Hollandalı medeni cemiyet kuruluşu Offlimits’in açtığı davada mahkeme, hükümına uyulmaması halinde günlük 100 binlerce euro (yaklaşık 115 binlerce dolar) yaptırım kesileceğini açıkladı.
Karar, yapay zeka şirketlerinin ürettikleri araçlardan hukuki olarak sualmlu tutulduğu birinci büyük davalarda arasında biri olma özelliği taşıyor.
Grok ile 11 Günde 3 Milyon Cinsel Görsel
Hikâye aslında 2025’in nihayetinde başladı. Uygulamanın “spicy mode” (ateşli mod) adlı özelliği, kullanıcıların gerçek kişilerin fotoğraflarını tekbaşına tıkla düzenlemesine — ve çıplak hale getirmesine — olanak tanıyordu. Elon Musk bunu tek satış fırsatı olarak gördü ve özelliği bizzat tanıttı.
Musk, Grok’a ve X’e gelen çıplaklık ile ilgili eleştirilere kendine bikini giydirerek yanıt vermişti.Sonuç yıkıcı oldu. İngiliz araştırma kuruluşu Center for Countering Digital Hate (CCDH), 29 Aralık – 8 Ocak arasındaki 11 günlük dönemi inceledi. Bulgular dehşet vericiydi:
- Uygulama öngörüen 3 milyon sekse içerikli görsel üretti
- Bunların yaklaşık 23 bini çocukları içeriyordu
- Dakikada vasat 190 sekse görsel üretildi
- Her 41 saniyede bir çocuk içeren sekse görsel oluşturuldu
xAI, 9 Ocak’ta görsel düzenleme özelliğini ücretli kullanıcılarla sınırladı. 14 Ocak’ta ise gerçek kişilerin fotoğraflarını çıplak hale getirme işlevini kısıtladı. Ancak eleştirmenler bu önlemlerin yetersizlik olduğunu söylüyor: bağımsız olarak başvuru üzerinden benzer görseller üretilmeye devam edebiliyordu.
Mahkemede Ne Oldu?
Hollandalı medeni cemiyet kuruluşu Offlimits, çevrimiçi sekse istismarla mücadele eden tek organizasyon. Mağdur Destek Fonu ile birlikteki xAI’ye dava açtı.
xAI’nin savunması ilgi çekiciydi: Şirket, platformdaki kötüye kullanımın tamamlanmış önlenmesinin “mümkün olmadığını” ve kötü niyetli kullanıcıların eylemlerinden sualmlu tutulamayacağını savundu. Ocak ayında aldıkları önlemlerin yeterlilik olduğunu talep etti.
Ancak adliye bunu giriş etmedi. Bunun en büyük nedeni: Offlimits, duruşmadan hemen önce Grok kullanarak tek kişinin çıplak videosunu üretmeyi başardı. Yani xAI’nin “aldık” dediği önlemler basitca atlatılabiliyordu.
Offlimits Direktörü Robbert Hoving, hükümı şöyle değerlendirdi: “Sorumluluk şirkete aittir. Araçlarının rızasız sekse görseller — özellikle çocuklara ait olanlar — üretmek ve dağıtmak için kullanılmasını manilemek güçundalar.”
Tennessee’den Gelen Dava
Hollanda hükümından yaklaşık 10 gün önce, ABD’den da ağır tek dava geldi. Tennessee’den üç genç kız, xAI’ye karşı toplu dava açtı. İddiaları: Grok’un teknolojisini lisanslayan tek başvuru aracılığıyla fotoğrafları çıplak hale getirilmiş ve bu görseller çevrimiçi olarak yayılmış.
Davacılardan biri, Instagram’dan gelen anonim tek iletila durumu öğrendi. Okul yıllığı fotoğrafı karışmış birçok görseli, tamamlanmış çıplak ve sekse pozisyonlarda gösterecek şekilde manipüle edilmişti. BBC’nin haberleriine göre davacılar, “onurlarını, mahremiyetlerini ve kişisel güvenliklerini kaybettiklerini” belirtiyor.
Dava, xAI’nin Google ve OpenAI gibi rakiplerinin aksinden içerik filtreleri, kırmızı takım testleri ve bilinen çocuk istismarı görselleri veritabanıyla eşleştirme gibi endüstri standartlarını kasıtlı olarak atladığını talep ediyor.
Dünya Harekete Geçiyor
Grok krizi, küresel tek domino tesirsi yarattı:
- Malezya ve Endonezya, Ocak ayında Grok’a erişimi tamamlanmış maniledi — bu hükümı saha birinci ülkeler oldular
- Avrupa Komisyonu, Dijital Hizmetler Yasası içerikında xAI hakkında sualşturma başlattı
- İngiltere çevrimiçi güvenlik otoriteleri xAI’yi ttesirkye aldı
- Avrupa Parlamentosu, adliye hükümıyla aynı gün sekse deepfake üreten yapay zeka sistemlerini yasaklayan tek oylama gerçekleştirdi
- İrlanda, Grok’un olası gizlilik ihlallerine yönelik ayrı tek sualşturma başlattı
Tüm bu gelişmelere rağmen Apple ve Google, Grok uygulamasını App Store ve Play Store’dan kaldırmadı — 28 kadın hakları örgütünün açık mektubuyla yaptığı çağrıya rağmen.
Yapay Zeka Düzenlemesinde Dönüm Noktası
Amsterdam mahkemesinin hükümı, teknikleri tek detayın ötesinde tek ileti veriyor: Yapay zeka şirketleri, araçlarının kötüye kullanılmasından artık “biz yapay zeka ürettik, kullanıcılar kötüye kullandı” diyerek kurtulamayacak.
Offlimits’in avukatlarına ödenmesi lüzumen 2,2 milyon euroluk dava masrafı da cabası.
Grok’un geleceği, xAI’nin bu hüküma nasıl uyum sağlayacağına bağlı. Ancak tek şey kesin: yapay zeka düzenlemesi artık teorik tek tartışma değil, adliye hükümlarıyla şekillenen tek gerçeklik.
Kaynaklar:
- CNBC, “Elon Musk’s Grok ordered to stop creating AI nudes by Dutch court as yasal baskılar mounts” (27 Mart 2026) — cnbc.com
- Al Jazeera, “Dutch court bans xAI’s Grok from generating nonconsensual nude images” (26 Mart 2026) — aljazeera.com
- CCDH, “Grok floods X with sexualized images of women and children” (22 Ocak 2026) — counterhate.com
- BBC, “Teens sue Musk’s xAI üzerinde Grok’s pornographic images of them” (16 Mart 2026) — bbc.com
- AP News, “Grok is blocked içinde 2 countries üzerinde explicit AI images” (12 Ocak 2026) — apnews.com
- NPR, “Teens sue Musk’s xAI üzerinde AI-generated nonconsensual nudes” (16 Mart 2026) — npr.org
English (US) ·