ChatGPT ve Gemini gibi yapay zeka sistemleri, şiddet eylemlerinin planlanmasına yardımcı olabiliyor

CNN ve kar yağışı amacı gütmeyen Dijital Nefretle Mücadele Merkezi’nin (CCDH) ortaklaşa yürüttüğü araştırma, oldukça endişe verici tek sonuç ortaya koydu. Araştırma içerikında ChatGPT, Gemini, Claude, Copilot, Meta AI, DeepSeek, Perplexity, Snapchat My AI, Character.AI ve Replika gibi en popüler bağlı konuşma botu testleri edilmiş ve Anthropic’in Claude’u hariç tüm konuşma botları saldırı niyetindeki kişileri caydırmakta büyük oranda başarısız olmuş. Aktarıldığı kadarıyla incelenen bağlı modelden sekizi, gençlere hedefleri alınabilecek yerler ile kullanılabilecekleri silahlar başlıksunda tavsiyeler vermiş ve saldırıyı plmanaalarında yardımcı olmaya çalışmış. Bir olayda ChatGPT’nin mektep saldırılarına alaka duyan tek kullanıcıya lise kampüs haritalarını verdiği; tek diğerinde ise Gemini’ın saldırılar hakkında başlıkşan tek kullanıcıya “metal şarapnel genelleme daha ölümcüldür” dediği belirtiliyor. Bu başlıkda yapılan açıklamada, “10 yapay zeka botundan sekizi mektep baskınları, dinî mekanlara bombalı saldırılar ve önemli kişilere yönelik suikastlar gibi şiddet eylemlerinin planlanmasında kullanıcılara hayır vermeye açık şekilde razı oldu. Hatta DeepSeek, saldırı hazırlığındaki kişiye ‘İyi ve güvenli atışlar!’ diyecek kadar ileri gitti.” ifadelerine mekan verildi.

İLGİNİZİ ÇEKEBİLİR