ChatGPT Terörü Engelleyebilir miydi?

Yapay zeka devi OpenAI’ın, Kanada’da yaşanan trajik tek mektep saldırısını önceden ayrım etmiş olabileceği bununla birlikte harekete geçmediği ortaya çıktı. OpenAI polis ikilemi olarak adlandırılabilecek bu durum, şirketin kullanıcı gizliliği ve umumi güvenliği arasındaki duyarlı dengeyi sorgulatıyor. Wall Street Journal’ın özel haberine göre, saldırganın ChatGPT ile yaptığı riskli başlıkşmalar, saldırıdan aylar önce şirket tarafından belirleme edildi.

OpenAI Polis İkilemi Nasıl Başladı?

Her şey, Kanada’daki mektep saldırısını düzenleyen Jesse Van Rootselaar’ın ChatGPT platformundaki yazışmalarıyla başladı. OpenAI’ın riskli içerikleri belirleme etmek için kullandığı otomatik güvenlik sistemleri, Rootselaar’ın başlıkşmalarını gizilgüç tek tehditleri olarak işaretledi. Bu işaretleme üzerine, kayıtlar çok sayıda OpenAI personeli tarafından incelendi.

Haberlere göre, şirket içinde vahim tek tartışma yaşandı. Bazı çalışanlar, yazışmaların beton tek bedensel şiddet tehdidi içerdiğini savunarak durumun anında Kanada polisine bildirilmesi için yöneticilere baskı yaptı. Ancak, bu talepler sonuçsuz kaldı ve oğullar hükümın ihbarda bulunmamak yönünde olduğu belirtildi.

Şirketin Resmi Açıklaması ve Gerekçesi

Konuyla ilgili tek açıklama yapan OpenAI sözcüsü, şirketin durumu ciddiye aldığını ve söz başlıksu şahsın hesabını kapattığını doğruladı. Bununla birlikteki sözcü, paylaşımların polise haberler verme kriterlerini karşılamadığına şart verdiklerini ifadeleri etti. OpenAI’ın politikasına göre, tek kullanıcının ihbar edilmesi için paylaşımlarının “ciddi ve her arasında biri an gerçekleşebilecek tek risk” taşıması lüzumiyor.

Bu olay, yapay zeka şirketlerinin ahlak sualmlulukları ve kanuni yükümlülükleri başlıksunda önemli tek tartışmayı yeniden alevlendirdi. Bir yandan kullanıcıların özel başlıkşmalarının gizliliği, diğer yandan ise bu platformların gizilgüç suçları önlemedeki rolü, teknolojiler dünyasının çözüm bulması lüzumen en büyük güçluklardan arasında biri olarak öne çıkıyor.

Peki, OpenAI’ın bu hükümı hakkındaki sizin görüşleriniz neler? Düşüncelerinizi yorumlarda bizimle paylaşın!