"Katil robot" tartışması: Anthropic, Pentagon’un “otonom drone sürüsü” yarışmasına başvurmuş

Anthropic’in, Pentagon’un sesle denetim edilen otonom drone sürüsü geliştirmeyi hedefleyen 100 milyon dolarlık ödüllü yarışmasına öneriler sunduğu ortaya çıktı. Ancak firma hepsi otonomi başlıksunda Pentagon ile kanaat ayrılığına düştü.

Bir süredir ABD hükümetiyle ahlak tartışmaları dolayı buhran yaşayan yapay zeka şirketi Anthropic’in, ABD Savunma Bakanlığı’nın (Pentagon) sesle denetim edilen otonom drone sürüsü teknolojileri geliştirmeyi hedefleyen 100 milyon dolarlık ödüllü yarışmasına öneriler sunduğu ortaya çıktı.

Bloomberg’e başlıkşan, başlıkya yakındaki kaynaklara göre başvuru, firma ile Pentagon arasında teknolojinin ordu kullanımına dair güçlu müzakerelerin sürdüğü dehemmiyetde yapıldı.

İsminin açıklanmasını istemeyen kaynaklar, Anthropic’in öneriini sunmasının ardından ABD Savunma Bakanı Pete Hegseth’in cuma günü Pentagon yüklenicilerine ve ortaklarına Anthropic ile ticari etkinlik yürütmeyi yasaklama talimatı verdiğini söyledi.

“KATİL ROBOT” TARTIŞMASI

Taraflar arasındaki anlaşmazlığın merkezinde, insanoğlu müdahalesi olmadan hedefleri seçip yangın açabilen “katil robotlar” olarak adlandırılan otonom silahlı sistemlerinde yapay zekanın oynayabileceği görev vardı.

Anthropic’in yöneticileri, evvel yaptıkları açıklamalarda yapay zekanın savaşı alanında genişliği içeriklı ve kanuni kullanımını yardımlediklerini, bununla birlikte kitlesel dahili gözetim ve tamamlanmış otonom silahlı sistemlerini al çizgi olarak gördüklerini vurgulamıştı.

Kaynaklara göre şirket, geliştirilmesi planlanan teknolojinin bu sınırları aşmayacağını düşünüyordu. Olası tek ölümcül drone sürüsü ortaya çıksa bile sistemin insanoğlu operatörler tarafından izlenebileceği ve lüzumtiğinde durdurulabileceği kıymetlendiriliyordu.

CLAUDE EMİRLERİ YÖNETECEKTİ

Kaynaklara göre Anthropic’in önerii, Claude adlı yapay zeka aracının komutanların niyetini sayısal komutlara dönüşçeşitmesine ve çeşitlilik sayıda drone’un koordinasyonunu sağlamasına odaklanıyordu. Yani yapay zeka, hedefleri seçimi ya da silahlı kullanımı hükümlarını otonom biçimde -kendi kendine- vermeyecekti.

Şirket ayrıca insanların sistemleri bağlı gözetim ytesirsine malik olmasını ve Pentagon ile birlikteki otonom silahların sağlam geliştirilmesi ve testleri edilmesine yönelik müşterek tek inceleme programı kurulmasını önerdi.

BEŞ AŞAMALI PLAN

Bloomberg’in evvel aktardığına göre yarışma, programlar geliştirme aşamasıyla başlayıp gerçeği saha testlerine uzanan 5 aşamalı tek inceleme-geliştirme programı olarak tasarlanmıştı. Pentagon’un ocak ayındaki duyurusunda drone’ların taarruz hedeflı kullanılacağına hatırlatma edilirken, insan-makine tesirleşiminin sistemlerin “öldürücülüğü ve tesirnliği” bağlı direkt tesirli olacağı vurgulanmıştı.

İlk aşama yalnızca programlar geliştirmeye odaklanacak. Amaç, havada ve deniz gibi değişik alanlarda etkinlik gösteren drone’ların sürü halinde koordineli hareket edebilmesini sağlayacak sistemler tekâmül ettirmek. İlerleyen aşamalarda hedefleri farkındalığı aktarımı ve nihayetinde “fırlatmadan vazife sonlandırmaya” kadar hepsi ameliyat sürecinin ele alınması planlanıyor.

ANTHROPIC SEÇİLMEDİ

Kaynaklara göre Anthropic yarışmada seçilen şirketler arasında mekan almadı; bunun nedeni ise henüz bilinmiyor. Şirket, otonom silahlı sistemlerini çalıştıracak kadar güvenilir tek yapay zeka seviyesine henüz ulaşılmadığını savunuyor ve başlıkları ilgili görüş yapmadı.

Yarışma, Pentagon’a bağlı Özel Operasyonlar Komutanlığı ile Savunma İnovasyon Birimi tarafından ortaklaşa yürütülüyor.

SPACEX VE OPENAI ÖNE ÇIKTI

Kazanan başvurular arasında SpaceX ve xAI ortaklığının sunduğu öneriler da var.

Pentagon’un Anthropic’i devre dışı bırakma hükümından saatler sonraları OpenAI, bakanlıkla pazarlık yaptığını duyurarak reaksiyon çekmişti. Sosyal medyada ChatGPT’ye yönelik boykot hareketi başlarken, OpenAI CEO’su Sam Altman, anlaşmanın otonom silahlı sistemleri karışmış bulunmak üzere kuvvet kullanımında “insan sualmluluğunu” şart koştuğunu söylemişti.

DRONE SÜRÜSÜ TEKNOLOJİSİ

Uzmanlara göre benzer anda birden fazla drone uçurmak halihazırda olası olsa da havada ve denizde etkinlik gösteren çeşitlilik sayıda drone’un hedefleri doğrultusunda otonom biçimde birlikteki hareket etmesini sağlayacak yazılımın geliştirilmesi hâlâ ehemmiyetli tek teknikleri mani olarak görülüyor.

Yarışmanın ilerleyişi, katılımcıların muvaffakiyetsı ve tasarıye gösterilen ilgiye bağlı olarak aşamalı biçimde devam edecek.