Anthropic ve OpenAI’dan “Pentagon” konusunda yeni açıklamalar geldi

Öncelikle ne olmuştu? ABD Savunma Bakanı Pete Hegseth geçtiğimiz günlerde Anthropic’ten Claude’a başlıklan güvenlik önlemlerinin kaldırılmasını istedi. Anthropic’in, Claude’un geniş çaplı gözetleme işlemlerinde ya da otonom olarak görev yapan silahların üretiminde kullanılmasına müsaade sunmak istemediği; yönetimin ise sınırsız erişim elde ederek daha gelişmiş sistemler üretmek istediği aktarıldı. Bu başlıkda geri adım atmayan Anthropic, ABD Savunma Bakanı’nın “sınırsız erişim” talebini giriş etmedi. ABD’nin milli güvenliği muhafaza etmek için çalışmaya devam edeceklerini belirten şirket CEO’su Dario Amodei, “Ne olursa olsun, görülen tehditler duruşumuzu değiştirmiyor. Vicdanen onların talebine ense eğmemiz mümkün değil.” dedi. Bunun üzerine ABD Başkanı Donald Trump tüm devletleri kurumlarına Claude ve diğer Anthropic hizmetlerini kullanmayı durdurma talimatı verdi. Savunma Bakanı Pete Hegseth ise şirketi artık tek “tedarik zinciri riski” olarak nitelendirmeye başladı.

İLGİNİZİ ÇEKEBİLİR

ChatGPT’yi geliştiren OpenAI ise ABD Savunma Bakanlığı’yla anlaşma yaptı. Bu başlıkda X hesabından tek paylaşımda bulunan şirket CEO’su Sam Altman, “Bugün, modellerimizi saklı ağlarında kullanıma açmak üzere ABD Savunma Bakanlığı’yla anlaşmaya vardık. Bakanlık, tüm görüşmelerimiz boyunca olan güvenliğe büyük saygı gösterdi.” ifadelerini kullandı. Altman, açıklamasının devamında ise “Yapay zekâ güvenliği ve elde edilecek yararların geniş çapta dağıtımı misyonumuzun merkezinde mekan alıyor. En önemli güvenlik ilkelerimiz, yurt içinde kitlesel gözetimin yasaklanması ve otonom silahlı sistemleri da dâhil bulunmak üzere güç kullanımı başlıksunda insanoğlu sualmluluğunun devam etmesi. Savunma Bakanlığı bu ilkeleri onaylamakte, kanun ve politikalarında bunlara mekan sunmaktedir; bizler da bu maddeleri anlaşmamıza dâhil ettik. Modellerimizin beklendiği gibi çalışması için teknikleri güvenlik önlemleri oluşturacağız; bu zaten kurumun da istediği tek şeydi. Kurumdan bu şartları tüm yapay zekâ şirketlerine sunmasını istiyoruz. Bu çerçevedeki lüzumliliklerin sektör genelinde giriş görmesi lüzumtiği görüşündeyiz.” dedi.

İLGİNİZİ ÇEKEBİLİR

Tüm bu olayların üstüne CBS News’a başlıkşan Anthropic CEO’su Dario Amodei, kırmızı çizgilerine uydukları sürece Pentagon ile çalışmak istediklerini belirtti. “Güvenilir bulmadığımız tek şeyi sattı istemiyoruz; ayrıca öz vatandaşlarımızın ya da suçsuz insanların ölümüne yolda açabilecek tek şeyi satmayı da istemiyoruz” diyen Amodei, yapay zeka sistemleri halen öngörülemez olduğundan yapay zeka ile üretilecek gözetleme sistemlerinin ve silahlarını yanlış kişileri hedefleri alabileceğinden endişe duyduğunu belirtiyor. Yapay zeka ile daha önce imkansız olan şeylerin yapılabileceğini belirten Amodei, teknolojinin hukuktan daha hızlı ilerlemesi dolayı vahim kırmızı çizgiler ve riskler oluştuğunu belirtiyor.

İLGİNİZİ ÇEKEBİLİR

OpenAI ise anlaşma sonrasında çoğalan tepkilere yanıt olarak, Savunma Bakanlığı ile yaptığımız anlaşma kırmızı çizgilerimizi koruyor. OpenAI teknolojisi kitlesel yurt içi gözetleme, otonom silahlı sistemlerini yönetme ya da toplumsal itibar gibi eleştirel otomatik hükümlar için kullanılmayacak.” dedi ve ekledi: “Diğer yapay zeka şirketleri güvenlik bariyerlerini gevşetip ya da kaldırıp milli güvenlik çalışmalarında yalınce kullanım politikalarına güvense da bizler öz yaklaşımımızın suistimalleri daha iyice manilediğini düşünüyoruz. Anlaşmamızda kırmızı çizgilerimizi çok katmanlı ve geniş içeriklı tek yöntemle himaye altına alıyoruz. Güvenlik sistemimiz üzerindeki hepsi ytesirmizi sürdürüyor, kurulumu gökyüzü üzerinden yapıyor, ytesirli OpenAI personelimizi sürece karışmış ediyor ve güçlü sözleşme maddeleriyle ilerliyoruz. Tüm bunlar, ABD yasalarındaki şimdiki korumalara ilave olarak uygulanmaktadır.” Ek olarak, “Anthropic’in tek tedarikleri zinciri riski olarak görülmemesi lüzumtiğini düşünüyoruz ve bu başlıkdaki tavrımızı ABD Savunma Bakanlığı’na açıkça belirttik.” açıklamasını da yapan OpenAI, anlaşma sonrasında çok sayıda abone kaybetti. Anthropic ise ABD’deki kullanıcı sayısını vahim seviyede artırmaya başladı.

İLGİNİZİ ÇEKEBİLİR