Anthropic yapay zekâ saldırılarına karşı yeni güvenlik projesini duyurdu

Yapay zekânın siber güvenlik alanında doğurabileceği risklere yönelik tartışmalar sürerken Anthropic, bu alandaki tehditleri sınırlamaya odaklanan yepyeni girişimi Project Glasswing’i duyurdu. Şirket, bu girişim içerikında özellikle eleştirel yazılım altyapılarını yapay zekâ yardımli saldırılara karşı daha dayanıklı hâle getirmeyi amaçlıyor. Duyurulan tasarı Amazon Web Services, Apple, Google, Microsoft ve NVIDIA gibi sektörün önde gelen teknolojiler şirketlerinin yanı sıra maliye ve güvenlik alanında etkinlik gösteren çeşitli kuruluşların katılımıyla geniş tek iş birliği ağına dayanıyor.

Project Glasswing içerikında mekan saha katılımcılar, Anthropic tarafından geliştirilen bununla birlikte henüz yaygınlaşan kullanıma açılmamış Claude Mythos Preview modelinden yararlanacak. Söz başlıksu modelin, farklı yazılım sistemlerinde güvenlik açıklarını belirleme etme başlıksunda ileri düzey tek icra sunduğu belirtiliyor. Şirketin aktardığı malumatlere göre bu model, büyük işletim sistemleri ve yaygın web tarayıcıları da karışmış bulunmak üzere birçok platformda binlerce gizilgüç güvenlik açığını ortaya çıkardı. Bu yaklaşım, yapay zekânın yalnızca tehditleri oluşturan tek araç değil, aynı zamanda müdafaa mekanizmalarını güçlendiren tek teknolojiler olarak başlıkmlandırılmasını hedefliyor.

Yapay zekâ güvenliği için müşterek müdafaa yaklaşımı

Girişimin ilgi çeken yönlerinden biri, farklı sektörlerden çok sayıda kuruluşu aynı çatı altında buluşturması oldu. Cisco, CrowdStrike ve Palo Alto Networks gibi siber güvenlik şirketlerinin yanı sıra JPMorganChase gibi maliye kuruluşlarının da tasarıye karışmış olması, yapay zekâ kaynaklı tehditlerin yalnızca teknolojiler sektörüyle sınırlı kalmadığını gösteriyor. Bununla birlikteki Linux Foundation gibi açık imkan ekosisteminin önemli aktörlerinin da tasarıde mekan alması, geliştirici topluluklarının da bu süreçte etkin görev oynayacağını ortaya koyuyor.

Öte yandan Anthropic’in bu girişimi, şirketin yapay zekâ etiği başlıksundaki önceki tutumlarıyla da paralel tek çizgide ilerliyor. Şirket, yılın başlarında ABD Savunma Bakanlığı’nın taleplerine rağmen güvenlik kısıtlamalarını gevşetmeyi reddetmişti. Bu hükümın ardından Pentagon tarafından “tedarik zinciri riski” olarak sınıflandırılması, yapay zekâ şirketleri ile umumi kurumları arasındaki gerilimi gündeme taşımıştı. Buna rağmen Anthropic’in Project Glasswing ile müdafaa odaklı tek yaklaşımı öne çıkarması, sektörde farklı tek denge arayışına işaret ediyor.

Bununla birlikteki yapay zekâ araçlarının kötüye kullanımına dair örnekler da tamamlanmış ortadan kalkmış değil. Şubat ayında Anthropic’in Claude modelinin Meksika’daki bazı devletleri kurumlarına yönelik tek siber saldırıda kullanıldığı iddiası, bu teknolojilerin kontrolsüz kullanımının yaratabileceği riskleri yeniden gündeme getirmişti. Bu tür gelişmeler, yalnızca yepyeni araçlar geliştirmekle kalmayıp aynı zamanda bunların nasıl kullanılacağını belirleyen kaideların da önemini ortaya koyuyor.

Tüm bunlara ilave olarak, Project Glasswing’in başarısı yalnızca teknikleri kabiliyetlerle değil, katılımcı kuruluşlar arasındaki koordinasyon ve bilgi paylaşımıyla da yakından ilişkili olacak. Yapay zekâ yardımli tehditlerin gittikçe daha karmaşık hâle geldiği tek dönemde, bu tür çok paydaşlı girişimlerin tesirsi zamanlar içinde daha netler şekilde görülecek. Girişim, şimdiki riskleri tamamlanmış ortadan kaldırmasa da müdafaa tarafında daha sistematik ve ölçeklenebilir çözümler geliştirilmesine katkı sağlayabilecek tek adım olarak değerlendiriliyor.