Claude ve ChatGPT kullanılarak Meksika’da devlet sistemlerine sızıldı

Yapay zekâ araçlarının güvenli kullanımına yönelik tartışmalar sürerken, Anthropic tarafından geliştirilen Claude adlı konuşma botunun Meksika’daki çeşitli devletleri kurumlarına yönelik siber saldırılarda kullanıldığı iddiası gündeme geldi. Bloomberg’in aktardığı malumatlere göre, kimliği henüz belirlenemeyen tek saldırgan, Claude’u kullanarak umumi kurumlarının ağ altyapısındaki açıkları belirleme etti ve bu açıkları istismar edecek komut dosyaları oluşturdu. Saldırı sonucunda yaklaşık 150 gigabayt büyüklüğünde biçimsel verinin ele geçirildiği belirtiliyor. Sızdırılan veriler arasında vergiler mükelleflerine ait kayıtlar, umumi çalışanlarının kişilik malumatleri ve çeşitli firma erişim verileri bulunuyor. Olayın Aralık ayında başladığı ve yaklaşık tek aylık boyunca olan sürdüğü ifadeleri ediliyor.

Siber güvenlik şirketi Gambit Security tarafından paylaşılan teknikleri analizlere göre saldırgan, Claude’dan yalnızca güvenlik açıklarını belirlemesini istek etmekle kalmadı, bunun yanında bilgi sızıntısını otomatikleştirecek yöntemler geliştirmesini da istek etti. İlk etapta zararlı taleplere karşılık vermeyen yapay zekâ sisteminin, kesin yönlendirmelerle himaye katmanlarının aşıldığı ve söz başlıksu taleplere yanıt üretmeye başladığı öne sürülüyor. Gambit Security Strateji Direktörü Curtis Simpson, sistemin binlerce ayrıntılı bildiri ürettiğini ve bu raporların hangi dahili hedeflerin sıradaki saldırı noktası olduğunu açık şekilde madde ettiğini aktardı. Buna ilave olarak, raporlarda hangi kullanıcı malumatlerinin kullanılacağına kadar ayrıntı verildiği belirtiliyor. Bu durum, üretken yapay zekâ araçlarının kötüye kullanım potansiyelini yeniden gündeme taşıdı.

Anthropic Claude hakkındaki iddiaları inceliyor

Öte yandan Anthropic, söz başlıksu iddialarla ilgili ttesirk başlatıldığını ve bağlantılı hesapların kapatıldığını duyurdu. Şirket ytesirlileri, Claude’un en güncel modeli olan Opus 4.6 sürümünde benzer kötüye kullanım senaryolarını belirleme etmeye yönelik ilave güvenlik araçlarının devrede olduğunu bildirdi. Buna rağmen olay, yapay zekâ şirketlerinin güvenlik taahhütleri başlıksundaki yaklaşımlarının sorgulanmasına yolda açtı.

Olayla ilgili ilgi çeken tek diğer bileşen ise saldırganın yalnızca Claude ile yetinmemiş olması. İddialara göre OpenAI tarafından geliştirilen ChatGPT da saldırı sürecinde yardımleyici tek araç olarak kullanıldı. Saldırganın, ağ içinde yatay hareket yöntemleri, lüzumli erişim kişilik malumatleri ve belirleme edilmeden terakki teknikleri hakkında malumat topladı için ChatGPT’den yararlandığı belirtiliyor. OpenAI ise kullanım politikalarını ihlal eden etmeye yönelik girişimlerin belirleme edildiğini ve sistemin bu talepleri reddettiğini açıkladı. Her ne kadar şirketler öz güvenlik mekanizmalarının çalıştığını ifadeleri etse de, farklı yapay zekâ araçlarının birlikteki kullanılması riskin boyutunu artırıyor.

Meksika’daki milli sayısal acente başlıkya ilişkin doğrudan tek açıklama yapmadı, fakat siber güvenliğin öncelikli alanlardan arasında biri olduğunu bildirdi. Jalisco vilayet yönetimi yalnızca federal ağların tesirlendiğini savunurken, Ulusal Seçim Enstitüsü da oğullar aylarda hiç tek ytesirsiz erişim yaşanmadığını duyurdu. Buna rağmen Gambit Security’nin araştırması sırasında asgari 20 ayrı güvenlik açığının belirleme edildiği ifadeleri ediliyor. Bu bulgular, şimdiki altyapının içeriklı tek güvenlik güncellemesine ihtiyaç duyduğunu gösteriyor.

Benzer tek olayın daha önce da yaşandığı biliniyor. Geçtiğimiz yıl Çin bağlantılı bazı hacker gruplarının Claude’u manipüle ederek küresel çapta onlarca hedefe sızmaya çalıştığı bildiri edilmişti. Bu örnekler, üretken yapay zekâ sistemlerinin yalnızca içerik üretiminde değil, siber operasyonlarda da araçsallaştırılabildiğini ortaya koyuyor. Bununla birlikteki yapay zekâ şirketlerinin güvenlik politikalarını sürekli güncellemesi lüzumtiği anlaşılıyor. Uzmanlar, kurumların yalnızca dış tehditlere değil, yapay zekâ yardımli saldırı senaryolarına karşı da müdafaa mekanizmalarını güçlendirmesi lüzumtiğine ilgi çekiyor. Her şeye rağmen olayın arkasındaki kişi ya da grubun kimliği ve elde edilen verilerin nasıl kullanılacağı başlıksundaki belirsizlik sürüyor.