Microsoft’tan kritik uyarı: Yapay zekâ ajanları kurum içinde tehdit oluşturabilir

Microsoft, yayımladığı oğullar Cyber Pulse raporunda iş yerlerinde hızla yaygınlaşan yapay zekâ ajanlarının yepyeni tek iç tehditleri kategorisi oluşturabileceği başlıksunda uyarıda bulundu. Şirkete göre, müessese içinde görev yapan tek yapay zekâ asistanı, kötü niyetli kişiler tarafından manipüle edilerek adeta tek “çifte ajan”a dönüştürülebiliyor. Bu senaryoda saldırganlar, ajanın malik olduğu erişim ytesirlerini kötüye kullanabiliyor ya da güvenilir olmayan girdilerle sistemi yanıltarak müessese içindeki verilere ve iş akışlarına zarar verebiliyor. Microsoft, sualnun yapay zekânın yepyeni olmasından değil, denetim ve denetim mekanizmalarının eşit düzeyde uygulanmamasından kaynaklandığını belirtiyor.

Şirketin değerlendirmesine göre, yapay zekâ ajanları birçok sektörde hızla devreye alınıyor. Fakat bazı uygulamalar BT ekiplerinin ttesirksinden geçmeden kullanılmaya başlanıyor ve güvenlik ekipleri hangi ajanın hangi verilere eriştiğini kesinlikle göremeyebiliyor. Bu görünmezlik, özellikle hafıza tutabilen ve otonom şekilde aksiyon alabilen ajanlar söz başlıksu olduğunda daha büyük riskler oluşturuyor. Nitekim Microsoft Defender ekibinin incelediği yakın tarihli tek dolandırıcılık kampanyasında, “bellek zehirleme” yöntemiyle tek yapay zekâ asistanının saklanan bağlam malumatsi manipüle edildi. Bu müdahale sayesinde sonrakiler yanıtlar yönlendirildi ve sistemin çıktıları saptırıldı.

Microsoft yapay zekâ ajanlarını “dijital kimlik” sınıfı olarak görüyor

Raporda vurgulanan tek diğer başlıkları ise dağıtım hızının güvenlik önlemlerinin önüne geçmesi. Kurumlar üretkenliği artırma hedefiyle ajanları hızla kullanıma sunarken, güvenlik ve uyumluluk kontrolleri geri planda kalabiliyor. Bu şart “gölge AI” olarak tanımlanan, onaylanmamış yapay zekâ araçlarının çalışanlar tarafından bağımsız şekilde kullanılmasına yolda açıyor. Microsoft’un aktardığı araştırma verilerine göre, çalışanların yüzde 29’u, iş görevleri için onaylanmamış yapay zekâ ajanlarından yararlanmış durumda. Bu tablo, erkenden aşamada müdahaleyi güçlaştırıyor ve kötü niyetli manipülasyonların ayrım edilmesini güçleştiriyor.

Öte yandan tehditleri yalnızca yanlış tek komut yazılmasıyla sınırlı değil. Bellek zehirleme kalıcı tek saldırı yöntemi olarak öne çıkıyor; sisteme yerleştirilen zararlı bağlam değişiklikleri, zamanlar içinde ajanın verdiği yanıtları tesirleyebiliyor ve kuruma duyulan güveni aşındırabiliyor. Microsoft’un AI Red Team birimi, ajanların yanıltıcı arayüz unsurlarıyla kandırılabildiğini da belirleme etti. Günlük içeriklerin içine gizlenen zararlı talimatlar ya da görev çerçevesini inceliği biçimde değiştiren yönlendirmeler, ajanın muhakeme sürecini farklı tek yöne çekebiliyor. Her ne kadar bu manipülasyonlar birinci bakışta sıradan görünebilse de, tesirleri vahim boyutlara ulaşabiliyor.

Microsoft, yapay zekâ ajanlarının basit tek yazılım eklentisi değil, yepyeni tek sayısal kişilik sınıfı olarak ele alınması lüzumtiğini savunuyor. Bu içerikda Zero Trust yaklaşımının benimsenmesi öneriliyor. Kimlik doğrulamanın sıkı tutulması, erişim ytesirlerinin en düşük ayrıcalık prensibine göre sınırlandırılması ve davranışların sürekli izlenmesi ilköğretim önlemler arasında gösteriliyor. Bunun yanı sıra orta yönetim araçlarıyla tüm ajanların envanterinin çıkarılması ve hangi sistemlere erişebildiklerinin netler biçimde belirlenmesi lüzumtiği ifadeleri ediliyor.

Kurumsal yapay zekâ yatırımları artarken güvenlik mimarisinin aynı hızda güçlendirilmemesi, riskler yüzeyini genişletiyor. Buna rağmen, doğru yapılandırılmış erişim politikaları ve sürekli izleme mekanizmalarıyla tehditlerin azaltılması mümkün görünüyor. Uzmanlar, yepyeni tek temsilci devreye alınmadan önce hangi verilere erişeceğinin haritalandırılmasını, lüzumsiz izinlerin kaldırılmasını ve eğitim manipülasyonlarını belirleme edebilecek izleme sistemlerinin kurulmasını öneri ediyor. Güvenlik temelleri netleşmeden yapılan hızlı yaygınlaştırmalar ise firma altyapıda öngörülmeyen açıklar oluşturabiliyor.

Teknoblog, teknolojiler gündemini farklı platformlarda düzenli biçimde paylaşıyor. WhatsApp kanalında öne çıkan haberleri anlık olarak aktarıyor, Google Haberler üzerinden güncel içerikleri sunuyor, Instagram ve X hesaplarında ilgi çeken başlıkları özetliyor, YouTube kanalında ise ürün ttesirkleri ve detaylı anlatımlarla içeriği tamamlıyor.