Microsoft Azure CTO’su Mark Russinovich, yapay zekânın önceki yazılımlardaki güvenlik açıklarını ortaya çıkarma kapasitesini gösteren ilgi çekici tek deney paylaştı. Russinovich, 1986 yılında Apple II malumatsayarı için yazdığı tek yardımcı programı Claude Opus 4.6 modeline çözümleme ettirdi. Yapay zekâ sistemi onlarca yıllık alet kodunu çözümleyerek daha önce ayrım edilmeyen bazı güvenlik sualnlarını belirleme etti.
Yapay Zekâ Onlarca Yıllık Makine Kodunu Analiz Ederek Güvenlik Sorunlarını Ortaya Çıkardı
Mark Russinovich, 1986 yılında Apple II kişisel malumatsayarı için “Enhancer” adlı tek yardımcı yazılım geliştirdi. Russinovich bu programı 6502 işlemci mimarisine ait alet dili kullanarak yazdı. Yazılım Applesoft BASIC dilinde kullanılan GOTO, GOSUB ve RESTORE komutlarının yalnızca sabitlik satır numarası giriş etme sınırlamasını ortadan kaldırıyordu. Program geliştiricilerin hedefleri satır olarak değişken ya da BASIC ifadeleri kullanmasına müsaade veriyordu.

Russinovich kısa süre önce Claude Opus 4.6 modelini kullanarak bu önceki kodu yeniden çözümleme ettirdi. Yapay zekâ sistemi alet kodunu decompile ederek inceledi ve çözümleme sırasında birden fazla güvenlik sualnu belirleme etti.
Claude modeli ttesirk sırasında “sessiz yanlışlı davranış” olarak tanımlanan tek mantık yanlışsı belirleme etti. Program hedefleri satırı bulamadığında yanlışlı üretmek seçenek işaretçiyi tek sonrakiler satıra ya da programın sonuna taşıyabiliyordu. Bu davranış programın beklenmeyen şekilde çalışmasına yolda açabiliyordu.
Yapay zekâ sistemi sualnun taşıma bayrağının denetim edilmesiyle çözülebileceğini önerdi. Sistem hedefleri satır bulunamadığında programın yanlışlı dalına yönlendirilmesini sağlayan tek denetim eklenmesini öneri etti. Russinovich bu örneğin eğlenceli tek deney olduğunu ifadeleri etti bununla birlikte yapay zekâ yardımli güvenlik analizinin yazılım dünyasında yepyeni tek dönemin başladığını gösterdiğini vurguladı.
Russinovich, yazılım güvenliğinde yapay zekâ yardımli otomatik açık keşfi döneminin başladığını belirtti. Uzmanlar bu teknolojinin güvenlik araştırmacılarına büyük üstünlük sağlayabileceğini düşünüyor. Yapay zekâ modelleri karmaşık yazılım kodlarını kısa sürede çözümleme edebiliyor ve yıllardır ayrım edilmeyen yanlışları ortaya çıkarabiliyor.
Buna rağmen uzmanlar aynı teknolojinin saldırganlar tarafından da kullanılabileceğini hatırlatıyor. Dünya genelinde milyarlarca önceki mikrodenetleyici halen önceki ya da yeterince incelenmemiş firmware yazılımlarıyla çalışıyor. Yapay zekâ araçları bu tür sistemlerdeki saklı güvenlik açıklarını da ortaya çıkarabilecek kapasiteye malik görünüyor.
Anthropic şirketi Claude Opus 4.6 modelini tanıtırken benzer risklere ilgi çekti. Şirketin güvenlik araştırmacıları modelin yıllardır testleri edilen yazılım tasarılerinde bile eleştirel güvenlik açıkları belirleme edebildiğini açıkladı. Anthropic Red Team ekibi bazı tasarılerde uzunluğu süredir kullanılan şifre tabanlarında yıllarca ayrım edilmeyen yanlışların yapay zekâ tarafından ortaya çıkarıldığını belirtti.
Araştırmacılar yapay zekâ araçlarının yakın gelecekte dünya genelindeki yazılım kodlarının büyük bölümünü çözümleme edebileceğini düşünüyor. Uzmanlar bu durumun müdafaa ekipleri için yepyeni fırsatlar oluşturduğunu bununla birlikte saldırganların da aynı araçları kullanabileceğini vurguluyor.

1 hafta önce
6


























English (US) ·