Hayatımızın hemen her arasında biri yerinde kendini göstermeye başlayan yapay zekâ teknolojileri, manipüle edildikleri zamanlar çeşitlilik muazzam sualnlara yolda açabiliyorlar. Bunun en netler örneği ise şuanda yaşandı. Bir siber asayiş firmasının hazırladığı rapora göre kimliği belirsiz hacker'lar, Anthropic'in Claude ve OpenAI'ın ChatGPT yazılımlarını kullanarak taarruz düzenlediler.
Edinilen malumatlere göre siber saldırganların hedefi, Meksika'daki hükûmet kurumlarına sızmaktı. İki kuvvetlü yapay zekâ modelini eşleri zamanlı olarak kullanan hacker'lar, hedeflarına ulaşmayı da başardılar. Yapılan açıklamaya göre Meksikalıların duyarlı malumatlerini içeren 150 GB'lik veri, yapay zekâ sayesinde sızdırıldı.
Peki bunu ne şekilde yaptılar?
Bilgisayar korsanları, Meksika'daki sistemleri hack'lemek için yapay zekâyı manipüle ettiler. Bu bağlamda; Claude'u bilirkişi tek hacker olduğuna inandıran saldırganlar, yapay zekâyı tek yarışmaya soktuklarına ikna ettiler. Sohbet robotu, aldığı komutlar doğrultusunda içeriklı taarruz planları üretti, raporlar oluşturdu ve taarruz komutlarını amade hâle getirdi.
Claude, taarruz sırasında bazen asayiş duvarlarına takıldı. Bu noktada ChatGPT'ye geçişleri yapan malumatsayar korsanları, benzer manipülasyon tekniğini kullanarak ChatGPT'yi kötü hedeflı hâle getirdiler. Tüm bu içeriklı çalışmanın sonucunda sayısız veri, ele geçirilmiş oldu. Yaşanan olay, yapay zekâ vasıtalarının hâlâ istenildiği kadar sağlam olmadığını gözler önüne serdi.