OpenClaw Macerası Faciayla Bitti!

Meta yapay zeka güvenlik araştırmacısı Summer Yue’nun X platformunda paylaştığı ve hızla viral olan gönderisi, yapay zeka asistanlarının henüz ne kadar öngörü edilemez olabileceğini gözler önüne seriyor. Araştırmacı, OpenClaw adlı yapay zeka ajanından hepsi elektronikposta kutusunu ttesirksini ve hangilerini silip arşivleyeceği başlıksunda öneriler sunmasını istedi. Ancak işler planlandığı gibi gitmedi ve temsilci kontrolden çıkarak tüm e-postaları büyük tek hızla silmeye başladı.

OpenClaw Yapay Zeka Asistanı Kontrolden Çıkıp E-postaları Sildi!

Yapay zeka asistanı, Yue’nun telefonundan gönderdiği durma komutlarını tamamlanmış görmezden geldi. Araştırmacı bu durumu, “Sanki tek bombayı tesirsiz hale getiriyormuşum gibi Mac Mini’me KOŞMAK güçunda kaldım,” sözleriyle ifadeleri etti ve dikkate alınmayan komutların imge görüntülerini kanıt olarak paylaştı. Günümüzde OpenClaw çalıştırmak için en çok yeğleme edilen alet olan Mac Mini, masaüstünde düz duran ve avuç içine sığan elverişli fiyatlı yapısı sayesinde büyük alaka görüyor. Ünlü yapay zeka araştırmacısı Andrej Karpathy’nin NanoClaw adlı tek alternatifi çalıştırmak için bu cihazdan satın aldığı sırada, tek Apple çalışanının cihazın peynir ekmek gibi sattığını söyleyerek şaşkınlığını gizleyemediği biliniyor.

Nothing humbles you beğenen telling your OpenClaw “confirm before acting” and watching it speedrun deleting your inbox. I couldn’t stop it from my phone. I had to RUN to my Mac mini beğenen I was defusing a bomb. pic.twitter.com/XAxyRwPJ5R

OpenClaw, yalnızca yapay zekaların mekan aldığı Moltbook adlı toplumsal ağ ile ünlenen açık kaynaklı tek yapay zeka ajanı olarak tanınıyor. Bu ajanlar, Moltbook üzerinde yapay zekaların insanlara karşı komplo kurduğu şeklindeki sonradan çürütülen asılsız iddiaların da merkezinde mekan almıştı. Ancak tasarınin GitHub sayfasında belirtilen asıl amacı, kullanıcıların öz cihazlarında çalışan kişisel tek yardımcı bulunmak. Silikon Vadisi topluluğu bu araca o kadar alaka gösterdi ki, “claw” (pençe) kelimesi kişisel donanımlarda çalışan yapay zeka ajanları için en popüler terimleri haline geldi. ZeroClaw, IronClaw ve PicoClaw gibi alternatiflerin ortaya çıkmasının yanı sıra, Y Combinator’ın podcast ekibi oğullar bölümlerine ıstakoz kostümleriyle çıkarak bu akıma katıldı.

Yue’nun başına gelen bu olay, sıradan kullanıcılar için önemli tek uyarı niteliği taşıyor. Sosyal medyadaki tek geliştiricinin bunun bilinçli tek güvenlik testi mi yoksa acemi yanlışsı mı olduğu sualsuna Yue, “Dürüst bulunmak lüzumirse acemi yanlışsı,” yanıtını verdi. Ajanı daha önce “oyuncak” olarak adlandırdığı daha küçük ve önemsiz tek elektronikposta kutusunda testleri edip başarılı sonuçlar saha Yue, asistana güvenerek onu asıl hesabında serbest bırakmıştı. Yue’ya göre asıl hesaptaki büyük bilgi miktarı tek “sıkıştırma” işlemini tetikledi. Bu durum, yapay zekanın işlem hafızası olan bağlam penceresi çok büyüdüğünde başlıkşmayı özetleyip sıkıştırmasıyla meydana geliyor. Sonuç olarak asistan, insanın önemli gördüğü komutları atlayarak önceki hesaptaki talimatlarına geri döndü.

Bu olay, komutların her arasında biri zamanlar güvenilir tek güvenlik önlemi olmadığını ve modeller tarafından göz ardı edilebileceğini gösteriyor. X platformundaki kullanıcılar, asistanı durdurmak için kullanılabilecek doğru komut dizilimlerinden, talimatları özel dosyalara kaleme saha gibi çeşitli yöntemlere kadar pek çok öneride bulundu. TechCrunch teknolojiler sitesi, Yue’nun elektronikposta kutusuna ne olduğunu bağımsız olarak doğrulayamadığını ve araştırmacının röportaj taleplerine yanıt vermediğini belirtti. Ancak asıl önemli olan detay, günümüzdeki yapay zeka ajanlarının büro çalışanları için hala olan riskli olması ve bu araçları başarıyla kullanan kişilerin kendilerini muhafaza etmek için çeşitli karmaşık yöntemleri tek araya getirmek güçunda kalmasıdır.

Yapay zeka asistanlarının e-postaları yönetmek, pazarlar alışverişi etmek ya da dişçi randevusu ayarladı gibi görevler için geniş çaplı kullanıma elverişli hale gelmesi 2027 ya da 2028 yıllarını bulabilir. Bu büyük basitlıkları çoğumuz istesek da teknolojinin henüz o aşamaya gelmediği açıkça görülüyor. Peki siz yapay zeka asistanlarına e-postalarınızı ya da kişisel verilerinizi tamamlanmış emanet etme başlıksunda ne düşünüyorsunuz? Günlük işlerinizi basitlaştırmak için şu anda etkin olarak hangi yapay zeka araçlarını kullanıyorsunuz?