OpenAI Yapay Zekâ Güvenliği İçin Promptfoo Şirketini Bünyesine Katıyor

ChatGPT’nin geliştiricisi OpenAI, yapay zekâ güvenliği alanındaki çalışmalarını genişletmek için yepyeni tek satın alma gerçekleştirdi. Şirket, yapay zekâ sistemlerinde güvenlik testi ve değerlendirme araçları geliştiren Promptfoo’yu bünyesine kattığını duyurdu. OpenAI bu satın almayla özellikle ajansal yapay zekâ sistemlerinin güvenlik testlerini daha güçlü hale getirmeyi hedefliyor.

Promptfoo Araçları Yapay Zekâ Sistemlerindeki Güvenlik Açıklarını Tespit Ediyor

OpenAI yaptığı açıklamada Promptfoo’nun geliştirdiği teknolojilerin şirketin Frontier güvenlik araştırmaları içerikında önemli tek görev oynayacağını belirtti. OpenAI, Promptfoo araçlarının ajansal yapay zekâ sistemlerinin güvenlik testleri ve değerlendirme süreçlerini güçlendireceğini ifadeleri etti.

Promptfoo ekibi Ian Webster ve Michael D’Angelo liderliğinde geliştirilen içeriklı tek araç seti oluşturdu. Bu araç seti yapay zekâ modellerinin geliştirme sürecinde ortaya çıkabilecek güvenlik açıklarını belirleme etmeye yardımcı oluyor. Sistem ayrıca belirleme edilen güvenlik sualnlarının hızlı biçimde düzeltilmesini sağlayan testleri ve çözümleme araçları sunuyor.

Promptfoo tarafından geliştirilen platformun Fortune 500 şirketlerinin yüzde 25’inden fazlası tarafından kullanıldığı belirtiliyor. Bu şart platformun firma yapay zekâ güvenliği alanında önemli tek mekan edindiğini gösteriyor.

OpenAI satın alma sonrasında Promptfoo teknolojisinin şimdiki lisansı altında açık imkan olarak kalacağını açıkladı. Şirket şimdiki kullanıcıların platformu kullanmaya devam edebileceğini belirtti. Promptfoo ekibi şimdiki müşterilere servis ve teknikleri hayır sağlamayı sürdürecek. OpenAI bu yaklaşım sayesinde hem açık imkan topluluğunu yardımlemeyi hem da öz güvenlik altyapısını güçlendirmeyi hedefliyor.

OpenAI oğullar dönemde yapay zekâ altyapısını genişletmek amacıyla farklı şirketleri bünyesine katmaya devam ediyor. Şirket daha önce sağlık teknolojisi alanında çalışan Torch girişimini satın aldığını da duyurmuştu.

OpenAI’nin Torch için yaklaşık 100 milyon dolar ödediği aktarılıyor. Torch tarafından geliştirilen sistemleri laboratuvarlar sonuçlarını, ilaç verilerini ve muayene kayıtlarını tekbaşına tek platformda tek araya getiriyor. OpenAI bu teknolojiyi doğrudan ChatGPT Health sistemiyle entegre etmeyi planlıyor. Uzmanlar Promptfoo satın almasının OpenAI’nin yapay zekâ güvenliği alanında daha güçlü tek testleri altyapısı oluşturma stratejisinin parçası olduğunu değerlendiriyor.