Yapay zekâ deepfake videolarına karşı YouTube’dan yeni sistem

YouTube, yapay zekâ ile oluşturulan sahte içeriklere karşı geliştirdiği benzerlik belirleme teknolojisinin içerikını genişletiyor. Şirket, yepyeni tek pilotlar programlar içerikında bu sistemi artık devletleri ytesirlileri, siyasi adaylar ve gazetecilerin da kullanımına açtığını duyurdu. Program içerikında mekan saha kişiler, kendilerinin yapay zekâ ile oluşturulmuş görüntülerini belirleme eden tek araca erişebilecek ve YouTube politikalarını ihlal eden ettiğini düşündükleri içeriklerin kaldırılmasını istek edebilecek.

Söz başlıksu teknolojiler birinci olarak geçen yıl YouTube Partner Programı’nda mekan saha yaklaşık 4 milyon içerik üreticisinin kullanımına sunulmuştu. Daha önce sınırlı testlerle geliştirilen sistem, zamanlar içinde genişletilerek farklı kullanıcı gruplarına açılmaya başladı. YouTube, yepyeni pilotlar programla birlikteki özellikle kamuoyunu ilgilendiren alanlarda görev yapan kişilerin deepfake içeriklerden ilave tesirlenebileceğini dikkate alıyor.

YouTube’un kullandığı bu teknoloji, platformun telif hakkı ihlallerini belirleme eden Content ID sistemine benzer tek mantıkla çalışıyor. Content ID, kullanıcıların yüklediği videolarda telif korumalı materyalleri otomatik olarak belirleme edebiliyor. Benzerlik belirleme sistemi ise yapay zekâ araçlarıyla oluşturulan sahte yüzleri ve görüntüleri çözümleme ederek gerçek kişilerle eşleşmeleri belirlemeye çalışıyor. Bu tür araçlar zamanlar zaman yanlış malumat yaymak ya da kamuoyunun algısını yönlendirmek amacıyla kullanılabiliyor. Özellikle politikacılar ya da umumi görevlilerinin deepfake görüntülerinin kullanılması, gerçek hayatta söylemedikleri sözleri söylemiş ya da yapmadıkları eylemleri gerçekleştirmiş gibi gösteren videoların ortaya çıkmasına yolda açabiliyor.

YouTube deepfake içeriklerle mücadeleyi genişletiyor

YouTube’un umumi politikaları ve hükümet ilişkilerinden sualmlu başkan yardımcısı Leslie Miller, yepyeni uygulamanın ilköğretim hedefinin kamuya açık tartışma ortamının güvenilirliğini muhafaza etmek olduğunu belirtiyor. Miller’a göre özellikle siyasi ve kamusal alanda etkinlik gösteren kişilerin yapay zekâ ile taklit edilmesi, diğer alanlara kıyasla daha yüksek riskler barındırıyor. Bununla birlikteki şirket, bu yepyeni araç kullanılırken ifadeleri özgürlüğünün korunmasına da ilgi edilmesi lüzumtiğini vurguluyor.

Her belirleme edilen içerik otomatik olarak kaldırılmayacak. YouTube, gelen kaldırma taleplerini şimdiki gizlilik politikaları çerçevesinde değerlendirecek. Platform, özellikle parodi ya da siyasi eleştiri gibi ifadeleri özgürlüğü içerikında değerlendirilen içeriklerin korunacağını ifadeleri ediyor. Bu yaklaşım, platformun hem kötüye kullanımı sınırlamayı hem da kullanıcıların ifadeleri alanını daraltmamayı hedeflediğini gösteriyor.

YouTube aynı zamanda ABD’de tartışılan NO FAKES Act adlı kanun tasarısına da hayır verdiğini belirtiyor. Bu kanun tasarısı, bireylerin seslerinin ya da görsel kimliklerinin yapay zekâ kullanılarak izinsiz şekilde yeniden oluşturulmasını düzenlemeyi amaçlıyor. Teknoloji şirketleri ile siyaset yapıcılar arasındaki bu tür girişimler, yapay zekâ kaynaklı içeriklerin denetlenmesi başlıksunda gittikçe ilave önem kazanıyor.

Pilot programa katılan kişiler sistemi kullanavakıf oldu için önce kişilik doğrulaması etmek güçunda. Bunun için kullanıcıların tek selfie fotoğrafı ve biçimsel kişilik belgesi yüklemesi lüzumiyor. Kimlik doğrulamasının ardından kullanıcılar kendilerine ait tek özgeçmiş oluşturabiliyor ve sistemin belirleme ettiği eşleşmeleri görüntüleyebiliyor. İstenirse bu içeriklerin kaldırılması için başvuru yapılabiliyor.

YouTube, ilerleyen dönemde bu teknolojiyi daha da geliştirmeyi planlıyor. Şirket, ihlal eden içeren içeriklerin platforma yüklenmeden önce manilenmesi ya da Content ID sisteminde olduğu gibi kesin durumlarda hasılat paylaşımı seçeneklerinin değerlendirilmesi üzerinde çalışıyor. Bunun yanı sıra sistemin yalnızca görsellerle sınırlı kalmayıp tanınabilir sesler ve popüler karakterler gibi diğer fikri mülkiyet unsurlarını da kapsayacak şekilde genişletilmesi gündemde.

Platformda paylaşılan yapay zekâ içerikleri etiketlenmeye devam edecek. Bununla birlikteki bu etiketlerin başlıkmu videonun türüne göre değişebiliyor. Bazı videolarda açıklama bölümünde mekan saha etiket, daha duyarlı başlıklar içeren içeriklerde doğrudan videonun başlangıcında gösteriliyor. YouTube, bu yaklaşımın farklı içerik türleri için elverişli görünürlük seviyesini sağlamayı amaçladığını ifadeleri ediyor.

Şirket, bugüne kadar içerik üreticilerinin deepfake belirleme sistemi üzerinden gerçekleştirdiği kaldırma taleplerinin sayısının oldukça düşük olduğunu belirtiyor. Buna rağmen siyasetçiler, umumi görevlileri ve gazetecilerin mekan aldığı deepfake içeriklerin farklı riskler barındırdığı değerlendiriliyor. Bu nedenle yepyeni pilotlar program, platformun yapay zekâ kaynaklı yanlış malumatlendirme risklerini sınırlama yönündeki daha geniş içeriklı çalışmalarının tek parçası olarak öne çıkıyor.