Instagram DM’lerinde istenmeyen içerik krizi: Şirket 2018’de uyarılmış

ABD’de toplumsal medya platformlarının gençler üzerindeki tesirlerine odaklanan davada, Instagram’ın ilköğretim güvenlik araçlarını nedenler gecikmeli olarak kullanıma sunduğu sualsu gündeme taşındı. Federal mahkemede görülen davada savcılar, Meta’nın genç kullanıcıları korumaya yönelik bazı önlemleri uzunluğu yıllar boyunca olan devreye almamasını mercek altına aldı. Özellikle Instagram DM bölümünde gönderilen müstehcen içeriklere karşı geliştirilen otomatik bulanıklaştırma özelliğinin 2024 yılına kadar hayata geçirilmemiş olması ilgi çekti. Oysa şirketin bu tür içeriklerin gençler açısından riskler oluşturduğunu yaklaşık altı yıl öncesinden bildiği talep ediliyor.

Nisan 2024’te kullanıma sunulan özellik, Instagram DM’lerinde gönderilen açık saçık görselleri otomatik olarak bulanıklaştırıyor ve kullanıcıya içeriği görüntüleyip görüntülememe seçeneği tanıyor. Buna rağmen adliye dosyalarına giren yepyeni tek ifade, Meta yöneticilerinin bu risklerin farkında olduğuna daha erkenden tarihlerde işaret ediyor. Federal davada kamuoyuna açılan tek ifadede, Instagram Başkanı Adam Mosseri’ye 2018 yılına ait tek elektronikposta zinciri sualldu. Söz başlıksu yazışmada Mosseri, Instagram iletiları üzerinden “korkunç” olayların yaşanabileceğine değiniyor. Davacı avukatının bu içerikda istenmeyen sekse içerikli fotoğrafları örnek göstermesi üzerine Mosseri’nin bu olasılığı giriş ettiği belirtiliyor.

Bununla birlikteki Mosseri, şirketin iletilaşma sisteminin çocuk istismarı materyallerinin (CSAM) kaldırılması dışında etkin olarak izlenmediği yönündeki eleştirilere karşı çıktı. Mesajlaşma uygulamalarının doğası gereği riskler barındırdığını ifadeleri eden Mosseri, gizlilik ile güvenlik arasında denge kurmaya çalıştıklarını dile getirdi. Buna rağmen savcılar, Meta’nın ebeveynleri gizilgüç riskler başlıksunda daha açık biçimde malumatlendirmesi lüzumtiğini savunuyor.

Genç Instagram kullanıcıları arasında istenmeyen içerik oranı ilgi çekiyor

Mahkeme belgelerinde paylaşılan anketler verileri, platformdaki zararlı içeriklerin boyutuna dair yepyeni malumatler sunuyor. Buna göre 13-15 yaş aralığındaki kullanıcıların yüzde 19,2’si Instagram’da görmek istemedikleri halde çıplaklık ya da sekse içerikli görsellerle karşılaştığını belirtiyor. Bunun yanında aynı yaş grubunun yüzde 8,4’ü, uygulamayı kullandıkları oğullar 7 gün içinde tek kişinin kendine zarar verdiğine ya da zarar verme tehdidinde bulunduğuna tanık olduğunu ifadeleri ediyor. Bu oranlar, gençlerin sayısal ortamda karşılaştığı risklerin yalnızca teorik olmadığını ortaya koyuyor.

Dava sürecinde yalnızca çıplaklık filtresinin gecikmesi değil, şirket içi yazışmalar da gündeme geldi. Örneğin 2017 tarihli tek stajyer e-postasında, “bağımlı” Facebook kullanıcılarının belirleme edilerek onlara nasıl yardımcı olunabileceğinin araştırılmak istendiği belirtiliyor. Bu tür belgeler, toplumsal medya şirketlerinin kullanıcı davranışlarına dair farkındalığının geçmişe dayandığını gösteriyor. Fakat davacı taraf, şirketlerin kullanıcı tesirleşimini artırma hedefi ile gençlerin güvenliği arasında yeterlilik önceliklendirme yapılmadığını öne sürüyor.

Meta sözcüsü Liza Crenshaw ise şirketin yıllardır ebeveynler, uzmanlar ve kolluk kuvvetleriyle çalıştığını, genç hesaplara yerleşik korumalar eklendiğini ve veli denetim araçlarının geliştirildiğini vurguluyor. Bunun yanı sıra şirket, gençlere yönelik “Teen Accounts” gibi daha sıkı gizlilik ayarları içeren hesap türlerini devreye almış durumda. Yine da açılan davalar, alınan önlemlerin zammanaasını ve yeterliliğini sorgulamaya devam ediyor.

Söz başlıksu dava, Kaliforniya Kuzey Bölgesi ABD Bölge Mahkemesi’nde görülüyor ve Meta’nın yanı sıra Snap, TikTok ve YouTube gibi platformları da kapsayan benzer hukuki süreçlerle paralellik taşıyor. Davacılar, toplumsal medya uygulamalarının imge süresini maksimize edecek şekilde tasarlandığını ve bunun gençlerde bağımlılık benzeri davranışları teşvik ettiğini talep ediyor. Öte yandan ABD’nin farklı eyaletlerinde ve bazı ülkelerde gençlerin toplumsal medya kullanımına sınırlamalar getiren yepyeni düzenlemeler yürürlüğe giriyor.