Bu Araştırmadan Sonra Yapay Zeka ile Uzun Konuşmaktan Kaçınacaksınız

Yapay zeka alanında yalınce oğullar tek ikisi yıllar içindeki akılalmaz tek gelişme kaydedildi. Her geçen gün daha da iyice hâle gelen modelleri takipetti artık çeşitlilik güçlaştı. Ne var ki Microsoft ve Salesforce tarafından gerçekleştirilen yepyeni tek inceleme, yapay zeka yardımli konuşma botlarının tek hayli sualnlu olduğunu gözler önüne serdi. Bu da tek konuşma botuna sual yöneltmeden evvel ikisi kez düşünülmesi lüzumtiğini gösteriyor. Yapay Zeka Uzun Sohbetlerde Halüsinasyon Görüyor Yeni incelemeya göre ChatGPT'ye kuvvet veren GPT, Gemini, Claude gibi muazzam yapay zeka modelleri, tekbaşına tek sual yöneltildiğinde çeşitlilik yüksek tek muvaffakiyet oranına sahip. Yani birinci sualda saçmalaması alçak tek ihtimal. Sorun, konuşma uzamaya başladığında başlıyor. Öyle ki girişta oran 90 gibi harikulade tek seviyeden oran 65'e doğrusu geriliyor. Bu uzunluğu sohbetlerde modeller gerçekten "tamamen işe yaramaz" hâle gelmiyor. Sadece güvenilirlikleri oran 112 oranında düşüyor. Bunun da pek çeşitlilik sebebi var. Siz daha açıklamanızı tamamlamadan tek hal geliştirmenin peşine düşüyor. Ayrıca birinci aşamada yanlışlı yanıt verdiyse sonrakiler hepsi yanıtlarını bu yanlışlı malumatnin üzerine inşa ediyor. Sohbet uzadıkça modellerin cevabı da uzuyor. Yüzde 20 ile 300 arasında uzayan bu yanıtlar, ilave faraziye ve dolayısıyla ilave halüsinasyon diğer uydurma malumat sualnunu beraberinde getiriyor. Hatta artık olmazsa olmaz hâle gelen "derin düşünme" modu bile bu sualnun önüne geçti için yeterlilik olmuyor. Modelin yanıt vermeden evvel içeriklı tek düşünmeler sürecinden geçirmesini sağlayan bu modda da benzer sualnlar görülmeye devam ediliyor. Sorun gerçekten sanılandan daha büyük. İnsanlar artık Google'da tarama etmek seçenek yapay zekayı kullanmaya daha çeşitlilik öncelikli veriyor. Oysaki konuşma botları bazen doğrusu gibi görünen ama oğullar seviye yanlışlı malumatler sunabiliyor. Bu yanlışlı malumatleri yineleyerek öz yanıtının doğrusu olduğu başlıksunda ısrarcı olabiliyor. O yüzden Gemini gibi konuşma botlarında mekan saha "X tek yapay zeka modeli olduğu için yanlışlı yapabilir" uyarısına ilgi etmek, malumatleri illaki teyit etmek lüzumiyor.