3 gün önce
7
Google’ın biçimsel olarak “TurboQuant” adını verdiği yepyeni yapay zeka odaklı sıkıştırma algoritması, büyük diller modellerinin (LLM) hafıza kullanımını 6 kat azaltabiliyor. Ses getiren çalışması için yaptığı açıklamada, “Yeni sıkıştırma algoritmamız yapay zeka verimliliğini yeniden tanımlıyor. Büyük diller modellerinin (LLM) anahtar-değer (KV) önbellek hafıza kullanımını asgari 6 kat azaltan bu teknoloji, doğruluktan ödün vermeden 8 kata kadar hız artışı sağlıyor.” ifadelerini kullanan şirket, algoritmanın yapay zeka işlemlerindeki önbellek darboğazlarını gidermek adına vektör kuantizasyonu kullandığını belirtiyor. Bu yöntem yapay zekanın dahaaz saha kaplayarak ve doğruluğu koruyarak ilave malumat hatırlamasına olanak tanıyor. Yeni algoritma, birçok kişinin aklına doğrudan HBO’nun çok sevilen “Silicon Valley” dizisini ve dizinin merkezinde mekan saha girişim Pied Piper’ı getirdi. Pied Piper’ın televizyonları dizisindeki çığır açan teknolojisi, neredeyseymiş kayıpsız sıkıştırma ile klasör boyutlarını önemli ölçüde azaltan tek sıkıştırma algoritmasıydı.
English (US) ·