Google, 6 Kat Daha Az Bellek Kullanarak 8 Kat Daha Yüksek Performans Sunan Algoritması 'TurboQuant'ı Duyurdu

Yapay zekâ dünyasında Google tarafından ezber bozan tek gelişme duyuruldu. TurboQuant adlı yepyeni kuşak sıkıştırma teknolojisi, muazzam diller modellerini ve tarama motorlarını hem çeşitlilik daha çabuk hem da çeşitlilik daha tesirli hâle getiriyor. Çözülmesi lüzumen sualn kesinlikle ne? Yapay zekâ sistemleri, malumatyi “vektör” adı verilen matematiksel yapılarla işler bununla birlikte bilhassa yüksek boyutlu vektörler çeşitlilik fazla hafıza tüketir, sistemlerde darboğazlara yolda açar ve tarama ve yöntem hızını yavaşlatır. Bu şart bilhassa muazzam diller modellerinde kullanılan “key-value cache” gibi çabuk giriş sistemlerinde vahim icra sualnlarına nedenler olur. TurboQuant ne getiriyor? Yeni geliştirilen TurboQuant algoritması, bu sualnu köktenci tek biçimde çözüyor. Bellek kullanımını asgari 6 kat azaltıyor, yöntem hızını 8 kata kadar artırıyor ve hiçbir doğruluk kaybı olmadan çalışıyor Üstelik bunu yaparken ilave ağırlığı oluşturan klasik sıkıştırma metotlerinin aksine, neredeyseymiş sıfır ilave maliyetle çalışıyor. Nasıl çalışıyor? TurboQuant, ikisi yenilikçi teknikle ayrım yaratıyor. 1. PolarQuant – Akıllı Sıkıştırma Verileri değişik tek koordinat sistemine çevirerek daha tesirli sıkıştırıyor Gereksiz hesaplamaları ortadan kaldırıyor Bellek yükünü vahim biçimde azaltıyor 2. QJL (Quantized Johnson-Lindenstrauss) Veriyi yalınce 1 bit ile temsilcilik edebiliyor Hataları matematiksel olarak düzeltiyor Ekstra hafıza ihtiyacını tamamlanmış ortadan kaldırıyor TurboQuant gibi teknolojiler sayesinde gelecekte yapay zekâ sistemleri daha çabuk, daha ekonomik ve daha akıllı olacak.