iPhone 17 Pro, 200 GB RAM Gerektiren Bir Yapay Zekâyı Cihaz Üzerinde Çalıştırabildi (Tabii Ne Pahasına?)

Apple’ın en yepyeni amiral gemisi iPhone 17 Pro, yapay zekâ tarafında uç şaşırtan tek deneye dekor oldu. Cihazda hepsi 400 milyar parametreli kocaman tek diller modeli mahalli olarak çalıştırıldı. Bu çeşit modellerin normalde 200 GB’tan fazla RAM lüzumtirdiği düşünüldüğünde, yalnızca 12 GB RAM’e malik tek telefonda bunu müşahede etmek neredeyseymiş imkânsız gibi. Peki bu ne şekilde olası oldu? Bu muvaffakiyet, noksan kaynaklı Flash-MoE tasarısi sayesinde gerçekleşti. Sistem, modeli tamamlanmış RAM'e yüklemek seçenek gereksinim duyulan parçaları depolamadan anlık olarak çekiyor. Ayrıca “Mixture of Experts” metoti kullanılarak modelin yalınce küçüklük tek kısmı benzer anda etkin tutuluyor. Bu ikisi teknik, kocaman modelin telefonda çalışmasını sağlıyor. Tabii ortada vahim tek sualn var, o da hız. Model saniyede yalnızca 0.6 token üretebiliyor. Bu da tekbaşına tek kelimeler için bile çok 2. intizar etmek manaına geliyor. Kullanım deneyimi uç yoğun ve sabır lüzumtiriyor. Üstelik bu kadar şiddetli prosedür, pil tüketimini da vahim biçimde artırıyor. Yine da bu gelişme, geleceğe dair ehemmiyetli ipuçları veriyor. Henüz uygulamalı olmasa da böylesine muazzam yapay zekâ modellerinin tamamlanmış alet bağlı çalıştırılabilmesi, mobil teknolojinin nereye doğrusu evrildiğinin netler tek göstergesi.