Üçlü Bit Sisteminde Dil Modellerinin Sınırları Aşılıyor

Yapay zeka araştırmacıları, dil modellerinin bellek tüketimini azaltmak için yeni bir teknik geliştirdi. Ternary Large Language Models (LLM), her ağırlığı yalnızca üç sembol (-1, 0, +1) ile depolayarak, geleneksel sistemlere kıyasla önemli tasarruf sağlıyor. Ancak bu approach’ın pratikte ne kadar etkili olduğu uzun süre tartışma konusu olmuştur.

Şimdiye kadar geçerli olan standart yaklaşımlar şu özellikleri taşıyordu:

• Teorik limit yaklaşık 1.585 bit/ağırlık olarak hesaplanıyordu (log₂ 3 = 1.585)
• Pratikte beş ternary ağırlığı bir bayta sığdırmak 1.625 bit/ağırlık etkililiğine sahipti
• İkinin kuvvetine sahip grup boyutları nedeniyle bu oran daha yüksek çıkıyordu

Yeni araştırma, bu 1.625 bitlik bariyeri aşmayı başarmış ve modelleri daha hafif hale getirmiştir. Bu gelişme, özellikle sınırlı kaynaklara sahip cihazlarda veya sunucu maliyetlerini düşürmek isteyen kuruluşlarda devrim yaratabilir. Ternary sistemler, daha az bellek ve enerji tüketirken neredeyse aynı performansı koruyabiliyor.

Bu bulgu, yapay zeka modellerinin daha erişilebilir ve sürdürülebilir hale gelmesinin yolunu açıyor. Endüstri, bu tür verimlilik iyileştirmelerini büyük dil modellerini yaygınlaştırmak için kritik görüyor.