8 yazı · Bu etiketteki yazılar
Büyük Dil ModelleriStrata projesi sayesinde 125 milyar parametreli Qwen modelini RTX 4090 gibi consumer donanımda 100 token/saniye hızında çalıştırmak mümkün hale geldi.
Büyük Dil ModelleriMeta-Harness sistemi, dil modellerinin çevresindeki kod katmanını çok amaçlı optimizasyon yöntemiyle geliştirerek doğruluk, güvenlik ve token kullanım
Büyük Dil ModelleriYeni Multi-Split Boundary Decision yöntemi, büyük dil modellerinin sayfa akışlarını tek seferde bölmesini sağlayarak maliyeti ve işlem süresini önemli
Büyük Dil ModelleriYeni bir post-eğitim yöntemi, önem örneklemesinden kaynaklanan eğitim istikrarsızlığını ortadan kaldırarak LLM'lerin mantık yürütme yeteneklerini daha
Büyük Dil ModelleriAraştırmacılar, müşteri hizmetleri platformlarında duygu tanımasını optimize etmek için düşük maliyetli ensemble modellerle büyük dil modellerini birl
Büyük Dil ModelleriAraştırmacılar, RAG ve ajan sistemlerinde önbelleğe alınmış bağlamın güncel kalması için hesaplama maliyetini düşüren yeni bir onarım yöntemi geliştir
Büyük Dil ModelleriYeni bir araştırma, işlev çağırma yetenekli dil modellerini edge ve bulut altyapısı arasında dağıtarak enerji tüketimini ve karbon emisyonlarını öneml
Büyük Dil ModelleriSpotify mühendisleri, Portal aracını kullanarak yapay zeka tabanlı kod yazma hizmetlerinde dramatik verimlilik kazanımı elde etti.
