Küçük Dil Modelleri İçin En Etkili Takım Yapısı Keşfedildi

Yapay zeka araştırmacıları, birden fazla dil modelinin birlikte çalışmasının tek bir modelden daha iyi sonuçlar verebileceğini biliyordu. Ancak bu takımların ne kadar büyüyebileceği, hangi yapının en verimli olduğu ise belirsiz kalmıştı. Yeni bir araştırma, bu soruları çözmek için geniş bir deneysel çalışma sunuyor.

Araştırmacılar sekiz farklı agent orkestrasyonu mimarisini test ettiler:

• Beş adet 7-9B parametreli, talimat-ayarlanmış küçük dil modeli üzerinde değerlendirme yapıldı
• Beş kısa-cevap karşılaştırması ve bir çalıştırılabilir kod karşılaştırması dahil olmak üzere altı farklı görev türü kullanıldı
• Agent çağrıları 30 adıma kadar artırılarak test edildi
• Bazı görevlerde 17 puanlık doğruluk iyileşmesi gözlemlendi
• Performans kazanımı, görev türüne göre üçten otuzlu arası değişiklik gösterdi

Bulgular, takım ölçeklendirmesinin getirilerinin görev bağımlı olduğunu ortaya koyuyor. Bazı problemler küçük takımlarla çözülürken, diğerleri daha fazla agent ve daha fazla işbirliğinden faydalanıyor. Bu bulgu, kaynakların sınırlı olduğu uygulamalar için kritik bir sonuç: her zaman daha büyük takım tercih etmek yerine, görevinin doğasına uygun mimari seçimi yapmanın daha akılcı olabileceğini gösteriyor.

Çalışma, özellikle sınırlı bütçeli kuruluşlar için önemli: daha pahalı, büyük modeller yerine, ucuz 7-9B modellerin stratejik kombinasyonları kullanarak etkin çözümler oluşturmak mümkün görünüyor.