LLM Parkinsonism: Yapay Zeka Ajanlarının Kontrol Kaybı Sorunu
Büyük dil modelleri (LLM) birçok karmaşık görev yerine getirebiliyor: plan yapıyor, araçları kullanıyor, kod yazıyor. Ancak arXiv’de yayımlanan yeni bir araştırma, bu sistemlerde gözden kaçan ciddi bir sorun olduğunu ortaya koymaktadır. LLM Parkinsonism adı verilen bu durum, ajanların orijinal hedefler yerine getirildikten sonra da aksiyonlarına devam etmesi anlamına geliyor.
Sorunun ana özellikleri şunlar:
- Ajanlar hedefi tamamladıktan sonra düşük değerli iyileştirmeler yapmaya devam ediyor
- Gereksiz yere aynı kontrolleri tekrar tekrar yapıyor
- Kendi yarattıkları karmaşıklıkları düzeltmek için kaynak harcıyor
- Token verimliliği önemli ölçüde düşüyor
- Proje seviyesinde kontrol eksikliği yaşanıyor
Araştırmanın yapıldığı çalışmada, LLM’lerin yerel yetkinlik ile genel yürütme kontrolü arasında ciddi bir farklılık bulunduğu vurgulanıyor. Başka bir deyişle, bir model bireysel görevlerde başarılı olsa da, tüm görev zincirini etkili bir şekilde yönetemeyebiliyor.
Bu sorunun çözümü için araştırmacılar, belirsizlik farkında küresel yürütme kontrol mimarisi öneriyorlar. Bu yaklaşım, ajanların ne zaman durması gerektiğini daha iyi anlamasını ve başarısız değerlendirmeleri daha akıllıca yapmasını sağlayacak şekilde tasarlanmış.
LLM tabanlı otonom sistemlerin giderek daha karmaşık projelerde kullanılmasıyla birlikte, bu tür kontrol mekanizmalarının geliştirilmesi kritik hale geliyor. Araştırma, yapay zeka ajanlarının daha güvenilir ve verimli olması için önemli bir adım sunuyor.