Uzun Süreli AI Ajanlarında Bellek Sorunu: Türetim Paradoksu Nedir?

Uzun süreli çalışan yapay zeka ajanları, daha sonraki görevlerde kullanmak üzere geçmiş etkileşimleri kalıcı bellekte sıkıştırır. Ancak bu işlem, yeni bir sorunu ortaya çıkarıyor: sıkıştırılan belleğin, orijinal etkileşim geçmişi tarafından gerçekten desteklenip desteklenmediği belli değil. ArXiv’de yayımlanan araştırma, bu “Dağıtılmış-Kanıt Paradoksu”nu ilk kez resmi olarak tanımladı.

Sorun şu noktalarda ortaya çıkıyor:

• Kanıtlar saçılı durumda: Gerekli deliller çok sayıda eski etkileşime yayılmış olabilir ve sıkıştırma sırasında kaybolabilir
• Kurgulanmış ilişkiler: Bellekte yer alan olaylar veya durumlar, orijinal geçmiş tarafından hiçbir zaman kurulmamış olabilir
• Geçerliliğin belirsizliği: Mantıksal olarak geçerli görünen bir bellek, aslında güvenilir bir temele dayanmayabilir
• Zincirleme etkiler: Yanlış bellek, sonraki görevlerin temelini zayıf hale getirebilir

Bu araştırma, milyonlarca tokenden oluşan uzun kontekst pencereleriyle çalışan ajanlar için ciddi bir zorluk teşkil ediyor. Sıkıştırma teknikleri verimliliği artırsa da, mantıksal bütünlüğü korumakta yetersiz kalıyor.

Gelecekte bu sorunu çözmek için, ajanların bellek oluştururken kanıt zincirlerini açık tutması veya sıkıştırma sırasında doğrulama mekanizmaları uygulaması gerekebilir.