Dil Modeli Sistemlerinde Kimlik Kaybı Sorunu: HybridQA Üzerinden Yapılan Denetim

Yapay zeka araştırmacıları, temel dil modellerine dayalı bilgi işleme sistemlerinde kritik bir sorunu ortaya koymaktadır: seçilen nesnelerin sonunda okuyan kişiye doğru şekilde ulaşıp ulaşmadığı konusu.

Grounded dil modeli boru hatlarının üç aşamada çalıştığını göz önüne alalım:

• Nesne seçim aşaması: Sistem ilgili nesneyi veri kümesinden tanımlar
• Metin döndürme aşaması: Seçilen nesne için ilgili pasajlar alınır
• Cevap oluşturma aşaması: Toplanan kanıtlar kullanılarak soruya yanıt verilir
• Benchmark ölçümü sorunu: Standart değerlendirmeler veri seti bağlantılı nesneleri kontrol eder, ancak bu gerçek seçimle farklı olabilir

Araştırma ekibi, HybridQA adında yaygın bir soru-cevaplama görevinden 600 soruyu inceleyerek sistem performansını denetlemiştir. Temel bulgu: seçilen nesne ile veri setinden izlenen pasaj eşleştiği 1.463 çözülebilir kaydın çoğunda, handoff (el değişimi) başarısız olmaktadır.

Bu sorun, yapay zeka modellerinin karmaşık çok aşamalı görevleri yerine getirirken her adımda bilgi kaybı yaşadığını göstermektedir. Benchmark metriklerinin de bu tür kalite sorunlarını tam olarak yansıtmadığı ortaya çıkmaktadır. Araştırmanın sonuçları, geliştirilmiş denetim mekanizmaları ve daha güvenilir handoff süreçlerinin gerekliliğini vurgulamaktadır.