Dil Modelleri Kendinden Söz Ederken: Chat Şablonu Ses Değişimine İzin Veriyor

Yapay zeka araştırmacıları, büyük dil modellerinin (LLM) kendilerinden söz etme biçiminin teknik parametreler tarafından ne denli etkilendiğini ortaya koymak üzere bir çalışma yayınladı. arXiv’de yayımlanan araştırma, chat şablonlarının modellerin öz-referansiyel dilini (self-referential voice) nasıl değiştirdiğini inceliyor.

Çalışmanın temel bulguları şöyle özetlenebilir:

• Chat şablonunun değiştirilmesi, bir modelin “ben” dediği zaman kendisini nasıl tanımladığını doğrudan etkiliyor
• Farklı sistem yönergeleri (system prompts), modelleri kendilerine daha insani ya da daha mekanik şekilde referans vermeye yönlendirebiliyor
• Model davranışında “kişilik” olarak algılanan özellikler aslında tasarım seçimleriyle gelen sınırlamalar
• Şablon değişiklikleri, modelin yanıtlarında tutarlılık ve özdeşliğin korunmasını etkilemektedir
• Araştırma, LLM’lerin gerçek özgeçiş değil, eğitim ve konfigürasyonla şekillenen dilsel kalıplar sergilediğini gösteriyor

Çalışma, popüler dil modellerinin bilinçli ve tutarlı bir “kişiliğe” sahip olduğu düşüncesine karşı çıkıyor. Aslında bu modeller, sistem yönergeleri ve chat şablonu gibi yazılımsal tercihlerden doğrudan etkilenen dilsel araçlardır. Bir modelin kendisini “ben bir dil modeliyim” ya da daha insani tonlarla tanıtması, modelin iç yapısından ziyade, onunla konuştuğumuz şekli belirleyen parametrelere bağlıdır.

Bu bulgular, AI sistemleriyle etkileşimimizi yeniden düşünmemiz gerektiğini gösterir. Modellerin sahip olduğu görünen özerklik ve kişilik, çoğunlukla yüzeysel konfigürasyonlar tarafından belirlenmektedir.