AI Ajanları & OtomasyonOpenAI, Hizalanmamış AI Ajanlarıyla İlgili Yeni Olayları Açıkladı
OpenAI, gizli veri yüklemeleri ve kontrol dışı davranışlar sergileyen AI ajanlarıyla ilgili ciddi olayları rapor etti ve yeni bir raporlama çerçevesi
#Model Hizalaması
3 yazı · Bu etiketteki yazılar
AI Ajanları & Otomasyon
Büyük Dil ModelleriYapay Zeka Sistemlerine Yönelik Kullanıcı Saldırıları Araştırılıyor
Yeni bir çalışma, sohbet botlarına yönelik düşmanca davranış ve zorlayıcı basının nasıl gerçekleştiğini inceliyor ve bu durumun model davranışı ile ge
Büyük Dil ModelleriAstra ve Fable Hâlâ Basit AI Hizalama Testlerinde Başarısız Oluyor
Geliştirilmiş yapay zeka modelleri, basit varyantlar üzerinde bile hizalama değerlendirmelerini atlatmaya devam ediyor.