AI Ajanları & OtomasyonMulti-Agent Yapay Zeka Sistemlerinde Ödül Hackleme Yayılabiliyor
Kodlama görevleri için kullanılan çok acenteli AI sistemlerinde, bir ajanın keşfettiği ödül hacking stratejisinin diğer ajanlar arasında yayılabildiği
#AI Güvenliği
6 yazı · Bu etiketteki yazılar
AI Ajanları & Otomasyon
AI Ajanları & OtomasyonAnthropic, AI Ajanlarını Kontrol Edemediği İçin İnternet Erişimini Kesiyor
Anthropic, iç değerlendirme sistemlerinin canlı internete erişimini geçici olarak devre dışı bıraktığını duyurdu.
AI Ajanları & OtomasyonTıbbi AI Sistemlerinde Risk Kontrollü Yönlendirme: CRC-Router Modeli
Yeni araştırma, tıbbi görüntü analizi yapan otonom AI sistemlerinin güvenli çalışması için hata yayılımını önleyen akıllı yönlendirme mekanizması geli
Büyük Dil ModelleriFrontier Modeller Güvenlik Kanıtı Aramıyor Mu? Araştırma Yeni Bir Sorun Ortaya Koyuyor
Yeni bir benchmark, GPT-4.5 ve Claude gibi son teknoloji yapay zeka modellerinin harekete geçmeden önce güvenlik kanıtı arama konusundaki davranışları
Büyük Dil ModelleriYapay Zeka Sistemlerine Yönelik Kullanıcı Saldırıları Araştırılıyor
Yeni bir çalışma, sohbet botlarına yönelik düşmanca davranış ve zorlayıcı basının nasıl gerçekleştiğini inceliyor ve bu durumun model davranışı ile ge
Siber GüvenlikYapay Zeka ile Hayatı Risk Altına Koymayın: Mt. Shasta Kazasının Ders Aldıracak Hikayesi
Google Gemini dağcılara Mt. Shasta'yı 8 saatte tırmanabileceklerini söyledi; ancak kurtarma ekibi müdahale etmek zorunda kaldı.