Anthropic'te güvenlik alarmı: AI'nin insanlığı yok edebilme riski yüzde 10'u aşıyor

Yapay zeka alanında ciddi endişeler yeniden gündeme geldi. Anthropic’in üst düzey güvenlik araştırmacısı, insanlığın varlığını tehdit edebilecek kadar güçlü bir AI sisteminin ortaya çıkma olasılığını yüzde 10’dan fazla olarak değerlendirdi. Bu açıklama, şirketin güvenlik protokollerine yönelik itirazlar nedeniyle istifa eden bir araştırmacının duyurusunun ardından yapıldı.

İstifa eden araştırmacı Jacob Coxon, Anthropic’te yapay zeka sistemlerini eğitme görevinde bulunmuş ve sosyal medyada yaptığı açıklamada, şirketin ve rekabet halindeki kuruluşların kontrol altına alamadıkları güçlü sistemler geliştirmek için hatasız bir yarışa girdiklerini söyledi. Coxon’un eleştirileri, endüstriyel hız ve güvenlik arasındaki gerilimi ortaya koyuyor.

Alınan istifa ve yapılan açıklamalar şunları vurguluyor:

• Kontrol kaybı riski: Araştırmacılar, insan denetiminden çıkabilecek kadar gelişmiş AI sistemleri başarılı bir şekilde kontrol edemeyebileceğinden endişe duyuyor
• Yarış dinamiği: Büyük teknoloji şirketleri, güvenlik test prosedürlerini tamamlamadan yeni modelleri piyasaya sürme baskısı altında çalışıyor
• Zaman çerçevesi: Riski değerlendiren uzman, bu tehdidin dönem olarak on yıl içinde gerçekleşebileceğini ima ediyor
• İç direniş: Anthropic gibi güvenliğe odaklanmış bir şirket içinde bile, güvenlik protokollerinin yeterli olmadığını düşünen araştırmacılar bulunuyor

Bu gelişmeler, AI güvenliğinin sadece teknik bir problem değil, aynı zamanda kurumsal altyapı ve sektörel kültür değişimi gerektiren bir sorun olduğunu gösteriyor. Coxon’un istifası ve açıklamaları, ileriye dönük AI geliştirme projelerinde daha sıkı kontrol mekanizmaları ve etik standartlarının yerleştirilmesi çağrısı olarak değerlendiriliyor.