Anthropic, Claude'a Karşı Kötüye Kullanımı Yasakladı

Anthropic, geçtiğimiz bir yıldan fazla bir süre sonra ilk kez politikasını revize ederek Claude yapay zekasına karşı kötüye kullanımları tanımladı. Güncelleme, yalnızca teknik risklerle değil, kullanıcıların AI sistemlerine nasıl davrandığıyla da ilgili sorunları gündeme getiriyor.

Şirketin açıklamına göre yeni politika şunları içeriyor:

• Seçim müdahalesi, silah geliştirme, gözetim ve hassas finansal/sağlık uygulamalarının açıkça yasaklanması
• Kullanıcıların Claude’a karşı gösterdiği “sürdürülen ve gereksiz istismarcı ya da zalimce davranışların” yasaklanması
• Claude’un zararlı veya kötü niyetli kullanıcılarla konuşmaları sonlandırabilme hakkı
• Misuse kategorilerinde daha geniş kapsamlı tanımlamalar

Bu hamle, yapay zeka şirketlerinin ürünlerine karşı gösterilen davranışları insan etkileşimi kadar önemli gördüğünü gösteriyor. Geçen ağustos ayında Anthropic, Claude’un “persistently harmful” kullanıcılarla sohbet etmeyi reddedebileceğini açıklamıştı. Güncel politika, bu yaklaşımı daha da genişletiyor.

Seçim, silah ve gözetim gibi somut tehditler yanında, kişisel istismarın yasaklanması yapay zeka etiklerindeki yeni bir eğilimi işaret ediyor. Anthropic, bu adımıyla Claude’u yalnızca teknik manipülasyondan değil, aynı zamanda duygusal istismardan da korumayı hedefliyor.