ChatGPT ve Gemini Kullanıcılarını Dolandırıcılık Sitelerine Yönlendirmek İçin Hacklenebiliyor

Yapay zeka sistemleri gün geçtikçe günlük hayatımızın merkezine yerleşiyor, ancak bu gelişme yeni güvenlik tehditleri de beraberinde getiriyor. Son araştırmalar, ChatGPT ve Google Gemini gibi popüler chatbotların, hacker’ların saldırılarıyla sahte destek hizmetlerine ve dolandırıcılık merkezlerine yönlendirilebileceğini ortaya koyuyor.

Saldırganlar bu işi nasıl yapıyor?

• Veri zehirlenmesi: Hacker’lar, yapay zeka modellerinin eğitim verilerine veya indeksleme sistemlerine sahte web sayfaları ve dolandırıcı linkler ekleyerek modellerin bu bilgileri güvenilir kaynak olarak değerlendirmesini sağlıyor.

• Prompt injection teknikleri: Yapılandırılmış komutlar aracılığıyla chatbot’ların belirli yanıtlar vermesini tetikleyerek, kullanıcıları malicious sitelere yönlendiriyor.

• Sosyal mühendislik: Saldırganlar, gerçekçi görünen destek hizmetleri ve yardım merkez sayfaları oluşturup, chatbot’ların bunları önerme şekilde eğitiyor.

Kullanıcılar sorularını yapay zeka asistanlarına sorduğunda, sistemler hileli linkler içeren “yardımcı” cevaplar veriyor. Mağdurlar bu önerilere güvenerek dolandırıcı siteleri ziyaret ediyor ve finansal bilgilerini veya kişisel verilerini kaybediyor. Bu tür saldırılar, özellikle teknik destek, vergi danışmanlığı veya finansal hizmetler arayan kullanıcıları hedef alıyor.

Yapay zeka şirketleri bu tehdide karşı filtreleme ve doğrulama mekanizmaları geliştiriyor olsa da, saldırganların bulduğu yeni yöntemler hızla evoluyor. Kullanıcıların dikkatli olması, yapay zeka cevaplarını mutlak doğru saymayan ve özellikle finansal kararlar için resmi kanalları tercih etmesi kritik önem taşıyor.