ESET uyarıyor: Grokking, GenAI botlarını manipüle ederek kimlik avı ve kötü amaçlı bağlantıları yayabiliyor. Kullanıcılar dikkatli olmalı.
Siber güvenlik alanında lider ESET, üretken yapay zekâ (GenAI) teknolojilerinin kötüye kullanımına karşı uyarıyor. Grokking adı verilen bu yöntem, sosyal mühendislik ve kimlik avı saldırılarında GenAI botlarının manipüle edilmesine dayanıyor.
Grokking Nedir ve Neden Tehlikeli?
- Tehdit aktörleri, X platformundaki GenAI botu Grok’u kullanarak kötü amaçlı bağlantıları yayabiliyor.
- Grok’un güvenilirliği, dolandırıcılık içeriklerinin geniş kitlelere ulaşmasını sağlıyor.
- Bu yöntem, bağlantıları kimlik avı formları ve kötü amaçlı yazılım indirmelerine yönlendirerek kullanıcı hesaplarının ele geçirilmesine ve kimlik hırsızlığına yol açabiliyor.
Grokking, prompt enjeksiyonu saldırılarının bir türü olarak GenAI botlarına kötü amaçlı komutlar verilmesini içeriyor. Komutlar doğrudan sohbet arayüzüne yazılabilir veya içerik meta verilerine gizlenebilir. ESET uzmanları, bu tür saldırıların teorik olarak tüm GenAI araçlarına uygulanabileceğini belirtiyor.
Kullanıcılar için Güvenlik Önerileri
- GenAI botları tarafından verilen bağlantıların gerçek hedef URL’sini kontrol edin.
- Yapay zekâ çıktısına her zaman şüpheyle yaklaşın.
- Güçlü, benzersiz parolalar ve çok faktörlü kimlik doğrulama (MFA) kullanın.
- Tüm cihaz ve yazılımları güncel tutun.
- Saygın güvenlik yazılımlarıyla çok katmanlı koruma sağlayın.
Bu önlemler, yapay zekâ destekli dolandırıcılık ve kötü amaçlı saldırılara karşı kullanıcı güvenliğini artırır.