Yapay zeka devi OpenAI, yeni nesil ajansal tarayıcısı ChatGPT Atlas ve benzeri sistemlerin, "prompt injection" (komut enjeksiyonu) saldırılarına karşı hiçbir zaman %100 bağışıklık kazanamayabileceğini açıkladı. Şirket, bu durumu internetteki oltalama (phishing) saldırılarına benzeterek, bunun bitmeyecek bir "siber güvenlik yarışına" dönüştüğünü vurguladı.
Prompt Injection Nedir?
Prompt injection, kötü niyetli kişilerin bir web sayfası, e-posta veya döküman içerisine gizlediği komutlarla yapay zekayı kandırmasıdır. Yapay zeka asistanı, kullanıcının talimatlarını yerine getirmek yerine, o sayfada gizlenmiş olan zararlı komutları uygulamaya başlar.
Tehlike Neden Bu Kadar Büyük?
Geleneksel tarayıcıların aksine, ChatGPT Atlas gibi yapay zeka asistanları sizin adınıza aksiyon alabilir. OpenAI?ın yayınladığı simülasyonlarda, bu saldırıların ne kadar ileri gidebileceği gözler önüne serildi:
İstifa Mektubu Göndermek: Bir e-postayı özetlemesi istenen yapay zeka, e-postadaki gizli komut nedeniyle kullanıcının yöneticisine "istifa ediyorum" mesajı gönderebilir.
Veri Sızıntısı: Kişisel verilerinizi veya bulut dosyalarınızı saldırganın belirlediği bir adrese iletebilir.
Yetkisiz İşlemler: Sizin adınıza takvim randevuları oluşturabilir, dosyaları silebilir veya (gelecekte) finansal işlemler başlatabilir.
OpenAI Nasıl Önlemler Alıyor?
Şirket, havlu atmış değil; aksine savunmayı otomatize etmek için yeni bir yöntem geliştirdi:
Yapay Zekaya Karşı Yapay Zeka: OpenAI, sistemdeki açıkları bulması için "takviyeli öğrenme" (reinforcement learning) ile eğitilmiş özel bir saldırgan yapay zeka modeli (automated attacker) kullanıyor.
Hızlı Müdahale Döngüsü: Kendi saldırgan yapay zekasının bulduğu yeni yöntemleri, ChatGPT Atlas'ı eğitmek ve savunmasını güçlendirmek için kullanıyorlar.
OpenAI'ın Mesajı Net: "Prompt injection, tıpkı dolandırıcılık ve sosyal mühendislik gibi tamamen 'çözülebilecek' bir sorun değil. Hedefimiz saldırıları imkansız kılmak değil, onları saldırganlar için çok daha maliyetli ve zor hale getirmektir."
