LLM Uygulamalarında Prompt Injection’a Karşı Katmanlı Savunma
Dil modeline bağlanan her veri kaynağı aynı zamanda bir saldırı yüzeyidir. Tek bir filtre yerine katmanlı bir güvenlik yaklaşımı gerekir.
Tehdidin doğası
Prompt injection, modelin talimatlarını kullanıcı girdisi veya getirilen bir doküman üzerinden değiştirmeye çalışan saldırıdır. Model talimat ile veriyi kesin biçimde ayırt edemediği için klasik girdi doğrulama tek başına yeterli olmaz.
Katman 1: Yetki sınırlama
Modelin erişebildiği araçları ve veriyi en aza indirin. Bir asistan yalnızca okuma yetkisine ihtiyaç duyuyorsa yazma API’lerine hiç bağlanmamalıdır. En etkili savunma, başarılı bir saldırının bile zarar veremeyeceği bir tasarımdır.
Katman 2: Girdi ve çıktı denetimi
Gelen içerikte şüpheli talimat kalıplarını işaretleyen sınıflandırıcılar, çıktıda ise hassas veri sızıntısını ve beklenmeyen araç çağrılarını yakalayan kurallar kullanın. Kritik işlemler için insan onayı ekleyin.
Katman 3: İzleme
Tüm istekleri, getirilen kaynakları ve araç çağrılarını kayıt altına alın. Anomaliler genellikle tek bir istekte değil, davranış örüntüsünde ortaya çıkar.