Yapay Zekâ ve Büyük Dil Modeli (LLM) Uygulama Güvenliği
LLM tabanlı uygulamalar yeni bir saldırı yüzeyi getirir: istem enjeksiyonu, güvensiz çıktı işleme ve aşırı yetki. Geliştiriciler ve güvenlik uzmanları için savunma ilkeleri.
Büyük dil modelleri (LLM↗) uygulamalara hızla giriyor; ancak geleneksel uygulama güvenliğinden farklı bir saldırı yüzeyi↗ taşıyorlar. Temel zihniyet değişimi şudur: modele giren ve modelden çıkan her şey güvenilmez kabul edilmelidir. Bu rehber, OWASP’ın LLM uygulamaları için yayımladığı Top 10 (2025) listesini ve ana savunma ilkelerini uzman gözüyle özetler.
OWASP Top 10 for LLM Applications (2025)
| Kategori | Özü |
|---|---|
| LLM01 İstem Enjeksiyonu↗ | Girdi, modelin davranışını istenmeyen biçimde değiştirir; model işlediği içerikte gizlenmiş talimatlar da buna yeter. |
| LLM02 Hassas Bilgi İfşası | Model, bağlamındaki veya eğitim verisindeki gizli bilgiyi sızdırır. |
| LLM03 Tedarik Zinciri | Üçüncü taraf modeller, adaptörler, veri kümeleri ve paketler. |
| LLM04 Veri ve Model Zehirleme | Eğitim veya ince ayar verisi ya da model üzerinde oynama. |
| LLM05 Hatalı Çıktı İşleme | Model çıktısının doğrulanmadan başka bileşenlere geçirilmesi. |
| LLM06 Aşırı Yetki (Excessive Agency) | Araç, izin ve özerkliğin gerekenden fazla verilmesi. |
| LLM07 Sistem İstemi Sızıntısı | Sistem talimatlarının ifşası. |
| LLM08 Vektör ve Gömme Zafiyetleri | RAG ve vektör depolarındaki zayıflıklar. |
| LLM09 Yanlış Bilgi | Modelin güvenle yanlış çıktı üretmesi ve buna dayanılması. |
| LLM10 Sınırsız Tüketim | Kontrolsüz kaynak ve maliyet tüketimi. |
OWASP ayrıca, ajan tabanlı uygulamalar için Top 10 for Agentic Applications listesini 9 Aralık 2025’te yayımlamıştır; ajan mimarisi kuruyorsanız ona da bakın.
En kritik üç risk ve savunma
İstem enjeksiyonu
Doğrudan biçimde kullanıcı girdisi modelin davranışını bozar; dolaylı biçimde model web sayfası veya dosya gibi harici içerik okuduğunda içine gömülü talimatlar devreye girer. OWASP’a göre azaltma önlemleri etkiyi düşürür ama tamamen engelleyeceğinin garantisi yoktur. Önerilenler: modelin rolünü ve sınırlarını açıkça tanımlamak, beklenen çıktı biçimini belirleyip uyumu deterministik kodla doğrulamak, girdi ve çıktıyı filtrelemek, en az ayrıcalık vermek, riskli işlemlerde insan onayı istemek, güvenilmeyen harici içeriği açıkça işaretleyip ayırmak ve modeli güvenilmeyen bir kullanıcı gibi ele alarak düzenli test yapmak.
Aşırı yetki
Model yanlış çalışsa (halüsinasyon) ya da saldırıya uğrasa da araçlar üzerinden zararlı eylem gerçekleştirebilir. Nedenleri: aşırı işlevsellik, aşırı izin ve aşırı özerklik. Önlemler: araç sayısını ve her aracın işlevini minimuma indirmek, “shell komutu çalıştır” gibi açık uçlu araçlar yerine dar kapsamlı araçlar vermek, araçların dış sistemdeki izinlerini en düşüğe çekmek (ör. yalnızca okuma), işlemleri kullanıcının kendi kimliğiyle ve minimum kapsamla yürütmek, yüksek etkili eylemlerde insan onayı istemek, yetkilendirme↗ kararını modele değil dış sisteme bırakmak, etkinliği kaydetmek ve hız sınırı koymak.
Tedarik zinciri
Modeller kara kutudur; gizli arka kapılar standart değerlendirmelerde görünmeyebilir ve model kartları köken güvencesi vermez. Önlemler: yalnızca doğrulanabilir kaynaklardan model almak, imza ve özet (hash) doğrulaması yapmak, SBOM↗/AI-BOM ile bileşen envanteri tutmak, üçüncü taraf modelleri kullanım senaryonuza özgü kırmızı takım↗ testinden geçirmek, lisansları envantere almak, bakımı bitmiş modelleri ve bileşenleri güncellemek veya çıkarmak.
Çıktıyı girdi gibi doğrulayın
Model çıktısı tarayıcıya, kabuğa veya veritabanına doğrudan verilirse XSS↗ ve komut enjeksiyonu gibi klasik açıklar geri gelir; çıktıyı her zaman kullanıcı girdisi gibi doğrulayıp bağlama uygun biçimde kaçışlayın. Sırları modelin bağlamına koymayın; gizli veriyi yetki ve filtrelerle sınırlayın, istem ve çıktı kaydı tutun.
Risk yönetimi çerçevesi
NIST, yapay zekâ risklerini yönetmek için AI Risk Yönetimi↗ Çerçevesi’ni (AI RMF 1.0, 26 Ocak 2023) ve Üretken Yapay Zekâ Profili’ni (NIST AI 600-1, 26 Temmuz 2024) yayımlamıştır. MITRE ATT&CK’in v20 sürümü de doğrudan ve dolaylı istem enjeksiyonu gibi yapay zekâya özgü teknikleri kapsar; tespit ve avcılık çalışmalarında bunları kullanabilirsiniz.
Kaynaklar ve son gözden geçirme
- OWASP Top 10 for LLM Applications 2025 (genai.owasp.org): LLM01, LLM03, LLM06 sayfaları.
- OWASP Top 10 for Agentic Applications for 2026 (9 Aralık 2025).
- NIST AI RMF 1.0; NIST AI 600-1 Generative AI Profile.
- MITRE ATT&CK v20 sürüm notları.
Son gözden geçirme: 21 Ekim 2026. Bu içerik bilgilendirme amaçlıdır; listelerin güncel hâli için OWASP ve NIST’in resmî sayfalarına bakın.
