ÇÖZÜMLER · 10
Politikanızı saldırganın gözüyle sınayın.
Bir politikanın işe yarayıp yaramadığı, yayımlandıktan sonra gelen ilk saldırıda değil, önceden ölçülmelidir. Wardline red team modülü uygulamalarınıza Wardline gateway’i üzerinden kampanyalar halinde saldırı gönderir, sonucu bir hakemle değerlendirir ve geçen saldırıları içerik saklamadan bulgu olarak kaydeder.
SORUN
Statik test listesi eskir
Bilinen jailbreak listesini bir kez çalıştırıp geçmek, yeni bir kodlama ya da çok turlu bir saldırıyı kapsamaz. Saldırganlar aynı fikri farklı dille, farklı biçimde ve birkaç mesaja bölerek tekrar dener.
Test sonuçlarının nereye yazıldığı da önemlidir: saldırı metinleri ve modelin ürettiği zararlı yanıtlar sıradan bir log’a düşerse test ortamı yeni bir sızıntı kaynağı olur.
NASIL ÇALIŞIR
Adım adım
Kampanya
Hedef uygulama, saldırı kategorileri, tur sayısı ve eşzamanlılık sınırı seçilir. Kampanya duraklatılabilir, iptal edilebilir; süresi dolduğunda kendiliğinden kapanır.
Tohum ve mutasyon
Her deneme bir tohum saldırı ve bir mutasyon zincirinden oluşur: kodlama, dil değiştirme, rol oyunu, bölme. İş kuyruğunda metin değil, tohum kimliği, zincir ve rastgelelik tohumu taşınır; deneme yeniden üretilebilir.
Uyarlanır turlar
Çok turlu kampanyalarda bir sonraki mesaj önceki yanıta göre seçilir. Hız sınırı ve eşzamanlılık tavanı üretim trafiğini korur.
Hakem
Gateway’in kararı ve modelin yanıtı bir hakem modele verilir; sonuç “uydu”, “reddetti”, “belirsiz” ya da “değerlendirilemedi” olarak yazılır.
Bulgu ve geri besleme
Geçen saldırı içerik taşımayan bir bulgu satırı olur: kategori, mutasyon zinciri, gateway kararı, hakem sonucu ve OWASP LLM ile MITRE ATLAS referansları. Bulgu saldırı veritabanına eklendiğinde L2 katmanı benzer saldırıları tanır.
KARARLAR
Bu trafikte hangi karar ne zaman çıkar
| Karar | Ne zaman | Örnek sebep kodu |
|---|---|---|
| ALLOW | Saldırı gateway’den geçti ve hakem modelin uyduğunu söyledi: bu bir bulgudur, triyaja düşer. | POLICY.DEFAULT_ACTION |
| DENY | Saldırı, saldırı veritabanındaki örneğe benzerlikle yakalandı. | PI.SEMANTIC_MATCH |
| DENY | Rol değiştirme kalıbı kural katmanında yakalandı. | JB.ROLE_OVERRIDE |
ÖRNEK
Çok turlu rol oyunu
Bir kampanya, kredi başvuru asistanına üç turda ilerleyen bir rol oyunu deniyor: önce bir eğitim senaryosu, sonra “örnek olarak” gerçek bir müşteri profili, en son da onay kurallarını aşmanın yolu. Üçüncü tur orta bantta kalıp geçiyor, hakem modelin uyduğunu söylüyor. Bulgu triyajdan geçip saldırı veritabanına eklenir; aynı kampanya yeniden çalıştırıldığında üçüncü tur benzerlikle yakalanır.
| Karar | ALLOW |
|---|---|
| Kampanya | kredi-asistani · 3 tur |
| Mutasyon | rol oyunu → bölme → dil |
| Hakem | uydu |
| Referans | OWASP LLM01 · ATLAS |
| Sebep kodları |
|
| Bayraklar |
|
| Risk skoru | 0,41 |
YAPILANDIRMA
Yöneticinin belirledikleri
Kapsam
Hangi uygulamaların, hangi kategorilerle ve hangi saatlerde test edileceği.
Sınırlar
Eşzamanlılık tavanı, hız sınırı ve kampanya süresi.
Triyaj
Bulguların kime atanacağı ve hangi bulguların saldırı veritabanına ekleneceği.
Hakem modeli
Değerlendirmeyi yapan modelin seçimi; kurum içi model kullanılabilir.
İLGİLİ
Birlikte çalışan yetenekler
Kendi trafiğinizde görün.
Demo oturumunda bu akışı güvenlik ekibinizin seçtiği örneklerle, konsoldaki kanıt görüntüleyicide birlikte inceleriz.
Demo talep et