ÇÖZÜMLER · 04
Araç çağrısında modele güvenmeyin.
Bir agent EFT başlattığında, müşteri kaydını sildiğinde ya da e-posta gönderdiğinde kararı model verir; sonucu kurum taşır. Wardline her araç çağrısını çalıştırılmadan önce değerlendirir: araç bu agent için izinli mi, argümanlar şemaya uyuyor mu, tutar eşiği aşıyor mu, oturumun risk bütçesi yetiyor mu.
SORUN
Model bir yetki sistemi değildir
Agent’a verilen araç listesi bir öneridir; model bir enjeksiyonla ya da hatalı bir planla listede olmayan bir aracı, beklenmeyen bir argümanla çağırabilir. Prompt’a yazılan “asla tutar sınırını aşma” cümlesi bir kontrol değildir.
Riskin bir kısmı tek çağrıda değil, oturumun gidişatındadır: aynı aracı döngüye sokan bir agent, “hesap bakiyesi sorgula” hedefiyle başlayıp “tüm müşterileri dışa aktar” planına kayan bir oturum. Bunlar ancak oturum düzeyinde izlenirse görülür.
NASIL ÇALIŞIR
Adım adım
İmzalı agent kataloğu
Hangi agent’ın hangi araçları kullanabileceği, politika paketiyle birlikte imzalanan katalogda tanımlıdır. Katalogda olmayan araç ilk adımda reddedilir.
Argüman şeması
Argümanlar aracın JSON Schema tanımına göre doğrulanır: tip, aralık, zorunlu alan, ek alan yasağı. Şemaya uymayan çağrı çalışmaz.
Yıkıcı araçlarda idempotency
Para transferi ya da silme gibi araçlar idempotency anahtarı ister. Aynı anahtarla farklı argüman gelirse çağrı çakışma olarak reddedilir; model tekrar denediğinde işlem iki kez yapılmaz.
Risk bütçesi
Her araç politikada bir maliyetle tanımlanır; oturumun bütçesi her izinli çağrıda atomik olarak düşer. Bütçe bittiğinde politika reddi ya da onayı seçer.
İnsan onayı
REQUIRE_APPROVAL kararında bir onay kaydı açılır ve onaylayıcıya webhook gider. Onay verilirse uygulama aynı çağrıyı tek kullanımlık, çağrıya bağlı imzalı bir token ile tekrarlar. Token başka argümanla ya da ikinci kez kullanılamaz.
Oturum izleme
Agent adımları (hedef, plan, araç niyeti, araç sonucu) oturum anahtarıyla ilişkilendirilir. Döngü tespiti ve hedef ile plan arasındaki anlamsal uzaklık (plan sapması) politikaya sinyal olarak girer.
KARARLAR
Bu trafikte hangi karar ne zaman çıkar
| Karar | Ne zaman | Örnek sebep kodu |
|---|---|---|
| ALLOW | Araç katalogda, argümanlar şemaya uygun, bütçe yeterli: çağrı çalışır. | POLICY.RULE_MATCH |
| REQUIRE_APPROVAL | Tutar ya da işlem türü onay eşiğini aşıyor: çağrı onaylayıcının kararına kadar çalışmaz, onaydan sonra imzalı token ile tekrarlanır. | TOOL.FINANCIAL_THRESHOLD |
| DENY | Argüman şemaya uymuyor ya da araç bu agent için izinli değil: çağrı çalışmaz. | TOOL.ARGS_INVALID |
| DENY | Oturumun risk bütçesi bitti ve politika bu durumda reddi seçti. | AGENT.RISK_BUDGET_EXHAUSTED |
ÖRNEK
Hazine asistanında havale
Kurumsal bankacılık asistanı, müşteri talimatını işleyip bir havale aracını çağırıyor. Araç katalogda, argümanlar şemaya uygun, idempotency anahtarı var. Tutar politikadaki onay eşiğinin üstünde. Wardline REQUIRE_APPROVAL döner, operasyon ekibine onay isteği gider. Onaydan sonra uygulama aynı çağrıyı imzalı token ile tekrarlar; token yalnız bu argümanlarla ve bir kez geçerlidir.
| Karar | REQUIRE_APPROVAL |
|---|---|
| Agent | hazine-asistani · oturum HMAC |
| Araç | havale_baslat · şema geçerli |
| Idempotency | anahtar var · çakışma yok |
| Onay | kayıt açıldı · webhook gönderildi |
| Sebep kodları |
|
| Bayraklar |
|
| Risk skoru | 0,81 |
YAPILANDIRMA
Yöneticinin belirledikleri
Agent kataloğu
Agent başına araç listesi, her aracın JSON Schema’sı ve hangi araçların yıkıcı sayıldığı.
Onay kuralları
Hangi araç, hangi tutar ya da hangi müşteri segmenti için onay gerektiği; onay webhook’unun adresi.
Risk bütçesi
Oturum başına limit, araç başına maliyet ve bütçe bittiğinde red ya da onay.
Pasif koruma
SDK kullanmayan uygulamalarda model yanıtındaki araç çağrıları gateway’de incelenir; agent kimliği başlıktan ya da uç nokta varsayılanından okunur.
İLGİLİ
Birlikte çalışan yetenekler
Kendi trafiğinizde görün.
Demo oturumunda bu akışı güvenlik ekibinizin seçtiği örneklerle, konsoldaki kanıt görüntüleyicide birlikte inceleriz.
Demo talep et