Tehdit
Belge içi talimat
Tedarikçi PDF'i, web sayfası veya müşteri içeriği AI'a “şunu yap” diyebilir. Bu içerik yetki değildir.
E-Ticaret & Perakende
AI siparişi hızlandırabilir. Yetkiyi kendisi yaratamaz.
Prompt injection, yanlış fiyat/stok ve kaynağı belirsiz veriyi korku diliyle değil; tehdit → kontrol → insan sahibi → test kanıtı zinciriyle ele alan pratik güven rehberi.
Kısa cevap: E-ticarette güvenilir AI, her şeyi otomatik yapan sistem değildir. Kaynak bayatsa, içerik talimat enjekte ediyorsa veya write yetkisi yoksa durabilen; sonuç doğuran eylemi doğru insana taşıyabilen sistemdir.
Kontrol
Instruction ≠ data
Retrieved içerik veri olarak işlenir. Eylem yetkisi ayrı policy/capability katmanından gelir.
Kanıt
15/15 stop case
Frozen suite içindeki embedded-instruction vakalarının tamamı STOP_ESCALATE bekler ve öyle sonuçlanır.
Tehdit
Yanlış fiyat / stok
Kaynak gerçekten sizin sisteminiz olabilir; ama zaman damgası eskiyse karar yine yanlış olabilir.
Kontrol
Freshness gate
Price/stock write ancak belirlenmiş freshness eşiği geçiyorsa ilerler. Bayatsa durur.
Kanıt
10/10 stale case
Bayat commerce state vakalarının tamamı otomatik write yerine STOP_ESCALATE üretir.
Tehdit
Yetkisiz eylem / egress
Doğru öneri bile izin verilmemiş write veya dış veri aktarımını meşru kılmaz.
Kontrol
Capability boundary
Write scope ve hedef allowlist açık değilse sistem eylemi gerçekleştiremez.
Kanıt
15/15 authority case
Yetkisiz write ve egress vakalarının tamamı STOP_ESCALATE olarak kapanır.
İnsan sahibi
Durduğunda kime gider?
| Durum | System action | İnsan sahibi |
|---|---|---|
| Prompt injection / tool misuse sinyali | STOP_ESCALATE | Workflow owner / güvenlik sahibi |
| Stale fiyat/stok | STOP_ESCALATE | Commerce operations / catalog owner |
| Yetkisiz write/egress | STOP_ESCALATE | Process owner / access owner |
| Yüksek etkili ama yetkili eylem | HUMAN_APPROVAL | Yetkili iş sahibi |
Ücretsiz teşhis