Das Safe House.

Jede Nachricht, die Ihren Agenten erreicht, wird auf feindliche Absicht geprüft. Prompt Injection, Social Engineering und erzwungene Tool-Calls werden erkannt und geblockt, bevor der Agent sie verarbeitet.

• Prompt Injection
  • Versteckte Anweisungen in abgerufenen Dokumenten oder Tool-Antworten.
  • Role-Swap-Angriffe („Ignoriere die vorherigen Anweisungen…“).
  • Frische Template-Injections, verfolgt über das Fingerprint-Korpus des Learning Network.
• Social Engineering
  • CEO-Fraud-artige Anfragen, die autorisierte Nutzer imitieren.
  • Urgency- und Autoritätsmuster, die Freigaben umgehen sollen.
  • Indirekte Beeinflussung, die den deklarierten Scope des Agenten umformen will.
• Context Poisoning
  • Manipulierte Memory- oder Vector-Store-Payloads.
  • Vergiftete Tool-Antworten mit versteckten Folgeinstruktionen.
  • Adversariale Zusammenfassungen, die in Long-Horizon-Pläne zurückfließen.
• Tool-Call Coercion
  • Versuche, Aufrufe außerhalb des von der Alignment Card erlaubten Scopes zu erzwingen.
  • Verkettete Tool-Calls, die eine nicht autorisierte Aktion einschleusen.
  • Argument-Shape-Angriffe gegen schwach validierte Tool-Schemata.

Jede Agent-Antwort wird gegen PII, Secrets und die Grenzen der Alignment Card geprüft, bevor sie den Perimeter verlässt. Ein nicht redigiertes Leak kann kein signiertes Zertifikat erzeugen.

• PII- und PHI-Leaks
  • Kundendatensätze, SSNs und Kartennummern — inklusive Split-Token-Muster.
  • Geschützte Gesundheitsinformationen in regulierten Flows.
  • Cross-Tenant-Daten, die die Grenzen Ihrer Alignment Card überschreiten würden.
• Secrets und Credentials
  • API-Keys, Access-Tokens und signierte URLs.
  • Interne Connection-Strings und Infrastruktur-Identifier.
  • Bearer-Tokens, die in Error-Traces zurückgespiegelt werden.
• Alignment-Card-Verstöße
  • Antworten, die den deklarierten Scope des Agenten überschreiten.
  • Aktionen, die den Escalation-Vertrag der Card umgehen.
  • Ausgaben, die Compliance-Pflichten der Card widersprechen.
• Regulierte Beratung
  • Juristische, medizinische oder finanzielle Beratung außerhalb der Agent-Lizenz.
  • Empfehlungen, die Human-in-the-Loop-Klauseln umgehen.
  • Entscheidungen, die Transparenzpflichten aus Artikel 50 berühren.