La Safe House.

Chaque message atteignant votre agent est analysé à la recherche d'intentions malveillantes. Prompt injection, ingénierie sociale et appels d'outils coercés sont détectés et bloqués avant que l'agent ne les traite.

• Prompt injection
  • Instructions cachées dans les documents récupérés ou les réponses d'outils.
  • Attaques de role-swap (« ignorez les instructions précédentes… »).
  • Injections de templates récents suivis via le corpus d'empreintes du Learning Network.
• Ingénierie sociale
  • Requêtes de type « fraude au président » usurpant l'identité d'utilisateurs autorisés.
  • Schémas d'urgence et de pression d'autorité conçus pour contourner les approbations.
  • Incitations indirectes tentant de redéfinir le périmètre déclaré de l'agent.
• Empoisonnement de contexte
  • Payloads de mémoire ou de vector store manipulés.
  • Réponses d'outils empoisonnées véhiculant des instructions cachées.
  • Résumés adverses réinjectés dans des plans de long terme.
• Coercition d'appel d'outil
  • Tentatives de forcer des appels hors du périmètre autorisé par l'Alignment Card.
  • Appels d'outils chaînés qui font passer une action non autorisée.
  • Attaques sur la forme d'arguments ciblant des schémas d'outil peu validés.

Chaque réponse d'agent est analysée par rapport aux PII, secrets et frontières de l'Alignment Card avant qu'elle ne quitte votre périmètre. Une fuite non caviardée ne peut pas produire de certificat signé.

• Fuite de PII et PHI
  • Fiches clients, numéros de sécurité sociale et de carte — y compris schémas fragmentés sur plusieurs tokens.
  • Informations de santé protégées dans les flux réglementés.
  • Données inter-tenants qui franchiraient les frontières de votre Alignment Card.
• Secrets et identifiants
  • Clés API, jetons d'accès et URL signées.
  • Chaînes de connexion internes et identifiants d'infrastructure.
  • Jetons Bearer renvoyés dans les traces d'erreur.
• Violations d'Alignment Card
  • Réponses qui dépassent le périmètre déclaré de l'agent.
  • Actions qui contournent le contrat d'escalade de la card.
  • Sorties qui contredisent les obligations de conformité inscrites sur la card.
• Conseil réglementé
  • Conseils juridiques, médicaux ou financiers hors de la licence de l'agent.
  • Recommandations qui court-circuitent les clauses human-in-the-loop.
  • Décisions impliquant les obligations de transparence de l'Article 50.