Définition Innovation & IA
Garde-fous
Limites techniques et métier imposées à un agent IA : actions interdites, plafonds, vérifications obligatoires, sujets qu’il doit transférer à un humain.
En pratique
L’agent ne peut pas rembourser au-delà d’un montant défini ni modifier un contrat sans vérification d’identité.
À ne pas confondre avec
Consignes
Une consigne indique à l’agent comment répondre. Un garde-fou l’empêche d’agir hors du cadre, même s’il se trompe.