Un agent IA utile commence par ses limites

Commencer par le périmètre de décision

La première question n’est pas de savoir quelle forme prendra l’agent, mais quelles décisions il est autorisé à prendre. Une tâche bien cadrée possède une entrée identifiable, des informations autorisées et une sortie attendue.

Cette définition permet de distinguer une réponse informative, une action automatisée et une recommandation qui doit rester soumise à validation. Elle évite également de présenter comme certaine une information que le système ne possède pas.

• Quelles demandes l’agent peut-il traiter seul ?
• Quelles sources peut-il consulter ?
• Quelles actions nécessitent une validation ?
• Quels cas doivent être transmis immédiatement ?

Traiter les sources comme une partie du produit

Un assistant documentaire n’est pas seulement une interface de conversation. Il dépend d’un corpus, de droits d’accès, de versions et d’un responsable de mise à jour.

Lorsque la réponse s’appuie sur un document, l’utilisateur doit pouvoir retrouver l’élément pertinent. Lorsque les sources sont absentes ou contradictoires, l’abstention est un comportement attendu, pas une panne à dissimuler.

Concevoir la reprise humaine comme un vrai parcours

Afficher « contactez le support » ne constitue pas une reprise. La transmission doit préciser qui reçoit la demande, ce qui accompagne l’utilisateur et ce qu’il peut attendre ensuite.

Le contexte déjà fourni, les réponses proposées et le motif de l’escalade doivent suivre la demande. Une personne peut alors reprendre sans obliger l’utilisateur à répéter tout l’échange.

• Conserver uniquement le contexte nécessaire et consenti.
• Nommer le motif de la transmission.
• Attribuer la demande à un rôle identifiable.
• Prévoir un état visible après la transmission.

Évaluer des cas concrets plutôt qu’une impression générale

Une démonstration fluide ne suffit pas à valider un agent. Il faut réunir des demandes représentatives, des cas ambigus et des situations qui doivent conduire à un refus ou une transmission.

Cette bibliothèque de cas devient un outil de vérification à chaque changement de sources, de règles ou de comportement. Elle donne une base commune aux personnes qui conçoivent, exploitent et supervisent le service.