Nous passons d’IA outils passifs (un chat qui attend un prompt) à des systèmes agentiques actifs :

Des logiciels capables de planifier, d’exécuter et d’itérer des tâches de manière autonome.

👉 En UX, ce n’est pas une évolution.

C’est un changement de paradigme :

• Interface conversationnelle → je pose une question
  
• Interface délégative → je confie un objectif
  

Mais ce changement fait émerger un problème majeur, encore sous-estimé :

L’audit des agents IA n’est pas un problème de conformité.

C’est un problème de vigilance humaine.

On suppose que l’humain peut simplement “vérifier” le travail de l’agent.

Or les sciences cognitives montrent depuis plus de 50 ans que :

• la vigilance humaine décline inévitablement dans les tâches de monitoring prolongé (Warm et al., 2008),
  
• et que l’automatisation mal conçue augmente le risque d’erreur plutôt que de le réduire (Parasuraman et al., 2000).
  

Les agents IA amplifient exactement les conditions les plus à risque :

• trop de décisions à inspecter,
  
• des outputs majoritairement “normaux”,
  
• une responsabilité humaine sans compréhension complète du raisonnement.
  

Résultat : la “review fatigue” (une fatigue/un épuisement de vérification/contrôle).

L’humain finit par approuver sans réellement superviser,

parce que le coût cognitif du contrôle dépasse le gain de temps promis.

👉 Le prochain grand défi UX n’est pas le prompt.

C’est l’interface d’audit.

Une interface capable de :

• réduire le monitoring passif,
  
• concentrer l’attention sur les signaux réellement critiques,
  
• accepter que la vigilance humaine est limitée et fluctuante (Reason, 1990).
  

Est-ce que vous avez le sentiment comme moi que réfléchir à l’UX de ces futures interfaces de contrôle va devenir clef pour la fiabilité des systèmes agentiques ?