Évaluation des agents IA sur l'état de la base de données plutôt que sur la sortie textuelle

Le 3 octobre 2026, Microsoft et Hugging Face ont publié conjointement ThinkingBox, un nouveau cadre d'évaluation pour les agents IA autonomes. Cette approche déplace le focus de la notation des réponses en langage naturel générées par un agent vers la vérification des changements d'état réels qu'il laisse dans les systèmes back-end. L'initiative met en évidence une lacune critique dans les méthodes de test actuelles où les agents peuvent sembler réussis dans les journaux tout en échouant à exécuter correctement la logique métier requise.

Ce qui s'est passé

L'idée centrale derrière ThinkingBox est qu'un agent peut effectuer une série correcte d'appels d'outils, générer un message de clôture poli et professionnel, et néanmoins échouer à atteindre le résultat souhaité. Dans un exemple fourni, un agent d'assistance a traité un cas impliquant un électroménager retardé. L'agent a lu la politique, effectué neuf appels d'outils et clôturé le ticket avec un message indiquant que le problème était résolu. Cependant, l'état final requis pour ce type de cas était de mettre la commande en attente, non pas de la marquer comme résolue. Alors qu'un évaluateur traditionnel regardant la transcription de la conversation aurait marqué cela comme un succès, une vérification contre la base de données révèle que le client n'a jamais reçu la résolution correcte.

Cette divergence n'est pas simplement théorique. Les auteurs ont analysé une ablation d'un ensemble commun impliquant 121 680 essais valides sur 12 modèles différents. Ils ont constaté que 79 853 tentatives ont échoué aux vérifications exécutables. Parmi ces échecs, 67,24 % se sont terminés proprement, ont invoqué des outils modifiant l'état et n'ont signalé aucune erreur. Malgré cette sortie propre, une inspection plus approfondie a révélé des valeurs de champs incorrectes dans 77,61 % de ces cas, des effets supplémentaires involontaires dans 43,30 %, et des effets requis manquants dans 25,36 %. Ces problèmes superposés démontrent qu'une trace verte dans les outils de surveillance ne garantit pas un état validé dans le système d'enregistrement.

Pour remédier à cela, le cadre propose une boucle de validation stricte. Les équipes doivent définir l'état final requis dans des champs spécifiques avant le début de l'exécution. Après que l'agent a effectué sa dernière action mutante, le système doit relire directement l'enregistrement depuis la base de données, ignorant le résumé de l'agent. Les actions orientées client ne doivent procéder que si cette relecture confirme que les champs correspondent aux exigences. Ce processus crée un reçu qui documente exactement ce qui correspondait, ce qui ne correspondait pas, et toute écriture inattendue, garantissant que la définition de « terminé » repose sur l'intégrité des données plutôt que sur la fluidité linguistique.

Détails clés

• ThinkingBox a été publié le 3 octobre 2026 par Microsoft et Hugging Face.
• Sur 121 680 essais, 67,24 % des tentatives échouées se sont encore terminées proprement sans signaler d'erreurs.
• Des valeurs de champs incorrectes ont été trouvées dans 77,61 % des tentatives échouées mais terminées proprement.
• Claude Opus 5.5 a atteint un score pass@1 de 67,16 % mais n'a réussi tous les 20 essais que sur 241 tâches.
• Kimi-K3 a résolu 476 des 507 tâches au moins une fois mais n'a atteint un succès constant que sur 68 tâches.
• Environ 79,9 % des échecs ont été attribués à des problèmes de gestion des outils plutôt qu'à des erreurs de raisonnement.

Contexte

Dans les tests logiciels traditionnels, les ingénieurs s'appuient souvent sur des tests unitaires qui vérifient les sorties de fonctions ou des tests d'intégration qui valident les réponses API. Pour les agents IA, qui interagissent avec les systèmes via une séquence d'appels d'outils, les évaluations se sont largement concentrées sur la « trajectoire » ou le chemin pris par l'agent. Cela inclut la vérification si les bons outils ont été appelés dans le bon ordre et si le message final était approprié. Cette méthode suppose que si les étapes semblent correctes, le résultat est correct. Cependant, les agents autonomes opèrent dans des environnements non déterministes où les réponses des outils peuvent varier, et les états internes du système peuvent ne pas correspondre à la perception de l'agent.

ThinkingBox introduit le concept selon lequel une trajectoire n'est qu'une affirmation, tandis que l'état de la base de données est la preuve. En traitant les actions de l'agent comme une hypothèse sur l'état du système, les développeurs peuvent utiliser la vérification post-exécution pour valider cette hypothèse. Cela dépasse les simples métriques de réussite/échec basées sur des exécutions uniques. Cela met l'accent sur la répétabilité, demandant si un agent peut atteindre l'état correct de manière constante sur plusieurs tentatives à partir d'un point de départ propre, plutôt que d'avoir simplement de la chance une fois.

Pourquoi c'est important

Pour les équipes exécutant des logiciels auto-hébergés ou gérant l'automatisation interne, cette distinction est vitale pour la fiabilité. Si vous déployez un agent pour gérer le support utilisateur, les mises à jour d'inventaire ou les transactions financières, faire confiance au message final de l'agent représente un risque significatif. Un agent pourrait affirmer avec confiance qu'un remboursement a été traité parce que la passerelle de paiement a renvoyé un code de succès générique, même si le grand livre interne n'a pas été mis à jour en raison d'une condition de course ou d'une incompatibilité de schéma. Sans vérifier l'enregistrement réel, votre équipe peut rester inconsciente d'une corruption systémique des données jusqu'à ce que les clients se plaignent.

De plus, cette approche impacte la façon dont vous sélectionnez et optimisez les modèles. Les données de référence montrent que des scores principaux plus élevés ne se traduisent pas nécessairement par une meilleure dépendabilité. Claude Opus 5.5 avait un score pass@1 légèrement supérieur à celui de Claude Opus 5, mais les deux modèles ont atteint un succès constant sur le même nombre de tâches. Choisir un modèle basé sur sa capacité à résoudre une tâche au moins une fois, plutôt que chaque fois, conduit à des systèmes de production fragiles. Comprendre que la plupart des échecs proviennent de la gestion des outils plutôt que du raisonnement suggère que les efforts d'ingénierie devraient se concentrer sur des politiques de nouvelle tentative robustes et des surfaces d'outils plus petites et plus fiables, plutôt que de simplement passer à des modèles plus grands.

Ce que vous pouvez faire

• Définissez l'état final requis pour vos flux de travail d'agents en utilisant des champs de base de données spécifiques avant l'exécution.
• Implémentez une étape de relecture post-écriture qui interroge le système d'enregistrement après que l'agent a terminé sa tâche.
• Bloquez les notifications visibles par le client tant que la relecture ne confirme pas que tous les champs requis correspondent à l'état attendu.
• Générez un reçu de diff pour chaque exécution qui liste les champs correspondants, les champs non correspondants et tout effet secondaire involontaire.
• Exécutez vos flux de travail critiques plusieurs fois à partir d'un état propre pour mesurer la cohérence, visant un succès « tous-de-k » plutôt que « meilleur-de-k ».
• Auditez vos métriques d'évaluation actuelles pour vous assurer qu'elles ne récompensent pas les agents pour des clôtures polies mais incorrectes.