Le guide du harness engineering

Le guide du harness engineering : ce qu'est le harness, la boucle complète modèle-outil-résultat, et les trois questions qui font la qualité d'un agent.


Le harness, c'est quoi

Un agent, c'est deux briques : le modèle et le harness.

Le modèle décide. Le harness applique.

Le harness, c'est la couche autour du modèle :

Sans harness, le modèle sort pas de sa boîte de chatbot : il décide, et rien ne se passe.

La boucle

La chaîne classique d'un agent, étape par étape :

  1. Le modèle raisonne et décide qu'il a besoin d'un outil.
  2. Le harness appelle l'outil.
  3. L'outil renvoie un résultat.
  4. Le résultat repart dans le contexte du modèle.
  5. Avec cette nouvelle information (plus du contexte ramené d'ailleurs), le modèle prend une nouvelle décision.
  6. Il fait de nouveau appel au harness, et on repart au point 1.

Cette boucle peut tourner très longtemps. C'est elle qui transforme un modèle en agent.

Pourquoi les benchmarks disent pas tout

Quand un labo annonce « 86 pour cent de compétence sur un benchmark », tu sais pas de quoi on parle : le score peut venir du modèle comme du harness.

Donc quand un labo annonce qu'il a amélioré son score, il a parfois juste amélioré son harness.

C'est pour ça qu'un benchmark est pas toujours la métrique la plus pertinente par rapport à ce que toi tu veux faire.

Le harness engineering en trois questions

Les devs ont besoin de nouveaux termes tout le temps, donc on a appelé ça le harness engineering. Globalement, ça revient à savoir répondre à trois questions :

QuestionCe que ça pilote
Quel outil je donne à mon modèle ?Le périmètre d'action de l'agent
Qu'est-ce qui se passe quand un outil plante ?La robustesse de la boucle
Combien de contexte je garde d'un tour à l'autre, d'une itération à l'autre ?La mémoire et la cohérence sur la durée

Ce qu'il faut retenir

La qualité d'un agent se joue notamment là, et pas uniquement sur le choix du modèle.

Quand tu compares deux agents, compare leurs harness : les outils disponibles, la gestion des erreurs, la stratégie de contexte.

Pour aller plus loin

Une question ? Réponds directement à ce message, je te réponds.