Notez qu’on peut améliorer le résultat précédent, c'est à dire obtenir de manière plus probable la réponse 4), en conditionnant mieux la réponse.

On entend ici par “conditionner une réponse” la technique qui consiste à changer le prompt (le début de phrase) afin d’augmenter la probabilité d’apparition d’un ou plusieurs token voulus.

En effet, dans le début de phrase "2 + 2 = ", rien n’indique explicitement que vous souhaitez que le modèle calcule 2+2. En testant de nombreuses fois, on peut d’ailleurs observer qu’il complète parfois par 2 + 2 = 5 suivi d’un smiley ou d’un mot du type “incorrect”.

Une manière plus explicite pour inciter le LLM à afficher le résultat de l’addition est d’écrire dans la zone de texte le message suivant (notez la présence d’un espace à la fin) :

Question: 2 + 2?

Copiez / collez le texte précédent (et rajoutez l'espace à la fin s'il n'y est pas) puis soumettez-le au modèle.

Quelle est la probabilité d'apparition du token 4 ?

Indiquez votre réponse en % (ex : 17% => indiquez 17).