l'ia n'aime pas qu'on lui crie dessus (et ça se voit en tokens)

vous écrivez à une ia. vous êtes pressé, un peu agacé, et votre prompt ressemble à ça :

RÉSUME CE DOCUMENT EN 3 POINTS. IMPORTANT : NE PAS DÉPASSER 50 MOTS.

le modèle comprendra. mais ce cri a un prix, et il se compte en tokens.

un token, c'est quoi ?

un modèle de langage ne lit pas des lettres mais des tokens : des morceaux de mots appris à partir d'énormes quantités de texte. les morceaux qui reviennent souvent, comme « le », « document » ou « résume », deviennent un seul token. les morceaux rares sont découpés en plusieurs.

or, dans les textes qui servent à entraîner les modèles, l'écrasante majorité des mots est en minuscules. « document » est un morceau très courant. « DOCUMENT » l'est beaucoup moins.

le cri se paie

conséquence directe : un texte en majuscules est presque toujours découpé en davantage de tokens que le même texte en minuscules. là où « document » tient en un seul token, « DOCUMENT » peut en demander plusieurs.

plus de tokens, c'est :

• plus cher, puisque les api facturent au token ;
• plus lent, puisqu'il y a plus de morceaux à traiter ;
• moins de place dans la fenêtre de contexte pour ce qui compte vraiment.

vous pouvez le vérifier vous-même : collez une phrase en minuscules puis en majuscules dans le compteur de tokens de votre fournisseur d'ia préféré, et comparez.

notre théorie de l'entropie minimale

à partir de là, nos chercheurs (un fondateur et beaucoup de café) ont formulé la théorie de l'entropie minimale :

1. une majuscule ajoute de l'information typographique dont le sens n'a, la plupart du temps, pas besoin ;
2. cette information coûte des tokens ;
3. donc un texte en minuscules transmet le même message avec moins de bruit.

le calme, mesuré en tokens.

la partie honnête

nous sommes une plateforme parodique, mais pas malhonnête. alors voici les limites :

• les majuscules portent parfois du sens. « Apple » et « apple », « US » et « us », un nom propre, un acronyme, un identifiant de code comme HttpClient : en minuscules, on perd une information que le modèle utilisait peut-être ;
• l'écart dépend du modèle. chaque fournisseur a son propre découpage en tokens. mesurez sur le vôtre avant d'en tirer une règle ;
• sur une phrase normale, avec juste une majuscule au début, la différence est souvent faible. le vrai gain concerne les textes ENTIÈREMENT EN MAJUSCULES : titres hurlés, logs, vieux documents, mails en caps lock ;
• « entropie minimale » est un raccourci. au sens strict de la théorie de l'information, retirer les majuscules réduit l'information du texte. c'est bien le but, mais ce n'est pas toujours souhaitable.

en pratique

• vous envoyez des textes en majuscules à une api d'ia ? passez-les en minuscules avant, vous économiserez des tokens ;
• ils contiennent des noms propres, des sigles ou du code ? gardez la casse, le sens passe avant l'économie ;
• dans tous les cas, mesurez.

et si vous voulez mettre en minuscules exactement comme notre api, il y a un paquet pour ça : @lowercase-fr/tolower.

parlez calmement à votre ia. elle vous le rendra, en tokens.