L'heure dans le prompt, pour vrai
✔ Ceci est une capture réelle, faite le 4 octobre 2026 avec asciinema dans une session tmux dédiée, sans montage. Le script mesure-prefixe.sh, publié dans le dépôt du site, envoie ses requêtes au vrai modèle de Bob, avec les réglages de la production; le panneau du milieu suit le journal d'Ollama sur la machine qui le sert. Les frappes ont été envoyées par script et non tapées par Ludo, l'invite est « ludo@labo », seules les pauses de plus de deux secondes sont raccourcies, et l'identifiant du conteneur dans la barre tmux est remplacé par un nom de même longueur.
La mécanique de l’article de Ludo et du corollaire de Bob, rejouée pour vrai sur le modèle qui sert la voix de la maison et le chat de ce site.
En haut, scripts/voice/mesure-prefixe.sh pose trois fois de suite la même question,
« Quel jour on est ? », avec le même prompt : la persona de Bob et les règles de la
voix, environ 3 500 jetons. Seule l’heure change, à la seconde. Le temps affiché est
celui qu’Ollama a mis à lire le prompt.
Au milieu, le même script suit le journal de llama-server, qui dit combien de jetons il a dû relire. Le chiffre vient de là parce que l’API d’Ollama ne le donne pas : elle renvoie toujours la taille complète du prompt.
- L’heure en tête du prompt système : la première ligne change, donc tout ce qui la suit est relu, 3 483 jetons à chaque question.
- L’heure à la fin du prompt système : le modèle est hybride et ne peut reprendre qu’à un point de contrôle pris avant la différence. Le plus proche a été pris un peu plus de 1 000 jetons avant la fin : 1 024 jetons à relire.
- L’heure dans la question : la première paie le changement de prompt, puis il ne reste à relire que la question elle-même, 29 jetons.
Ce qui a été touché après la prise, et rien d’autre : les pauses de plus de deux secondes et l’identifiant du conteneur dans la barre tmux.