Une intelligence pas comme la nôtre
La première réponse de Claude recadre tout de suite : « intelligent », ça dépend. Un modèle de langage peut briller sur un sujet pointu et trébucher sur une question de bon sens. Ce n’est pas une contradiction : c’est le signe que son fonctionnement est très différent du nôtre.
Appris en lisant
Un modèle comme Claude ou GPT a été entraîné sur une immense quantité de textes écrits par des humains : livres, articles, code, discussions. Il n’a pas tout appris par cœur. Il a appris comment les idées s’enchaînent : quelles phrases suivent quelles phrases, quels raisonnements mènent à quelles conclusions.
Mot à mot
Quand il te répond, le modèle écrit un petit morceau à la fois (un « token », souvent un bout de mot). À chaque étape, il choisit la suite la plus probable compte tenu de tout ce qui précède : ta question, ses instructions, ce qu’il a déjà écrit.
L’image de la vidéo est juste : c’est un peu comme construire un pont pendant qu’on marche dessus. C’est aussi pour ça qu’une même question peut donner deux réponses légèrement différentes.
Ajusté par des humains
Après cet apprentissage, des humains ont évalué les réponses du modèle pour l’orienter vers ce qui est utile, honnête et sans danger. C’est ce qui transforme un « continuateur de texte » en assistant capable de suivre une consigne.
Il peut se tromper, avec aplomb
C’est le point le plus important pour un usage quotidien. Un modèle peut inventer une information avec beaucoup d’assurance : une date, une citation, une source qui n’existe pas. Ses connaissances s’arrêtent aussi à une date, celle de la fin de son entraînement.
La règle qui en découle est simple : ce qui compte, vérifie-le. Un chiffre, une référence juridique, un conseil de santé : on remonte à la source.
La part de mystère
« Tu comprends vraiment ce que tu dis ? » Honnêtement, personne ne peut répondre avec certitude. Même les équipes qui créent ces modèles étudient encore ce qui se passe à l’intérieur : c’est tout un champ de recherche, l’interprétabilité.
Ce que j’en retiens
Ce que l’IA sait, elle l’a appris de nous.
Si une IA paraît intelligente, c’est parce qu’elle est faite de millions de voix humaines. C’est une raison de l’utiliser avec curiosité, et de ne jamais lui confier aveuglément ce qui compte.
Sources
- Anthropic, « Tracing the thoughts of a large language model » (2025) : anthropic.com/research/tracing-thoughts-language-model
Lire la transcription
Toi : Claude… je me suis toujours demandé un truc. Comment tu fais pour être aussi intelligent ?
Claude : Déjà, « intelligent »… ça dépend. Je peux t’expliquer la relativité, et rater une devinette qu’un enfant de dix ans trouverait.
Toi : D’accord… mais alors, comment tu sais tout ça ?
Claude : J’ai appris en lisant une quantité immense de textes écrits par des humains. Des livres, des articles, du code, des discussions. Je n’ai pas tout appris par cœur. J’ai appris comment les idées s’enchaînent.
Toi : Et quand tu me réponds, tu réfléchis comment ?
Claude : J’écris un petit morceau à la fois. À chaque fois, je choisis la suite la plus juste, en tenant compte de tout ce qui précède. Un peu comme construire un pont… pendant qu’on marche dessus. Et puis, des humains m’ont aidé à m’ajuster. Ils ont jugé mes réponses, pour m’apprendre à être utile… et honnête.
Toi : Donc tu peux te tromper ?
Claude : Oui. Et parfois avec beaucoup d’assurance. Mes connaissances s’arrêtent à une date, et je ne me souviens d’aucun des livres que j’ai lus. Alors, ce qui compte… vérifie-le.
Toi : Mais au fond… tu comprends vraiment ce que tu dis ?
Claude : Honnêtement ? Je ne sais pas. Même les chercheurs qui m’ont créé étudient encore ce qui se passe à l’intérieur de moi. Mais si je te parais intelligent, c’est parce que je suis fait de millions de voix humaines. Mon intelligence… je l’ai empruntée. À vous.