J'ai dit : "Le petit chaperon..."
Romane a répondu sans réfléchir : "...rouge."
Pas parce qu'elle avait cherché. Parce que ce mot-là vient après cet autre mot-là, toujours, depuis qu'elle est toute petite. Elle n'a pas réfléchi, elle a prédit.
C'est exactement ce que fait une IA quand elle écrit.
Ce que l'IA fait vraiment quand elle parle
Quand un outil comme ChatGPT ou un assistant vocal répond à une question, il ne "cherche" pas la bonne réponse dans une base de données. Il ne "réfléchit" pas non plus, pas comme on l'entend.
Il prédit le mot suivant.
À partir de tout ce qu'il a lu pendant son entraînement, il calcule : quel est le mot qui vient le plus souvent après les mots que je viens d'écrire ? Puis il choisit ce mot, et recommence pour le suivant, et encore, et encore, jusqu'à former une phrase complète.
C'est de la prédiction en cascade. Pas de la connaissance. Pas de la compréhension. Du pari statistique, très sophistiqué, très rapide.
Ce qui veut dire que parfois l'IA se trompe, non pas parce qu'elle ignore la vérité, mais parce qu'elle a parié sur le mauvais mot.
L'activité
On prend un livre que les enfants connaissent par coeur. Un album, un conte, une histoire relue cent fois.
Premier temps : deviner à voix haute. On lit une phrase en s'arrêtant au milieu. "Dans la forêt, il y avait un grand..." L'enfant complète. Puis on lit la vraie suite. Est-ce qu'il avait trouvé ?
On fait ça dix fois avec des phrases de longueurs différentes. On note mentalement quand ça colle et quand ça déraille.
Deuxième temps : le jeu du mot suivant. On invente une phrase de zéro. L'adulte dit un mot. L'enfant dit le mot qui lui semble le plus naturel après. Puis l'adulte dit un mot, et ainsi de suite. On construit une phrase ensemble, mot par mot, en choisissant toujours "le mot qui vient naturellement".
On lit la phrase obtenue à voix haute.
Troisième temps : la question. "Comment t'as choisi tes mots ?" En général : intuition, habitude, ce qui sonnait bien. Puis : "C'est comme ça que l'IA choisit aussi, sauf qu'elle a lu beaucoup, beaucoup plus de phrases que toi."
Variante pour compliquer : essayer de glisser un mot vrai mais inattendu dans la phrase (un mot connu, mais qui n'a rien à faire là) et voir comment la phrase se détraque. C'est une illustration de ce qui arrive quand l'IA rencontre un contexte qu'elle n'a pas souvent vu.
Ce qui s'est vraiment passé
Romane est très forte à ce jeu. Elle a un sens du rythme des phrases qui lui fait choisir presque toujours un mot plausible. Elle a conclu que l'IA "triche intelligemment" : elle connaît tellement de phrases qu'elle sait toujours quoi dire, même si elle ne comprend pas vraiment.
C'est une définition assez précise, en réalité.
Meryl voulait participer. À trois ans, il ne joue pas vraiment au jeu du mot suivant, il joue au jeu du mot qui fait rire. J'ai dit "Le loup ouvrit la porte et..." et il a répondu "...chaussette !" avec une satisfaction immense.
J'ai essayé de continuer la phrase avec "chaussette". "Le loup ouvrit la porte et trouva une chaussette." Meryl a trouvé ça extraordinaire. Il a mis "chaussette" dans les quatre phrases suivantes, sans exception.
Ce que j'ai expliqué à Romane pendant ce temps : une IA ne se bloque pas non plus face à un mot inattendu. Elle continue de prédire, même si le résultat devient bizarre. Elle ne s'arrête pas pour dire "ça n'a pas de sens". Elle parie quand même.
"Donc elle peut dire n'importe quoi et avoir l'air sûre ?"
Oui. C'est exactement le problème.
Pour finir
On a relu la phrase construite ensemble ce soir-là. Elle était grammaticalement correcte, à peu près cohérente, et contenait le mot chaussette.
Romane a dit que ça ressemblait à ce qu'elle écrit quand elle ne sait pas quoi mettre dans une rédaction mais qu'elle doit remplir la page.
Meryl a demandé si l'IA aimait les chaussettes.
Je n'ai pas su quoi répondre. Décidément. ����������������������������