Qu'est-ce qu'une machine à langage ?
L'idée centrale avant tout code
Comprendre qu'une machine à écrire essaie de poursuivre un texte en se basant sur des modèles appris.
L'idée la plus importante
Une machine linguistique reçoit un morceau de texte et tente de prédire la suite qui a le plus de sens.
Par exemple, si vous écrivez "Le chat a escaladé le...", la suite probable sera "le toit". Le modèle n'a pas besoin d'imaginer un chat d'une manière humaine. Il calcule les modèles qu'il a déjà vus.
Entrée, traitement et sortie
Nous pouvons imaginer trois parties : vous lui donnez une phrase ; la machine analyse les modèles ; elle choisit une suite probable.
Si l'entrée est "J'aime le café avec", la sortie peut être "lait", "sucre" ou "cannelle", en fonction de ce qu'il a appris.
La machine ne sait rien au départ - et c'est très bien ainsi
Au stade zéro, notre machine ne sait rien. Elle a besoin de recevoir des textes, d'observer des répétitions et de construire une règle pour décider de ce qui vient ensuite.
La première version peut être extrêmement simple : comptez les mots qui ont tendance à suivre d'autres mots.
Une analogie utile
Imaginez une personne qui ne parle pas anglais mais qui a lu des milliers de phrases. Elle remarque que le mot "morning" suit souvent le mot "good". Sans en comprendre le sens, elle peut quand même compléter le modèle.
Une petite machine à langage commence exactement par là : en observant des modèles.
Exercice rapide
Complétez mentalement ces réponses : "Je me brosse les dents avec...", "Au petit-déjeuner, je bois...", "Le ciel est plein de...". Puis posez-vous la question suivante : pourquoi ces réponses sont-elles venues si vite ?
Voir la réponse attendue
Parce que votre cerveau a déjà vu de nombreux modèles similaires. La machine tente d'imiter cette capacité à l'aide de statistiques.
Une petite machine à langage reçoit du texte, observe le contexte, estime les suites possibles, choisit une suite et répète le processus.