Les LLM (large language model, comme chatGPT par exemple) doivent générer des suites de mots. Mais comment font-ils ?

Il y a de nombreux "algorithmes" possibles, vous allez en découvrir deux.

Pour simplifier, on va générer des suites de lettres (plutôt que des suites de mots).