Top-k

Le top-k est un réglage qui limite le choix de l’intelligence artificielleL'IA (Intelligence Artificielle) est un ensemble de technologies qui permettent à une machine d'imiter des fonctions cognitives humaines, telles que… aux k candidats les plus probables au moment de générer chaque nouveau mot. Pour écrire, un modèle de langageUn LLM (Large Language Model, ou grand modèle de langage) est un programme d'intelligence artificielle entraîné sur d'immenses quantités de textes pour… dresse en permanence la liste de tous les mots qui pourraient venir ensuite, chacun avec sa probabilité. Le top-k réduit cette liste aux k meilleurs avant de tirer au sort parmi eux : avec un top-k de 40, seuls les 40 candidats les plus plausibles restent en lice, les propositions farfelues étant éliminées d’office. Un k petit donne un texte sage et prévisible ; un k grand laisse plus de place à la surprise. Ce réglage se combine généralement avec la températureLa température est un réglage qui dose la part de hasard, et donc de « créativité », dans les réponses d'une intelligence artificielle. et le top-pLe top-p, ou échantillonnage « noyau », est un réglage qui restreint le choix du prochain mot au plus petit groupe de candidats dont les probabilités… pour doser le style des réponses.