« Entre mon prompt et la réponse du LLM, qu'est-ce qui se passe exactement ? »
Quel est le rôle des vecteurs dans un LLM ?
Client :
« Entre mon prompt et la réponse du LLM, qu'est-ce qui se passe exactement ? »
Moi :
Très bonne question.
Le point clé est simple: un LLM ne manipule pas des “mots” comme nous. Il manipule des nombres.
Ces nombres sont organisés sous forme de vecteurs.
Un vecteur, ici, c’est une liste de valeurs qui représente un token (morceau de mot), une phrase, ou même un document.
Ce qui se passe entre votre prompt et la réponse Quand vous envoyez un prompt, le modèle suit une chaîne d’étapes:
Découpage en tokens
Le texte est découpé en unités (mots, morceaux de mots, ponctuation). Transformation en vecteurs
Chaque token est converti en vecteur numérique (embedding). Calcul d’attention
Le modèle compare les …