Les grands modèles de langage

Leçon 4 sur 8 · Notions fondamentales de l'IA 101 · Débutant

Les grands modèles de langage sont la technologie derrière de nombreux outils d'IA textuelle devenus largement disponibles. Comprendre ce qu'ils sont — et ce qu'ils ne sont pas — vous aide à les utiliser plus efficacement.

Qu'est-ce qu'un grand modèle de langage?

Un grand modèle de langage (GML) est un type de système d'IA entraîné sur de très grandes quantités de données textuelles pour prédire et générer du langage. Les GML apprennent des modèles statistiques dans le langage et utilisent ces modèles pour générer des réponses aux invites.

Jetons

Les GML ne traitent pas le texte mot par mot. Ils traitent des jetons — des morceaux de texte qui peuvent être un mot, une partie d'un mot ou un signe de ponctuation.

Invites et fenêtres de contexte

Une invite est l'entrée que vous fournissez à un GML. Une fenêtre de contexte est la quantité de texte que le modèle peut considérer à la fois. Le texte en dehors de la fenêtre de contexte n'est pas disponible pour le modèle lors de la génération d'une réponse.

Pourquoi une sortie fluide peut encore être inexacte

Les GML sont entraînés à produire du texte statistiquement plausible. Ils ne sont pas entraînés à vérifier les faits. Un modèle peut produire une réponse confiante et bien structurée qui est factuellement incorrecte. C'est ce qu'on appelle parfois une hallucination.

Un GML n'est pas un moteur de recherche

Un moteur de recherche récupère des documents existants. Un GML génère du nouveau texte basé sur des modèles dans ses données d'entraînement. Ce sont des opérations fondamentalement différentes.

Un GML n'est pas une base de données

Une base de données stocke des données structurées et récupère des enregistrements exacts. Un GML génère du texte probabiliste. Il ne peut pas récupérer des faits spécifiques de manière fiable comme une base de données.