LLM

Un LLM (grand modèle de langage) est le modèle d’intelligence artificielle qui se trouve derrière les assistants comme ChatGPT, Claude ou Gemini : un programme entraîné sur d’immenses quantités de texte pour prédire la suite d’une phrase, et donc pour répondre, résumer, traduire, classer ou coder.

Il ne « sait » rien au sens propre et peut se tromper avec assurance : d’où l’importance de le brancher sur des sources vérifiées quand on l’utilise en entreprise.

Ce qu’il fait bien, ce qu’il fait mal. Un LLM est à l’aise sur le langage : reformuler, résumer, extraire une information d’un long document, traduire, trier des messages. Il devient risqué dès qu’il faut une exactitude qu’il n’a pas sous les yeux : un tarif, une référence de pièce, une date, un article de loi. Il produit alors une réponse plausible et fausse, ce qu’on appelle une hallucination.

Modèle, assistant, agent. Le modèle est le moteur. L’assistant est le produit construit autour : interface, historique, garde-fous. Un agent IA va plus loin et enchaîne des actions dans d’autres outils. Beaucoup de capacités attribuées au modèle viennent en réalité de cet outillage.

Le brancher sur ses propres données. Un modèle ne connaît ni vos tarifs, ni vos procédures, ni vos dossiers. Pour qu’il réponde juste, on lui fournit les documents utiles au moment de la question, principe du RAG : la réponse cite alors ses sources et se vérifie.

Ce qu’il faut vérifier. Où partent les données saisies, combien de temps elles sont conservées, si elles servent à entraîner le modèle, et qui relit avant l’envoi au client. La CNIL range les outils cloud publics hébergés hors de l’Union européenne parmi les transferts de données à recenser (CNIL, transferts hors UE) : un assistant en ligne hébergé hors UE en fait partie.