Mémoire

Vous avez sûrement déjà vécu ça : vous expliquez longuement votre projet à une IA, vous revenez le lendemain dans une nouvelle conversation, et elle vous regarde avec des yeux ronds. Et pourtant, d'autres fois, elle se souvient que vous travaillez en Java ou que vous préférez les réponses courtes. Alors, une IA a-t-elle une mémoire, oui ou non ?

Tout dépend de ce qu'on appelle mémoire. Et c'est justement là que tout le monde s'emmêle, parce que quatre mécanismes très différents se cachent derrière ce même mot.

Le premier, c'est le contexte. Un modèle de langage, en lui-même, ne se souvient de rien entre deux requêtes. À chaque message, l'application lui renvoie toute la conversation depuis le début, et c'est ce texte-là qu'il lit. Si vous avez l'impression qu'il se souvient de ce que vous avez dit il y a dix messages, c'est simplement que ces dix messages lui ont été renvoyés. Nouvelle conversation, contexte vide.

Le deuxième, c'est la mémoire applicative. L'application (pas le modèle) sauvegarde certaines informations quelque part, "l'utilisateur travaille en Java", "préfère les réponses courtes", et les réinjecte discrètement dans le contexte des conversations suivantes. Le modèle n'a rien retenu : on lui a glissé un pense-bête en haut de la page.

Le troisième, c'est le RAG, qu'on a vu il y a quelques posts : une recherche dynamique dans une base documentaire, pour aller chercher les passages utiles à la question du moment. Là encore, le modèle ne retient rien, il consulte.

Le quatrième, enfin, c'est le fine-tuning : un entraînement supplémentaire qui modifie réellement les paramètres du modèle. C'est le seul des quatre où quelque chose change "dans la tête" du modèle, mais on s'en sert surtout pour ajuster un comportement, pas pour stocker des faits à retrouver.

Si on veut une image : le contexte, c'est ce que vous avez sous les yeux sur le bureau. La mémoire applicative, ce sont les post-it collés sur l'écran. Le RAG, c'est l'armoire de dossiers dans laquelle vous allez fouiller. Et le fine-tuning, c'est une formation que vous avez suivie et qui a changé votre façon de travailler.

Pourquoi c'est important de les distinguer ? Parce qu'ils répondent à des besoins complètement différents. Si votre assistant doit retenir les préférences d'un utilisateur, c'est de la mémoire applicative. S'il doit répondre à partir de la documentation de l'entreprise, c'est du RAG. Se tromper de mécanisme, c'est se lancer dans un projet de trois mois pour résoudre un problème qui se réglait en une semaine.

Et justement, si on peut ajouter une mémoire et un RAG sans toucher au modèle, à quoi sert encore le fine-tuning ? On compare les deux dans le prochain post.