Toutes les leçons
Cours IA · Leçon 24

Comprendre

16 novembre 20262 min de lecture

C'est la question qui finit toujours par arriver, souvent au café, parfois en réunion : est-ce que cette chose comprend vraiment ce qu'elle raconte ? Et en général, deux camps s'affrontent en trente secondes.

D'un côté : "ce n'est qu'un perroquet statistique, il ne comprend rien du tout". De l'autre : "il comprend, tout simplement". Les deux réponses ont le mérite d'être courtes, et le défaut d'écraser une question qui est réellement ouverte.

Reprenons notre avocat du tout premier post. Un modèle actuel distingue le fruit du juriste, explique pourquoi, traduit correctement les deux phrases, repère un jeu de mots qui joue sur les deux sens, et réutilise la distinction dans une phrase nouvelle qu'il n'a jamais vue. Si vous faisiez passer ce test à un élève, vous en concluriez sans hésiter qu'il a compris le mot.

Fonctionnellement, le modèle manipule donc des représentations suffisamment riches pour produire tous les comportements que nous associons à la compréhension. C'est un fait observable, et c'est déjà beaucoup plus qu'un perroquet qui répète des sons.

Mais ça ne démontre pas qu'il y ait une expérience vécue derrière. Rien là-dedans n'établit qu'il éprouve quoi que ce soit, qu'il ait des intentions propres, ou qu'il sache ce que ça fait de couper un avocat un dimanche matin. Et les modèles ont des failles qui trahissent une compréhension d'une autre nature que la nôtre : ils échouent parfois sur des variantes triviales d'un problème qu'ils venaient de résoudre, ou affirment avec assurance l'exact contraire de ce qu'ils ont écrit trois paragraphes plus haut.

Le compromis honnête, c'est de parler de compréhension fonctionnelle : le système modélise des relations de sens et s'en sert efficacement, sans qu'on puisse en conclure quoi que ce soit sur une conscience. Ce n'est pas une pirouette, c'est l'état actuel de ce qu'on peut affirmer sans se payer de mots.

Et une chose est sûre : cette capacité ne progresse pas seulement en grossissant le modèle. Pourquoi un modèle plus gros n'est-il pas toujours le bon choix ? C'est le sujet du prochain post.

Comprendre

Cette leçon a d'abord été publiée sur LinkedIn. Rejoindre la discussion

Pas envie d'attendre ? Tout le cours, tout de suite.Les 6 leçons encore à venir, plus toutes les autres, sur une page privée rien que pour vous.Accéder à tout le cours · 4,99 €Accès immédiat, sans droit de rétractation · CGV

Envie de mettre l'IA au travail dans votre entreprise ?

Chatbot sur vos documents, agents, automatisation — parlons-en.

Discuter de mon projet