25/12/2025/H17:27:47

Démystifier l’IA générative : le vrai, le faux et l’incertain maîtresse de conférences à Sorbonne Université au sein de l’équipe « Machine Learning and Information Access »

Les IA génératives créent du contenu, généralement pertinent et varié (texte, image, vidéo), en se basant sur des probabilités et des modèles de langue profonds. Malgré sa performance, l’IA n’est ni comparable ni équivalente à l’intelligence l’humaine : au détriment de la vérité ce qu’elle vise, c’est la vraisemblance. Le programme perpétue les biais et les erreurs du jeu de données sur lequel il a été entrainé. Cet « outil de travail » ne devrait pas remplacer massivement des emplois, mais pourra même en créer. Son évolution à long terme reste incertaine, mais devra prendre en compte les préoccupations environnementales et tendre vers une l'IA frugale.

#1 L’IA générative : une révolution intelligente ? L’IA générative, une IA à part – VRAI Dans le royaume de l’intelligence artificielle, il existe de nombreuses variétés. Parmi celles-ci, l’IA générative, comme son nom l’indique, se distingue par sa capacité à générer du contenu : texte, image, vidéo… Quelques-uns des systèmes actuels les plus connus sont ChatGPT, Bard, Midjourney ou encore DALL‑E. Leur principe repose sur des probabilités : ils prédisent le mot suivant ou le pixel voisin, en fonction de ce qui leur semble le plus vraisemblable. Pour cela, l’IA générative s’appuie sur un grand modèle de langue, c’est-à-dire un réseau profond de neurones artificiels qui a été entraîné sur une vaste quantité de données. Ainsi, le logiciel identifie les correspondances les plus probables selon le contexte. L’IA générative est intelligente – FAUX Ce fonctionnement permet aux IA génératives de réaliser des performances remarquables. Celles-ci parviennent à établir des liens entre de multiples éléments, à partir d’un énorme volume de données. Un processus complexe, qui implique un grand nombre d’opérations mathématiques, exécutées très rapidement. Néanmoins, peut-on parler d’ « intelligence » ? Si les résultats fournis peuvent être bluffants, le mode opératoire pour y parvenir n’a rien à voir avec l’intelligence humaine. Il ne s’agit pas non plus d’une « IA générale », qui serait capable d’apprendre n’importe quelle tâche réalisée par un être humain. Aujourd’hui, l’IA générative s’apparente plutôt à une multiplication d’IA étroites, réunies au sein d’un même modèle. L’IA générative peut tout faire – INCERTAIN L’IA générative est actuellement employée dans de nombreux domaines : certains s’en servent pour créer de la musique, d’autres des paysages de jeux vidéo… Quant aux modèles de langue initialement utilisés pour capturer la sémantique des mots, ils peuvent aujourd’hui générer du texte, répondre à des questions, traduire du contenu, ou encore générer du code. Mais ces outils possèdent tout de même leurs limites, liées notamment aux jeux de données utilisés durant leur apprentissage. Les corrélations identifiées à cette étape peuvent, en effet, conduire à des erreurs au moment de la génération. De plus, les éventuels biais rencontrés lors de la phase d’entraînement transparaissent dans les résultats. Par exemple, un système de traduction aura tendance à traduire « the nurse » par « l’infirmière », en raison des stéréotypes associés au métier. Par ailleurs, les IA génératives n’affichent pas toujours une grande stabilité. Faites le test avec ChatGPT : posez une même question en variant la formulation, et vous obtiendrez parfois des réponses différentes ! Les systèmes reposent sur des opérations mathématiques qui transforment l’information en vecteurs de grande dimension, ce qui rend complexe l’explicabilité de ces systèmes. Des recherches sont d’ailleurs en cours sur ce sujet. #2 Faut-il se méfier de l’IA générative ? Une IA générative peut se tromper – VRAI Il faut bien garder à l’esprit qu’une IA générative ne vise pas à livrer la vérité, mais à maximiser une vraisemblance, à partir de ses données d’entraînement. Elle fait quelquefois émerger de fausses corrélations entre les mots. De plus, si les données d’entraînement contiennent des erreurs ou des biais, le système les reproduira sans aucun doute. Il ne cherche, de toute façon, pas à savoir si l’information fournie est exacte ou sourcée ! Ce fonctionnement conduit à l’apparition fréquente et imprévisible d’ « hallucinations », c’est-à-dire de réponses erronées ou d’images incohérentes.

Par exemple, d’après une étude de l’université de Hong Kong1, ChatGPT (version GPT‑3.5) afficherait un taux de pertinence de 64 %. Croiriez-vous sur parole quelqu’un qui a plus d’une chance sur trois de se tromper ? Les IA génératives vont se rebeller et prendre le pouvoir – FAUX Dès que l’intelligence artificielle semble franchir une nouvelle étape, les fantasmes de soulèvement des machines ressurgissent, influencés par la science-fiction. Il ne faut pas tendre vers l’anthropomorphisme à outrance : les IA génératives ne font que prédire des probabilités – de façon certes complexe. Elles ne ressentent pas d’émotions et n’ont pas davantage de conscience. Elles ne peuvent donc pas avoir une « volonté » de se rebeller. En 2015, le chercheur américain Andrew Ng2, spécialiste de l’IA, déclarait que craindre une éventuelle révolte de l’IA revenait à « s’inquiéter de la surpopulation sur Mars », alors que « nous n’avons encore jamais mis les pieds sur la planète. » Même si la technologie a sensiblement évolué ces dernières années, la comparaison paraît toujours d’actualité ! L’IA générative pose des problèmes de sécurité et de confidentialité – INCERTAIN Aujourd’hui, il faut avoir conscience que la plupart des modèles d’IA générative sont hébergés sur des serveurs américains. Or, en vertu du Patriot Act et du Cloud Act, les données envoyées peuvent être récupérées par les autorités américaines. De plus, il est certain que les données fournies à ces IA génératives sont réutilisées pour améliorer les modèles, donnant la possibilité de retrouver ces données lors de futures interrogations. Cela peut donc représenter un risque, en particulier pour les entreprises, qui voient la sécurité et la confidentialité de leurs données menacées. Il existe toutefois des solutions d’hébergement avec des espaces dédiés et fermés, ou encore des alternatives d’IA génératives open source pouvant être installées sur des serveurs locaux. Cependant, comme souvent, la réglementation finit par s’adapter au nouveau contexte technologique. Ainsi, fin 2023, le Conseil de l’Union européenne et le Parlement européen sont parvenus à un accord quant à une législation sur l’intelligence artificielle (AI Act)3. Un texte qui sera sans doute affiné, mais qui prévoit de mieux encadrer le recours à l’IA, en conformité avec le droit européen (dont le RGPD). #3 L’IA générative : assistant ou menace pour les travailleurs ? L’IA générative peut remplacer l’être humain sur certaines tâches – VRAI Les facultés de l’IA générative la rendent très utile dans la sphère professionnelle. Elle peut rédiger des contenus, écrire des lignes de code, établir le plan d’une formation… Mais ce qu’elle produit nécessite généralement l’œil humain pour en vérifier l’exactitude, personnaliser le message, y apporter une touche plus sensible… Il s’agit ainsi d’un outil permettant de gagner en productivité et donc de libérer du temps pour travailler différemment. Certains métiers pourraient toutefois disparaître, faute de valeur ajoutée suffisante. Mais n’est-ce pas toujours le cas avec le progrès technique ? Les allumeurs de réverbères, par exemple, n’ont-ils pas disparu avec l’arrivée de l’éclairage électrique ? L’IA générative va mettre des millions de personnes au chômage – FAUX Restons cependant mesurés quant aux conséquences professionnelles de l’IA générative. Il ne s’agit finalement que d’un nouvel outil – très utile – au service de l’être humain. Et les évolutions du marché du travail dépendent de nombreux paramètres… Les caisses automatiques ont-elles fait disparaître les caissiers et caissières ? La formation en ligne a‑t-elle remplacé les écoles et les enseignants ? De plus, l’essor de l’IA générative devrait s’accompagner de nouveaux métiers, à l’image du prompt engineering, discipline visant à optimiser les requêtes formulées à l’IA, de sorte à obtenir les meilleurs résultats possibles. Ainsi, selon l’Organisation internationale du Travail (OIT)4, « l’IA générative est plus susceptible d’augmenter que de détruire les emplois en automatisant certaines tâches plutôt qu’en remplaçant entièrement un rôle. » Jusqu’où ira l’IA générative ? – INCERTAIN Qu’en sera-t-il à long terme ? Comment l’IA générative va-t-elle évoluer ? Prévoir son avenir est délicat : qui aurait réussi à prédire la situation actuelle, il y a quelques années ? Néanmoins, certaines tendances se dessinent, comme l’hybridation des systèmes. Par exemple, le RAG (retrieval-augmented generation, « génération augmentée de récupération ») consiste à combiner une IA générative avec un moteur de recherche, pour améliorer la pertinence des résultats et limiter les hallucinations. Enfin, l’IA générative ne pourra se développer sans une remise en question de son empreinte écologique. Ses modèles exigent, en effet, énormément de données et de puissance de calcul. Une nouvelle voie est ainsi déjà explorée, afin d’optimiser les ressources nécessaires : l’IA frugale. Propos recueillis par Bastien Contreras 1https:arxiv.org/pdf/2302.12095.pdf↑ 2https:www.wired.com/brandlab/2015/05/andrew-ng-deep-learning-mandate-humans-not-just-machines/↑ 3https:www.consilium.europa.eu/fr/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/↑ 4https:news.un.org/fr/story/2023/08/1137832↑ https://www.polytechnique-insights.com/tribunes/science/demystifier-lia-generative-le-vrai-le-faux-et-lincertain/