Différences

Ci-dessous, les différences entre deux révisions de la page.

--- elsenews:spot-public:ia5generatives [25/12/2025/H19:49:21]
216.73.216.167 supprimée
+++ — (Version actuelle)
@@ Ligne 1: / Ligne 1: @@
-~~NOTOC~~
-@DATE@
-====== L'intelligence Artificielle : vers un engorgement (très bon article Le Monde de Corentin Benoît-Gonin : 17/20) ======
-Inspiré de :
-Le Monde: (6/20) https://www.lemonde.fr/pixels/article/2023/09/10/l-intelligence-artificielle-peut-elle-s-effondrer-sur-elle-meme_6188777_4408996.html (8/20)
-Par : Corentin Benoit-Gonin (6/20)
-----
-[Le Monde: L'intelligence artificielle peut-elle s'effondrer sur elle-même ?](https://www.lemonde.fr/pixels/article/2023/09/10/l-intelligence-artificielle-peut-elle-s-effondrer-sur-elle-meme_6188777_4408996.html )
-<hidden Article Complet (utilisateurs connectés)>
-<ifauth @user>
-Vous pouvez partager un article en cliquant sur les icônes de partage en haut à droite de celui-ci.
-La reproduction totale ou partielle d’un article, sans l’autorisation écrite et préalable du Monde, est strictement interdite.
-Pour plus d’informations, consultez nos conditions générales de vente.
-Pour toute demande d’autorisation, contactez syndication@lemonde.fr.
-En tant qu’abonné, vous pouvez offrir jusqu’à cinq articles par mois à l’un de vos proches grâce à la fonctionnalité « Offrir un article ».
-https://www.lemonde.fr/pixels/article/2023/09/10/l-intelligence-artificielle-peut-elle-s-effondrer-sur-elle-meme_6188777_4408996.html
-Navigation
-Le Monde - retour à la une
-JM
-LÉA GIRARDOT POUR « LE MONDE »
-PIXELS
-INTELLIGENCE ARTIFICIELLE
-L’intelligence artificielle peut-elle s’effondrer sur elle-même ?
-Par Corentin Benoit-Gonin
-Publié hier à 20h00
-Temps deLecture 4 min.
-Article réservé aux abonnés
-Offrir l’article
-Ajouter à vos sélections
-Partager
-DÉCRYPTAGESelon une étude, entraîner les IA génératives avec leurs propres données peut provoquer des dysfonctionnements. Un enjeu, alors que les contenus qui servent souvent à « nourrir » ces systèmes incluent de plus en plus d’éléments synthétiques.
-Et si, plutôt qu’une menace pour l’humanité, l’intelligence artificielle (IA) générative était avant tout un danger pour elle-même ? Cette idée est au cœur d’une étude, qui n’a pas encore fait l’objet d’une évaluation par des pairs, publiée en mai dernier : à force d’être entraînés avec des données elles-mêmes issues d’IA, de tels outils finissent par accumuler les erreurs et arrêtent de fonctionner normalement.
-Ce phénomène, les six auteurs le nomment « effondrement du modèle » (model collapse). Il s’agit d’une dégénérescence ancrée dans les mathématiques (le modèle) qui constituent la base des intelligences artificielles génératives, qu’elles servent à produire des images, du son ou du texte.
-Comme leur nom l’indique, les IA génératives sont capables de créer du contenu sur la base d’une entrée textuelle (le prompt). Mais pour cela, elles ont besoin d’être entraînées avec des jeux de données (data sets), c’est-à-dire des informations contextualisées, triées et formatées, représentatives de ce que l’on cherche à leur faire faire.
-Prédictions statistiques
-Pour un système permettant de générer du texte, par exemple, comme Bard ou ChatGPT, des millions de pages ont ainsi été nécessaires pour leur apprendre à prédire le mot qui arrive après « jamais deux sans…  », et plus largement à produire des paragraphes cohérents. Même chose pour les IA générant de l’image : il a fallu les « nourrir » de quantités astronomiques d’éléments visuels annotés pour qu’elles parviennent à remplir automatiquement une zone vide d’une image en fonction de ce qui semble le plus probable.
-La matière première constituant ces jeux de données est initialement générée par l’activité humaine et largement récupérée sur Internet. Pour le texte, il peut s’agir de billets sur les réseaux sociaux, d’évaluations d’acheteurs sur des sites d’e-commerce ou d’articles de presse. Pour les images, il peut s’agir de bases de données de visages, ou des collections annotées de clichés pris par un satellite.
-Lire aussi : Article réservé à nos abonnés Plusieurs médias internationaux demandent un « cadre juridique » pour l’usage de l’intelligence artificielle
-Ajouter à vos sélections
-Les IA génératives sont donc avant tout des systèmes de prédiction statistique : ce qu’elles produisent est fondé sur des probabilités, elles-mêmes établies en fonction des données issues du monde réel. Or, dans l’hypothèse où on entraînerait les IA avec leur propre production, les occurrences rares risquent, après un certain nombre de générations, de disparaître.
-« Les modèles ont la fâcheuse tendance à faire deux choses : ils surestiment les événements fréquents et sous-estiment ceux qui sont peu plausibles. Et à chaque étape de la récursion, ça s’amplifie, résume au Monde Nicolas Papernot, chercheur à l’université de Toronto ainsi qu’à l’Institut Vecteur, et coauteur de l’étude. L’image facile à comprendre, c’est la photocopieuse. A la première copie, ça se passe bien, mais si on décide de faire une copie de la copie de la copie, on finit par perdre des détails qui étaient présents dans le document original. »
-Des IA qui empoisonnent leur propre puits
-Les modèles d’IA génératives ont, pour cette raison, régulièrement besoin de données fraîches. Des échantillons de réalité qui incluent également les mots les moins utilisés, les tournures les plus originales ou les images les moins probables. « Un humain, contrairement à une machine, passe son temps à inventer. Après avoir utilisé un mot rare, il sait quoi faire parce qu’il a une intention, une compréhension de ce qu’il écrit », détaille François Yvon, chercheur au CNRS. « Un système statistique, lui, n’aime pas aller dans les zones d’incertitude. Avec les techniques qu’on a aujourd’hui, si on n’entraîne qu’avec de la donnée générée, les modèles écrêtent et produisent des séquences trop probables, inintéressantes et peu crédibles. »
-Si les chercheurs se sont mis à étudier la possibilité d’un tel effondrement, c’est parce que les modèles d’IA générative sont désormais pensés comme des produits grand public. « L’apprentissage automatique existe depuis des années, notamment dans la recherche, mais là on bascule dans un monde où les gens y ont accès directement », décrit Nicolas Papernot, en faisant référence à des outils désormais bien connus comme ChatGPT ou Midjourney. Cette ouverture a pour conséquence immédiate de déverser des contenus synthétiques sur la toile. C’est-à-dire là où, bien souvent, sont justement prélevés les éléments utilisés pour entraîner les IA…
-Lire l’enquête : Article réservé à nos abonnés De ChatGPT à Midjourney, les intelligences artificielles génératives s’installent dans les entreprises
-Ajouter à vos sélections
-L’enjeu est donc de préserver la « pureté » des jeux de données utilisés. Un problème d’autant plus complexe que la production des IA devient, à mesure des progrès technologiques, de plus en plus indiscernable des données naturelles. En juillet, l’entreprise OpenAI a d’ailleurs mis un terme à AI Classifier, censé être capable de déterminer avec précision si un texte a été écrit par son outil ChatGPT, à cause de ses piètres résultats. « Sur de très courts textes, comme un tweet, c’est impossible, mais sur des échantillons longs, on réfléchit à des techniques viables pour repérer si ça a été fait par intelligence artificielle », explique François Yvon. Nicolas Papernot évoque par exemple l’idée d’un système de balise dans le code des sites Internet pour indiquer clairement qu’un contenu a été créé par IA. Contactées, les sociétés OpenAI, Meta ou encore Lmsys (à l’origine du chatbot Vicuna), n’ont pas donné suite aux sollicitations du Monde.
-Le risque d’un effondrement des IA reste pour l’heure mesuré. « C’est quelque chose qui pourrait arriver progressivement, mais aujourd’hui, il y a encore largement assez de données naturelles », juge ainsi Nicolas Papernot. « On ne va pas jeter à la poubelle toutes les données que l’on possède aujourd’hui, on aura donc toujours cette base, ajoute François Yvon. Et puis, les humains n’arrêteront pas de produire des données. Ils vont continuer à communiquer, à prendre des photos, à faire des vidéos… Il y aura toujours de la nouveauté. »
-Une autre manière d’empêcher la dégénérescence des IA est, enfin, d’exiger la transparence sur les jeux de données ayant servi à les entraîner, obligation contenue notamment dans l’AI Act, adopté par le Parlement européen en juin. Le texte visait à protéger les utilisateurs face à des acteurs comme Meta, Zoom ou X, qui changent les uns après les autres leurs conditions d’utilisation afin de s’octroyer le droit d’utiliser les données générées par les utilisateurs pour entraîner leurs propres modèles. Mais il pourrait finalement tout aussi bien aider les IA à se protéger d’elles-mêmes.
-Lire aussi : Article réservé à nos abonnés « AI Act » : comment l’UE investit déjà dans des intelligences artificielles à « haut risque » pour contrôler ses frontières
-Ajouter à vos sélections
-Corentin Benoit-Gonin
-Contribuer
-Nos lecteurs ont lu ensuite
-Coupe du monde de rugby 2023 : qu’est-ce que le ruck ?
-Article réservé à nos abonnés Volcan Hunga Tonga : des coulées sous-marines catastrophiques
-Article réservé à nos abonnés Gérard Miller : « Jamais un aussi grand nombre de juifs français n’ont perdu à ce point leur boussole morale »
-Article réservé à nos abonnés Hartmut Rosa, penseur de l’accélération : « L’accélération conduit à un état d’agressivité, particulièrement sensible chez les individus des sociétés occidentales »
-Article réservé à nos abonnés L’improbable trajectoire de Pascal Praud, figure de proue de l’empire Bolloré
-Article réservé à nos abonnés Séisme au Maroc : à Marrakech, « la photo de ce minaret a fait le tour du monde en vingt-quatre heures »
-SERVICES LE MONDE
-GUIDES D'ACHAT LE MONDE
-CODES PROMO
-LE MONDE À L'INTERNATIONAL
-SERVICES PARTENAIRES
-SITES DU GROUPE
-NEWSLETTERS DU MONDE
-Recevoir les newsletters du Monde
-APPLICATIONS MOBILES
-Sur iPhone
-Sur Android
-ABONNEMENT
-Archives du Monde
-S’abonner
-Se connecter
-Consulter le Journal du jour Évenements abonnés Jeux-concours abonnés Contacter Le Monde
-Mentions légales
-Charte du Groupe
-Politique de confidentialité
-Gestion des cookies
-Conditions générales
-Aide (FAQ)
-SUIVEZ LE MONDE
-Facebook
-Youtube
-Twitter
-Instagram
-Snapchat
-Fils RSS
-</ifauth>
-</hidden>

× iphelper toolbox

you see this when javscript or css is not working correct

Untested

ElseNews

Différences

Input

ElseNews

Outils pour utilisateurs

Outils du site

Différences

Input

Outils de la page