IA. Le jour où nous n’aurons plus besoin d’apprendre

Les intelligences artificielles peuvent lire, résumer, écrire ou encore traduire un texte à notre place. Nous pourrions leur déléguer une partie de notre travail de réflexion, en somme. Mais est-ce une bonne idée ? Le magazine allemand “Die Zeit” ouvre le débat.

Il n’y a pas si longtemps encore, on pensait que le pays de cocagne était un endroit merveilleux qui n’existait que dans les proverbes et les contes de fées. Les oies rôties vous tombent tout droit dans le bec, il n’y a qu’à se baisser pour ramasser des meules de fromage, le lait coule dans les ruisseaux, les clôtures sont en saucisses et les volets en pain d’épices. Tout est à portée de main, sans réclamer le moindre effort. Une fiction trop belle pour être vraie. À moins que… On sait aujourd’hui que les oies rôties volantes et les clôtures en saucisses existent bel et bien : dans le “pays de cocagne cognitif” que l’intelligence artificielle (IA) crée pour nous. Celle-ci lit les livres à notre place et nous les résume, en somme nous mâche le travail, de sorte que nous n’avons plus qu’à ingurgiter et à digérer. Elle se charge des comptes rendus de réunions et du déroulement des ateliers. Elle rédige de charmants discours, des essais concis, sans que nous ayons pour cela à lever le petit doigt. Un paradis… ou un enfer ? Et si un jour – des gens comme Elon Musk y travaillent déjà – l’IA se retrouve implantée dans nos cerveaux, comme l’imagine par exemple le futurologue Ray Kurzweil*, l’humain n’aura tout bonnement plus rien à apprendre. C’en sera fini de la frustration de voir les connaissances rentrer par une oreille et ressortir par l’autre. De n’avoir pas suffisamment de talent pour certaines choses. Tout un chacun pourra assimiler ce qu’il veut en deux coups de cuillère à pot. L’être humain se transcendera lui-même. Voilà pour la vision optimiste des choses.

Seulement voilà, l’expression “pays de cocagne” peut aussi faire référence au célèbre tableau du même nom, signé par Pieter Bruegel l’Ancien. L’artiste a peint la scène en question pendant la seconde moitié du XVIe siècle : on y voit trois hommes avachis par terre, qui ne sont visiblement plus maîtres de leur corps bouffi. Étalés. Fourbus. Éteints. Ils sont entourés de divers mets et breuvages, tout est là, ils n’auraient qu’à tendre un peu le bras, mais sont bien trop las et repus pour cela.

De quelle vision prenons-nous le chemin ? Quel pays de cocagne intellectuel nous attend ? Un monde dans lequel nous n’aurions plus besoin d’apprendre serait-il un paradis où il nous serait loisible de mener une vie de rêve, sans effort, sans fatigue et sans douleur ? Ou serions-nous au contraire happés dans un maelström infernal ? Quel effet la fin de l’apprentissage aurait-elle sur nous ? Moins intelligents… sans le savoir S’il est difficile d’apporter une réponse solidement étayée, nous disposons tout de même de quelques éléments en nous penchant sur les conséquences que la technicisation de la pensée a eues jusqu’à présent. Une étude a ainsi fait parler d’elle en juin dernier, quand des chercheurs du Massachusetts Institute of Technology (MIT) ont établi que l’utilisation de ChatGPT entraînait une diminution de la connectivité neuronale – évaluée en mesurant l’activité cérébrale pendant la rédaction d’une dissertation –, et que cet effet perdurait pendant la rédaction d’une deuxième dissertation sans l’aide de l’IA. Une connectivité neuronale réduite n’implique pas nécessairement un abêtissement des utilisateurs de l’IA. Mais cela semble en tout cas confirmer qu’ils auront moins besoin de réfléchir. Si elle comptait trop peu de participants [54 personnes âgées de 18 à 39 ans, et venant d’une douzaine de pays différents] pour que l’on puisse en tirer des conclusions vraiment fiables, l’étude n’en soulève pas moins une question de taille : que se passe-t-il quand notre cerveau n’est plus sollicité à intervalles réguliers ? Sommes-nous sur le point d’atrophier notre capacité de réflexion sous l’effet de l’IA, comme un muscle que l’on ne ferait plus travailler ? Amnésie numérique Les résultats de l’étude en question concordent d’ailleurs avec ceux d’autres expériences. En 2020, il a ainsi été démontré que les gens qui se servent d’un GPS ont beaucoup plus de mal à s’orienter de manière autonome. D’autres études ont établi que l’on mémorise moins bien les informations à partir du moment où l’on sait qu’on peut y accéder numériquement. C’est ce qu’on appelle l’“amnésie numérique”. C’est le même phénomène qui se produit quand on dresse une liste de choses à faire, qui s’efface de la mémoire dès qu’elle est notée. Hélas, cette forme d’amnésie semble aller de pair avec un autre phénomène : en 2021, une étude a montré que les internautes surestiment leurs connaissances après avoir lancé une recherche sur Google. Est-ce donc à cela que ressemblera l’avenir ? Notre capacité de réflexion se rabougrirait, mais nous ne nous en apercevrions même pas, car nous nous sentirions malgré tout très intelligents du fait de notre efficacité dans l’usage de l’intelligence artificielle ? Perdrions-nous alors notre capacité à porter un regard critique sur nous-mêmes et sur notre environnement ? C’est bien possible. Illustration de Taylor Callery parue dans dans Manifest, LLC / EdTech New York. © Rapp|Art Et ce ne serait peut-être pas le seul problème. Car l’apprentissage semble avoir pour caractéristique importante de réclamer un effort. C’est en tout cas ce que nous apprennent les travaux sur la motivation. Il nous faut d’abord venir à bout d’un obstacle pour avoir le sentiment d’être efficace. L’apprentissage ne procure de plaisir que lorsque ce qu’on a accompli nous semblait ardu. La fin du plaisir d’apprendre ? Après tout, il est plus satisfaisant de préparer un gâteau soi-même que d’utiliser un mélange tout prêt (même si ça va plus vite comme ça). De la même manière, la plupart des gens trouvent plus gratifiant d’escalader une montagne à la force des mollets que de prendre le téléphérique jusqu’au sommet. Mais si toutes les montagnes intellectuelles étaient équipées de téléphériques et qu’il était attendu socialement que nous en fassions usage, qui trouverait encore le courage et la motivation de randonner ? On constaterait le même phénomène que celui que l’on observe déjà dans les écoles et les universités : celles et ceux qui n’exploitent pas toutes les possibilités de l’IA sont désavantagés d’emblée. Celles et ceux qui se donnent la peine d’apprendre par eux-mêmes se font distancer. Les enseignants partent dorénavant du principe que les devoirs à faire à la maison n’ont pas été faits pour la plupart par les élèves, mais par l’IA. Si la métaphore du téléphérique est valide, on est en droit de supposer que l’avènement des devoirs à la maison rédigés par l’IA ou avec son aide aura raison du plaisir d’apprendre. Et que, à l’école et à l’université, mais ailleurs aussi, cette disparition des joies de l’apprentissage s’accompagnera de celle de la curiosité intellectuelle pour les autres. Les discussions fiévreuses, les polémiques enflammées… Tout cela deviendrait superflu, puisque ce type d’échanges ne permettra plus d’acquérir des connaissances nouvelles ou surprenantes. Et, quand bien même, ce serait par trop inefficace. S’exposer à nos limites La curiosité et le plaisir de réfléchir ne sont-ils pas toutefois des caractéristiques consubstantielles à la nature humaine ? Platon, en tout cas, qualifiait l’émerveillement et le désir de comprendre le monde – l’origine de la philosophie – de “bienfait le plus important qui ait jamais été offert et qui sera jamais accordé à la race mortelle, un bienfait qui vient des dieux”. Quand Christophe Colomb cherchait la route occidentale des Indes, il était aiguillonné par la curiosité. Léonard de Vinci, encore aujourd’hui l’archétype du génie universel, ne voulait pas seulement comprendre le monde dans toute sa diversité, mais également le façonner, mû par la curiosité irrépressible de l’inventeur. Dans sa fameuse Éthique à Nicomaque, Aristote affirmait que la pensée rationnelle était le propre de l’humain : qu’elle nous distinguait des autres créatures. Et que pratiquer et aiguiser cette pensée était dès lors la clé d’une vie épanouie. Que se passe-t-il quand l’homme s’optimise intellectuellement en sous-traitant chaque fois qu’il le peut sa pensée à la machine ? Se perd-il alors lui-même ? Quand on se met à creuser ces questions sur un plan philosophique, on découvre une faille possible dans le raisonnement de celles et ceux qui veulent augmenter l’humain par la technique : peut-être est-il en effet faux de penser que les limites de l’humain constituent un défaut auquel il convient de remédier. Peut-être est-ce précisément là l’essence de l’humain, ce qui donne un sens à sa vie : le fait de vivre dans un monde instable truffé de menaces existentielles, dont il ne comprend que des bribes, ce qui le rend tributaire du point de vue et des connaissances d’autrui. Le fait qu’il soit confronté à l’échec et doive tenter de tirer le meilleur parti de la finitude de l’existence. Illustration de Taylor Callery parue dans dans Manifest, LLC / EdTech New York. © Rapp|Art C’est en tout cas ce que semble confirmer l’observation selon laquelle les humains qui ont surmonté une crise en sortent généralement plus forts. Ce ne serait que par des expériences marquantes, parfois désagréables, qu’il élaborerait une forme de sagesse à l’égard de la vie. Les philosophes existentialistes comme Karl Jaspers [1883-1969] et Martin Heidegger [1889-1976] ont souligné que l’humain ne se découvrait lui-même que lorsqu’il était confronté à des situations limites de son existence. À la mort, à l’accident, à la maladie – et à l’échec. Différentes formes de connaissances Mais cela voudrait dire aussi autre chose : que les connaissances que l’on peut compiler dans les bases de données numériques et faire analyser par l’IA présentent des lacunes. Tout savoir sur le saut en parachute, ce n’est pas la même chose que d’avoir fait soi-même l’expérience du saut. Le savoir numérique est déconnecté de toute matérialité, or certains arguments solides portent à croire que notre corps influe notablement sur notre manière de penser et sur la nature même de la pensée. On ne saisit l’expression “avoir des papillons dans le ventre” que lorsqu’on tombe soi-même amoureux. Entreprendre soi-même un long voyage nous change bien plus que la lecture attentive d’un guide touristique, si épais soit-il. Et l’informatique dématérialisée présente encore une autre faille : dans un monde aussi complexe que le nôtre, il n’existe pas de réponse claire à bon nombre de questions. Aux questions éthiques, par exemple. On ne peut y répondre qu’en prenant d’abord certaines décisions, en se positionnant du point de vue de l’humain, sur ce que l’on juge juste et bon. Veut-on par exemple protéger les faibles ou les biens des riches ? Vaut-il mieux que quelques personnes vivent sur un grand pied au détriment des autres, ou vaut-il mieux contraire que le plus grand nombre ait des conditions de vie décentes ? De telles questions doivent être traitées au cas par cas par des humains. Le monde tel qu’il est décrit par les sciences physiques et naturelles n’apporte aucune réponse à ces questions. C’est là que le bât blesse dans l’idée d’augmenter l’humain par la technologie : l’IA, c’est le royaume du quantifiable. Et elle nous laisse croire qu’il pourrait exister une manière objective et vraie de décrire le monde. Ce faisant, elle néglige d’autres formes de savoir : le savoir empirique implicite, l’intuition, l’empathie véritable, les émotions authentiques. Ne pas privilégier le quantitatif Récemment, on a pu voir que le fait de glisser tout cela sous le tapis pouvait être lourd de conséquences sur le plan social. Pendant la pandémie de Covid-19, c’est longtemps une vision scientifique et quantitative de la crise qui a prévalu. Un enseignement tiré de cet épisode et maintes fois répété est que les problèmes qui touchent la société, comme une pandémie, ne sauraient être résolus par des moyens purement scientifiques et techniques, mais qu’il convient de les aborder de manière interdisciplinaire, en tenant compte d’un éventail de points de vue le plus large possible. Dans la Silicon Valley, cette vision des choses ne s’est pas encore imposée. C’est inquiétant. Car c’est peut-être là que l’on pose en ce moment les jalons du monde dans lequel nous vivrons tous bientôt. Ce pourrait être un monde dans lequel l’intelligence artificielle sera une aide précieuse qui améliore la vie de tout un chacun, en collaboration avec l’humain. Ou bien un monde dans lequel nous perdrons ce qui fait la richesse de notre pensée. La question reste entière. À celle de savoir s’il serait vraiment bon que nous, les humains, augmentions notre intelligence grâce à la technologie, le visionnaire Ray Kurzweil répond volontiers par une expérience de pensée. Supposons que nous puissions parler aux souris et que nous demandions à l’une d’elles si elle aimerait devenir aussi intelligente qu’un humain : elle répondrait immédiatement par l’affirmative, Kurzweil en est persuadé. Peut-être est-ce vrai, car la souris ne se laisserait plus prendre aussi vite dans la souricière. Mais peut-être est-ce faux… Ray Kurzweil n’est pas le seul à s’être intéressé à l’idée de faire parler les animaux. Le philosophe Ludwig Wittgenstein [1889-1951] écrivait dans ses Investigations philosophiques : “Si un lion pouvait parler, nous ne pourrions pas le comprendre.” Ce qu’il voulait dire par là, c’est que les mots du lion n’ont de sens que de son point de vue de lion, en fonction de sa pratique de l’existence. Le lion ne saurait que faire de notre savoir humain, tout comme nous ne saurions que faire de sa vision du monde. Cela n’aurait aucun sens pour lui de se demander s’il désire être aussi intelligent que nous. Car, pour lui, cela reviendrait à renoncer à sa “léonité”. * Dans un entretien au même magazine, l’Américain assure que ce n’est pas grave si les gens ne lisent plus de livres, car il imagine un avenir très proche où nos cerveaux seront connectés à des IA et auront donc un accès immédiat aux “millions de livres” que ces IA auront “lus”, dit-il : “Notre intelligence sera plus que décuplée.” https://www.courrierinternational.com/long-format/ia-le-jour-ou-nous-n-aurons-plus-besoin-d-apprendre_234267