Différences

Ci-dessous, les différences entre deux révisions de la page.

--- elsenews:spot-2024-01a:ia-polie [25/12/2025/H21:56:49]
216.73.216.167 supprimée
+++ — (Version actuelle)
@@ Ligne 1: / Ligne 1: @@
-~~NOTOC~~
-@DATE@
-----
-======  Usbek & Rica - « Les IA ne donnent pas les mêmes résultats selon qu'on s'adresse à elles poliment ou non » ======
- Usbek & Rica - « Les IA ne donnent pas les mêmes résultats selon qu'on s'adresse à elles poliment ou non »
-Face à la percée des IA génératives, certains chercheurs visionnaires anticipent une transformation des enseignements universitaires, d’ores et déjà bouleversés. C’est le cas de Horea Mihai Badau, enseignant-chercheur qui délivre des cours sur l’IA à l’Université de Lorraine et a rédigé une charte éthique pour guider les utilisateurs dans leur compréhension des outils algorithmiques. Cet avant-gardiste souligne la nécessité de prendre le wagon de l’IA en marche dans le milieu universitaire, au risque de basculer dans un futur où même la recherche est dictée par des algorithmes. Entretien.
-Pourquoi vous semble-t-il crucial d'apprendre à apprivoiser les algorithmes, de rendre l'intelligence artificielle intelligible ? Quels sont les risques de l'analphabétisme IA ?
- Horea Mihai Badau
-Si on n’est pas conscient de l’action des algorithmes, on encourt le risque d’être influencé dans nos comportements. C’est ce que j’appelle la « pensée algorithmique” sur les humains. Par exemple, les influenceurs apprécient la valeur de leur contenu sur la base du nombre de mentions j’aime obtenues. à force d’interagir avec les algorithmes, qui agissent et récompensent à la façon des algorithmes, et transforment tout en objectifs. Cette focalisation limite la propension de l’algorithme à diversifier le contenu qu’il présente aux utilisateurs : puisque leur but est de faire appuyer sur le bouton « j’aime », ils nous montrent uniquement les publications qui incitent à liker. En privilégiant le contenu populaire, on débouche sur un appauvrissement sémantique et une homogénéité des contenus.
-Comment imaginez-vous la mise en place de cet apprentissage ? Quels nouveaux cours découvrirons-nous au sein des universités dans les années à venir ?
- Horea Mihai Badau
-On peut imaginer un cours d’initiation au référencement IA dans les filières de journalisme et de communication par exemple. Mais le cours majeur selon moi sera dédié à la maîtrise de notre « miroir algorithmique ». Il s’agit du profil que les algorithmes construisent de nous sur la base de nos actions en ligne. Il sert à anticiper et à satisfaire nos attentes avant qu’on les exprime, comme faire la sélection de l’information sur nos fils, afficher la publicité susceptible de nous intéresser… Notre « moi algorithmique » existe dès lors qu’on commence à utiliser les réseaux sociaux : lorsqu’on navigue en ligne, on est en permanence scruté par des algorithmes. Les ingénieurs de Google et de Facebook disaient en 2017 que leurs algorithmes nous connaissent mieux que notre conjoint après quinze clics.
- « Un Homme averti peut utiliser l’IA, mais s’il n’est pas averti, il sera utilisé par l’IA »
-Horea Mihai Badau, enseignant chercheur à l’Université de Lorraine
- Horea Mihai Badau
-Et cela nous influence, car il détermine les contenus que l’on consomme. C’est ce qu’on appelle « l’effet d’agenda ». Il est important de faire prendre conscience aux élèves de l’impact de leurs actions en ligne, notamment des quinze premiers clics, et de leur apprendre à diriger, maîtriser les algorithmes pour choisir les informations qui leur parviennent. Pour ma part, je ne regarde jamais une vidéo Tiktok que je n’aime pas jusqu’au bout. Cela enverrait un signal trompeur aux algorithmes.
-Pour cela, vous préconisez d'enseigner les techniques conversationnelles à employer dans nos échanges avec les IA. En quoi consistent ces règles de communication ?
- Horea Mihai Badau
-Les algorithmes sont programmés pour répondre à nos attentes, mais encore faut-il les leur communiquer de manière compréhensible, en signalant par exemple une publicité qui ne nous convient pas. Les usagers ne considèrent pas toujours l’algorithme comme un interlocuteur. C’est pour cela que les développeurs travaillent à transformer l’IA en une entité visible et facile à comprendre, qui aurait de plus en plus une apparence humaine. On est arrivé à l’étape de l’« XAI » (intelligence artificielle expliquée), où l’on peut parler avec les algorithmes. Reste à apprendre à communiquer avec eux, à leur envoyer les bonnes commandes discursives.
-J’ai beaucoup conversé avec Chat GPT avant qu’il ne soit davantage contrôlé dans ses réponses, et j’ai par exemple constaté que les algorithmes ne donnent pas les mêmes résultats selon si on s’adresse à eux poliment ou non. Il faut leur parler comme à des êtres humains et parfois s’entretenir longtemps avec eux pour qu’ils affinent leurs réponses et concentrent davantage de ressources. Il n’existe pas de prompt [requête] type, prêt à l’emploi. Créer des prompts pour Chat GPT est quasiment devenu un métier, avec des gens qui les achètent, mais c’est une escroquerie : les algorithmes ne répondent pas seulement en fonction de nos requêtes mais aussi de notre miroir algorithmique, c’est pourquoi un même prompt ne va pas systématiquement amener la même réponse.
-Pour cela, vous préconisez d'enseigner les techniques conversationnelles à employer dans nos échanges avec les IA. En quoi consistent ces règles de communication ?
- Horea Mihai Badau
-Les algorithmes sont programmés pour répondre à nos attentes, mais encore faut-il les leur communiquer de manière compréhensible, en signalant par exemple une publicité qui ne nous convient pas. Les usagers ne considèrent pas toujours l’algorithme comme un interlocuteur. C’est pour cela que les développeurs travaillent à transformer l’IA en une entité visible et facile à comprendre, qui aurait de plus en plus une apparence humaine. On est arrivé à l’étape de l’« XAI » (intelligence artificielle expliquée), où l’on peut parler avec les algorithmes. Reste à apprendre à communiquer avec eux, à leur envoyer les bonnes commandes discursives.
- Horea Mihai Badau
-J’ai beaucoup conversé avec Chat GPT avant qu’il ne soit davantage contrôlé dans ses réponses, et j’ai par exemple constaté que les algorithmes ne donnent pas les mêmes résultats selon si on s’adresse à eux poliment ou non. Il faut leur parler comme à des êtres humains et parfois s’entretenir longtemps avec eux pour qu’ils affinent leurs réponses et concentrent davantage de ressources. Il n’existe pas de prompt [requête] type, prêt à l’emploi. Créer des prompts pour Chat GPT est quasiment devenu un métier, avec des gens qui les achètent, mais c’est une escroquerie : les algorithmes ne répondent pas seulement en fonction de nos requêtes mais aussi de notre miroir algorithmique, c’est pourquoi un même prompt ne va pas systématiquement amener la même réponse.
-Certains établissements étaient au départ réfractaires à l'utilisation de l'IA par leurs étudiants, et l'avaient même proscrite, à l'instar de l'école Sciences Po en janvier 2023. Pourquoi est-ce selon vous une nécessité absolue que les professeurs s'en emparent ?
- Horea Mihai Badau
-Les universités doivent rapidement élargir leur offre de cours sur l’IA et contribuer à la « littératie IA ». Car un homme averti peut utiliser l’IA, mais s’il n’est pas averti, il sera utilisé par l’IA : sii elle n’a pas de commande claire de notre part, elle crée nos attentes plutôt que d’y répondre. Aux professeurs réfractaires à l’IA, j’objecterais que ce dispositif est déjà dans leur salle de cours, que les étudiants travaillent déjà avec des chatbots et se font voler leurs données. Notre devoir en tant qu’enseignant est de ne pas l’ignorer. On doit occuper les ordinateurs pendant mais aussi après les heures de cours, en exerçant notre influence sur les algorithmes, en créant nos propres chatbots.
-En expérimentateur et curieux insatiable, vous avez créé votre propre chatbot avec GPT 4, que vous avez nourri de vos recherches, imprégné de votre personnalité, et que vous éduquez chaque jour. Quelle place auront les chabots dans les facultés ?
- Horea Mihai Badau
-Je pense que les étudiants n’auront pas un professeur dans la salle, mais deux. L’un sera dans sa forme physique, le second sera son alter ego qui accompagnera les étudiants à la maison, qui répondra après 18h, pendant le week-end, la nuit etc. Le professeur donnera des indications à l’algorithme sur ce qu’il doit dire et faire.
-Au-delà de la conversion de chatbots en assistants personnels des enseignants, vous prédisez et prônez le développement de chatbots universitaires sur le modèle de celui d'Harvard. Quels seraient leurs avantages comparé aux chatbots existant sur le marché, quelles fonctions rempliraient-ils ?
- Horea Mihai Badau
-Open AI a lancé, dans la nuit du 10 au 11 janvier 2024, son GPT Store : un magasin comme Google Play ou Apple Store, où on a la possibilité de commercialiser son propre chatbot. Je pourrais me contenter de proposer un chatbot sur Open AI, mais ça n’est pas la solution. Il est préférable que chaque université crée son propre chatbot, afin de proposer une source d’informations fiable et unique, à but non lucratif. Sur Open AI, on ne connaît pas la source des informations fournies par les chatbots. Une partie des « influenceurs » de ChatGPT, à savoir les usagers ayant le plus d’abonnés à leur chatbot et arrivant en haut des classements d’Open AI, diffuse de fausses informations.
- « Les entreprises ont créé toutes les conditions pour s’approprier nos connaissances »
-Horea Mihai Badau, enseignant chercheur à l’Université de Lorraine
- Horea Mihai Badau
-L’intérêt de proposer un chatbot universitaire, en plus d’assurer le sourçage et la fiabilité des informations, est de conserver les données des chercheurs, qui sont transférées à Open AI lorsqu’on crée un chatbot via la plateforme. Évitons de léguer nos données à une entreprise privée américaine, qui en tire du profit. Je pense que le futur de l’éducation n’est pas de créer des universités privées sur les plateformes existantes, ce qui est très facile et attirant, puisque les entreprises ont créé toutes les conditions pour s’approprier nos connaissances. C’est une invitation commode à donner notre cerveau.
-J’ai créé un chatbot sur Open AI uniquement pour comprendre la manière dont l’IA fonctionne, à des fins d’expérimentation, mais pas comme une solution pérenne. L’université de Harvard a créé son propre chatbot, mais il n’est pas disponible au grand public. Je suis un partisan de la science ouverte. C’est pour cela que j’encourage et œuvre au développement d’un chatbot ouvert à tous et en open source à l’Université de Lorraine.
-Vous alertez sur le manque de formation des enseignants en IA. Quelles sont les conséquences de cette faille ?
- Horea Mihai Badau
-Il faut former les professeurs à l’IA parce qu’il existe une demande croissante de la part des élèves. Dans mon université, des étudiants en Master ont par exemple proposé des sujets comme le journalisme à l’ère de l’IA et de DALL-E 3 (IA générative permettant de créer des images à l’aide de commandes textuelles, ndlr), mais il n’y a pas toujours de chercheur spécialiste du sujet pour les diriger. C’est une situation qui va se généraliser dans l’enseignement académique, et c’est alarmant car si les professeurs ne sont pas formés à l’IA, ils vont être dépassés par leurs étudiants.
-https://usbeketrica.com/fr/article/les-ia-ne-donnent-pas-les-memes-resultats-selon-si-on-s-adresse-a-elles-poliment-ou-non

× iphelper toolbox

you see this when javscript or css is not working correct

Untested

ElseNews

Différences

Input

ElseNews

Outils pour utilisateurs

Outils du site

Différences

Input

Outils de la page