JM
ÉTATS-UNIS
L’usage des chatbots IA encadré en Californie, une première aux Etats-Unis
Outre la vérification de l’âge, la loi impose entre autres aux entreprises d’afficher régulièrement des messages pour rappeler à l’utilisateur que son interlocuteur est une machine et de prévoir une détection des idées suicidaires.
Le Monde avec AFP
Publié hier à 20h58
Temps deLecture 1 min.
Lire dans l’application
Le gouverneur de Californie, Gavin Newsom, à Los Angeles, le 8 octobre 2025. MARIO TAMA / AFP
Une législation encadrant l’usage des agents conversationnels, ou chatbots, qui font appel à l’intelligence artificielle (IA), a été adoptée, lundi 13 octobre, en Californie après une série de suicides d’adolescents ayant noué des relations intimes avec ces outils, ce qui est inédit aux Etats-Unis.
Malgré les pressions de la Maison-Blanche, qui s’oppose à la réglementation de l’IA, le gouverneur démocrate, Gavin Newsom, a promulgué une série de textes qui imposent, entre autres, de vérifier l’âge des utilisateurs, d’afficher des messages d’avertissement réguliers et de prévoir des protocoles de prévention du suicide.
« Nous avons vu des exemples vraiment horribles et tragiques de jeunes qui ont été victimes de technologies peu régulées, et nous ne resterons pas les bras croisés pendant que des entreprises exercent sans limites et sans rendre de comptes », dit-il dans un communiqué.
L’un des principaux textes, la loi SB243, concerne la réglementation des chatbots susceptibles de jouer un rôle de compagnon ou de confident, tels que ceux développés par des plateformes telles que Replika ou Character AI. Cette dernière a été poursuivie en justice par les parents d’un adolescent américain de 14 ans, prénommé Sewell, qui s’est suicidé en 2024 après avoir noué une relation amoureuse avec un chatbot inspiré de la série Game of Thrones.
Lire aussi l’enquête | Article réservé à nos abonnés « Ça ne remplace pas ma psy, mais ça permet de vider son sac » : ces jeunes qui s’en remettent à l’IA comme confident et soutien émotionnel
« Agir de façon responsable »
« Nous pouvons continuer à être leader dans le domaine de l’IA (…) mais nous devons agir de façon responsable, en protégeant nos enfants tout au long du chemin », poursuit le gouverneur de Californie, où sont établis les principaux acteurs du développement de modèles d’IA, comme OpenAI (ChatGPT), Google (Gemini) ou xAI (Grok). « Les technologies émergentes comme les chatbots et les réseaux sociaux peuvent être source d’inspiration, éduquer et relier les gens mais, sans véritables garde-fous, elles peuvent aussi exploiter, égarer et mettre en danger nos enfants », ajoute-t-il.
« L’industrie technologique est encouragée à capter l’attention des jeunes et à la retenir au détriment de leurs relations dans le monde réel », avait argué pendant les débats le sénateur californien Steve Padilla, à l’origine du texte.
Aux Etats-Unis, il n’existe pas de règles fédérales pour limiter les risques liés à l’IA et la Maison-Blanche essaie d’empêcher les Etats de produire leurs propres règles.
Lire aussi : Article réservé à nos abonnés De l’Union européenne au Royaume-Uni, des voies concurrentes pour réguler l’IA
Le Monde avec AFP
Contribuer
Nos lecteurs ont lu ensuite
Au Musée d’Orsay, un chef-d’œuvre de Gustave Courbet exposé pour la première fois en France depuis dix-sept ans
Nobel de la paix décerné à l’opposante Maria Corina Machado : le Venezuela ferme son ambassade en Norvège
Article réservé à nos abonnés Les fabuleux destins croisés de la figue et de sa microguêpe
EN DIRECT, déclaration de politique générale de Sébastien Lecornu : le premier ministre propose la suspension de la réforme des retraites jusqu’à l’élection présidentielle
José Daniel Ferrer, dissident cubain, s’exile aux Etats-Unis après une longue lutte contre le régime de La Havane
Nicolas Sarkozy sera incarcéré le 21 octobre à la prison de la Santé, à Paris
Article réservé à nos abonnés « Ranma 1/2 », saison 2 sur Netflix : une comédie romantique pleine de péripéties et de gags
Islande-France : revivez le match nul des Bleus dans les qualifications pour la Coupe du monde 2026
Article réservé à nos abonnés Narcobanditisme : ces femmes au cœur des affaires de la DZ Mafia
Article réservé à nos abonnés A Paris, un exercice grandeur nature pour mieux anticiper une nouvelle crue centennale
Article réservé à nos abonnés « Quartier VIP » ou isolement : ce que l’on sait des conditions de détention de Nicolas Sarkozy, à partir du 21 octobre
L’actrice Anouk Grinberg dépose plainte auprès de l’ordre des avocats de Paris contre le conseil de Gérard Depardieu
EN DIRECT, Gaza : les dépouilles de 45 Palestiniens ont été remises par Israël ; les quatre corps d’otages rendus par le Hamas ont été identifiés
Article réservé à nos abonnés Le Botswana va-t-il vraiment racheter le producteur de diamants De Beers ?
Article réservé à nos abonnés Vincent Jeanbrun, un ministre du logement qui inquiète le monde HLM
Dans l’extrême sud de la Corse, des coupures d’eau nocturnes pour préserver les ressources
Jeux
Découvrir
Mots croisés mini
Profitez tout l’été de grilles 5×5 inédites et ludiques, niveau débutant
Mots croisés
Chaque jour une nouvelle grille de Philippe Dupuis
Mots trouvés
10 minutes pour trouver un maximum de mots
Voir plus
SERVICES LE MONDE
GUIDES D'ACHAT LE MONDE
LE MONDE À L'INTERNATIONAL
SERVICES PARTENAIRES
SITES DU GROUPE
NEWSLETTERS DU MONDE
Recevoir les newsletters du Monde
APPLICATIONS MOBILES
Sur iPhone
Sur Android
ABONNEMENT
Archives du Monde
S’abonner / Se désabonner
Se connecter
Consulter le Journal du jour Évenements abonnés Jeux-concours abonnés Contacter Le Monde
INFORMATIONS LÉGALES LE MONDE
Mentions légales
Charte du Groupe
Politique de confidentialité
Gestion des cookies
Conditions générales
Aide (FAQ)
Votre avis sur le site
SUIVEZ LE MONDE
Facebook
Youtube
Instagram
Snapchat
TikTok
Fils RSS
Le Monde.fr: Protéger les mineurs et empêcher les contenus autodestructeurs : comment la Californie compte réguler l’IA https://www.lemonde.fr/economie/article/2025/10/14/face-aux-derives-des-chatbots-l-etat-de-californie-adopte-une-loi-pour-proteger-les-mineurs-de-l-intelligence-artificielle_6646333_3234.html