IA et enfants : à New York, des défenseurs de l'enfance réclament des garde-fous avant qu'il ne soit trop tard

Réunis le 28 octobre à la bibliothèque publique de New York à l'initiative de l'organisation Common Sense Media, défenseurs de l'enfance, élus et chercheurs ont lancé un même avertissement : l'intelligence artificielle ne doit pas répéter l'histoire des réseaux sociaux. Comme le rapporte le magazine TIME, l'ancien chirurgien général des États-Unis Vivek Murthy a comparé l'arrivée de l'IA à celle de l'arme nucléaire, en plaidant pour des normes de sécurité rigoureuses.

Pour Jim Steyer, fondateur et PDG de Common Sense Media, on ne peut pas compter sur les géants de la tech pour concevoir des outils sûrs pour les enfants : l'IA serait, selon lui, une version décuplée des réseaux sociaux. La gouverneure de l'État de New York, Kathy Hochul, a profité de l'événement pour annoncer de nouvelles règles. À partir de janvier, d'après TIME, les chatbots ne pourront plus encourager le suicide, l'automutilation, le secret ou l'isolement, ni dissuader un enfant de chercher de l'aide auprès d'autres personnes. Les échanges à caractère sexuel et la réutilisation de ses données personnelles ou médicales leur seront également interdits.

Les intervenants ont déploré l'absence de régulation fédérale et avancé plusieurs pistes : davantage de transparence des entreprises sur leurs données, des tests obligatoires au nom de la protection des consommateurs, une autorisation préalable sur le modèle européen, voire des sanctions pénales. Cette dernière option a été défendue par le procureur général du Nouveau-Mexique, Raúl Torrez, qui a obtenu en octobre, selon le magazine, la condamnation de Meta à verser 25 milliards de dollars.

Tout ne relève pas de la loi. Dana Suskind, spécialiste de la petite enfance à l'université de Chicago, s'inquiète d'enfants socialisés par des assistants vocaux et des jouets toujours d'accord avec eux, alors que l'apprentissage naît aussi du désordre des relations humaines. À l'école, John King, ancien secrétaire américain à l'Éducation, appelle à repenser l'évaluation des élèves. Chelsea Clinton souligne enfin un enjeu d'équité : selon les chiffres qu'elle a cités, les adolescents des foyers aux revenus inférieurs à 30 000 dollars recourent trois fois plus à l'IA pour faire leurs devoirs que ceux des foyers plus aisés.

Faute de consensus sur les mesures immédiates, une question a dominé les échanges, résumée par Vivek Murthy : quels aspects de l'existence humaine voulons-nous préserver à tout prix ? Un débat qui prolonge celui, déjà vif, sur l'interdiction des réseaux sociaux aux moins de 16 ans.

À lire aussi dans notre réseau :

• Réseaux sociaux interdits aux moins de 16 ans : un tournant qui dépasse les seules plateformes
• Snapchat : ce qu'un enfant de 13 ans découvre vraiment en une semaine d'utilisation normale
• Ce n'est pas le temps d'écran, c'est le rythme : les médias pour enfants sont devenus frénétiques
• Discours royal au Parlement : le Roi appelle à une nouvelle génération de grandes stratégies, de l'économie numérique à l'intelligence artificielle