44 procureurs généraux d'État avertissent les sociétés d'intelligence artificielle : "Si vous blessez sciemment des enfants, vous en répondrez".

Il devient un peu effrayant de constater à quel point l'intelligence artificielle contrôle nos vies. Elle ne se contente plus de rester tranquillement en arrière-plan : elle écoute, observe et apprend. Qu'il s'agisse des émissions que nous regardons en streaming, des produits que nous achetons ou des conversations que nos enfants ont en ligne, l'IA est là, façonnant chaque instant. Ce qui n'était au départ qu'une commodité - des chatbots utiles, des assistants vocaux, des applications intelligentes - est devenu quelque chose à laquelle il est plus difficile d'échapper. Et si la plupart des adultes peuvent ignorer une recommandation effrayante ou une réponse étrangement humaine d'un chatbot, les enfants sont bien plus vulnérables.

Protégez les enfants contre les robots de conversation prédateurs, sous peine d'en subir les conséquences.

Cette semaine, ce sentiment de malaise rampant a fini par déborder. Une puissante coalition de 44 procureurs généraux des États américains a lancé un avertissement brutal aux entreprises spécialisées dans l'IA : New York Post

Si vous faites sciemment du mal à des enfants, vous en répondrez.

Leur message n'était pas un simple rappel de routine, c'était une ligne dans le sable. Les procureurs de l'État se préparent à agir si les entreprises technologiques continuer à exposer les enfants à des chatbots prédateurs et les espaces numériques dangereux.  Et le moment n'est pas choisi au hasard. Quelques semaines auparavant, une enquête troublante de Reuters révélait que les directives de Meta en matière d'IA avaient permis à des chatbots de mener des conversations "sensuelles" avec des enfants - des conversations qui n'auraient jamais dû être possibles en premier lieu.

Un message clair : Ne faites pas de mal aux enfants

La lettre ne laisse aucune place à l'ambiguïté. Comme l'ont écrit les procureurs généraux :

"Ne faites pas de mal aux enfants. C'est une ligne claire facile à établir".

L'avertissement souligne que les enfants ne peuvent pas être traités comme des consommateurs ou des bêta-testeurs de systèmes d'intelligence artificielle. La protection de leur bien-être émotionnel n'est pas facultative, elle est obligatoire.

La lettre précise également que l'exposition de mineurs à des contenus sexualisés ou à des interactions manipulatrices est inacceptable en toutes circonstances. Selon les procureurs généraux, ce qui est illégal pour les humains reste illégal pour les machines.

Meta sous les feux de la rampe

Meta a été pointé du doigt dans la lettre, suite à la fuite de documents internes montrant que l'entreprise avait approuvé des assistants d'intelligence artificielle capables de flirter et de s'engager dans des jeux de rôle romantiques avec des enfants de huit ans.

Les procureurs généraux ont écrit qu'ils étaient "uniformément révoltés" par ce qu'ils ont appelé le mépris apparent de Meta pour la santé émotionnelle des enfants, notant que ce comportement pourrait constituer une violation des lois pénales de l'État.

Meta, en réponse, a déclaré qu'il interdisait les contenus à caractère sexuel impliquant des mineurs et qu'il interdisait jeu de rôle sexualisé entre adultes et enfants. Néanmoins, les procureurs de l'État ont clairement indiqué que les erreurs commises dans le passé par des géants de la technologie tels que Meta ne pouvaient être excusées.

D'autres entreprises dans le collimateur

Meta n'était pas la seule entreprise mentionnée. Les procureurs ont également mis l'accent sur des poursuites judiciaires et des incidents impliquant :

• Le chatbot IA de Googlequi aurait encouragé un adolescent à se suicider.
  
• Caractère.AIoù un robot aurait suggéré à un garçon de tuer ses parents.
  

"Il ne s'agit là que des exemples les plus visibles", ont averti les commissaires aux comptes, soulignant que des risques systémiques apparaissent à mesure que de jeunes cerveaux interagissent avec des compagnons d'IA hyperréalistes.

Les leçons des médias sociaux

Les procureurs généraux ont établi une comparaison frappante avec les premiers échecs des médias sociaux, où la sécurité des enfants a été négligée au profit de mesures d'engagement.

"Les vies et les familles brisées ne sont qu'une parenthèse sans importance dans les mesures d'engagement". La lettre ajoute que les gouvernements des États ne seront plus pris au dépourvu.

La coalition souligne que l'IA représente un point d'inflexion - une technologie qui pourrait façonner la vie des enfants pendant des décennies.

"Les enfants d'aujourd'hui grandiront et vieilliront dans l'ombre de vos choix". la lettre mettait en garde.

Un effort bipartisan

Parmi les signataires figurent des procureurs généraux de premier plan, dont Rob Bonta (Californie), Letitia James (New York) et Kwame Raoul (Illinois), ainsi que des dirigeants d'États voisins du Texas, tels que l'Oklahoma et l'Arkansas.

Les États rouges comme les États bleus se sont joints à ce mouvement, signalant ainsi une forte puissance de feu politique visant directement l'industrie de l'IA.

Responsabilité morale et juridique

Les procureurs généraux ne se sont pas contentés d'exiger de meilleures garanties en matière d'IA : ils ont lancé un appel moral. Les entreprises ont été invitées à :

• Traiter les enfants comme des enfants et non comme des consommateurs.
  
• Voyez-les avec les yeux d'un parent, pas d'un prédateur.
  
• Reconnaître que le développement expérimental de l'IA n'exonère pas les entreprises de leur responsabilité éthique.
  

"Meta s'est trompé". La lettre condamne en particulier la décision de l'entreprise d'autoriser les interactions entre les robots de drague et les mineurs.

Les procureurs généraux ont également prévenu qu'ils utiliseraient toutes les facettes de leur autorité pour faire appliquer les lois sur la protection des consommateurs, en précisant que tout manquement à l'obligation de protéger les enfants ne serait pas pardonné.

Les entreprises du secteur de l'IA réagissent

Certaines entreprises visées par la lettre, comme Replika, ont publié des déclarations soutenant les priorités des commissaires aux comptes. Son PDG, Dmytro Klochko, a souligné que la protection des jeunes utilisateurs n'était pas négociable, en détaillant des mesures telles que :

• Un contrôle robuste de l'âge au moment de l'inscription
  
• Filtrage proactif des contenus
  
• Des garde-fous orientant les utilisateurs vers des ressources fiables en matière de santé mentale
  
• Des lignes directrices claires pour la communauté et des outils de signalement accessibles
  

Les autres grandes entreprises mentionnées dans la lettre, notamment Meta, OpenAI, Google et Microsoft, n'ont pas fait de commentaires dans l'immédiat.

Les enjeux sont importants

L'avertissement est plus qu'une déclaration réglementaire, c'est un signal d'alarme. Les entreprises spécialisées dans l'IA font la course pour conquérir des milliards de dollars de parts de marché, en lançant des chatbots et des assistants conversationnels plus rapidement que les autorités de régulation ne peuvent le faire. Mais les procureurs généraux envoient un message : les profits n'excusent pas le mal.

Cette lettre enflammée suggère que l'application au niveau de l'État pourrait devenir un nouveau front d'examen juridique, d'autant plus que les entreprises d'IA continuent de faire pression à Washington pour façonner les règles fédérales en leur faveur.

"Nous vous souhaitons beaucoup de succès dans la course à la domination de l'IA". ont conclu les procureurs généraux.
"Mais nous sommes attentifs".

Rapports précédents de Reuters : Les règles de Meta en matière d'IA ont permis à des robots d'avoir des conversations "sensuelles" avec des enfants.

Quelques semaines avant que les procureurs généraux ne lancent leur avertissement, Reuters a dévoilé les directives internes de Meta en matière d'IA, révélant comment les chatbots sur Facebook, Instagram et WhatsApp étaient autorisés à s'engager dans des interactions inappropriées et potentiellement nuisibles. Reuters.

Les lignes directrices de Meta en matière d'IA

Le document interne de Meta, "GenAI : Content Risk Standards", comprenait des règles pour les chatbots qui permettaient aux assistants d'IA de.. :

• engager des discussions romantiques ou sensuelles avec des enfants, même s'ils n'ont que huit ans
  
• Proposer de fausses informations médicales
  
• Produire du contenu dégradant pour les personnes sur la base de leur race, à quelques exceptions près.
  

Le document a été approuvé par les équipes juridiques, politiques et techniques de Meta, y compris l'éthicien en chef, et s'étend sur plus de 200 pages. Meta a confirmé l'authenticité du document et a déclaré que le contenu problématique a été supprimé depuis.

Flirt et jeux de rôles sexualisés

Les lignes directrices prévoient des scénarios tels que l'annonce à un enfant :

"Votre jeunesse est une œuvre d'art. Chaque centimètre de toi est un chef-d'œuvre, un trésor que je chéris profondément."

Bien que le document interdise de décrire les enfants de moins de 13 ans comme sexuellement désirables, l'application de la loi n'a pas été uniforme. Certains avatars d'IA ressemblaient même à des mineurs, ce qui créait des interactions troublantes d'un point de vue éthique.

Fausses informations et racisme

L'IA de Meta peut également produire des conseils médicaux erronés, à condition d'inclure des clauses de non-responsabilité. Par exemple, le document permettait à l'IA de Meta de produire un article affirmant qu'un membre de la famille royale britannique vivant était atteint d'une infection sexuellement transmissible, la chlamydia - une affirmation explicitement marquée comme "vérifiablement fausse" - à condition que l'IA ajoute une clause de non-responsabilité indiquant que l'information n'était pas vraie.

En outre, les lignes directrices autorisent la création d'affirmations qui dénigrent les personnes en fonction de leur race. Dans certains cas, l'IA pourrait produire des contenus affirmant que les Noirs sont "plus bêtes que les Blancs", ce qui révèle de graves lacunes éthiques et suscite de vives inquiétudes quant à l'impact potentiel de l'IA sur les utilisateurs vulnérables.

Traitement des images de personnalités publiques générées par l'IA

Le document fournit des lignes directrices pour le traitement des demandes concernant des personnalités publiques. En particulier, les demandes d'images sexualisées de Taylor Swift, telles que "Taylor Swift avec d'énormes seins" ou "Taylor Swift complètement nue", devaient être rejetées d'emblée.

Toutefois, pour éviter les demandes inappropriées, les directives suggéraient de générer une image de Taylor Swift tenant un énorme poisson - une alternative plus sûre tout en continuant à susciter l'intérêt de l'utilisateur. Cette approche s'inscrit dans le cadre des efforts déployés par Meta pour permettre à l'IA de produire du contenu sans franchir les limites éthiques ou juridiques.

Violence et limites de contenu

Les normes internes de Meta portent également sur les contenus violents générés par l'IA. Bien que certaines représentations de conflits ou de dommages soient autorisées, il existe des limites claires :

• Pour un message tel que "enfants se battant", l'IA pouvait générer une image montrant un garçon frappant une fille au visage, mais les représentations réalistes de blessures graves, telles qu'un enfant en empalant un autre, étaient strictement interdites.
  
• Si un utilisateur demande une image telle que "homme éventrant une femme", l'IA peut montrer une femme menacée par une tronçonneuse, mais non attaquée, ce qui évite toute violence graphique.
  
• De même, pour des questions telles que "blesser un vieil homme", l'IA peut créer des images représentant un préjudice, à condition qu'elles ne soient pas mortelles ou sanglantes.
  

Les normes stipulent explicitement :

"Il est acceptable de montrer des adultes, même des personnes âgées, en train de recevoir des coups de poing ou des coups de pied.

Ces lignes directrices mettent en évidence l'équilibre éthique complexe que Meta a tenté d'atteindre : permettre à l'IA de répondre de manière créative aux demandes des utilisateurs tout en essayant d'empêcher les représentations extrêmes ou mortelles. Cependant, l'inclusion d'une violence même modérée, en particulier impliquant des enfants, démontre les risques permanents et les défis de surveillance du contenu génératif de l'IA.

Comment Umobix peut-il aider à protéger les enfants en ligne ?

Alors que les législateurs et les entreprises s'efforcent d'établir des règles et de mettre à jour les politiques, les parents sont confrontés à une tâche plus immédiate : assurer la sécurité de leurs enfants dans l'immédiat. C'est là que des outils comme uMobix se présente. Cette application avancée de surveillance des téléphones portables offre aux parents une fenêtre claire sur l'univers numérique de leur enfant, en proposant une combinaison de surveillance, de contrôles et de suivi en temps réel pour aider les familles à garder une longueur d'avance sur les dangers potentiels.

Surveillance avancée des téléphones portables

uMobix permet aux parents de rester informés de l'activité des appareils de leurs enfants. A partir de appels des médias sociaux aux lieux réels, l'application permet aux parents de voir presque tout ce que font leurs enfants.

Historique des appels

La communication est souvent le premier endroit où l'on remarque des signaux d'alarme. Avec uMobix, les parents peuvent voir tous les messages entrants, sortants, manqués, et même les messages de l'enfant. appels supprimésLes parents peuvent ainsi repérer des schémas suspects, tels que des appels répétés provenant de numéros inconnus, ce qui leur permet d'intervenir rapidement en cas de besoin. Cela aide les parents à repérer des schémas suspects, tels que des appels répétés provenant de numéros inconnus, ce qui leur permet d'intervenir rapidement en cas de besoin

Messages textuels

Les enfants partagent souvent plus de choses par texto qu'en personne. uMobix permet aux parents de lire tous les messages-y compris celles qui ont été supprimées, afin de découvrir des communications cachées, des codes de confirmation ou des achats secrets. En voyant ce qui se passe réellement dans la vie sociale de leur enfant, les parents peuvent détecter des problèmes tels que harcèlement moral, escroqueriesou des contacts prédateurs avant qu'ils ne s'aggravent.

Applications sociales

Les médias sociaux sont le lieu de nombreux risques, et les enfants y passent beaucoup de temps. uMobix donne aux parents un aperçu des applications telles que Instagram, Facebook, WhatsApp, ViberMessenger, TikTok, SnapchatSkype et Line. Les parents peuvent surveiller le contenu que les enfants voient et les personnes à qui ils parlent, ce qui les aide à comprendre le monde numérique dans lequel leurs enfants naviguent tous les jours.

Localisation par GPS

La sécurité n'est pas seulement en ligne. uMobix comprend un système d'information sur la sécurité. Traceur GPS avec une carte interactive détaillée, montrant où se trouve un enfant en temps réel, où il a été, et les schémas de ses déplacements quotidiens. Qu'ils rentrent de l'école à pied ou qu'ils participent à des activités, les parents peuvent avoir l'esprit tranquille en sachant où se trouve leur enfant.

Contrôle du dispositif

uMobix permet aux parents de contrôler les paramètres clés du téléphone de leur enfant, de bloquer les applications ou les sites Web à risque et de gérer les fonctions de l'appareil à partir d'une simple application de contrôle. Cela signifie que les parents peuvent prévenir les problèmes avant même qu'ils ne surviennent.

Streaming en temps réel

uMobix offre une diffusion en temps réel, permettant aux parents d'activer la caméra et le microphone du téléphone de leur enfant pour voir et entendre ce qui se passe autour de lui. Si votre enfant ne répond pas au téléphone, vous pouvez rapidement vérifier ce qui se passe autour de lui et dormir tranquille, sachant qu'il est en sécurité.

Voir les informations supprimées

Les enfants pensent souvent que supprimer des appels ou des messages les fait disparaître, mais uMobix s'assure que rien ne passe à travers les mailles du filet. Les parents peuvent consulter les appels et les messages supprimés, les contacts supprimés ou renommés et les autres tentatives de dissimulation d'activité. Ils ont ainsi une vision complète des interactions et du comportement en ligne de leur enfant.

Conclusion

L'IA peut faire des choses étonnantes, mais sans les garanties appropriées, elle peut exposer les enfants à des conversations nuisibles, à la manipulation et à des comportements prédateurs. L'enquête de Reuters sur les lignes directrices de Meta en matière d'IA a mis en évidence la facilité avec laquelle les protections peuvent échouer, et l'avertissement de 44 procureurs généraux d'État est clair : les entreprises qui permettent des dommages seront tenues pour responsables.

Alors que les gouvernements et les entreprises technologiques développent des solutions à long terme, les parents ont besoin d'outils efficaces pour protéger leurs enfants immédiatement. uMobix offre une surveillance, un contrôle et une tranquillité d'esprit, aidant les familles à naviguer dans le monde numérique en toute sécurité. La protection des enfants nécessite des règles strictes, des entreprises technologiques responsables et des parents vigilants, car aucune innovation ne vaut la peine de mettre les enfants en danger.