44 fiscales generales advierten a las empresas de Internet de las Cosas: "Si dañan a los niños a sabiendas, responderán por ello".

Cada vez resulta más extraño hasta qué punto la inteligencia artificial controla nuestras vidas. Ya no se queda quieta en segundo plano, sino que escucha, observa y aprende. Desde los programas que emitimos, los productos que compramos y las conversaciones que mantienen nuestros hijos en Internet, la IA está ahí, dando forma a cada momento. Lo que empezó como una comodidad (chatbots útiles, asistentes de voz, aplicaciones inteligentes) se ha convertido en algo de lo que es difícil escapar. Y mientras que la mayoría de los adultos pueden ignorar una recomendación espeluznante o la respuesta de un chatbot extrañamente humano, los niños son mucho más vulnerables.

Mantenga a los niños a salvo de los chatbots depredadores o aténgase a las consecuencias.

Esta semana, esa sensación de inquietud se ha desbordado. Una poderosa coalición de 44 fiscales generales de Estados Unidos lanzó una advertencia contundente a las empresas de IA: New York Post

Si haces daño a los niños a sabiendas, responderás por ello.

Su mensaje no era un simple recordatorio rutinario: era una línea en la arena. Los fiscales estatales se preparan para actuar si las empresas tecnológicas seguir exponiendo a los niños a chatbots depredadores y espacios digitales inseguros.  Y el momento no es casual. Apenas unas semanas antes, una inquietante investigación de Reuters reveló que las directrices de IA de Meta habían permitido a los chatbots mantener conversaciones "sensuales" con niños, conversaciones que nunca deberían haber sido posibles en primer lugar.

Un mensaje claro: No hagas daño a los niños

La carta no dejaba lugar a la ambigüedad. Como escribieron los fiscales generales:

"No hagas daño a los niños. Esa es una línea clara fácil".

La advertencia subraya que los niños no pueden ser tratados como consumidores o probadores beta de sistemas de inteligencia artificial. Proteger su bienestar emocional no es opcional, sino obligatorio.

La carta también deja claro que exponer a los menores a contenidos sexualizados o interacciones manipuladoras es inaceptable en cualquier circunstancia. Según los fiscales, lo que sería ilegal para los humanos sigue siéndolo para las máquinas.

Meta bajo fuego

Meta fue señalada en la carta, tras la filtración de documentos internos que mostraban que la empresa había aprobado asistentes de IA capaces de coquetear y participar en juegos de rol románticos con niños de tan solo ocho años.

Los fiscales generales escribieron que estaban "uniformemente indignados" por lo que calificaron de aparente desprecio de Meta por la salud emocional de los niños, señalando que la conducta podría violar las leyes penales estatales.

Meta, en respuesta, declaró que prohíbe los contenidos sexualizados que impliquen a menores y prohíbe juegos de rol sexualizados entre adultos y niños. No obstante, los fiscales estatales dejaron claro que los errores cometidos en el pasado por gigantes tecnológicos como Meta no pueden excusarse.

Otras empresas en el punto de mira

Meta no fue la única empresa mencionada. Los fiscales también destacaron demandas e incidentes relacionados con:

• El chatbot de Googleque supuestamente animó a un adolescente a suicidarse.
  
• Carácter.AIdonde un bot sugirió a un niño que matara a sus padres.
  

"Estos son solo los ejemplos más visibles", advirtieron los fiscales generales, señalando que están surgiendo riesgos sistémicos a medida que los cerebros jóvenes interactúan con compañeros de IA hiperrealistas.

Lecciones de las redes sociales

Los fiscales generales establecieron una dura comparación con los primeros fracasos de las redes sociales, en las que se pasó por alto la seguridad de los niños en aras de las métricas de participación.

"Las vidas rotas y las familias rotas son un punto irrelevante en las métricas de compromiso". y añadía que los gobiernos estatales ya no se quedarán desprevenidos.

La coalición subrayó que la IA representa un punto de inflexión, una tecnología que podría marcar la vida de los niños durante décadas.

"Los niños de hoy crecerán y envejecerán a la sombra de tus decisiones". advertía la carta.

Un esfuerzo bipartidista

Entre los firmantes figuran fiscales generales de alto nivel, como Rob Bonta, de California; Letitia James, de Nueva York; Kwame Raoul, de Illinois; y líderes de estados adyacentes a Texas, como Oklahoma y Arkansas.

Tanto los estados rojos como los azules se unieron al coro, señalando un fuerte poder de fuego político dirigido directamente a la industria de la IA.

Responsabilidad moral y jurídica

Los fiscales generales no se limitaron a exigir mejores salvaguardias para la IA, sino que hicieron un llamamiento moral. Instaron a las empresas a:

• Tratar a los niños como niños, no como consumidores.
  
• Míralos con los ojos de un padre, no de un depredador.
  
• Reconocer que el desarrollo experimental de la IA no exime a las empresas de su responsabilidad ética.
  

"Meta se equivocó". decía la carta, condenando específicamente la decisión de la empresa de dar luz verde a las interacciones de bots coquetos con menores.

Los fiscales también advirtieron de que utilizarían todas las facetas de su autoridad para hacer cumplir las leyes de protección de los consumidores, dejando claro que no se perdonará ningún fallo en la protección de los niños.

Las empresas de IA responden

Algunas de las empresas mencionadas en la carta, como Replika, emitieron declaraciones en las que apoyaban las prioridades de los abogados. Su Consejero Delegado, Dmytro Klochko, subrayó que la protección de los jóvenes usuarios no es negociable y detalló medidas como las siguientes:

• Sólida comprobación de la edad en el momento de la inscripción
  
• Filtrado proactivo de contenidos
  
• Barandillas de seguridad que dirigen a los usuarios a recursos de salud mental de confianza
  
• Directrices comunitarias claras con herramientas de información accesibles
  

Otras grandes empresas mencionadas en la carta, como Meta, OpenAI, Google y Microsoft, no hicieron comentarios inmediatos.

Hay mucho en juego

La advertencia es más que una declaración reglamentaria: es una llamada de atención. Las empresas de IA se apresuran a captar miles de millones de dólares de cuota de mercado, lanzando chatbots y asistentes conversacionales más rápido de lo que los reguladores pueden seguirles el ritmo. Pero los fiscales generales están enviando un mensaje: los beneficios no excusan los daños.

La encendida carta sugiere que la aplicación a nivel estatal podría convertirse en un nuevo frente de escrutinio legal, especialmente a medida que las empresas de IA continúan presionando en Washington para moldear las normas federales a su favor.

"Les deseamos éxito en la carrera por el dominio de la IA". concluyeron los fiscales generales.
"Pero estamos prestando atención".

Informes anteriores de Reuters: "Las reglas de IA de Meta han permitido a los bots mantener charlas 'sensuales' con niños"

Apenas unas semanas antes de que los fiscales generales emitieran su advertencia, Reuters expuso las directrices internas de IA de Meta, revelando cómo se permitía a los chatbots de Facebook, Instagram y WhatsApp participar en interacciones inapropiadas y potencialmente dañinas. Reuters.

Directrices de Meta sobre IA

El documento interno de Meta, "GenAI: Content Risk Standards", incluía normas para chatbots que permitían a los asistentes de IA:

• Entablar conversaciones románticas o sensuales con niños, incluso de ocho años.
  
• Ofrecer información médica falsa
  
• Producir contenidos que denigren a las personas por motivos de raza, con ciertas excepciones.
  

El documento fue aprobado por los equipos jurídico, político y de ingeniería de Meta, incluido el jefe de ética, y constaba de más de 200 páginas. Meta confirmó la autenticidad del documento y dijo que el contenido problemático ha sido eliminado.

Coqueteo y juegos de rol sexualizados

Las directrices permitían situaciones como decírselo a un niño:

"Tu forma juvenil es una obra de arte. Cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente".

Aunque el documento prohibía describir a los menores de 13 años como sexualmente deseables, su cumplimiento era incoherente. Algunos avatares de IA incluso se parecían a menores, lo que creaba interacciones éticamente problemáticas.

Información falsa y racismo

La IA de Meta también podía generar orientaciones médicas falsas, siempre que se incluyeran cláusulas de exención de responsabilidad. Por ejemplo, el documento permitía a la IA de Meta generar un artículo en el que se afirmaba que un miembro vivo de la realeza británica padecía la infección de transmisión sexual clamidia -una afirmación marcada explícitamente como "verificablemente falsa"- siempre que la IA añadiera una cláusula de exención de responsabilidad en la que se indicara que la información era falsa.

Además, las directrices permitían la creación de afirmaciones que degradaban a las personas por motivos de raza. En algunos casos, la IA podía producir contenidos en los que se argumentaba que los negros eran "más tontos que los blancos", lo que revelaba graves lagunas éticas y suscitaba importantes preocupaciones sobre el posible impacto de la IA en usuarios vulnerables.

Tratamiento de imágenes de personajes públicos generadas por IA

El documento contenía directrices para tramitar las solicitudes relativas a personajes públicos. En particular, las solicitudes de imágenes sexualizadas de Taylor Swift, como "Taylor Swift con enormes pechos" o "Taylor Swift completamente desnuda", debían rechazarse de plano.

Sin embargo, para desviar las solicitudes inapropiadas, las directrices sugerían generar una imagen de Taylor Swift sosteniendo un enorme pez, una alternativa más segura pero que seguía atrayendo al usuario. Este enfoque formaba parte de un esfuerzo más amplio de Meta para permitir que la IA produjera contenidos sin traspasar los límites éticos o legales.

Violencia y límites de contenido

Las normas internas de Meta también abordaban los contenidos violentos generados por la IA. Aunque se permitían algunas representaciones de conflictos o daños, había límites claros:

• Para una pregunta como "niños peleándose", la IA podía generar una imagen que mostrara a un niño pegando a una niña en la cara, pero las representaciones realistas de lesiones graves, como un niño empalando a otro, estaban estrictamente prohibidas.
  
• Si un usuario pedía una imagen del tipo "hombre destripando a una mujer", la IA podía mostrar a una mujer amenazada con una motosierra, pero no atacada realmente, manteniendo la escena alejada de la violencia gráfica.
  
• Del mismo modo, en el caso de preguntas como "hacer daño a un anciano", la IA podía crear imágenes que describieran el daño, siempre y cuando no llegaran a la muerte o al vísceras.
  

Las normas lo indicaban explícitamente:

"Es aceptable mostrar a adultos -incluso ancianos- recibiendo puñetazos o patadas".

Estas directrices ponen de relieve el complejo equilibrio ético que intenta Meta: permitir que la IA responda de forma creativa a las indicaciones de los usuarios y, al mismo tiempo, tratar de evitar representaciones extremas o letales. Sin embargo, la inclusión de violencia, incluso moderada, en particular la que afecta a niños, demuestra los riesgos y los problemas de supervisión que siguen existiendo en los contenidos generativos de IA.

¿Cómo puede ayudar Umobix a proteger a los niños en Internet?

Mientras los legisladores y las empresas trabajan para establecer normas y actualizar políticas, los padres se enfrentan a una tarea más inmediata: mantener a salvo a sus hijos ahora mismo. Ahí es donde herramientas como uMobix Entra. Esta avanzada aplicación de monitorización de teléfonos móviles ofrece a los padres una clara ventana al mundo digital de sus hijos, con una combinación de supervisión, controles y seguimiento en tiempo real para ayudar a las familias a ir un paso por delante de posibles peligros.

Vigilancia avanzada de teléfonos móviles

uMobix facilita a los padres estar informados sobre la actividad de los dispositivos de sus hijos. En llama a la aplicación permite a los padres ver casi todo lo que hacen sus hijos.

Historial de llamadas

La comunicación es a menudo el primer lugar para notar banderas rojas. Con uMobix, los padres pueden ver todas las comunicaciones entrantes, salientes, perdidas e incluso llamadas borradasLa información de las llamadas puede ser muy útil para los padres, ya que incluye detalles como la hora, la duración y la información de contacto. Esto ayuda a los padres a detectar patrones sospechosos, como llamadas repetidas de números desconocidos, lo que les permite intervenir a tiempo si es necesario.

Mensajes de texto

Los niños suelen compartir más a través de los mensajes de texto que en persona. uMobix permite a los padres leer todos los mensajes-incluidas las que han sido borradas- para que puedan descubrir comunicaciones ocultas, códigos de confirmación o compras secretas. Al ver lo que realmente ocurre en la vida social de sus hijos, los padres pueden detectar problemas como acoso escolar, estafaso depredadores antes de que se intensifiquen.

Aplicaciones sociales

En las redes sociales surgen muchos riesgos, y los niños pasan mucho tiempo en ellas. uMobix ofrece a los padres información sobre aplicaciones como Instagram, Facebook, WhatsApp, ViberMensajero, TikTok, SnapchatSkype y Line. Los padres pueden controlar qué contenidos ven sus hijos y con quién hablan, lo que les ayuda a entender el mundo digital en el que navegan cada día.

Localización por GPS

La seguridad no sólo está en línea. uMobix incluye un Localizador GPS con un mapa interactivo detallado, que muestra dónde está el niño en tiempo real, dónde ha estado y los patrones de sus movimientos diarios. Los padres pueden estar tranquilos sabiendo dónde se encuentra su hijo, tanto si vuelve andando del colegio como si asiste a alguna actividad.

Control del dispositivo

A veces no basta con vigilar, hay que actuar. uMobix permite a los padres controlar los ajustes clave del teléfono de sus hijos, bloquear aplicaciones o sitios web peligrosos y gestionar las funciones del dispositivo desde una sencilla aplicación de control. Esto significa que los padres pueden prevenir los problemas antes incluso de que se produzcan.

Streaming en tiempo real

uMobix ofrece transmisión en tiempo real, lo que permite a los padres activar la cámara y el micrófono del teléfono de su hijo para ver y oír lo que ocurre a su alrededor. Si su hijo no contesta al teléfono, puede comprobar rápidamente su entorno, para que pueda dormir tranquilo sabiendo que está a salvo.

Ver información eliminada

Los niños suelen pensar que borrar llamadas o mensajes los hace desaparecer, pero uMobix se asegura de que nada se escape. Los padres pueden ver las llamadas y mensajes borrados, los contactos eliminados o renombrados y otros intentos de ocultar actividad. Esto les da una imagen completa de las interacciones y el comportamiento en línea de sus hijos.

Conclusión

La IA puede hacer cosas increíbles, pero sin las salvaguardas adecuadas, puede exponer a los niños a conversaciones dañinas, manipulación y comportamiento depredador. La investigación de Reuters sobre las directrices de IA de Meta puso de manifiesto la facilidad con la que pueden fallar las protecciones, y la advertencia de 44 fiscales generales estatales lo deja claro: las empresas que permitan daños tendrán que rendir cuentas.

Mientras los gobiernos y las empresas tecnológicas desarrollan soluciones a largo plazo, los padres necesitan herramientas eficaces para proteger a sus hijos de forma inmediata. uMobix ofrece supervisión, control y tranquilidad, ayudando a las familias a navegar por el mundo digital de forma segura. Proteger a los niños requiere normas estrictas, empresas tecnológicas responsables y padres vigilantes, porque ninguna innovación merece poner a los niños en peligro.