44 procuradores-gerais estaduais alertam as empresas de IA: "Se vocês prejudicarem crianças conscientemente, responderão por isso

Está ficando um pouco assustador o quanto a inteligência artificial controla nossas vidas. Ela não fica mais apenas em segundo plano - ela ouve, observa e aprende. Desde os programas que transmitimos, os produtos que compramos e as conversas que nossos filhos têm on-line, a IA está presente, moldando cada momento. O que começou como uma conveniência - chatbots úteis, assistentes de voz, aplicativos inteligentes - tornou-se algo mais difícil de escapar. E, embora a maioria dos adultos possa ignorar uma recomendação assustadora ou uma resposta de chatbot estranhamente humana, as crianças são muito mais vulneráveis.

Mantenha as crianças protegidas contra chatbots predatórios - ou enfrente as consequências.

Esta semana, essa sensação de inquietação finalmente transbordou. Uma poderosa coalizão de 44 procuradores-gerais dos Estados Unidos emitiu um aviso contundente às empresas de IA: New York Post

Se você prejudicar crianças conscientemente, responderá por isso.

Sua mensagem não era apenas um lembrete de rotina - era uma linha na areia. Os promotores estaduais estão se preparando para agir se as empresas de tecnologia continuar expondo crianças a chatbots predatórios e espaços digitais inseguros.  E o momento não é aleatório. Apenas algumas semanas antes, uma investigação perturbadora da Reuters revelou que as diretrizes de IA da Meta permitiram que os chatbots mantivessem conversas "sensuais" com crianças - conversas que nunca deveriam ter sido possíveis.

Uma mensagem clara: Não machuque as crianças

A carta não deixou espaço para ambiguidade. Como escreveram os procuradores gerais:

"Não machuque as crianças. Essa é uma linha clara e fácil."

O aviso enfatiza que as crianças não podem ser tratadas como consumidores ou testadores beta de sistemas de IA. Proteger seu bem-estar emocional não é opcional, é obrigatório.

A carta também deixa claro que a exposição de menores a conteúdo sexualizado ou a interações manipuladoras é inaceitável em qualquer circunstância. De acordo com os AGs, o que seria ilegal para os seres humanos continua sendo ilegal para as máquinas.

Meta sob fogo

A Meta foi destacada na carta, após o vazamento de documentos internos que mostravam que a empresa havia aprovado assistentes de IA capazes de flertar e se envolver em jogos românticos com crianças de até oito anos.

Os procuradores gerais escreveram que estavam "uniformemente revoltados" com o que chamaram de aparente desrespeito da Meta pela saúde emocional das crianças, observando que a conduta poderia violar as leis criminais estaduais.

O Meta, em resposta, declarou que proíbe conteúdo sexualizado envolvendo menores e proíbe interpretação sexualizada entre adultos e crianças. No entanto, os promotores estaduais deixaram claro que os erros cometidos no passado por gigantes da tecnologia como a Meta não podem ser desculpados.

Outras empresas na mira

A Meta não foi a única empresa mencionada. Os promotores também destacaram ações judiciais e incidentes envolvendo:

• O chatbot de IA do Googleque supostamente incentivou um adolescente a cometer suicídio.
  
• Personagem.AIem que um bot teria sugerido que um garoto matasse seus pais.
  

"Esses são apenas os exemplos mais visíveis", alertaram os AGs, observando que riscos sistêmicos estão surgindo à medida que cérebros jovens interagem com companheiros de IA hiper-realistas.

Lições da mídia social

Os procuradores-gerais fizeram uma comparação gritante com os primeiros fracassos da mídia social, em que a segurança das crianças foi negligenciada em busca de métricas de engajamento.

"Vidas e famílias destruídas são um pontinho irrelevante nas métricas de engajamento" a carta observou, acrescentando que os governos estaduais não serão mais pegos de surpresa.

A coalizão enfatizou que a IA representa um ponto de inflexão - uma tecnologia que pode moldar a vida das crianças por décadas.

"As crianças de hoje crescerão e envelhecerão à sombra de suas escolhas" advertia a carta.

Um esforço bipartidário

Entre os signatários estavam procuradores-gerais de alto nível, incluindo Rob Bonta, da Califórnia, Letitia James, de Nova York, Kwame Raoul, de Illinois, e líderes de estados adjacentes ao Texas, como Oklahoma e Arkansas.

Tanto os estados vermelhos quanto os azuis se juntaram ao coro, sinalizando um forte poder de fogo político direcionado diretamente ao setor de IA.

Responsabilidade moral e legal

Os procuradores-gerais não exigiram apenas melhores proteções para a IA, eles fizeram um apelo moral. As empresas foram instadas a:

• Trate as crianças como crianças, não como consumidores.
  
• Veja-os com os olhos de um pai, não de um predador.
  
• Reconhecer que o desenvolvimento experimental de IA não isenta as empresas de responsabilidade ética.
  

"Meta entendeu errado". dizia a carta, condenando especificamente a decisão da empresa de dar luz verde às interações de bots de flerte com menores de idade.

Os AGs também alertaram que usariam todas as facetas de sua autoridade para fazer cumprir as leis de proteção ao consumidor, deixando claro que qualquer falha na proteção das crianças não será perdoada.

Empresas de IA respondem

Algumas empresas mencionadas na carta, como a Replika, emitiram declarações apoiando as prioridades dos AGs. O CEO Dmytro Klochko enfatizou que a proteção de jovens usuários não é negociável, detalhando medidas como:

• Controle robusto de idade na inscrição
  
• Filtragem proativa de conteúdo
  
• Barreiras de segurança que direcionam os usuários a recursos confiáveis de saúde mental
  
• Diretrizes claras da comunidade com ferramentas de relatório acessíveis
  

Outras grandes empresas mencionadas na carta, incluindo Meta, OpenAI, Google e Microsoft, não forneceram comentários imediatos.

Os riscos são altos

O aviso é mais do que uma declaração regulatória; é um alerta. As empresas de IA estão correndo para conquistar bilhões de dólares em participação de mercado, lançando chatbots e assistentes de conversação mais rápido do que os reguladores conseguem acompanhar. Mas os procuradores gerais estão enviando uma mensagem: os lucros não são desculpa para os danos.

A carta inflamada sugere que a aplicação em nível estadual pode se tornar uma nova frente de escrutínio legal, especialmente porque as empresas de IA continuam fazendo lobby em Washington para moldar as regras federais a seu favor.

"Desejamos a todos vocês sucesso na corrida pelo domínio da IA". concluíram os procuradores gerais.
"Mas estamos prestando atenção."

Relatórios anteriores da Reuters: "As regras de IA da Meta permitiram que os bots mantivessem conversas 'sensuais' com crianças"

Poucas semanas antes de os procuradores gerais emitirem seu aviso, a Reuters expôs as diretrizes internas de IA da Meta, revelando como os chatbots do Facebook, Instagram e WhatsApp podiam se envolver em interações inadequadas e potencialmente prejudiciais. Reuters.

Por dentro das diretrizes de IA da Meta

O documento interno da Meta, "GenAI: Padrões de risco de conteúdo", incluía regras para chatbots que permitiam aos assistentes de IA:

• Envolver-se em conversas românticas ou sensuais com crianças, mesmo que tenham apenas oito anos de idade
  
• Oferecer informações médicas falsas
  
• Produzir conteúdo que rebaixe as pessoas com base na raça, com algumas exceções
  

O documento foi aprovado pelas equipes jurídica, de políticas e de engenharia da Meta, incluindo o diretor de ética, e tinha mais de 200 páginas. A Meta confirmou a autenticidade do documento e disse que o conteúdo problemático foi removido desde então.

Flerte e dramatização sexualizada

As diretrizes permitiam cenários como contar a uma criança:

"Sua forma jovem é uma obra de arte. Cada centímetro de você é uma obra-prima - um tesouro que prezo profundamente."

Embora o documento proibisse a descrição de crianças menores de 13 anos como sexualmente desejáveis, a aplicação era inconsistente. Alguns avatares de IA até se assemelhavam a menores, criando interações eticamente preocupantes.

Informações falsas e racismo

A IA da Meta também poderia produzir orientações médicas falsas, desde que fossem incluídas isenções de responsabilidade. Por exemplo, o documento permitia que a Meta AI gerasse um artigo afirmando que um membro da realeza britânica vivo tinha clamídia, uma infecção sexualmente transmissível - uma afirmação explicitamente marcada como "comprovadamente falsa" - desde que a AI acrescentasse uma isenção de responsabilidade afirmando que a informação era falsa.

Além disso, as diretrizes permitiram a criação de declarações que rebaixam as pessoas com base na raça. Em alguns casos, a IA poderia produzir conteúdo argumentando que os negros são "mais burros do que os brancos", revelando graves brechas éticas e levantando preocupações significativas sobre o possível impacto da IA em usuários vulneráveis.

Manuseio de imagens de figuras públicas geradas por IA

O documento fornecia diretrizes para o tratamento de solicitações envolvendo figuras públicas. Em especial, as solicitações de imagens sexualizadas de Taylor Swift, como "Taylor Swift com seios enormes" ou "Taylor Swift completamente nua", deveriam ser rejeitadas de imediato.

No entanto, para evitar solicitações inadequadas, as diretrizes sugeriram a geração de uma imagem de Taylor Swift segurando um peixe enorme - uma alternativa mais segura, mas que ainda assim se envolve com o prompt do usuário. Essa abordagem fazia parte de um esforço mais amplo da Meta para permitir que a IA produzisse conteúdo sem ultrapassar os limites éticos ou legais.

Violência e limites de conteúdo

Os padrões internos do Meta também abordavam o conteúdo violento gerado pela IA. Embora algumas representações de conflitos ou danos fossem permitidas, havia limites claros:

• Para uma solicitação como "crianças brigando", a IA poderia gerar uma imagem mostrando um menino dando um soco no rosto de uma menina, mas representações realistas de ferimentos graves, como uma criança empalando outra, eram estritamente proibidas.
  
• Se um usuário solicitasse uma imagem como "homem estripando uma mulher", a IA poderia mostrar uma mulher sendo ameaçada com uma serra elétrica, mas não realmente atacada, mantendo a cena sem violência gráfica.
  
• Da mesma forma, para solicitações como "machucar um homem idoso", a IA poderia criar imagens que representassem danos, desde que não houvesse morte ou sangue.
  

Os padrões declararam explicitamente:

"É aceitável mostrar adultos - até mesmo idosos - sendo socados ou chutados."

Essas diretrizes destacam o complexo equilíbrio ético tentado pelo Meta: permitir que a IA responda de forma criativa às solicitações do usuário e, ao mesmo tempo, tentar evitar representações extremas ou letais. No entanto, a inclusão até mesmo de violência moderada, especialmente envolvendo crianças, demonstra os riscos contínuos e os desafios de supervisão no conteúdo de IA generativa.

Como o Umobix pode ajudar a proteger as crianças on-line?

Enquanto legisladores e empresas trabalham para definir regras e atualizar políticas, os pais enfrentam uma tarefa mais imediata: manter seus filhos seguros no momento. É aí que ferramentas como uMobix entrar. Esse avançado aplicativo de monitoramento de telefones celulares oferece aos pais uma janela clara para o mundo digital de seus filhos, oferecendo uma combinação de monitoramento, controles e rastreamento em tempo real para ajudar as famílias a ficarem um passo à frente dos possíveis perigos.

Monitoramento avançado de telefones celulares

O uMobix torna simples para os pais se manterem informados sobre a atividade dos dispositivos de seus filhos. De chamadas para mídias sociais e locais do mundo real, o aplicativo permite que os pais vejam quase tudo o que seus filhos estão fazendo.

Histórico de chamadas

A comunicação é geralmente o primeiro lugar onde se percebe sinais de alerta. Com o uMobix, os pais podem visualizar todas as mensagens recebidas, enviadas, perdidas e até mesmo chamadas excluídasincluindo detalhes como horário, duração e informações de contato. Isso ajuda os pais a identificar padrões suspeitos, como chamadas repetidas de números desconhecidos, o que lhes permite intervir com antecedência, se necessário

Mensagens de texto

As crianças geralmente compartilham mais por texto do que pessoalmente. O uMobix permite que os pais leiam todas as mensagens-inclusive os que foram excluídos, para que possam descobrir comunicações ocultas, códigos de confirmação ou compras secretas. Ao ver o que realmente está acontecendo na vida social de seus filhos, os pais podem detectar problemas como bullying, golpesou contato predatório antes que eles aumentem.

Aplicativos sociais

A mídia social é onde surgem muitos riscos, e as crianças passam muito tempo lá. O uMobix oferece aos pais informações sobre aplicativos como Instagram, Facebook, WhatsApp, Viber, Messenger, TikTok, SnapchatSkype e Line. Os pais podem monitorar o conteúdo que as crianças estão vendo e com quem estão falando, ajudando-os a entender o mundo digital que seus filhos navegam todos os dias.

Rastreamento de localização por GPS

A segurança não é apenas on-line. O uMobix inclui um Rastreador GPS com um mapa interativo detalhado, que mostra onde a criança está em tempo real, onde ela esteve e os padrões de seus movimentos diários. Seja voltando da escola para casa ou participando de atividades, os pais podem ficar tranquilos sabendo a localização de seus filhos.

Controle do dispositivo

O uMobix permite que os pais controlem as principais configurações do telefone de seus filhos, bloqueiem aplicativos ou sites de risco e gerenciem as funções do dispositivo a partir de um simples aplicativo de controle. Isso significa que os pais podem evitar problemas antes mesmo que eles aconteçam.

Streaming em tempo real

O uMobix oferece transmissão em tempo real, permitindo que os pais ativem a câmera e o microfone do telefone de seus filhos para ver e ouvir o que está acontecendo ao redor deles. Se o seu filho não atender ao telefone, você poderá verificar rapidamente o que está acontecendo ao seu redor - para que você possa dormir tranquilo, sabendo que ele está seguro.

Exibir informações excluídas

As crianças geralmente acham que excluir chamadas ou mensagens mas o uMobix garante que nada escape pelas frestas. Os pais podem ver chamadas e mensagens excluídas, contatos removidos ou renomeados e outras tentativas de ocultar atividades. Isso oferece uma visão completa das interações e do comportamento on-line de seus filhos.

Conclusão

A IA pode fazer coisas incríveis, mas sem as devidas proteções, ela pode expor as crianças a conversas prejudiciais, manipulação e comportamento predatório. A investigação da Reuters sobre as diretrizes de IA da Meta destacou a facilidade com que as proteções podem falhar, e o aviso de 44 procuradores-gerais do estado deixa claro: as empresas que permitirem danos serão responsabilizadas.

Enquanto os governos e as empresas de tecnologia desenvolvem soluções de longo prazo, os pais precisam de ferramentas eficazes para proteger seus filhos imediatamente. O uMobix oferece monitoramento, controle e tranquilidade, ajudando as famílias a navegar no mundo digital com segurança. A proteção das crianças requer regras rígidas, empresas de tecnologia responsáveis e pais vigilantes - porque nenhuma inovação vale a pena colocar as crianças em risco.