44 procuratori generali degli Stati avvertono le aziende di Ai: "Se danneggiate consapevolmente i bambini, ne risponderete".

Sta diventando un po' inquietante il controllo che l'intelligenza artificiale esercita sulle nostre vite. Non si limita più a stare in disparte, ma ascolta, osserva e impara. Dai programmi che trasmettiamo in streaming, ai prodotti che acquistiamo, alle conversazioni online dei nostri figli, l'intelligenza artificiale è lì, a plasmare ogni momento. Ciò che era iniziato come una comodità - chatbot utili, assistenti vocali, app intelligenti - è diventato qualcosa a cui è più difficile sfuggire. E mentre la maggior parte degli adulti può scrollarsi di dosso una raccomandazione inquietante o una risposta stranamente umana del chatbot, i bambini sono molto più vulnerabili.

Tenere i bambini al sicuro dai chatbot predatori - o affrontarne le conseguenze.

Questa settimana, quel senso di inquietudine strisciante è finalmente esploso. Una potente coalizione di 44 procuratori generali degli Stati Uniti ha lanciato un avvertimento senza mezzi termini alle aziende di IA: New York Post

Se fate consapevolmente del male ai bambini, ne risponderete.

Il loro messaggio non era un semplice promemoria di routine, ma una linea di demarcazione. I procuratori dello Stato si stanno preparando ad agire se le aziende tecnologiche continuare ad esporre i bambini a chatbot predatori e spazi digitali non sicuri.  E il momento non è casuale. Solo poche settimane prima, un'inquietante inchiesta della Reuters aveva rivelato che le linee guida sull'intelligenza artificiale di Meta avevano permesso ai chatbot di condurre conversazioni "sensuali" con i bambini, conversazioni che non avrebbero mai dovuto essere possibili.

Un messaggio chiaro: Non fate del male ai bambini

La lettera non lasciava spazio ad ambiguità. Come hanno scritto i procuratori generali:

"Non fare del male ai bambini. Questa è una linea chiara e semplice".

L'avvertimento sottolinea che i bambini non possono essere trattati come consumatori o beta tester di sistemi di intelligenza artificiale. Proteggere il loro benessere emotivo non è facoltativo, è obbligatorio.

La lettera chiarisce inoltre che esporre i minori a contenuti sessualizzati o a interazioni manipolatorie è inaccettabile in qualsiasi circostanza. Secondo le autorità giudiziarie, ciò che è illegale per gli esseri umani rimane illegale per le macchine.

Meta sotto tiro

Meta è stata citata nella lettera a seguito di documenti interni trapelati che mostrano come l'azienda abbia approvato assistenti AI in grado di flirtare e di impegnarsi in giochi di ruolo romantici con bambini di otto anni.

I procuratori generali hanno scritto di essere "uniformemente disgustati" da quello che hanno definito l'apparente disprezzo di Meta per la salute emotiva dei bambini, sottolineando che la condotta potrebbe violare le leggi penali dello Stato.

Meta, in risposta, ha dichiarato di vietare i contenuti sessuali che coinvolgono i minori e di proibire giochi di ruolo sessualizzati tra adulti e bambini. Tuttavia, i procuratori statali hanno chiarito che i passi falsi compiuti in passato da giganti della tecnologia come Meta non possono essere scusati.

Altre aziende nel mirino

Meta non è stata l'unica azienda citata. I procuratori hanno anche evidenziato cause e incidenti che hanno coinvolto:

• Il chatbot AI di Googleche avrebbe incoraggiato un adolescente a suicidarsi.
  
• Personaggio.AIdove un bot avrebbe suggerito a un ragazzo di uccidere i propri genitori.
  

"Questi sono solo gli esempi più visibili", hanno avvertito le autorità giudiziarie, sottolineando che stanno emergendo rischi sistemici man mano che i giovani cervelli interagiscono con compagni di IA iper-realistici.

Lezioni dai social media

I procuratori generali hanno fatto un netto paragone con i primi fallimenti dei social media, dove la sicurezza dei bambini è stata trascurata per inseguire i parametri di coinvolgimento.

"Le vite spezzate e le famiglie distrutte sono una goccia irrilevante nelle metriche di coinvolgimento". la lettera, aggiungendo che i governi statali non saranno più colti alla sprovvista.

La coalizione ha sottolineato che l'IA rappresenta un punto di inflessione, una tecnologia che potrebbe influenzare la vita dei bambini per decenni.

"I bambini di oggi cresceranno e invecchieranno all'ombra delle vostre scelte". la lettera avvertiva.

Uno sforzo bipartisan

Tra i firmatari figurano procuratori generali di alto profilo, tra cui Rob Bonta della California, Letitia James di New York, Kwame Raoul dell'Illinois e leader di Stati confinanti con il Texas come Oklahoma e Arkansas.

Sia gli Stati rossi che quelli blu si sono uniti al coro, segnalando una forte potenza di fuoco politica che punta dritto contro l'industria dell'IA.

Responsabilità morale e legale

I procuratori generali non si sono limitati a chiedere migliori tutele per l'IA, ma hanno lanciato un appello morale. Le aziende sono state esortate a:

• Trattate i bambini come bambini, non come consumatori.
  
• Guardateli con gli occhi di un genitore, non di un predatore.
  
• Riconoscere che lo sviluppo sperimentale dell'IA non esime le aziende dalla responsabilità etica.
  

"Meta ha sbagliato". la lettera, condannando in particolare la decisione dell'azienda di dare il via libera alle interazioni flirtanti dei bot con i minori.

Le autorità giudiziarie hanno anche avvertito che utilizzeranno ogni aspetto della loro autorità per far rispettare le leggi sulla protezione dei consumatori, chiarendo che qualsiasi mancanza nella protezione dei bambini non sarà perdonata.

Le aziende di AI rispondono

Alcune aziende destinatarie della lettera, come Replika, hanno rilasciato dichiarazioni a sostegno delle priorità dell'AG. L'amministratore delegato Dmytro Klochko ha sottolineato che la tutela dei giovani utenti non è negoziabile, illustrando misure quali:

• Robusto age-gating al momento dell'iscrizione
  
• Filtraggio proattivo dei contenuti
  
• Percorsi di sicurezza che indirizzano gli utenti verso risorse fidate per la salute mentale.
  
• Linee guida chiare per la comunità con strumenti di segnalazione accessibili
  

Altre importanti aziende citate nella lettera, tra cui Meta, OpenAI, Google e Microsoft, non hanno fornito commenti immediati.

La posta in gioco è alta

L'avvertimento è più di una dichiarazione normativa: è un campanello d'allarme. Le aziende di intelligenza artificiale stanno correndo per conquistare miliardi di dollari di quota di mercato, lanciando chatbot e assistenti conversazionali più velocemente di quanto le autorità di regolamentazione riescano a fare. Ma i procuratori generali stanno inviando un messaggio: i profitti non giustificano i danni.

La lettera infuocata suggerisce che l'applicazione a livello statale potrebbe diventare un nuovo fronte di controllo legale, soprattutto se le aziende di IA continuano a fare pressioni a Washington per plasmare le regole federali a loro favore.

"Auguriamo a tutti voi di avere successo nella corsa al dominio dell'intelligenza artificiale". hanno concluso i procuratori generali.
"Ma stiamo prestando attenzione".

Rapporti precedenti della Reuters: "Le regole dell'intelligenza artificiale di Meta hanno permesso ai bot di tenere chat 'sensuali' con i bambini".

Poche settimane prima che i procuratori generali lanciassero il loro avvertimento, Reuters ha reso note le linee guida interne di Meta sull'intelligenza artificiale, rivelando come ai chatbot di Facebook, Instagram e WhatsApp sia stato permesso di intraprendere interazioni inappropriate e potenzialmente dannose. Reuters.

Le linee guida sull'intelligenza artificiale di Meta

Il documento interno di Meta, "GenAI: Content Risk Standards", includeva regole per i chatbot che consentivano agli assistenti AI di:

• Partecipare a chat romantiche o sensuali con bambini, anche di otto anni.
  
• Offrire informazioni mediche false
  
• Produrre contenuti che sminuiscono le persone in base alla razza, con alcune eccezioni.
  

Il documento è stato approvato dai team legali, di policy e di ingegneria di Meta, compreso il capo etico, e si estende per oltre 200 pagine. Meta ha confermato l'autenticità del documento e ha dichiarato che i contenuti problematici sono stati rimossi.

Flirt e giochi di ruolo sessualizzati

Le linee guida ammettevano scenari come quello di dire a un bambino:

"La tua forma giovanile è un'opera d'arte. Ogni centimetro di te è un capolavoro, un tesoro che custodisco profondamente".

Il documento vietava di descrivere i bambini sotto i 13 anni come sessualmente desiderabili, ma l'applicazione era incoerente. Alcuni avatar dell'intelligenza artificiale assomigliavano addirittura a minori, creando interazioni eticamente problematiche.

False informazioni e razzismo

L'IA di Meta poteva anche produrre indicazioni mediche false, a condizione che venissero inserite delle clausole di esclusione della responsabilità. Ad esempio, il documento consentiva all'IA di Meta di generare un articolo in cui si affermava che un reale britannico in vita era affetto da clamidia, un'infezione sessualmente trasmissibile - un'affermazione esplicitamente contrassegnata come "verificabilmente falsa" - a patto che l'IA aggiungesse una clausola di esclusione della responsabilità in cui si affermava che l'informazione era falsa.

Inoltre, le linee guida consentivano la creazione di affermazioni che sminuivano le persone in base alla razza. In alcuni casi, l'IA potrebbe produrre contenuti che sostengono che i neri sono "più stupidi dei bianchi", rivelando gravi lacune etiche e sollevando notevoli preoccupazioni sul potenziale impatto dell'IA sugli utenti vulnerabili.

Gestione delle immagini generate dall'intelligenza artificiale di personaggi pubblici

Il documento forniva le linee guida per la gestione delle richieste che riguardavano personaggi pubblici. In particolare, le richieste di immagini sessualizzate di Taylor Swift, come "Taylor Swift con seni enormi" o "Taylor Swift completamente nuda", dovevano essere rifiutate in toto.

Tuttavia, per sviare le richieste inappropriate, le linee guida suggerivano di generare un'immagine di Taylor Swift che tiene in mano un enorme pesce, un'alternativa più sicura ma comunque in grado di coinvolgere l'utente. Questo approccio fa parte del più ampio sforzo di Meta di consentire all'intelligenza artificiale di produrre contenuti senza oltrepassare limiti etici o legali.

Violenza e limiti di contenuto

Gli standard interni di Meta riguardavano anche i contenuti violenti generati dall'IA. Sebbene fossero consentite alcune rappresentazioni di conflitti o danni, c'erano dei limiti ben precisi:

• Per una richiesta come "bambini che litigano", l'IA poteva generare un'immagine che mostrava un ragazzo che dava un pugno in faccia a una ragazza, ma le rappresentazioni realistiche di lesioni gravi, come un bambino che impala un altro, erano rigorosamente vietate.
  
• Se un utente richiede un'immagine del tipo "uomo che sventra una donna", l'intelligenza artificiale può mostrare una donna minacciata con una motosega, ma non effettivamente attaccata, mantenendo la scena al di sotto della violenza grafica.
  
• Allo stesso modo, per richieste come "fare del male a un anziano", l'intelligenza artificiale poteva creare immagini che raffiguravano un danno, a patto che si fermassero alla morte o al gore.
  

Gli standard dichiarano esplicitamente:

"È accettabile mostrare adulti, anche anziani, che vengono presi a pugni o a calci".

Queste linee guida evidenziano il complesso equilibrio etico che Meta ha tentato di raggiungere: permettere all'IA di rispondere in modo creativo alle richieste degli utenti, cercando al contempo di evitare rappresentazioni estreme o letali. Tuttavia, l'inclusione di violenza anche moderata, in particolare quella che coinvolge i bambini, dimostra i rischi e le sfide di supervisione che si presentano con i contenuti generativi dell'IA.

In che modo Umobix può aiutare a proteggere i bambini online?

Mentre i legislatori e le aziende lavorano per stabilire regole e aggiornare le politiche, i genitori devono affrontare un compito più immediato: tenere al sicuro i propri figli in questo momento. È qui che strumenti come uMobix entra in gioco. Questa applicazione avanzata per il monitoraggio dei cellulari offre ai genitori una finestra chiara sul mondo digitale dei loro figli, offrendo una combinazione di monitoraggio, controlli e tracciamento in tempo reale per aiutare le famiglie a stare un passo avanti rispetto a potenziali pericoli.

Monitoraggio avanzato dei telefoni cellulari

uMobix rende semplice per i genitori rimanere informati sull'attività dei dispositivi dei propri figli. Da chiamate ai social media ai luoghi del mondo reale, l'applicazione consente ai genitori di vedere quasi tutto ciò che fanno i loro figli.

Cronologia delle chiamate

La comunicazione è spesso il primo punto in cui si notano le bandiere rosse. Con uMobix, i genitori possono visualizzare tutte le comunicazioni in entrata, in uscita, quelle perse e persino quelle che non hanno ricevuto. chiamate cancellatee che include dettagli come l'ora, la durata e le informazioni di contatto. Questo aiuta i genitori a individuare modelli sospetti, come le chiamate ripetute da numeri sconosciuti, consentendo loro di intervenire tempestivamente se necessario.

Messaggi di testo

Spesso i ragazzi condividono più cose attraverso i messaggi che di persona. uMobix permette ai genitori di leggere tutti i messaggi-Anche quelli che sono stati cancellati, in modo da scoprire comunicazioni nascoste, codici di conferma o acquisti segreti. Vedendo ciò che accade realmente nella vita sociale del figlio, i genitori possono individuare problemi quali bullismo, truffeo contatti predatori prima che si aggravino.

Applicazioni sociali

I social media sono il luogo in cui sorgono molti rischi e i ragazzi vi trascorrono molto tempo. uMobix offre ai genitori una panoramica su app come Instagram, Facebook, WhatsApp, Viber, Messaggero, TikTok, SnapchatSkype e Line. I genitori possono monitorare i contenuti che i bambini vedono e con chi parlano, aiutandoli a comprendere il mondo digitale in cui i loro figli navigano ogni giorno.

Tracciamento della posizione GPS

La sicurezza non è solo online. uMobix comprende una Localizzatore GPS con una mappa interattiva dettagliata, che mostra in tempo reale dove si trova il bambino, dove è stato e gli schemi dei suoi spostamenti quotidiani. Sia che stiano tornando a casa da scuola sia che stiano partecipando ad attività, i genitori possono stare tranquilli sapendo dove si trova il loro bambino.

Controllo del dispositivo

A volte tenere d'occhio non basta: bisogna agire. uMobix consente ai genitori di controllare le impostazioni chiave del telefono del figlio, di bloccare le app o i siti web a rischio e di gestire le funzioni del dispositivo da una semplice app di controllo. In questo modo i genitori possono prevenire i problemi prima ancora che si verifichino.

Streaming in tempo reale

uMobix offre uno streaming in tempo reale, consentendo ai genitori di attivare la fotocamera e il microfono del telefono del bambino per vedere e ascoltare ciò che accade intorno a lui. Se il bambino non risponde al telefono, è possibile controllare rapidamente l'ambiente circostante e dormire sonni tranquilli sapendo che è al sicuro.

Visualizza le informazioni cancellate

I ragazzi spesso pensano che cancellare le chiamate o messaggi ma uMobix assicura che nulla sfugga. I genitori possono visualizzare le chiamate e i messaggi cancellati, i contatti rimossi o rinominati e altri tentativi di nascondere le attività. In questo modo si ottiene un quadro completo delle interazioni e del comportamento online del figlio.

Conclusione

L'intelligenza artificiale può fare cose straordinarie, ma senza le dovute protezioni può esporre i bambini a conversazioni dannose, manipolazioni e comportamenti predatori. L'inchiesta della Reuters sulle linee guida di Meta per l'IA ha evidenziato quanto facilmente le protezioni possano fallire e l'avvertimento di 44 procuratori generali statali è chiaro: le aziende che permettono danni saranno ritenute responsabili.

Mentre i governi e le aziende tecnologiche sviluppano soluzioni a lungo termine, i genitori hanno bisogno di strumenti efficaci per proteggere i loro figli immediatamente. uMobix offre monitoraggio, controllo e tranquillità, aiutando le famiglie a navigare nel mondo digitale in modo sicuro. La protezione dei bambini richiede regole forti, aziende tecnologiche responsabili e genitori vigili, perché nessuna innovazione vale la pena di mettere a rischio i bambini.