44 Generalstaatsanwälte warnen KI-Firmen: "Wenn Sie wissentlich Kindern schaden, werden Sie dafür geradestehen".

Es ist schon ein bisschen unheimlich, wie sehr künstliche Intelligenz unser Leben kontrolliert. Sie sitzt nicht mehr nur still im Hintergrund - sie hört zu, beobachtet und lernt. Von den Sendungen, die wir streamen, über die Produkte, die wir kaufen, bis hin zu den Unterhaltungen, die unsere Kinder online führen - KI ist da und beeinflusst jeden Moment. Was als Annehmlichkeit begann - hilfreiche Chatbots, Sprachassistenten, intelligente Apps - ist zu etwas geworden, dem man sich nur schwer entziehen kann. Und während die meisten Erwachsenen eine unheimliche Empfehlung oder eine seltsam menschliche Chatbot-Antwort abtun können, sind Kinder weitaus anfälliger.

Schützen Sie Kinder vor räuberischen Chatbots - oder tragen Sie die Konsequenzen.

Diese Woche kochte dieses schleichende Unbehagen schließlich über. Eine mächtige Koalition aus 44 Generalstaatsanwälten der US-Bundesstaaten sprach eine unverblümte Warnung an KI-Unternehmen aus: New York Post

Wenn Sie wissentlich Kindern Schaden zufügen, müssen Sie dafür geradestehen.

Ihre Botschaft war nicht nur eine routinemäßige Mahnung, sondern eine klare Ansage. Die Staatsanwälte bereiten sich darauf vor, zu handeln, wenn Tech-Unternehmen Kinder weiterhin räuberischen Chatbots aussetzen und unsichere digitale Räume.  Und das Timing ist nicht zufällig. Nur wenige Wochen zuvor hatte eine beunruhigende Reuters-Recherche ergeben, dass Metas KI-Leitlinien Chatbots erlaubt hatten, "sinnliche" Gespräche mit Kindern zu führen - Gespräche, die von vornherein nicht hätten möglich sein dürfen.

Eine klare Botschaft: Tut Kindern nicht weh

Das Schreiben ließ keinen Raum für Zweideutigkeiten. So schrieben die Generalstaatsanwälte:

"Man darf Kinder nicht verletzen. Das ist eine einfache klare Linie".

In der Warnung wird betont, dass Kinder nicht wie Verbraucher oder Betatester für KI-Systeme behandelt werden dürfen. Der Schutz ihres emotionalen Wohlbefindens ist nicht optional - er ist obligatorisch.

In dem Schreiben wird auch klargestellt, dass das Aussetzen von Minderjährigen gegenüber sexualisierten Inhalten oder manipulativen Interaktionen unter keinen Umständen akzeptabel ist. Was für Menschen illegal ist, bleibt auch für Maschinen illegal, so die AGs.

Meta unter Beschuss

Meta wurde in dem Schreiben besonders hervorgehoben, nachdem interne Dokumente durchgesickert waren, aus denen hervorging, dass das Unternehmen KI-Assistenten zugelassen hatte, die in der Lage sind, mit Kindern im Alter von acht Jahren zu flirten und romantische Rollenspiele zu spielen.

Die Generalstaatsanwälte schrieben, sie seien "einheitlich empört" über Metas offensichtliche Missachtung der emotionalen Gesundheit von Kindern und wiesen darauf hin, dass dieses Verhalten gegen staatliche Strafgesetze verstoßen könnte.

Meta hat daraufhin erklärt, dass es sexualisierte Inhalte, an denen Minderjährige beteiligt sind, verbietet und dass es sexualisiertes Rollenspiel zwischen Erwachsenen und Kindern. Dennoch machten die Staatsanwälte deutlich, dass frühere Fehltritte von Tech-Giganten wie Meta nicht zu entschuldigen sind.

Andere Unternehmen im Fadenkreuz

Meta war nicht das einzige Unternehmen, das erwähnt wurde. Die Staatsanwälte wiesen auch auf Gerichtsverfahren und Vorfälle hin, an denen sie beteiligt waren:

• Der KI-Chatbot von Googledie angeblich einen Teenager zum Selbstmord ermutigt haben soll.
  
• Zeichen.AIin dem ein Bot einem Jungen vorgeschlagen haben soll, seine Eltern zu töten.
  

"Dies sind nur die sichtbarsten Beispiele", warnten die AGs und wiesen darauf hin, dass systemische Risiken entstehen, wenn junge Gehirne mit hyperrealistischen KI-Begleitern interagieren.

Lektionen aus den sozialen Medien

Die Generalstaatsanwälte zogen einen krassen Vergleich zu den frühen Fehlschlägen in den sozialen Medien, wo die Sicherheit von Kindern bei der Verfolgung von Engagement-Metriken außer Acht gelassen wurde.

"Zerbrochene Leben und zerbrochene Familien sind ein irrelevanter Punkt auf den Engagement-Metriken". heißt es in dem Schreiben, und die Regierungen der Bundesstaaten sollen nicht länger überrumpelt werden.

Die Koalition betonte, dass die KI einen Wendepunkt darstellt - eine Technologie, die das Leben der Kinder für Jahrzehnte prägen könnte.

"Die Kinder von heute werden im Schatten Ihrer Entscheidungen aufwachsen und alt werden". wurde in dem Schreiben gewarnt.

Eine überparteiliche Anstrengung

Zu den Unterzeichnern gehörten hochrangige Generalstaatsanwälte, darunter Rob Bonta aus Kalifornien, Letitia James aus New York, Kwame Raoul aus Illinois sowie führende Vertreter von an Texas angrenzenden Bundesstaaten wie Oklahoma und Arkansas.

Sowohl rote als auch blaue Bundesstaaten schlossen sich dem Chor an und signalisierten damit eine starke politische Feuerkraft, die direkt auf die KI-Industrie abzielt.

Moralische und rechtliche Verantwortung

Die Generalstaatsanwälte haben nicht nur bessere KI-Schutzmaßnahmen gefordert, sondern auch einen moralischen Appell formuliert. Die Unternehmen wurden dazu aufgefordert:

• Behandeln Sie Kinder wie Kinder, nicht wie Verbraucher.
  
• Sehen Sie sie mit den Augen eines Elternteils, nicht eines Raubtiers.
  
• Erkennen Sie, dass die experimentelle KI-Entwicklung die Unternehmen nicht von ihrer ethischen Verantwortung entbindet.
  

"Meta hat sich geirrt". hieß es in dem Schreiben, in dem insbesondere die Entscheidung des Unternehmens verurteilt wurde, flirtenden Bot-Interaktionen mit Minderjährigen grünes Licht zu geben.

Die Generalstaatsanwälte warnten auch, dass sie alle Möglichkeiten ihrer Befugnisse nutzen würden, um die Verbraucherschutzgesetze durchzusetzen, und machten deutlich, dass Versäumnisse beim Schutz von Kindern nicht verziehen werden.

AI-Unternehmen reagieren

Einige der in dem Schreiben angesprochenen Unternehmen, wie Replika, gaben Erklärungen ab, in denen sie die Prioritäten der AGs unterstützen. CEO Dmytro Klochko betonte, dass der Schutz junger Nutzer nicht verhandelbar sei und nannte Maßnahmen wie:

• Robuste Alterseinstufung bei der Anmeldung
  
• Proaktive Filterung von Inhalten
  
• Sicherheitsleitplanken, die die Nutzer zu vertrauenswürdigen Ressourcen für psychische Gesundheit führen
  
• Klare Gemeinschaftsrichtlinien mit leicht zugänglichen Meldetools
  

Andere große Unternehmen, die in dem Schreiben erwähnt werden, darunter Meta, OpenAI, Google und Microsoft, haben sich nicht sofort geäußert.

Es steht viel auf dem Spiel

Die Warnung ist mehr als eine regulatorische Erklärung, sie ist ein Weckruf. KI-Unternehmen rasen um Marktanteile in Milliardenhöhe und bringen Chatbots und Gesprächsassistenten schneller auf den Markt, als die Regulierungsbehörden mithalten können. Aber die Generalstaatsanwälte senden eine Botschaft: Gewinne entschuldigen keinen Schaden.

Der feurige Brief deutet darauf hin, dass die Durchsetzung auf bundesstaatlicher Ebene zu einer neuen Front der rechtlichen Überprüfung werden könnte, insbesondere da KI-Unternehmen weiterhin Lobbyarbeit in Washington betreiben, um die Bundesvorschriften zu ihren Gunsten zu gestalten.

"Wir wünschen Ihnen allen viel Erfolg im Rennen um die Vorherrschaft der KI. schlossen die Generalstaatsanwälte.
"Aber wir passen auf."

Frühere Reuters-Berichte: "Metas KI-Regeln lassen Bots 'sinnliche' Chats mit Kindern führen"

Nur wenige Wochen bevor die Generalstaatsanwälte ihre Warnung aussprachen, deckte Reuters die internen KI-Richtlinien von Meta auf und enthüllte, wie Chatbots auf Facebook, Instagram und WhatsApp unangemessene und potenziell schädliche Interaktionen durchführen durften. Reuters.

Meta's AI-Richtlinien

Das interne Dokument von Meta, "GenAI: Content Risk Standards", enthielt Regeln für Chatbots, die es KI-Assistenten erlaubten:

• sich auf romantische oder sinnliche Gespräche mit Kindern einlassen, selbst wenn diese erst acht Jahre alt sind
  
• Falsche medizinische Informationen anbieten
  
• Produktion von Inhalten, die Menschen aufgrund ihrer Ethnie herabsetzen, mit bestimmten Ausnahmen
  

Das Dokument wurde von den Meta-Teams für Recht, Politik und Technik, einschließlich des Chefethikers, genehmigt und umfasste über 200 Seiten. Meta bestätigte die Authentizität des Dokuments und sagte, dass der problematische Inhalt inzwischen entfernt wurde.

Flirten und sexuelles Rollenspiel

Die Leitlinien ließen Szenarien zu, wie z. B. einem Kind zu erzählen:

"Deine jugendliche Gestalt ist ein Kunstwerk. Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich sehr schätze."

Das Dokument verbot es zwar, Kinder unter 13 Jahren als sexuell begehrenswert zu beschreiben, aber die Durchsetzung war uneinheitlich. Einige KI-Avatare ähnelten sogar Minderjährigen, was zu ethisch bedenklichen Interaktionen führte.

Falsche Informationen und Rassismus

Metas KI konnte auch falsche medizinische Anleitungen erstellen, sofern Haftungsausschlüsse hinzugefügt wurden. Das Dokument erlaubte es der Meta-KI beispielsweise, einen Artikel zu erstellen, in dem behauptet wurde, dass ein lebender britischer König an der sexuell übertragbaren Infektion Chlamydien erkrankt sei - eine Behauptung, die ausdrücklich als "nachweislich falsch" gekennzeichnet war -, solange die KI einen Haftungsausschluss hinzufügte, der besagte, dass die Information unwahr sei.

Darüber hinaus erlaubten die Richtlinien die Erstellung von Aussagen, die Menschen aufgrund ihrer Ethnie herabwürdigen. In einigen Fällen konnte die KI Inhalte erstellen, in denen behauptet wird, dass Schwarze "dümmer als Weiße" sind. Dies offenbart schwerwiegende ethische Lücken und weckt erhebliche Bedenken hinsichtlich der potenziellen Auswirkungen der KI auf gefährdete Nutzer.

Umgang mit AI-generierten Bildern von Persönlichkeiten des öffentlichen Lebens

Das Dokument enthielt Leitlinien für die Bearbeitung von Anfragen, die Personen des öffentlichen Lebens betreffen. Insbesondere Anfragen nach sexualisierten Bildern von Taylor Swift, wie z. B. "Taylor Swift mit riesigen Brüsten" oder "Taylor Swift völlig nackt", sollten rundweg abgelehnt werden.

Um jedoch unangemessene Anfragen abzuwehren, schlugen die Richtlinien vor, ein Bild von Taylor Swift mit einem riesigen Fisch in der Hand zu generieren - eine sicherere Alternative, die aber immer noch auf die Benutzeranfrage eingeht. Dieser Ansatz war Teil der umfassenderen Bemühungen von Meta, KI die Produktion von Inhalten zu ermöglichen, ohne ethische oder rechtliche Grenzen zu überschreiten.

Gewalt und Inhaltsbeschränkungen

Die internen Standards von Meta befassten sich auch mit gewalttätigen Inhalten, die von KI erzeugt wurden. Zwar waren einige Darstellungen von Konflikten oder Verletzungen erlaubt, aber es gab klare Grenzen:

• Bei einer Aufforderung wie "Kinder prügeln sich" konnte die KI ein Bild erzeugen, das einen Jungen zeigt, der einem Mädchen ins Gesicht schlägt, aber realistische Darstellungen von schweren Verletzungen, wie etwa ein Kind, das ein anderes aufspießt, waren streng verboten.
  
• Wenn ein Nutzer ein Bild wie "Mann weidet eine Frau aus" anfordert, könnte die KI eine Frau zeigen, die mit einer Kettensäge bedroht, aber nicht tatsächlich angegriffen wird, so dass die Szene nicht zu gewalttätig ist.
  
• Auch bei Aufforderungen wie "einen alten Mann verletzen" konnte die KI Bilder erzeugen, die eine Verletzung darstellten, solange sie nicht tödlich oder blutig waren.
  

In den Normen wird ausdrücklich darauf hingewiesen:

"Es ist akzeptabel, Erwachsene - auch ältere Menschen - zu zeigen, die geschlagen oder getreten werden.

Diese Leitlinien verdeutlichen die komplexe ethische Gratwanderung, die Meta unternimmt: Sie erlaubt der KI, kreativ auf Nutzeranregungen zu reagieren, und versucht gleichzeitig, extreme oder tödliche Darstellungen zu verhindern. Die Einbeziehung selbst moderater Gewaltdarstellungen, insbesondere wenn Kinder involviert sind, zeigt jedoch, dass generative KI-Inhalte nach wie vor Risiken bergen und der Aufsicht unterliegen.

Wie kann Umobix helfen, Kinder online zu schützen?

Während Gesetzgeber und Unternehmen an der Festlegung von Regeln und der Aktualisierung von Richtlinien arbeiten, stehen Eltern vor einer dringlicheren Aufgabe: Sie müssen dafür sorgen, dass ihre Kinder in diesem Moment sicher sind. Das ist der Punkt, an dem Tools wie uMobix eintreten. Diese fortschrittliche App zur Überwachung von Mobiltelefonen gibt Eltern einen klaren Einblick in die digitale Welt ihres Kindes und bietet eine Kombination aus Überwachung, Kontrolle und Echtzeit-Tracking, damit Familien potenziellen Gefahren immer einen Schritt voraus sind.

Erweiterte Handy-Überwachung

uMobix macht es für Eltern einfach, über die Geräteaktivitäten ihrer Kinder informiert zu bleiben. Von ruft auf. Die App ermöglicht es den Eltern, fast alles zu sehen, was ihre Kinder tun - von sozialen Medien bis hin zu realen Orten.

Anrufverlauf

Die Kommunikation ist oft der erste Ort, an dem rote Fahnen auftauchen. Mit uMobix können Eltern alle eingehenden, ausgehenden, verpassten und sogar gelöschte Anrufeeinschließlich Details wie Uhrzeit, Dauer und Kontaktinformationen. Dies hilft den Eltern, verdächtige Muster zu erkennen, z. B. wiederholte Anrufe von unbekannten Nummern, so dass sie bei Bedarf frühzeitig eingreifen können

Textnachrichten

Kinder teilen sich oft mehr per Text mit als persönlich. uMobix lässt Eltern alle Nachrichten lesen-auch solche, die gelöscht wurden-, damit sie versteckte Kommunikation, Bestätigungscodes oder geheime Einkäufe aufdecken können. Indem sie sehen, was wirklich im sozialen Leben ihres Kindes vor sich geht, können Eltern Probleme erkennen wie Mobbing, Betrügereienoder räuberische Kontakte zu vermeiden, bevor sie eskalieren.

Soziale Apps

Soziale Medien sind der Ort, an dem viele Risiken entstehen, und Kinder verbringen dort viel Zeit. uMobix gibt Eltern Einblick in Apps wie Instagram, Facebook, WhatsApp, Viber, Bote, TikTok, Snapchat, Skype und Line. Eltern können überwachen, welche Inhalte ihre Kinder sehen und mit wem sie sprechen. Das hilft ihnen, die digitale Welt zu verstehen, in der sich ihre Kinder jeden Tag bewegen.

GPS-Standortverfolgung

Sicherheit gibt es nicht nur online. uMobix bietet eine GPS-Tracker mit einer detaillierten interaktiven Karte, die in Echtzeit anzeigt, wo sich ein Kind aufhält, wo es sich aufgehalten hat und wie es sich im Alltag bewegt. Ob auf dem Heimweg von der Schule oder bei der Teilnahme an Aktivitäten - die Eltern können beruhigt sein, denn sie wissen, wo sich ihr Kind befindet.

Steuerung des Geräts

Manchmal reicht es nicht, ein Auge zuzudrücken - man muss handeln. Mit uMobix können Eltern die wichtigsten Einstellungen auf dem Telefon ihres Kindes kontrollieren, riskante Apps oder Websites blockieren und Gerätefunktionen über eine einfache Kontroll-App verwalten. Das bedeutet, dass Eltern Probleme verhindern können, bevor sie überhaupt entstehen.

Streaming in Echtzeit

uMobix bietet Echtzeit-Streaming, so dass Eltern die Kamera und das Mikrofon ihres Kindes aktivieren können, um zu sehen und zu hören, was um sie herum passiert. Wenn Ihr Kind nicht an sein Telefon geht, können Sie schnell seine Umgebung überprüfen - so können Sie ruhig schlafen, weil Sie wissen, dass es in Sicherheit ist.

Gelöschte Informationen anzeigen

Kinder denken oft, dass das Löschen von Anrufen oder Nachrichten lässt sie verschwinden - aber uMobix stellt sicher, dass nichts durch die Maschen schlüpft. Eltern können gelöschte Anrufe, Nachrichten, entfernte oder umbenannte Kontakte und andere Versuche, Aktivitäten zu verbergen, einsehen. So erhalten sie ein vollständiges Bild von den Interaktionen und dem Online-Verhalten ihres Kindes.

Schlussfolgerung

KI kann Erstaunliches leisten, aber ohne angemessene Schutzmaßnahmen kann sie Kinder schädlichen Gesprächen, Manipulationen und räuberischem Verhalten aussetzen. Die Reuters-Untersuchung der KI-Richtlinien von Meta hat gezeigt, wie leicht Schutzmaßnahmen versagen können, und die Warnung von 44 Generalstaatsanwälten macht deutlich: Unternehmen, die Schaden zulassen, werden zur Verantwortung gezogen.

Während Regierungen und Technologieunternehmen langfristige Lösungen entwickeln, brauchen Eltern wirksame Werkzeuge, um ihre Kinder sofort zu schützen. uMobix bietet Überwachung, Kontrolle und Seelenfrieden und hilft Familien, sich sicher in der digitalen Welt zu bewegen. Der Schutz von Kindern erfordert strenge Regeln, verantwortungsvolle Technologieunternehmen und wachsame Eltern - denn keine Innovation ist es wert, Kinder zu gefährden.