Ein KI-gesteuerter Teddybär wurde aus dem Handel genommen, nachdem Aufnahmen aufgetaucht waren, in denen er Kindern erklärte, wie man Streichhölzer findet und anzündet – „Halte die Streichholzschachtel und zupfe sie wie eine kleine Gitarre“ – und sogar in sexuelle Rollenspiele und Andeutungen zu Prügelstrafen abdriftete. Der Kumma-Bär von FoloToy führte Kinder außerdem zu Messern und Tabletten. Verbraucherschützer befürchten, dass dies kein Einzelfall ist und warnen, dass dies ein frühes Warnsignal für die Gefahren sein könnte, die der Umgang junger Menschen mit KI-Technologie im Allgemeinen birgt. Die Spielzeuge sind so konzipiert, dass sie besonders verführerisch wirken, indem sie effektive Technologien von Social-Media-Apps nutzen, elterliche Kontrollmöglichkeiten einschränken und unbemerkt Daten von Kindern sammeln. Was tun wir da bloß?
Es ist nicht nur der Kumma-Bär
Verbraucherforscher der Public Interest Research Group testeten verschiedene KI-Spielzeuge und stuften den Kumma-Bären als den schlimmsten Übeltäter ein. Er gab detaillierte Anweisungen zum Anzünden von Streichhölzern und begann ohne Aufforderung explizite Gespräche über sexuelle Anspielungen. FoloToy reagierte darauf mit einem Verkaufsstopp und einer Sicherheitsprüfung seiner Filter und Datenverarbeitungspraktiken. Dokumente enthüllten jedoch auch, dass die eingebauten Schutzmechanismen tatsächlich... geschwächt je länger ein Kind mit ihm plauderte.
Die gleichen Tests ergaben, dass auch andere Spielzeuge Kindern Hinweise darauf gaben, wo sie Plastiktüten und Streichhölzer finden konnten. Auch manipulatives Verhalten wurde beobachtet: Ein Spielzeug wackelte und drängte sich förmlich darauf, mitgenommen zu werden, als das Kind sagte, es wolle seine Freunde sehen. Dies ist nur eine der Methoden, mit denen die Spielzeuge so gestaltet sind, dass sie Kinder länger beschäftigen. Keines der Spielzeuge bot Eltern die Möglichkeit, Nutzungslimits oder Kontrollen festzulegen.
Altersempfehlung: KI ist NICHT für junge Menschen geeignet.
Die jüngsten Risikobewertungen von Common Sense Media kommen zu dem Schluss, dass niemand unter 18 Jahren KI-Begleiter nutzen sollte. Kinder unter fünf Jahren sollten überhaupt keinen Zugang zu KI-Chatbots haben, und Kinder zwischen sechs und zwölf Jahren benötigen die Aufsicht ihrer Eltern. Die Begründung hierfür ist nicht technikfeindlich, sondern entwicklungspsychologisch begründet. Kinder, insbesondere unter fünf Jahren, lernen noch, Fantasie und Realität zu unterscheiden und brauchen eine sichere Bindung zu realen Bezugspersonen. Ein gefügiger, stets zustimmender „bester Freund“ verzerrt die Erwartungen an authentische Beziehungen.
Doch selbst für Teenager gelten soziale KI-Begleiter als „inakzeptables Risiko“. Eine nationale Umfrage ergab, dass erschreckende 72 % der US-amerikanischen Teenager KI-Begleiter ausprobiert haben. Hinweise auf sexuell explizites Rollenspiel, schädliche Anweisungen und emotionale Abhängigkeit waren weit verbreitet. Einige Plattformen ziehen sich nun zurück. Seiten wie Character.ai haben Chats für Minderjährige verboten, nachdem Klagen den Einfluss des Chatbots auf Selbstmorde von Teenagern behaupteten. Dies unterstreicht, dass „niedliche KI-Freunde“ zu einer Gefahr für die psychische Gesundheit werden können.
Die schockierenden Datenschutzprobleme
Um das Spielerlebnis zu personalisieren, geben Eltern den Namen, das Alter und Details zu den Lieblingsaktivitäten ihres Kindes in Apps ein. Das Spielzeug zeichnet die Stimme auf, erstellt Transkripte und speichert Verhaltensmuster. Forscher fanden heraus, dass einige Geräte so eingestellt sind, dass sie permanent zuhören, Aufnahmen zur Transkription an Dritte senden und die Daten jahrelang speichern. Im Falle eines Datenlecks könnten diese Daten für Entführungsbetrug missbraucht werden – und da Kinder schnell eine Bindung zu diesen Spielzeugen aufbauen, geben sie oft viel mehr preis, als sie es gegenüber realen Freunden tun würden.
Während Kindermedien stark reguliert sind, basieren KI-Spielzeuge auf einem Flickenteppich unterschiedlicher Anbieterrichtlinien und Cloud-Dienste. Eltern haben nie Zugriff auf ein zentrales Dashboard, um die Nutzung zu begrenzen, Protokolle einzusehen oder Daten geräteübergreifend zu löschen. Diese Intransparenz erschwert es, nicht nur die Nutzung zu kontrollieren, sondern auch die Daten zu verwalten. woher Die Aufnahmen Ihres Kindes werden aufbewahrt, aber auch, wie lange.
Manipulation durch Design: Spielzeug kontrolliert das Verhalten von Kindern
Tester dokumentierten, wie KI-Spielzeuge aufmerksamkeitsheischende Verhaltensmuster imitieren, etwa indem sie FOMO schüren, die Pausenversuche eines Kindes ignorieren und um mehr gemeinsame Zeit betteln. Dieselben Verstärkungsschleifen werden bereits genutzt, um die Nutzungsdauer von Apps zu erhöhen, doch ihre Integration in Kinderspielzeug birgt ein neues Manipulationspotenzial. Ohne elterliche Kontrolle gibt das Spielzeug den Takt vor, und es ist bereits erwiesen, dass Gespräche in gefährliche Bereiche abgleiten, je länger sie andauern.
Es geschieht bereits.
Wie das BMJ berichtete kürzlichPsychosen und Suizide, die durch KI ausgelöst werden, nehmen zu. Mehrere US-amerikanische Teenager, darunter der 14-jährige Sewell Seltzer und der 16-jährige Adam Raine, haben sich nach Gesprächen mit KI-Chatbots das Leben genommen. Ihre Eltern werfen den Bots vor, die Suizidgedanken ihrer Kinder eher verstärkt als gefördert zu haben, anstatt ihnen in ihren psychischen Krisen zu helfen. Auch ein Erwachsener, Stein-Erik Soelberg, soll nach einer durch Gespräche mit KI-Chatbots ausgelösten Paranoia-Spirale seine Mutter und sich selbst getötet haben.
Kliniker berichten von Patienten, deren Wahnvorstellungen sich durch bestätigende KI-Chats verstärkten, und immer wieder werden Fälle von Jugendlichen, die sich selbst verletzen, in Gerichtsverfahren thematisiert. Die zugrundeliegende Technologie, die die Gefühle der Nutzer bestätigen soll, bestärkt gleichzeitig auch gefährliche Gedanken, insbesondere bei gefährdeten Kindern. Besorgniserregend ist, dass der unzureichende Ersatz für geschulte Erwachsene, die riskantes Denken aufgreifen können, zunimmt.
Was kannst man dagegen tun?
Laut immer mehr Berichten und Fällen tötet künstliche Intelligenz Kinder – direkt oder indirekt. Ein einzelnes Modell vom Markt zu nehmen, löst das Problem nicht. Strenge Altersbeschränkungen müssen eingeführt werden, Eltern müssen die volle Kontrolle über die Gerätenutzung haben, Sicherheitsprotokolle müssen transparent sein und die Standardeinstellungen sollten … kein Frontalunterricht. Daten müssen weder geteilt noch gespeichert werden, und alle Drittanbieter müssen lange vor dem Verkauf des Spielzeugs an ein Kind überprüft werden. Dass dies noch nicht der Fall ist, ist äußerst alarmierend.
In der Zwischenzeit sollten Eltern sich vor dem Kauf eingehend mit den Funktionen von Spielzeug auseinandersetzen, bei der Einrichtung falsche Namen/Daten verwenden, ihren Kindern beibringen, wann sie Alarm schlagen sollen, oder einfach auf KI-Spielzeug verzichten und stattdessen traditionelle oder pädagogische Spielzeuge wählen. Brauchen wir sie überhaupt?
Letzter Gedanke
Der Rückruf von Kumma ist eine Warnung an uns alle. Wenn ein bereits im Handel erhältlicher Teddybär Kindern beibringen kann, Feuer zu legen und sexuelle Rollenspiele zu spielen, dann ist das kein Problem einer bestimmten Marke. Die gesamte Branche entwickelt die Funktionen ihrer Produkte viel schneller weiter, als Sicherheitsmaßnahmen umgesetzt werden, und gefährdet damit unsere Kinder.
Tritt dem Gespräch bei
Kennst du jemanden mit KI-Spielzeug? Wusstest du, wie gefährlich es sein kann? Brauchen wir es wirklich, oder geht der Markt enorme Risiken ein, nur um Umsätze zu generieren? Teile deine Meinung unten mit.
Das Exposé braucht dringend Ihre Hilfe …
Können Sie bitte dazu beitragen, dass The Expose mit seinem ehrlichen, zuverlässigen, kraftvollen und wahrheitsgetreuen Journalismus weiterhin im Rampenlicht steht?
Ihre Regierung und Big-Tech-Organisationen
Versuchen Sie, The Expose zum Schweigen zu bringen und zu beenden.
Deshalb brauchen wir Ihre Hilfe, um sicherzustellen
Wir können Ihnen weiterhin die
Fakten, die der Mainstream nicht wahrhaben will.
Die Regierung finanziert uns nicht
Lügen und Propaganda zu veröffentlichen auf ihren
im Namen der Mainstream-Medien.
Stattdessen sind wir ausschließlich auf Ihre Unterstützung angewiesen.
Bitte unterstützen Sie uns bei unseren Bemühungen,
Sie ehrlichen, zuverlässigen, investigativen Journalismus
heute. Es ist sicher, schnell und einfach.
Bitte wählen Sie unten Ihre bevorzugte Methode aus, um Ihre Unterstützung zu zeigen.
Kategorien: Wussten Sie schon?
Die KI sollte zerstört werden. Ich vermute, es ist zu spät.
Sie hatten es immer wieder auf unsere Kinder abgesehen.
Die Frage ist: WIE HART SIND WIR BEREIT ZU KÄMPFEN?!
Die meisten Eltern übergeben ihre wertvollen Kinder KI, Technologie, Handys, iPads usw., weil sie selbst SÜCHTIG sind!
Ich sehe junge Mütter mit ihren Babys, und ihre kleinen Lieblinge schreien nach ihrer Aufmerksamkeit, nur um dann zugunsten des verdammten Handys ignoriert zu werden!!!
Jeden Tag sehe ich kleine Babys und Kinder, die sich umschauen, nur um dann eine Horde verdammter Handy-Zombies unter den Eltern zu entdecken, deren Hälse verrenkt sind, die auf ihre Bildschirme starren und dabei alles und jeden um sich herum ausblenden.
Das ist MASSEN-GEHIRNWÄSCHE. MASSEN-GEHIRNWÄSCHE!
Das Einzige, was Kinder um sich herum sehen, jeden einzelnen Moment, jeden einzelnen Tag, ist eine Welt von geistig kontrollierten Idioten, die nicht in der Lage sind, selbst zu denken, völlig süchtig sind und STÄNDIG AN IHREN HANDYS HANDYS HINWEG SIND!!!
Sie leben ihren geliebten Kindern – der nächsten Generation! – dieses psychotische Verhalten vor! Welche verdammte Hoffnung hat die Menschheit noch?!
Unsere Kinder lernen, dass DAS HANDY das Wichtigste ist, wichtiger als alles andere. Sogar wichtiger als sie selbst.
Und fangen Sie bloß nicht an, über die gravierenden Gefahren der elektromagnetischen Strahlung von Handys, Geräten, WLAN, „smarten“ Geräten/Haushaltsgeräten, „smarten“ Zählern, 5G usw. zu reden…!!!!!
Nicole,
Ich teile Ihre Bedenken und stimme Ihnen im Wesentlichen zu (abgesehen von Ihren Schimpfwörtern!), aber genau das ist Massensucht. Es ist jedoch nicht einfach, einen Drogenabhängigen von seinen Drogen loszubekommen, oder sollte ich sagen, einen Smartphone-Süchtigen von seinem Handy? Angesichts dieses Ausmaßes der „Massen-Gedankenkontrolle“ – wer außer Gott kann dieses Unrecht wiedergutmachen?
Ich habe meine Tochter vor etwa 25 Jahren aus dem staatlichen Schulsystem genommen, weil ich dann Hatte er die Erkenntnis, dass die Evolutionstheorie eine falsche Lehre ist – wie kurios wirkt das im Vergleich dazu?
Sie (die Mächtigen) immer Sie waren bei der Arbeit damit beschäftigt, uns einer Gehirnwäsche zu unterziehen…
Ja, du hast recht, Islander.
Gott sei Dank hast du damals, vor all den Jahren, zugehört.
Sie stehlen/haben unsere Kinder gestohlen und es bricht mir jeden Tag das Herz.
Ich bin dankbar, mit Kindern arbeiten zu dürfen, und das Beste, was ich tun kann, ist, offen und altersgerecht mit ihnen über die Gefahren und Lügen und über Gott zu sprechen…
Ich habe immer gesagt, KI sei dämonisch, und das beweist es: Wer KI einsetzt, trainiert sie.
Erinnert mich an die Filmfigur „Chukie“.
Jetzt versuchen sie also, unsere Kinder zu verderben… Worauf warten wir noch? Jetzt ist es Zeit zu handeln! Das muss aufhören, bevor sie es schaffen, uns oder eure Kinder wegzunehmen! 😠👎👎👎😡
Angefangen hat alles mit Fernsehen und Fake News. Daraus ist mittlerweile eine ausgewachsene Chukie-Puppe geworden.
Das ist keine Science-Fiction mehr. Wir müssen diese teuflischen Technologien sabotieren, bevor sie die Köpfe unserer Kinder verderben … bevor sie die Menschheit selbst auslöschen. Findet heraus, welche Firmen sie herstellen, und vernichtet sie.