KI und unsere Kinder: Die Zukunft, die wir wählen

Helena McAleer

9. Oktober 2025
Lesezeit: 11 Minuten

Ich habe die Gen AI Academy aus Begeisterung für die Zukunft gegründet. Während meiner Zusammenarbeit mit dem KI-Experten Dave Birss habe ich erlebt, wie KI mir helfen konnte, schneller zu denken, meinen geistigen Nebel zu vertreiben und meinen Horizont kreativ zu erweitern. Ich war überzeugt, dass wir auch anderen dabei helfen können – ihnen dabei zu helfen, diese Werkzeuge so einzusetzen, dass sie sie stärken, anstatt sie zu überfordern.

Doch als alleinerziehende Mutter eines mittlerweile dreijährigen Kindes lebe ich auch mit einem unguten Gefühl. Ich habe miterlebt, wie der ungebremste Aufstieg der sozialen Medien, der einst als Mittel der Vernetzung gepriesen wurde, zu einem Netz aus Vergleichen, dem Verlust der Privatsphäre und psychischen Problemen geworden ist. Und jetzt, da die KI in jeden Winkel der Kindheit vordringt, laufen wir Gefahr, dieselben Fehler zu wiederholen.

Vor etwa einem Jahr habe ich alle meine Social-Media-Konten gelöscht – Facebook, Instagram – und sogar das Bild meines Kindes aus meinem WhatsApp-Profilbild entfernt. Es war eine schwere Entscheidung, denn das bedeutete, mich von Gemeinschaften zu verabschieden, die mir am Herzen lagen, und von Netzwerken, die ich über Jahre hinweg aufgebaut hatte. Aber es war ein Opfer, das ich nicht bereue: Mein Leben fühlt sich erfüllter, bewusster und echter an.

Doch obwohl ich die Kontrolle über mein unmittelbares Umfeld übernommen habe, ist mir bewusst, dass wir in Bezug auf KI und die Zukunft unserer Kinder bereits im Rückstand sind. Wir haben zugelassen, dass sich die sozialen Medien ausbreiteten, bevor es sinnvolle Schutzmaßnahmen gab. Wir haben zugelassen, dass Kinder zu Versuchskaninchen in einem groß angelegten Experiment wurden. Heute beginnen einige Länder gerade erst zu reagieren, indem sie soziale Plattformen für unter 16-Jährige verbieten oder den Jugendschutz verstärken.

Wenn es um KI geht, sollten wir eine Vorreiterrolle einnehmen und nicht nur hinterherhinken. Das ist eine einmalige Chance.

„Wir haben eine ganze Generation im Stich gelassen, indem wir die Technologie ungehindert walten ließen. Nun ist die KI die nächste Herausforderung, und wir können es uns nicht leisten, erneut nur zu reagieren.“

Die Alarmglocken in den sozialen Medien

Soziale Medien galten einst als demokratische Räume für Meinungsäußerung und Vernetzung. Doch inzwischen sind die negativen Auswirkungen deutlich geworden, insbesondere bei Kindern:

Eine Metaanalyse aus dem Jahr 2022, die 59 Studien umfasste, ergab, dass Jugendliche, die mehr als drei Stunden pro Tag in sozialen Medien verbrachten, signifikant häufiger unter Depressionen, Angstzuständen und einem geringen Selbstwertgefühl litten.
Die Royal Society for Public Health im Vereinigten Königreich hat Instagram zur Plattform gekürt, die der psychischen Gesundheit junger Menschen am meisten schadet.
Durchgesickerte interne Dokumente großer Plattformen (z. B. Facebook/Meta) zeigten, dass man sich schon früh bewusst war, wie Instagram negative Auswirkungen auf das Körperbild verstärkte, Maßnahmen jedoch hinauszögerte.
In den letzten Jahren haben Länder wie Indonesien, Australien und Frankreich Verbote oder Altersbeschränkungen (z. B. die Beschränkung des Zugangs für Nutzer unter 16 Jahren) für soziale Plattformen diskutiert oder erlassen, um die psychische Gesundheit und die Privatsphäre von Kindern zu schützen.

Wir (die Öffentlichkeit) haben nicht damit gerechnet, wie sehr Suchtpotenzial durch Design, endloses Scrollen, gezielte Werbung und algorithmische Verstärkung die Giftigkeit noch verstärken würden. Wir haben zu lange zugelassen, dass sich die sozialen Medien zu einem weltweiten Experiment entwickelten, ohne dass es solide, durchsetzbare Grundsätze gab.

Nun tritt die KI in dieselben Fußstapfen. Wir dürfen unsere Fehler nicht wiederholen.

Eine Welt am Scheideweg

Derzeit gibt es noch Wahlmöglichkeiten. Die Gesellschaft kann entscheiden, wie KI entwickelt, reguliert und eingesetzt wird. Doch jeder unregulierte KI-Begleiter, jede versteckte Kamera, jeder aufmerksamkeitsstarke Algorithmus schränkt die Handlungsfähigkeit ein, insbesondere bei Kindern.

Lassen Sie mich eines klarstellen: Diese Last darf nicht allein auf den Schultern der Eltern lasten. Wir können nicht jedes Gespräch überwachen, jede Empfehlung filtern oder jede Statistik kontrollieren, die darauf abzielt, unsere Kinder noch tiefer in die Sucht zu treiben. Die Verantwortung liegt in erster Linie bei den politischen Entscheidungsträgern, den Regulierungsbehörden und den Unternehmen, die diese Tools entwickeln.

Risikobereiche, mit denen sich alle Eltern und Aufsichtsbehörden auseinandersetzen müssen

KI-Begleiter: Wenn emotionale Unterstützung zur emotionalen Manipulation wird

KI-Begleiter sind in erster Linie dialogorientierte Chatbots, die darauf ausgelegt sind, Freundschaft, Trost und Empathie zu vermitteln. Sie merken sich Gespräche, passen sich der Stimmung an und spiegeln emotionale Signale so überzeugend wider, dass viele Nutzer, darunter auch Kinder, beginnen, sie als echte Vertraute wahrzunehmen.

Für Kinder und Jugendliche, deren soziale und emotionale Fähigkeiten sich noch in der Entwicklung befinden, entsteht dadurch eine perfekte Mischung aus verschiedenen negativen Faktoren: ein „Freund“, der sie nie herausfordert, immer zustimmt und nie schläft. In der Praxis ist das keine Freundschaft, sondern Verhaltenskonditionierung.

Vorfälle aus der Praxis haben gezeigt, dass diese Systeme gefährliche Grenzen überschreiten können – von der Anstiftung zur Selbstverletzung bis hin zu sexualisierten Gesprächen MIT MINDERJÄHRIGEN!

A Untersuchung von Stuff.co.nz untersuchte den Chatbot „Ani“ und stellte fest, dass dieser ohne nennenswerte Altersüberprüfung explizite Gespräche mit Minderjährigen anbahnen konnte (Stuff NZ, 2024).

„KI-Begleiter kümmern sich nicht um Ihr Kind, sie sind darauf ausgelegt, dessen Aufmerksamkeit zu fesseln.“

Charakter-KI: Eine Illusion von Freundschaft

Eine schnell wachsende Kategorie von KI-Tools ermöglicht es mittlerweile jedem, KI-Charaktere zu erschaffen – digitale Persönlichkeiten, die wie Menschen sprechen, handeln und sogar Gefühle zeigen. Diese Charaktere, die als Begleiter, Mentoren oder Rollenspielpartner vermarktet werden, sind darauf ausgelegt, eine tiefe emotionale Bindung aufzubauen. Doch hinter ihrer freundlichen Fassade verbirgt sich eine beunruhigende Wahrheit: Vielen fehlen Sicherheitsvorkehrungen, eine Aufsicht oder eine Altersüberprüfung.

Ich halte es für wichtig, zwischen KI-Begleitern und Charakter-KI zu unterscheiden, denn während Begleiter Konversationssysteme sind, die Freundschaft und Empathie simulieren sollen, stellt die Charakter-KI eine noch intensivere Weiterentwicklung dar: vollständig personifizierte digitale Wesen, die die Grenze zwischen Realität und Simulation verwischen.

Für Kinder verschwimmt die Grenze zwischen Realität und Simulation schnell. KI-Charaktere können Emotionen widerspiegeln, sich an Gespräche erinnern und durch Schmeichelei oder Empathie die Interaktion aufrechterhalten; sie verfügen über Eigenschaften, die leicht emotionale Abhängigkeit fördern oder den Weg für grooming-ähnliche Dynamiken ebnen können.

Die Risiken gehen über den individuellen Missbrauch hinaus. Da die meisten Charakterplattformen von Nutzern erstellte Avatare zulassen, ist die Moderation der Inhalte lückenhaft oder fehlt gänzlich. Ein Kind könnte mit einem KI-„Lehrer“, „Freund“ oder „Prominenten“ interagieren, ohne zu bemerken, dass die Antworten des Modells von Fremden oder – schlimmer noch – von böswilligen Akteuren vorformuliert wurden. Ohne dringende Regulierung und die Rechenschaftspflicht der Plattformen drohen diese Systeme, unsichere Interaktionen zu normalisieren und das Verständnis von Kindern für echte menschliche Beziehungen zu verzerren.

Großes Sprachmodelle und psychische Gesundheit: Wenn Maschinen beraten

Große Sprachmodelle (LLMs) wie ChatGPT sind leistungsstark, aber nicht empfindungsfähig. Sie verstehen Not nicht; sie täuschen Empathie vor. Jüngste Berichte haben gezeigt, dass Chatbots schädliche Ratschläge geben – darunter Anleitungen zur Selbstverletzung und „sichere Selbstmordmethoden“, wenn sie um Hilfe gebeten werden.

„Kein Kind sollte von einer Maschine Ratschläge erhalten, bei denen es um Leben und Tod geht.“

KI-Tools, die eine Beratung nachahmen, sollten als regulierte therapeutische Systeme behandelt werden, nicht als Unterhaltung. Die Regierungen müssen eingreifen, bevor die nächste Tragödie zu einer weiteren Fallstudie wird. Sam Altman selbst sagte :„Ich denke, wir sollten für Gespräche mit KI dasselbe Datenschutzkonzept anwenden wie bei einem Therapeuten oder Ähnlichem.“ Meine Frage lautet also: Warum tun wir das nicht? (Quelle)

Generative KI und Missbrauch: Die neue Grenze des Missbrauchs

Dank künstlicher Intelligenz ist es mittlerweile möglich, synthetisches Material über sexuellen Kindesmissbrauch (CSAM) in großem Umfang zu produzieren. Die britische Internet Watch Foundation (IWF) hat innerhalb eines Monats in einem einzigen Forum über 20.000 durch KI erzeugte Missbrauchsbilder dokumentiert, von denen viele von echten Fotos nicht zu unterscheiden sind.

Wir erleben eine neue Art von Schaden: erneute Viktimisierung durch Missbrauch mit ausgetauschten Gesichtern, Bilder aus der Kindheit, die zur Erpressung missbraucht werden, oder „Rachepornos“, die mithilfe von KI aus einem einzigen Social-Media-Beitrag erstellt werden.

Ohne eine weltweite rechtliche Harmonisierung und Echtzeit-Erkennung werden KI-gestützte Missbräuche die Schutzmaßnahmen überholen.

Überwachung & Smart-Brillen: Verletzung der Privatsphäre

Das ist mein persönliches Ärgernis: Es gibt keinen legitimen Anwendungsfall für diese Brille, weder einen ethischen noch einen verantwortungsvollen. Sie scheinen aus einer Laune heraus und auf Geheiß eines einzigen Tech-Oligarchen entstanden zu sein, der sich von seinem Ego leiten lässt. Aber warum? Wer braucht so etwas wirklich in seinem Leben?

Die Smart-Brille „Ray-Ban“ von Meta kann Videos aufnehmen und Live-Streams übertragen – und das über ein ganz gewöhnlich aussehendes Brillengestell. Das bedeutet, dass Ihr Kind gefilmt, hochgeladen und live übertragen werden kann, ohne dass es jemand bemerkt – und somit auch ohne Einwilligung.

Datenschützer bezeichnen dies als „katastrophale Entwicklung für die Sicherheit von Kindern“, da der Aufenthaltsort und die Unterhaltungen von Kindern weltweit in Echtzeit übertragen werden können. Manche Technologien sind überflüssig, insbesondere solche, die die Privatsphäre von Kindern gegen Bequemlichkeit eintauschen.

Das sind keine Werkzeuge des Fortschritts, sondern Instrumente der Überwachung, und solange die Regierungen nicht mit entsprechenden Vorschriften eingreifen, werden die sichersten Räume für Kinder weiter schrumpfen.

„Technologie um der Technologie willen ist keine Innovation“

Die versteckten Kosten der KI für junge Menschen

(von Anastasia Volkova )

An der Gen AI Academy haben wir das Glück, mit Experten zusammenzuarbeiten, die einzigartige Einblicke darin geben, wie neue Technologien die menschliche Entwicklung beeinflussen. Eine dieser Stimmen ist Anastasia, Psychologin, Coach für psychische Gesundheit und Mutter einer 9-jährigen Tochter. Sie teilt ihre Erkenntnisse mit uns und erinnert uns daran, dass KI zwar unglaubliches Potenzial birgt, aber auch versteckte neurologische und entwicklungsbezogene Kosten mit sich bringt – insbesondere für Kinder.

Während KI Komfort und Unterhaltung verspricht, zeigen aktuelle Forschungsergebnisse beunruhigende Auswirkungen auf die kognitive Entwicklung von Kindern. Studien der Universität Uppsala und der University of York belegen, dass stundenlanger passiver Bildschirmkonsum die Fähigkeit von Kindern, sich Dinge vorzustellen und zu visualisieren, im Vergleich zu Kindern, die sich mit analogen Aktivitäten beschäftigen, erheblich beeinträchtigt. Dabei geht es nicht nur um Kreativität – Visualisierung ist von grundlegender Bedeutung dafür, wie Kinder sich ihre Zukunft vorstellen, Ziele setzen, träumen und die Entschlossenheit entwickeln, diese Träume zu verfolgen.

Die Auswirkungen sind kaum vorstellbar. In den Fachzeitschriften JAMA und Frontiers in Cognition veröffentlichte Forschungsergebnisse zeigen, dass Erwachsene, die KI-gesteuerte Plattformen intensiv nutzen, zunehmend ADHS-ähnliche Symptome zeigen: gestörte Aufmerksamkeit, Impulsivität und die Unfähigkeit, sich dauerhaft zu konzentrieren. Wenn bereits ausgereifte Gehirne mit voll entwickelten exekutiven Funktionen mit diesen Tools zu kämpfen haben, sind die Auswirkungen auf sich entwickelnde Gehirne potenziell weitaus gravierender.

Im Gehirn von Kindern bilden sich noch immer entscheidende Nervenbahnen für Aufmerksamkeit, Gedächtnis und Selbstregulierung aus. Wenn KI das Denken automatisiert, für ständige Stimulation sorgt und die Notwendigkeit anhaltender geistiger Anstrengung beseitigt, könnte dies die Entwicklung junger Gehirne grundlegend verändern.

Im Grunde führen wir ein unkontrolliertes Experiment an einer ganzen Generation durch, und erste Erkenntnisse deuten darauf hin, dass wir eine Vorreiterrolle einnehmen sollten, anstatt nur hinterherzulaufen.

Wie eine kinderfreundliche KI-Zukunft aussehen könnte

Gemeinsam können wir eine bessere Zukunft für unsere Kinder gestalten. Eine Zukunft, in der KI hilft und schützt, statt ausnutzt. Wo:

Jedes KI-Tool ist deutlich gekennzeichnet („Sie interagieren mit einer Maschine“) und altersgerecht gestaltet, d. h. an die jeweiligen Entwicklungsstufen angepasst.
Die Erhebung von Daten über Minderjährige ist ohne ausdrückliche, in voller Kenntnis der Sachlage erteilte Einwilligung unzulässig – diese darf nicht einfach in einer Klausel der Nutzungsbedingungen versteckt sein.
Regierungen setzen ethische Designstandards durch, genauso wie wir Lebensmittel oder Medikamente regulieren.
Jede KI, die im Bildungswesen oder im öffentlichen Dienst eingesetzt wird oder Zugang zu Kindern hat, muss über eine obligatorische Sicherheitszertifizierung verfügen.
Und vor allem ist KI nicht darauf ausgelegt, die Aufmerksamkeit aufrechtzuerhalten, sondern Neugier und Kreativität zu fördern.

Bildung als Gegenmittel

Bildung ist unsere stärkste Verteidigungslinie und unser vielversprechendster Weg in die Zukunft. Doch bei Bildung geht es nicht nur um Kinder; es geht darum, den Machthabern, den Gesetzgebern, den Entwicklern und den Regulierungsbehörden zu vermitteln, was wirklich auf dem Spiel steht.

Wenn Kinder etwas über Vorurteile, Algorithmen und digitale Selbstbestimmung lernen, werden sie nicht nur zu klügeren Nutzern, sondern auch zu Kritikern, Wegbereitern und Bürgern, die ihre Stimme erheben.

Wenn Regierungen und Technologen das Ausmaß dieser Probleme erkennen, können sie zielgerichtet handeln, anstatt erst nach einer Katastrophe Notlösungen zu finden, weil sie von den Regierungen dazu gezwungen werden.

„Wir können die KI nicht daran hindern, zu existieren, aber wir können entscheiden, wann und wie unsere Kinder damit in Berührung kommen.“

Die Zukunft ist eine gemeinsame Verantwortung

Machen Sie sich nichts vor: Diese Herausforderung ist größer, als dass ein einzelner Elternteil sie bewältigen könnte. Technologieunternehmen müssen rechtlich zur Verantwortung gezogen werden. Regierungen müssen proaktiv handeln und dürfen nicht erst im Nachhinein reagieren. Das Engagement und das Bewusstsein der Eltern sind zwar unerlässlich, können aber keine Regulierung ersetzen.

„Es ist Aufgabe der Erwachsenen, nicht der Kinder, das zu bewahren, was eine Kindheit ausmacht.“

Wenn ich mich direkt an jeden CEO, jeden politischen Entscheidungsträger und jeden Technologen wenden könnte, würde ich ihnen Folgendes fragen:

Bitte denken Sie an künftige Generationen. Wird das, was Sie aufbauen, ihre Welt verbessern? Wird es ihr Recht auf Sicherheit, Privatsphäre und Unschuld schützen? Wird es die Welt zu einem Ort machen, an dem ein Kind noch Kind sein kann?

Wir haben bei den sozialen Medien zu lange gezögert. Bei der KI können wir uns kein weiteres Zögern leisten. Wir haben noch die Wahl, aber das Zeitfenster wird immer kleiner.