Die digitale Welt ist längst ein zentraler Lebensraum für Kinder und Jugendliche. Sie bietet Möglichkeiten für Bildung, Information, Kommunikation und Teilhabe – zugleich entstehen neue Risiken und Formen sexualisierter Gewalt und Ausbeutung.

Mit der rasanten Entwicklung Künstlicher Intelligenz (KI) verändern sich diese Risiken weiter. KI kann bestehende Formen sexualisierter Gewalt gegen Kinder und Jugendliche erleichtern, beschleunigen und in neue Dimensionen führen. Dazu gehören beispielsweise KI-generierte Darstellungen sexualisierter Gewalt, sogenannte Deepnudes, aber auch neue Möglichkeiten für die Kontaktanbahnung, Manipulation und Ausbeutung von Kindern und Jugendlichen.

Kinderschutz muss deshalb auch im digitalen Raum und bei der Entwicklung neuer Technologien konsequent mitgedacht werden. Es braucht wirksame Schutzmechanismen, verantwortungsvolle technische Entwicklungen, gute Prävention und Aufklärung sowie klare Verantwortlichkeiten bei Politik, Strafverfolgung und Plattformen.

 

KI verändert die Risiken – und die Anforderungen an den Kinderschutz

Künstliche Intelligenz entwickelt sich mit hoher Geschwindigkeit. Anwendungen, die Inhalte generieren, Bildmaterial verändern oder realistisch wirkende Personen und Situationen erzeugen können, sind inzwischen für viele Menschen leicht zugänglich. Für den Kinderschutz stellt diese Entwicklung eine besondere Herausforderung dar.

KI kann unter anderem dazu eingesetzt werden, sexualisierte Darstellungen von Kindern und Jugendlichen künstlich zu erzeugen oder bestehende Bilder zu verändern. Gleichzeitig können KI-Systeme und digitale Plattformen neue Möglichkeiten für Täter(*innen) schaffen, mit Kindern und Jugendlichen in Kontakt zu treten, Vertrauen aufzubauen oder sie zu manipulieren.

Für ECPAT Deutschland bedeutet das: Der Schutz von Kindern und Jugendlichen vor sexualisierter Gewalt und Ausbeutung muss auch bei der Entwicklung und Regulierung neuer Technologien von Anfang an berücksichtigt werden. Kinderschutz darf nicht erst dann einsetzen, wenn bereits konkrete Schäden entstanden sind.

 

ECPAT Deutschland bringt Kinderschutzexpertise in die politische und öffentliche Debatte ein

Die Frage, wie Kinder und Jugendliche in der digitalen Welt wirksam geschützt werden können, stand auch im Mittelpunkt der Unabhängigen Expert*innenkommission „Kinder- und Jugendschutz in der digitalen Welt“ des Bundesministeriums für Bildung, Familie, Senioren, Frauen und Jugend.

Die interdisziplinär besetzte Kommission veröffentlichte im Juni 2026 Handlungsempfehlungen für einen wirksameren Kinder- und Jugendmedienschutz. Dabei wurden unter anderem rechtliche, technische, pädagogische, medizinische und psychologische Perspektiven berücksichtigt. Auch die Erfahrungen und Bedarfe von Kindern und Jugendlichen wurden in den Arbeitsprozess einbezogen.

ECPAT Deutschland brachte ihre Expertise zum Schutz von Kindern und Jugendlichen vor sexualisierter Gewalt und Ausbeutung in diese Arbeit ein. So hat ECPAT Deutschland unter anderem Stellungnahmen für die Hearings der Expert*innenkommission eingereicht und dabei die Perspektive des Schutzes vor digitaler sexualisierter Gewalt eingebracht. Thematisiert wurden dabei unter anderem Cybergrooming, Sextortion, Darstellungen sexualisierter Gewalt an Kindern sowie KI-generierte Darstellungen sexualisierter Gewalt.

Auch in der Fachtagung „Kinder schützen im KI-Zeitalter: Sexualisierter Gewalt und Ausbeutung im digitalen Raum begegnen“, die ECPAT gemeinsam mit dem Bundesministerium des Inneren am 22.9. veranstaltet hat, stand die Thematik Künstliche Intelligenz im Mittelpunkt. Wie verändern KI-Technologien sexualisierte Gewalt und Ausbeutung? Welche neuen Risiken entstehen für Kinder und Jugendliche? Und welche Handlungsmöglichkeiten gibt es für Politik, Strafverfolgung, Fachpraxis und Zivilgesellschaft? – Dies waren Fragen, denen sich im Rahmen der Fachtagung gewidmet wurde. Im Mittelpunkt standen aktuelle Entwicklungen und konkrete Perspektiven für den Kinderschutz. Die Veranstaltung verknüpfte fachliche Inputs mit Praxisperspektiven und einem interaktiven Austausch.

Gemeinsam den digitalen Kinderschutz weiterentwickeln

Der Schutz von Kindern und Jugendlichen im digitalen Raum ist eine gesamtgesellschaftliche Aufgabe. Technologische Entwicklungen wie Künstliche Intelligenz erfordern dabei neue Antworten – von der Prävention und Aufklärung über die technische Gestaltung digitaler Dienste bis hin zu Strafverfolgung und politischen Rahmenbedingungen.

ECPAT Deutschland setzt sich dafür ein, dass die Perspektive von Kindern und Jugendlichen und die spezifischen Risiken sexualisierter Gewalt und Ausbeutung in diesen Debatten sichtbar bleiben.

Denn Kinderschutz muss auch im KI-Zeitalter gelten.