Stefan Glaser, Leiter von jugendschutz.net: „Die Gefahr, in beliebten Diensten mit Hass und sexualisierter Gewalt konfrontiert, dort gemobbt, belästigt oder manipuliert zu werden, besteht leider weiter. Die Anbieter setzen dem nur wenig entgegen. Im Gegenteil: Mit neuen Funktionen und Anwendungen schaffen Unternehmen weitere Einfallstore. Insbesondere KI fügt dem Problem eine neue Dimension hinzu: Das Künstliche verschmilzt mit dem Echten und verzerrt die Wahrnehmung von Realität. KI-generierte Influencer:innen präsentieren übernatürlich schöne Körper, die Essstörungen begünstigen. Manipulierte Bilder dienen als Mittel zur Verbreitung extremistischer Narrative oder zur Herabwürdigung. Chatbots entwickeln ein Eigenleben und führen Kinder und Jugendliche in sexualisierte Interaktionen. Hinzu kommt das Problem manipulativer Angebotsdesigns: Algorithmen führen Nutzende durch immer gleiche Inhaltsvorschläge immer tiefer in Gefahrenbereiche hinein. Ein Problem sind die Geschäftsmodelle der Dienste. Es braucht nicht nur Lippenbekenntnisse der Betreiber, für den Schutz von Kindern und Jugendlichen bei der Nutzung zu sorgen. Benötigt werden effektive Maßnahmen, die sich schon bei der Einführung neuer Funktionen und Anwendungen risikomindernd auswirken."
Im aktuellen Bericht werden u.a. (parasoziale) Beziehungen zu Charakter-Bots, Gewalt und Hass in Chaträumen, KI-Posts in Social Media, Misogynie, Family-Influencing, Verherrlichung von Ess-Störungen, Werbung für/Verharmlosung von gefährlichen Substanzen, Social Commerce, falsche Körperbilder durch virtuelle Influencer*innen und Sexualisierung von Kindern als Gefahren thematisiert.
jugendschutz.net dient als gemeinsames Kompetenzzentrum von Bund, Ländern und Landesmedienanstalten, basierend auf dem Jugendmedienschutz-Staatsvertrag (JMStV) und des Jugendschutzgesetzes (JuSchG), für den Schutz von Kindern und Jugendlichen im Internet. Die wesentlichen Aufgaben beziehen sich auf die Recherche und Untersuchung von jugendaffinen Internetangeboten, um mögliche Herausforderungen zu identifizieren.
Um Kindern und Jugendlichen eine altersgerechte Teilhabe im Internet zu ermöglichen, sind Betreiber von Plattformen gesetzlich verpflichtet, geeignete Vorsorgemaßnahmen zu treffen. Jugendschutz.net untersucht diese "Vorsorgemaßnahmen" (z.B. Schutzeinstellungen, Meldesysteme u.ä.) auf ihre Wirksamkeit.
Aus den gewonnenen Erkenntnissen werden Handlungsbedarfe ermittelt und an die Diensteanbieter, Aufsicht und Öffentlichkeit kommuniziert.
Bei entdeckten Verstößen gegen den JMStV werden die entsprechenden Anbieter bzw. die zuständigen Institutionen oder die Kommission für Jugendmedienschutz (KJM) kontaktiert. 2025 registrierte jugendschutz.net insgesamt 15.099 Verstoßfälle. Dabei ist die Zahl abhängig von Faktoren wie der Meldebereitschaft der Hinweisgebenden und internen thematischen Schwerpunktsetzungen bei der Recherchen.
Der mit 93% größte Anteil von Verstößen betrifft sexualisierte Gewalt.
