Vertrauenswürdige Anlaufstelle
Illegale oder jugendgefährdende
Online-Inhalte unkompliziert melden
Seit 1997 nimmt die FSM-Beschwerdestelle Hinweise aus der Öffentlichkeit zu problematischen und möglicherweise rechtswidrigen Online-Inhalten entgegen. Ein erfahrenes juristisches Team prüft jede Meldung individuell und sorgt dafür, dass illegale Inhalte schnellstmöglich aus dem Netz entfernt werden.
Im Jahr 2024 gingen bei der FSM-Beschwerdestelle insgesamt 25.536 Beschwerden ein. Im Vergleich zum Vorjahr ist damit ein leichter Rückgang der Meldezahlen zu verzeichnen (2023: 30.573) – es handelte sich dennoch um die zweithöchste Zahl an Meldungen seit 1997. In 68 Prozent der Fälle (17.395 Meldungen) wurden Inhalte gemeldet, die nach umfassender Einzelfallprüfung gegen deutsche Jugendmedienschutzgesetze verstoßen haben (begründete Beschwerden).
Die Beschwerdestelle in Zahlen
Beschwerden über illegale oder jugendgefährdende Online-Inhalte gingen 2024 bei der FSM-Beschwerdestelle ein.
(2023: 30.573 Meldungen)
der Beschwerden (17.395 Meldungen) waren begründet, d. h. die Inhalte verstießen gegen deutsche Jugendmedienschutzgesetze.
Tage vergingen im Durchschnitt zwischen dem Eingang eines Hinweises auf Missbrauchsdarstellungen auf deutschen Servern bis zur Löschung.
Nutzerinnen und Nutzer können verdächtige Inhalte einfach online über das Beschwerde-Formular melden, indem sie die URL und eine kurze Beschreibung angeben. Grundlage der Prüfung ist der Jugendmedienschutz-Staatsvertrag (JMStV), der auch strafrechtliche Vorschriften berücksichtigt. So leistet die FSM-Beschwerdestelle einen wichtigen Beitrag zum Schutz von Kindern und Jugendlichen vor entwicklungsbeeinträchtigenden oder nicht altersgerechten Inhalten und ist als vertrauenswürdiger Hinweisgeber bei allen relevanten Plattformen anerkannt.
Entwicklung der Beschwerdezahlen
- Missbrauchsdarstellungen Minderjähriger
- Gesamtbeschwerden
Neben den zentralen Ergebnissen fielen 2024 einige Einzelbeobachtungen auf
- Vermehrt aufgetreten sind Beschwerden zu sogenannten Invite Child Abuse Pyramid Seiten (ICAP-Seiten), darunter viele mit .de-Domain.
- KI-generierte Missbrauchsdarstellungen Minderjähriger sind bisher nicht in größerer Zahl gemeldet worden. In einzelnen Fällen gab es Meldungen zu KI-Bildgeneratoren.
- Im Umfeld von Hate Speech, Propaganda oder Kennzeichen verfassungswidriger Organisationen wurden KI-generierte Inhalte gemeldet, vornehmlich mit Bezug auf den Krieg im Gazastreifen.
- Geprüfte extremistische Inhalte in Sozialen Netzwerken waren oft codiert – beispielsweise durch Emojis oder andere bildliche Darstellungen.
- Es häuften sich Meldungen zu Videos mit Tierquälerei zu Unterhaltungszwecken; sie wurden als „schwer entwicklungsgefährdend“ eingestuft.
Pornografie
Pornografische Inhalte machten 2024 mit 49 Prozent (2023: 39 %) den größten Anteil der begründeten Beschwerden aus (2024: 8.529 Fälle, 2023: 8.889 Fälle). Hierbei handelte es sich um Fälle von Pornografie, die für Kinder und Jugendliche frei zugänglich war, weil ein Altersverifikationssystem (AVS) fehlte. Dies ist nach deutschem Recht eine Straftat.
„Dank etablierter Strukturen konnten Darstellungen des sexuellen Missbrauchs Minderjähriger mit Hostingstandort Deutschland im Jahr 2024 durchschnittlich binnen 1,5 Tagen gelöschtwerden. Damit die Beschwerdestelle weiterhin ihren wertvollen Beitrag zum Schutz von jungen Menschen im Netz leisten kann, braucht es künftig auch eine nachhaltige öffentliche Förderung aus Bundesmitteln.“
Martin Drechsler, FSM-Geschäftsführer
Darstellung des sexuellen Missbrauchs Minderjähriger
Den zweitgrößten Anteil machten Darstellungen des sexuellen Missbrauchs Minderjähriger mit 46 Prozent (8.077 Fälle) aus. Die Zahl der gemeldeten Missbrauchsdarstellungen ist im Vergleich zum Vorjahr rückläufig (2023: 12.918 Fälle, 57 % der begründeten Beschwerden). Dies lässt sich u. a. darauf zurückführen, dass es 2024 weniger Massenmeldungen ausländischer Partnerorganisationen an die FSM gab. Damit handelt es sich bei dem Großteil der insgesamt 8.077 Fälle um Meldungen von Einzelpersonen.
KI-generierte Darstellungen sexuellen Kindesmissbrauchs machten nur einen Bruchteil der Meldungen aus. Diese Meldungen betrafen insbesondere KI-Bildgeneratoren, die als Werkzeug genutzt werden können, um entsprechende Darstellungen anzufertigen.
Auffällig waren Meldungen über sogenannte ICAP-Seiten („Invite Child Abuse Pyramid“). Diese Seiten, die Darstellungen schweren sexuellen Kindesmissbrauchs enthalten, stellen personalisierte, äußerlich unauffällige Einladungslinks zur Verfügung. Wird dieser Link verbreitet und angeklickt, erhält die verbreitende Person Credits, um immer neue Inhalte freischalten zu können. Dementsprechend wurden diese Links teilweise inflationär in den Kommentarspalten Sozialer Netzwerke gepostet, um möglichst viele Credits zu erlangen. Zu Ende des Jahres waren viele der ICAP-Seiten nicht mehr online.
Löschung von Missbrauchsdarstellungen
Informationen zu Missbrauchsdarstellungen Minderjähriger, die auf deutschen Servern gespeichert sind, leitet die FSM sofort an das Bundeskriminalamt (BKA) weiter und informiert im Notice-and-Takedown-Verfahren den Hostprovider. Anbieter sind dann verpflichtet, diese strafbaren Inhalte unverzüglich zu entfernen. Bis zur Löschung solcher Inhalte vergingen 2024 nach Eingang der Beschwerde bei der FSM im Durchschnitt 1,5 Tage (2023: 1,2 Tage). Insgesamt liegt die Entfernungsquote dieser Inhalte bei 100 Prozent. 90 Prozent (2023: 92 %) wurden bereits zwei Tage nach der Erstmeldung entfernt.
Auch bei im Ausland gehosteten Darstellungen des sexuellen Missbrauchs von Minderjährigen informiert die Beschwerdestelle den Hostprovider und leitet die Meldung zusätzlich an die zuständige Partner-Hotline im internationalen Beschwerdestellennetzwerk INHOPE weiter. 2024 handelte es sich hierbei meist um Fälle auf Servern in den USA, gefolgt von Russland und den Niederlanden. Die Löschquote der im Ausland gehosteten Inhalte lag vier Wochen nach Erstmeldung bei 93 Prozent (2023: 87 %). Die im INHOPE-Netzwerk zusammengeschlossenen Meldestellen haben 2024 insgesamt fast 2,5 Millionen Hinweise auf Missbrauchsdarstellungen Minderjähriger bearbeitet.
Hass und Gewalt
In 222 Fällen (2023: 120 Fälle) wurden der Beschwerdestelle Inhalte mit Bezug zu Hasskriminalität gemeldet. Hierbei handelte es sich überwiegend um Darstellungen von Kennzeichen verfassungswidriger Organisationen (169 Fälle). Die meisten dieser Kennzeichen waren entweder rechtsextremistischen oder islamistischen Organisationen zuzuordnen. Darunter fielen auch KI-generierte Inhalte, vornehmlich im Umfeld von Inhalten, die sich mit dem Gaza-Krieg befassten. Zu Hasskriminalität zählten ebenfalls Fälle von Volksverhetzung (45 Fälle) sowie Leugnung des Holocaust bzw. Billigung oder Verherrlichung der Naziherrschaft (8 Fälle).
Einen Anstieg verzeichnete die Beschwerdestelle im Bereich extremistischer Inhalte in Sozialen Netzwerken. Darstellungen verbotener Kennzeichen erfolgten beispielsweise codiert über Emojis, um der automatischen Erkennung durch die Plattformen zu entgehen.
In 318 Fällen (2023: 585 Fälle) wurden Darstellungen extremer Gewalt gemeldet. Darunter fallen Gewalt- und Tierpornografie (170 Fälle), Verstöße gegen die Menschenwürde (143 Fälle), Gewaltverherrlichung (3 Fälle) sowie Kriegsverherrlichung (2 Fälle).
Aufteilung der begründeten Beschwerden
- Pornografie
- Darstellung des sexuellen Missbrauchs Minderjähriger
- Gewalt
- Weitere jugendgefährdende Inhalte
- Hasskriminalität
- n = 17.395 (begründete Beschwerden)
Weitere jugendgefährdende Inhalte
Die Anzahl der weiteren als jugendgefährdend eingestuften Inhalte ist im Vergleich zum Vorjahr leicht gestiegen (2024: 249 Fälle, 2023: 227 Fälle), bleibt anteilig aber weiterhin bei rund einem Prozent. Den größten Anteil der Kategorie machten entwicklungsbeeinträchtigende Inhalte aus (2024: 155 Fälle, 2023: 99 Fälle). Dazu zählen Inhalte, die für Kinder und Jugendliche einer bestimmten Altersstufe nicht geeignet sind, jedoch unterhalb der Schwelle zu unzulässigen Inhalten liegen. Für diese Inhalte sind die vom Anbieter zu schaffenden Zugangshürden niedriger und können z. B. durch die technische Kennzeichnung mit einer Altersstufe, die von einem geeigneten Jugendschutzprogramm ausgelesen werden kann, erfüllt werden.
Fälle, in denen eine offensichtlich schwere Entwicklungsgefährdung festgestellt wurde, haben sich im Vergleich zum Vorjahr fast verdoppelt (2024: 61 Fälle, 2023: 33 Fälle). Dazu gehören z. B. Angebote, die Essstörungen wie Anorexie oder Bulimie glorifizieren. Solche Inhalte dürfen nur Erwachsenen zugänglich gemacht werden, d. h. der Einsatz eines Altersverifikationssystems (AVS) ist hier notwendig.
Bis Mitte 2024 erhielt die FSM-Beschwerdestelle zudem vermehrt Hinweise zu Videos, die extreme Tierquälerei zeigten und damit den Tatbestand der schweren Entwicklungsgefährdung (§ 4 Abs. 2 Nr. 3 JMStV) erfüllten. Die kommerziellen Videos zeigten die Misshandlung und Tötung einer bestimmten Art von Primaten (insbesondere der Jungtiere) im südostasiatischen Raum. Die zum Einsatz kommenden Werkzeuge, Folter- und Tötungsmethoden werden durch eine organisierte Community vorgegeben, die für die Inhalte bezahlt. Die wiederholte Entfernung einschlägiger Gruppen und die daraus resultierenden Kommentare in neuen Gruppen legen den Schluss nahe, dass die Klientel fortan vermehrt auf Messengerdienste zurückgreifen wird.
Unbegründete Beschwerden
Der Anteil gemeldeter Fälle, bei denen die FSM-Beschwerdestelle keinen Verstoß feststellen konnte, ist im Vergleich zum Vorjahr gestiegen (2024: 32 %, 2023: 26 %). Dies betrifft in der Regel Fälle, in denen das Recht auf freie Meinungsäußerung überwiegt, Jugendschutzregeln nicht verletzt wurden oder Angebote zugangsgeschützt bzw. nicht auffindbar waren. Auch hier prüft und informiert die Beschwerdestelle die Melderinnen und Melder über die Rechtslage, verweist auf zuständige Stellen oder jeweils passende Hilfs- und Beratungsangebote und gibt darüber hinaus Tipps zur sicheren Konfiguration von Geräten, die von Kindern und Jugendlichen genutzt werden.
- Begründete Beschwerden
- Unbegründete Beschwerden
- n = 25.536 (Meldungen insgesamt)
Wie funktioniert das Beschwerdeverfahren der FSM?
IM RAHMEN des Verbunds Safer Internet DE wird die FSM-Beschwerdestelle durch das Digital Europe Programme von der Europäischen Union kofinanziert.
Vereinte Anstrengungen
Kooperationen und Schnittstellen
Damit die FSM-Beschwerdestelle schnell und wirksam gegen illegale Online-Inhalte vorgehen kann, arbeitet sie seit vielen Jahren eng mit anderen Beschwerdestellen, Institutionen des Jugendmedienschutzes sowie Behörden in Deutschland und weltweit zusammen. Möglich wird diese Arbeit auch durch die Kofinanzierung der Europäischen Union im Rahmen des Digital Europe Programme.
In über 25 Jahren hat die FSM verlässliche Strukturen und bewährte Kooperationen aufgebaut. So konnten auch 2024 illegale Inhalte weiterhin schnellstmöglich aus dem Netz entfernt werden. Damit dieser wichtige Einsatz für den Jugendmedienschutz langfristig gesichert bleibt, braucht es allerdings eine nachhaltige Finanzierung durch Bund und Länder.
Im Jahr 2024 erhielt das BKA 99,2 Prozent aller Informationen zu URLs mit Missbrauchsdarstellungen Minderjähriger von den deutschen Beschwerdestellen (eco, FSM und jugendschutz.net). Die Beschwerdestellen erfüllen damit eine wichtige Brückenfunktion zwischen Bevölkerung und Polizei.
Löschbericht der Bundesregierung 2024
Starkes Netzwerk für wirksamen Schutz
Deutschland und EU
Bereits seit 20 Jahren bietet die FSM gemeinsam mit eco – Verband der Internetwirtschaft e. V. mit der Plattform www.internet-beschwerdestelle.de eine zentrale und niedrigschwellige Anlaufstelle für Hinweise auf rechtswidrige Inhalte.
Als Teil des deutschen Safer Internet Centres wird die Arbeit der Beschwerdestellen von FSM, eco und jugendschutz.net seit 2008 von der Europäischen Union kofinanziert. In allen EU-Mitgliedsstaaten fördern Safer Internet Centres Medienkompetenz, sensibilisieren für Risiken im Netz, bieten Beratungsangebote und stellen Beschwerdemöglichkeiten bereit. In Deutschland gehören neben den Beschwerdestellen auch das Awareness Centre klicksafe sowie das Kinder- und Jugendtelefon der Nummer gegen Kummer zum Verbund Safer Internet DE.
Zudem arbeitet die FSM-Beschwerdestelle eng mit dem Bundeskriminalamt (BKA), den Landesmedienanstalten und der Bundeszentrale für Kinder- und Jugendmedienschutz (BzKJ) zusammen. Schwer jugendgefährdende Inhalte leitet die FSM zur Indizierung an die Prüfstelle der BzKJ weiter.
Weltweit
International ist INHOPE die wichtigste Schnittstelle für die FSM-Beschwerdestelle. Als Gründungsmitglied des weltweiten Netzwerks der Internet-Beschwerdestellen arbeitet die FSM hier eng mit über 50 Partnerorganisationen zusammen, um Kindesmissbrauchsdarstellungen weltweit schnell entfernen zu lassen. Über eine gemeinsame Plattform werden gemeldete Inhalte je nach Hosting-Land an die zuständige Partner-Hotline weitergeleitet.
