Kampf gegen sexuellen Missbrauch von Kindern: Fragen und Antworten zum Kommissionsvorschlag

Die EU-Kommission hat gestern (Mittwoch) neue EU-Rechtsvorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern im Internet vorgeschlagen. Der Gesetzesvorschlag hat eine breite öffentliche Debatte hervorgerufen. Im Folgenden werden die wichtigsten Fragen beantwortet, etwa wie der Vorschlag eine Massenüberwachung verhindern soll, welche Aufgaben das EU-Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern übernehmen soll oder wie der Vorschlag mit dem Gesetz über digitale Dienste zusammenhängt.

Warum sind neue Vorschriften notwendig?

Das Internet ist eine großartige Möglichkeit, um mit anderen im Kontakt zu bleiben – insbesondere während der Pandemie und für Kinder. Kinder können online jedoch auch Risiken ausgesetzt sein, unter anderem wenn es um sexuellen Missbrauch geht. In den letzten Jahren sind die Fälle von sexuellem Missbrauch im Internet rasant angestiegen, und zwar sowohl der Online-Austausch von kinderpornografischem Material als auch die Fälle von Aufforderungen an Kinder, sich selbst zu missbrauchen oder sich im realen Leben zu treffen. Einer Europol-Analyse zufolge stieg die Nachfrage nach Material über sexuellen Kindesmissbrauch in den ersten Monaten der Corona-Krise in einigen Mitgliedstaaten um bis zu 25 %. Das US-amerikanische Nationale Zentrum für vermisste und ausgebeutete Kinder (National Centre for Missing and Exploited Children – NCMEC) stellte außerdem fest, dass die Anzahl an Berichten über Fälle sexuellen Kindesmissbrauchs weltweit erheblich zugenommen hat: 2021 hat das NCMEC fast 30 Millionen Meldungen über mutmaßliche sexuelle Ausbeutung von Kindern erhalten; den Strafverfolgungsbehörden wurden über 4000 neue Fälle von Kindesmissbrauch gemeldet. Berichte über die Kontaktaufnahme mit Kindern in Missbrauchsabsicht sind zwischen 2020 und 2021 um mehr als 16 % gestiegen. Die Verbreitung von Missbrauchsbildern oder -videos unter den Straftätern macht die Kinder erneut zu Opfern und erschwert ihnen, damit abschließen zu können.

Bestimmte Online-Dienstanbieter ergreifen derzeit freiwillig Maßnahmen, um sexuellen Kindesmissbrauch aufzudecken. Die meisten Meldungen erhalten die Strafverfolgungsbehörden von US-amerikanischen Dienstanbietern. Das NCMEC leitet Meldungen im Zusammenhang mit der EU an Europol und nationale Strafverfolgungsbehörden weiter.

Auch wenn die von den Anbietern ergriffenen Maßnahmen einen wichtigen Beitrag leisten, variieren sie jedoch stark: Der Großteil der Meldungen stammt von einer Handvoll von Anbietern; sehr viele Anbieter ergreifen keine Maßnahmen. Bis zu 95 % aller im Jahr 2020 eingegangenen Meldungen über sexuellen Missbrauch von Kindern waren von einem Unternehmen, obwohl es eindeutige Hinweise dafür gibt, dass das Problem nicht nur auf einer Plattform besteht.

Freiwillige Maßnahmen reichen daher nicht aus, um wirksam gegen die Verwendung von Online-Diensten zum Zwecke des sexuellen Missbrauchs von Kindern vorzugehen. Es ist ein klarer und verbindlicher Rechtsrahmen mit eindeutigen Schutzvorkehrungen notwendig, um den Anbietern Rechtssicherheit zu bieten und die uneingeschränkte Achtung der Grundrechte zu gewährleisten.

Werden Dienstanbieter erforderlichenfalls dazu verpflichtet, sexuellen Missbrauch von Kindern aufzudecken, zu melden und Material dazu zu entfernen, können sie helfen, Kinder vor weiterem Missbrauch zu schützen, das erneute Auftauchen von Material zu verhindern sowie Straftäter zu identifizieren und strafrechtlich zu verfolgen.

Was sind die zentralen Punkte des Vorschlags?

Der Vorschlag sieht einen einheitlichen Ansatz für die Aufdeckung und Meldung von sexuellem Kindesmissbrauch vor, unterstützt die Arbeit der Behörden und zielt darauf ab, die Bemühungen der EU um Prävention und Unterstützung der Opfer zu verstärken.

Der Vorschlag umfasst folgende Punkte:

• Verpflichtende Maßnahmen für Dienstanbieter zur Verhinderung des sexuellen Missbrauchs von Kindern im Internet, und zwar durch Bewertung und Minderung von Risiken sowie gegebenenfalls durch gezielte Maßnahmen, um sexuellen Missbrauch von Kindern im Internet aufzudecken, zu melden und Material dazu zu entfernen: Die vorgeschlagenen Vorschriften verpflichten Online-Dienstanbieter dazu, das Risiko ihrer Dienste für die Verbreitung von Material über sexuellen Kindesmissbrauch oder für die Kontaktanbahnung („Grooming“) zu bewerten. Die Mitgliedstaaten müssen nationale Behörden benennen, die für die Überprüfung der Risikobewertung und der vom Dienstanbieter vorgeschlagenen Maßnahmen zur Verhinderung des sexuellen Missbrauchs von Kindern im Internet zuständig sind. Stellen diese Behörden fest, dass ein erhebliches Risiko fortbesteht, können sie ein Gericht oder eine unabhängige Verwaltungsbehörde ersuchen, eine Aufdeckungsanordnung zu bekanntem oder neuem Material über sexuellen Kindesmissbrauch oder Grooming zu erlassen, um das erhebliche Risiko von Wiederholungstaten gezielt anzugehen. Aufdeckungsanordnungen sind zeitlich begrenzt, unterliegen strengen verfahrensrechtlichen Schutzvorkehrungen und zielen auf eine bestimmte Art von Straftat in einem bestimmten Dienst ab. Die Datenschutzbehörden werden im Einklang mit der Datenschutz-Grundverordnung verstärkt tätig.
• Einführung strenger Schutzvorkehrungen zur Aufdeckung: Unternehmen, die eine Aufdeckungsanordnung erhalten haben, können Inhalte nur anhand der vom EU-Zentrum bereitgestellten Indikatoren zur Identifizierung des sexuellen Missbrauchs von Kindern ermitteln, die auf der Grundlage von sexuellem Kindesmissbrauch im Internet erstellt wurden, der zuvor von den zuständigen unabhängigen Behörden oder einem Gericht in den Mitgliedstaaten ermittelt wurde. Die Entscheidung darüber, was in der EU illegal ist, bleibt also nicht dem Anbieter überlassen. Erkennungstechnologien sollten nur für den Zweck der Aufdeckung von sexuellem Missbrauch von Kindern eingesetzt werden. Die Anbieter sollten Technologien einsetzen, die am wenigsten in die Privatsphäre eingreifen, dem Stand der Technik in der Branche entsprechen und eine möglichst geringe Fehlerquote falsch-positiver Ergebnisse liefern.
• Einrichtung einer neuen EU-Agentur zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern: Das EU-Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern wird eine Datenbank mit Indikatoren enthalten, die eine zuverlässige Identifizierung von kinderpornografischem Material und der Kontaktaufnahme zu Kindern im Sinne der EU-Vorschriften ermöglichen. Das EU-Zentrum wird auch Meldungen über Material zu sexuellem Kindesmissbrauch oder über Grooming von den Dienstanbietern entgegennehmen und verarbeiten und diese an die zuständigen Strafverfolgungsbehörden und Europol weiterleiten – außer die Berichte wurden irrtümlich übermittelt. Es übernimmt eine zentrale Schutzfunktion, indem es die Übermittlung falsch-positiver Ergebnisse an die Strafverfolgungsbehörden verhindert sowie die Sichtbarkeit der Wirksamkeit der Aufdeckungsmaßnahmen, die Transparenz und die Rechenschaftspflicht des Prozesses sicherstellt.

Für wen gelten die neuen Vorschriften?

Die vorgeschlagenen Vorschriften gelten für Anbieter von Online-Diensten in der EU, insbesondere von Hosting-Diensten und interpersonellen Kommunikationsdiensten (wie Messaging-Dienste), App-Stores und Internetzugangsanbieter. Die neuen Verpflichtungen richten sich an jene Anbieter, deren Dienste am häufigsten für sexuellen Missbrauch von Kindern im Internet verwendet werden, und zielen in erster Linie darauf ab, Anreize für einen stärkeren Schutz von Kindern zu schaffen.

Diese Dienste spielen eine wichtige Rolle bei der Bekämpfung des sexuellen Missbrauchs von Kindern, da sie häufig die einzigen sind, die die Möglichkeit haben, anhaltenden Missbrauch aufzudecken. Häufig wird Missbrauch nur dank jener Online-Dienstanbieter aufgedeckt, die Maßnahmen ergreifen, um kinderpornografisches Material auf ihren Plattformen aufzuspüren und Kinder vor der Kontaktanbahnung durch Straftäter zu schützen. Dies gilt insbesondere für elektronische Nachrichtendienste (privat oder Gruppenchats), die Täter häufig nutzen, um Material auszutauschen und Kinder zu kontaktieren.

Das Internet bietet Sexualstraftätern eine neue Möglichkeit zur Kontaktaufnahme – sei es in den sozialen Medien, auf Gaming-Plattformen und in Chats. Dort ködern sie Kinder, damit sie kompromittierende Bilder von sich aufnehmen oder sich mit ihnen treffen. 2021 stieg die Zahl der „selbst erstellten“ Bilder von 7-10-Jährigen um das Dreifache und dem NCMEC zufolge nimmt das Ködern im Internet exponentiell zu. Den Dienstanbietern kommt dabei eine zentrale Rolle zu: Sie können dem Trend am ehesten entgegenwirken, dass Materialien weltweit immer leichter verfügbar werden und das Errichten von speziellen Netzen für Sexualstraftäter zum Teilen von Ressourcen und Strategien zum Kindesmissbrauch immer einfacher wird.  

Um die Strafverfolgung zu erleichtern, müssen Hosting-Dienste und interpersonelle Kommunikationsdienste, die zwar nicht in einem EU-Mitgliedstaat niedergelassen sind, jedoch ihre Dienste in der EU anbieten, einen gesetzlichen Vertreter in der EU benennen.

Welches Material deckt der Vorschlag ab?

Die Aufdeckungspflichten umfassen bekanntes Material (erneut hochgeladene Fotos und Videos, die zuvor als sexueller Kindesmissbrauch identifiziert wurden), neues Material (Fotos und Videos, die noch nicht identifiziert wurden) und Grooming (Aufbau einer vertrauensvollen und emotionalen Beziehung zu Kindern im Internet zum Zweck der Manipulation sowie des sexuellen Missbrauchs und der sexuellen Ausbeutung).

Im Einklang mit dem zentralen Ziel des Vorschlags, Kinder besser zu schützen, betrifft Grooming nur interpersonelle Kommunikation, bei der einer der Nutzer bekannterweise ein Kind ist. Dies ist nur dann der Fall, wenn bei der Risikobewertung ein erhebliches Missbrauchsrisiko des Dienstes zum Zwecke des sexuellen Missbrauchs von Kindern im Internet festgestellt wurde, ungeachtet der vom Anbieter ergriffenen Risikominderungsmaßnahmen.

Betrifft der Vorschlag auch verschlüsseltes Material?

Die vorgeschlagenen Pflichten für Dienstanbieter in Bezug auf die Aufdeckung von kinderpornografischem Material sind in puncto Technologie neutral, d. h. sie schreiben nicht vor, welche Technologie für die Aufdeckung eingesetzt werden sollte. Es handelt sich um eine Ergebnisverpflichtung (keine Mittelverpflichtung). Der Anbieter kann seine Technologie unter Einhaltung strenger Schutzvorkehrungen frei wählen.

Dazu gehört auch der Einsatz von Verschlüsselungstechnologien. Verschlüsselung ist ein wichtiges Tool zum Schutz von Cybersicherheit und vertraulicher Kommunikation. Gleichzeitig könnte die Verschlüsselung von Straftätern als sicherer Kanal missbraucht werden, um ihre Taten zu verbergen. Bemühungen, Täter in Fällen des sexuellen Missbrauchs von Kindern vor Gericht zu bringen, werden dadurch behindert.

Ein Großteil der Meldungen über sexuellen Kindesmissbrauch, die für die Einleitung von Ermittlungen und den Schutz von Kindern entscheidend sind, stammen aus Diensten, die bereits verschlüsselt sind oder in Zukunft verschlüsselt werden könnten. Wären solche Dienste von den Anforderungen zum Schutz von Kindern und zur Bekämpfung der Verbreitung von Bildern und Videos über sexuellen Kindesmissbrauch über ihre Dienste ausgenommen, wären die Folgen für Kinder erheblich. Nach Schätzungen des NCMEC gehen mehr als die Hälfte seiner CyberTipline-Meldungen mit End-zu-End-Verschlüsselung verloren, sodass Missbrauch unentdeckt bleibt – es sei denn, die Anbieter ergreifen Maßnahmen zum Schutz von Kindern und ihrer Privatsphäre auch bei End-zu-End-verschlüsselten Diensten. Analysen zufolge gingen so ungefähr 2100 Meldungen pro Tag verloren, die Kinder vor anhaltendem Missbrauch hätten schützen und weitere Übergriffe durch Straftäter verhindern können.

Die Kommission arbeitet im Rahmen des EU-Internetforums eng mit der Industrie, zivilgesellschaftlichen Organisationen und der Wissenschaft zusammen, um die Forschung zu unterstützen. Es sollen technische Lösungen ermittelt werden, mit denen Unternehmen den sexuellen Missbrauch von Kindern in der End-zu-End-verschlüsselten Kommunikation unter uneingeschränkter Achtung der Grundrechte aufdecken sowie in der Praxis und rechtmäßig umsetzen können.

Die vorgeschlagenen Rechtsvorschriften tragen den Empfehlungen Rechnung, die ausgehend von der Entschließung des Rates vom Dezember 2020 im Rahmen eines gesonderten, laufenden Prozesses unter Einbeziehung verschiedener Interessenträger zum Thema Verschlüsselung abgegeben wurden. Diese Arbeiten haben gezeigt, dass es zwar Lösungen gibt, diese jedoch nicht in großem Maßstab getestet wurden. Die Kommission wird weiterhin mit allen einschlägigen Interessenträgern zusammenarbeiten, um regulatorische und operative Herausforderungen sowie die Möglichkeiten bei der Bekämpfung dieser Straftaten anzugehen. 

Welche Verpflichtungen haben die Dienstanbieter gemäß diesen neuen Vorschriften?

Die neuen Vorschriften enthalten verpflichtende Maßnahmen, um Risiken zu bewerten und zu mindern und erforderlichenfalls sexuellen Missbrauch von Kindern im Internet sowie Fälle von Grooming aufzudecken, zu melden und Material dazu zu entfernen, einschließlich bekannter und neuer Bilder und Videos.

Hosting-Dienste und interpersonelle Kommunikationsdienste müssen einerseits bewerten, wie wahrscheinlich ihr Dienst für den sexuellen Missbrauch von Kindern im Internet genutzt werden könnte, andererseits müssen sie ihre Maßnahmen bewerten, die sie ergreifen, um ermittelte Risiken zu verringern und somit sexuellen Missbrauch von Kindern im Internet über ihre Dienste zu verhindern.

Auf der Grundlage dieser Bewertung können die zuständigen nationalen Behörden in Fällen, in denen das Risiko trotz Risikominderungsmaßnahmen nach wie vor erheblich ist, eine Aufdeckungsanordnung erlassen. Die Unternehmen sind verpflichtet, die vom EU-Zentrum bereitgestellten Indikatoren (Hashes/KI-Klassifikatoren) bei ihren Aufdeckungsmaßnahmen zu verwenden. Aufdeckungsanordnungen werden erlassen, wenn die Wahrscheinlichkeit besteht, dass ein Dienst (oder der Teil des Dienstes, in dem eine gesonderte Aufdeckung möglich ist) trotz der vom Anbieter ergriffenen Risikominderungsmaßnahmen zum Zwecke des sexuellen Missbrauchs von Kindern im Internet genutzt wird. Sobald die Anordnung erlassen wurde, sind die Unternehmen verpflichtet, sexuellen Missbrauch von Kindern in ihren Diensten aufzudecken.

Berichte über sexuellen Missbrauch von Kindern im Internet werden an das neue EU-Zentrum übermittelt, das das Material auf fehlerhafte Meldungen prüft und stichhaltige Meldungen erforderlichenfalls an die Strafverfolgungsbehörden und Europol weiterleitet.

App-Stores müssen in Zusammenarbeit mit den App-Anbietern Maßnahmen ergreifen, um das Risiko zu mindern, dass Kinder Apps mit einem hohen Grooming-Risiko herunterladen.

Internetzugangsanbieter werden verpflichtet, den Zugang zu Bildern und Videos zu sperren, die nicht entfernt werden können, z. B. weil sie außerhalb der EU in kooperationsunwilligen Ländern gehostet werden.

Wie verhindert der Vorschlag eine Massenüberwachung?

Welche Dienstanbieter im Rahmen dieser Rechtsvorschriften tätig werden können, ist sowohl vor als auch nach Erlass einer Aufdeckungsanordnung sehr begrenzt.

Erstens sind Aufdeckungsanordnungen auf Situationen beschränkt, in denen Präventivmaßnahmen für eine Verringerung des Risikos nicht ausreichen.

Zweitens ist das Verfahren für den Erlass einer Aufdeckungsanordnung sehr gründlich und so gestaltet, dass die Maßnahmen auf das absolut Notwendige beschränkt sind:

• Der Vorschlag beruht auf konzentrischen Kreisen – die Aufdeckungspflicht ist bei jedem Schritt beschränkt. Zunächst gilt sie nur für zwei individuell bestimmte Arten von Anbietern: Hosting-Dienste und öffentlich zugängliche interpersonelle Kommunikationsdienste.
• Beide Dienste müssen gründliche Risikobewertungen durchführen und Maßnahmen zur Minderung festgestellter Risiken ergreifen,
• die die nationalen Behörden anhand der festgelegten Kriterien prüfen. Je größer die Intervention, desto strenger sind die Kriterien. Nur wenn die Behörden der Auffassung sind, dass Beweise für ein erhebliches Missbrauchsrisiko vorliegen und dass die Gründe für den Erlass der Aufdeckungsanordnung die negativen Folgen für die Rechte und berechtigten Interessen aller betroffenen Parteien überwiegen, insbesondere unter Berücksichtigung eines angemessenen Gleichgewichts zwischen den Grundrechten dieser Parteien, würden sie eine Aufdeckungsanordnung in Erwägung ziehen.
• Vor Erlass einer Anordnung wird der Anbieter konsultiert. Falls die Behörden nach wie vor ein Risiko feststellen, wird der Anbieter aufgefordert, die mögliche Umsetzung der Aufdeckung zu beschreiben. Erfordert dies eine risikoreiche Verarbeitung, muss der Anbieter eine Datenschutz-Folgenabschätzung durchführen und die Datenschutzbehörden konsultieren. Im Zusammenhang mit der Aufdeckung von Grooming sind diese Schritte in jedem Fall zu unternehmen.
• Nur wenn die nationalen Behörden ein drittes Mal bestätigen, dass ein erhebliches Risiko fortbesteht, könnten sie eine Anordnung bei einer anderen unabhängigen Behörde oder einem anderen Gericht beantragen. Die unabhängige Behörde oder das Gericht würde den Fall im Hinblick auf alle vorgelegten Stellungnahmen und Gutachten, einschließlich der Stellungnahmen der Datenschutzbehörden, neu bewerten.
• Dieser sich wiederholende, dreistufige Prozess stellt sicher, dass die Maßnahmen auf das absolut Notwendige begrenzt werden.

Drittens sehen die Rechtsvorschriften eine Ergebnisverpflichtung (keine Mittelverpflichtung) vor, sobald eine Anordnung ergangen ist: Die Unternehmen müssen ihren Aufdeckungspflichten nachkommen, sind jedoch frei in der Wahl der für den Online-Austausch verwendeten und ihren Diensten am besten entsprechenden Technologie.

Dies schließt zwar Verschlüsselung ein; der Vorschlag umfasst jedoch eine Reihe starker Schutzvorkehrungen in Bezug auf die verwendete Erkennungstechnologie.

Beim Erlass von Aufdeckungsanordnungen müssen die nationalen Behörden der Verfügbarkeit und Eignung einschlägiger Technologien Rechnung tragen. Die Anordnung wird also nicht erteilt, wenn der technologische Entwicklungsstand dies nicht zulässt, sprich keine Technologie verfügbar ist, die es dem Anbieter erlauben würde, der Anordnung nachzukommen.

Die Erkennung erfolgt automatisch und anonym mithilfe modernster Technologie, die bestmögliche Effizienz gewährleistet und das Recht der Nutzer auf Privatsphäre so wenig wie möglich beeinträchtigt.

Die Erkennung erfolgt ausschließlich nach Indikatoren für kinderpornografische Inhalte im Internet, die vom EU-Zentrum unter der Kontrolle der nationalen Strafverfolgungsbehörden vorgegeben werden. (Sie bestätigen auch, dass ein Inhalt als Missbrauch einzustufen ist.)

Nur wenn die Indikatoren auf sexuellen Missbrauch von Kindern hindeuten – auf einem Foto, in einem Video oder einem Gesprächsfragment (bei einer Kontaktaufnahme) – ist eine menschliche Überprüfung notwendig.

Diese erfolgt zunächst auf der Ebene des Zentrums, damit keine offenkundig falsch-positiven Ergebnisse an die Strafverfolgungsbehörden weitergeleitet werden. Das Zentrum gibt dem Anbieter Feedback, um die Erkennungstools schrittweise zu verbessern.

Der Vorschlag räumt außerdem beiden – Anbietern und Nutzern – das Recht ein, die sie betreffenden Maßnahmen vor Gericht anzufechten.

Darüber hinaus wird der Europäische Datenschutzausschuss zu allen Technologien konsultiert, die auf die Liste des EU-Zentrums aufgenommen werden. Der Ausschuss wird auch zu deren optimalen Einsatzmöglichkeiten befragt, um die Einhaltung der geltenden EU-Rechtsvorschriften über den Schutz personenbezogener Daten zu gewährleisten.

Der Spielraum zur Erteilung solcher Anordnungen und zur Durchführung von Aufdeckungsmaßnahmen ist also sehr klein und auf das unbedingt erforderliche Maß beschränkt. So wird jeglicher Missbrauch von Aufdeckungsbefugnissen vermieden.

Welche Schutzmaßnahmen müssen Dienstanbieter bei den Aufdeckungstätigkeiten ergreifen?

Das vorgeschlagene System ist ausgewogen und zielgerichtet. Es ist auf das zur Bekämpfung der missbräuchlichen Nutzung einschlägiger Onlinemedien für Kindesmissbrauch unbedingt erforderliche und verhältnismäßige Maß beschränkt.

Nach einer Risikobewertung durch die Anbieter von Online-Diensten müssen nur einige von ihnen überprüfen, ob kinderpornografisches Material auf ihren Plattformen vorhanden ist.

Gemäß dem Vorschlag müssen die Anbieter dabei Technologien einsetzen, die am wenigsten in die Privatsphäre eingreifen, dem Stand der Technik in der Branche entsprechen und eine möglichst geringe Fehlerquote falsch-positiver Ergebnisse liefern.

Erkennungssysteme sollten nur für den beabsichtigten Zweck der Aufdeckung und Meldung von sexuellem Kindesmissbrauch eingesetzt werden.

Der Vorschlag sieht außerdem Rechtsbehelfe für sowohl Anbieter als auch Nutzer vor, die beide das Recht haben, eine sie betreffende Maßnahmen vor Gericht anzufechten. Für Schäden, die sich aus der Verarbeitung im Rahmen des Vorschlags ergeben könnten, haben die Nutzer Anspruch auf Entschädigung.

Der Vorschlag sieht auch strenge Aufsichtsmechanismen vor. Dazu zählen beispielsweise Anforderungen an die Unabhängigkeit und Befugnisse der mit dem Erlass der Anordnungen und der Überwachung betrauten nationalen Behörden. Das EU-Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern wird Meldungen der Anbieter über potenzielle Missbrauchsfälle bewerten und so zur Minimierung des Risikos von Falschmeldungen beitragen.

Der europäische Datenschutzausschuss (EDSA) und die nationalen Datenschutzbeauftragten sind mit der Bewertung der Erkennungstechnologie betraut. Sie stellen im Rahmen einer ständigen Überwachung sicher, dass die Vorschriften in Bezug auf den Schutz der Privatsphäre und der personenbezogenen Daten eingehalten werden.

Zur Gewährleistung der Transparenz sieht der Vorschlag vor, dass Anbieter, nationale Behörden und das EU-Zentrum jährlich über ihre Tätigkeiten im Rahmen der vorgeschlagenen Vorschriften Bericht erstatten.

Wie funktioniert die Erkennung? Ist das Verfahren zuverlässig?

Anbieter, die bereits jetzt auf freiwilliger Basis kinderpornografisches Material ermitteln, verwenden in der Regel automatisierte Technologien. Auf der Grundlage bestimmter Indikatoren prüft die automatische Erkennung die Inhalte auf Anzeichen von Kindesmissbrauch. Dabei ist unerheblich, worum es bei diesen Inhalten geht.

Die Technologien zur Erkennung von bekanntem kinderpornografischem Material basieren in der Regel auf Hashing, bei dem ein einzigartiger digitaler Fingerabdruck eines bestimmten Bildes erstellt wird. Derzeit für die Aufdeckung von neuem Material verwendete Technologien beinhalten auch Klassifikatoren und künstliche Intelligenz (KI). Ein Klassifikator ist ein Algorithmus, der Daten durch Mustererkennung in gekennzeichnete Klassen oder Informationskategorien sortiert. Technologien für die Erkennung von Grooming in schriftlicher Kommunikation stützen sich auf Tools zur Textanalyse und/oder zur Analyse von Metadaten. Eine Überprüfung durch den Menschen ist im Allgemeinen bereits vorgesehen – selbst bei den akkuratesten Technologien wie Hashing.

Bei den Unternehmen, die Inhalte derzeit freiwillig auf kinderpornografisches Material untersuchen, ist die automatische Erkennung äußerst zuverlässig und weist extrem niedrige falsch-positive Fehlerquoten auf.

Hohe Fehlerquoten (z. B. fälschliche Kennzeichnung von Inhalten als sexuellen Missbrauch von Kindern) würden nach den vorgeschlagenen Vorschriften beim EU-Zentrum schnell auffallen. Das Zentrum gewährleistet, dass keine falsch-positiven Ergebnisse an die Strafverfolgungsbehörden weitergeleitet werden. Die Unternehmen werden unverzüglich benachrichtigt, wenn ihre Tools fehlerhafte Meldungen liefern, und sind verpflichtet, Abhilfe zu schaffen.

Werden Dienstanbieter bei der Erfüllung dieser neuen Verpflichtungen unterstützt?

Das EU-Zentrum wird Unternehmen bei der Erfüllung ihrer Verpflichtungen unterstützen. Es wird die Indikatoren zur Erkennung von sexuellem Missbrauch festlegen und dadurch den Anbietern Gewissheit darüber geben, welche Inhalte in der EU illegal sind.  Das Zentrum wird die Erkennungstechnologie und die Tools für die menschliche Überprüfung aller Meldungen kostenlos bereitstellen. Dadurch werden insbesondere kleinere Anbieter entlastet. Das Zentrum wird Rückmeldungen zur Genauigkeit der Meldungen geben und den Anbietern dabei helfen, ihre Verfahren zu verbessern.

Werden Dienstanbieter, die ihren Pflichten aus den vorgeschlagenen Vorschriften nicht nachkommen, sanktioniert?

Jeder Fall muss von den zuständigen nationalen Behörden geprüft werden. Die Mitgliedstaaten müssen Regeln für wirksame, verhältnismäßige und abschreckende Sanktionen festlegen. Bei der Verhängung von Sanktionen sollen die nationalen Behörden Faktoren wie Schwere, erneutes Auftreten und Dauer des Verstoßes berücksichtigen, aber auch, ob der Verstoß vorsätzlich oder fahrlässig begangen wurde, ob es sich um einen ersten Verstoß des betreffenden Anbieters handelt, sowie seine Größe, Finanzkraft und Bereitschaft zur Zusammenarbeit mit den Behörden. Die Strafen sollten 6 % der Jahreseinnahmen oder des Gesamtumsatzes des letzten Geschäftsjahres nicht übersteigen.

Welche Aufgaben und Befugnisse wird das EU-Zentrum bei der Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern haben?

Das Zentrum wird drei wichtige Aufgaben wahrnehmen: Unterstützung der Prävention, Verbesserung der Opferhilfe sowie Unterstützung der Aufdeckung, Meldung und Entfernung von kinderpornografischen Inhalten im Internet.

Das Zentrum wird Fachwissen im Bereich der Prävention bündeln. Dazu zählen auch Sensibilisierungsmaßnahmen für Kinder und Eltern/Vormunde sowie für Menschen, die befürchten, dass sie sich an Kindern vergreifen könnten.

Das Zentrum wird auch die zur Unterstützung von Opfern notwendigen Fachkenntnisse und Forschungsergebnisse bündeln. Es wird die Opfer bei der Entfernung des sie betreffenden Online-Materials unterstützen.

Außerdem wird das Zentrum den Anbietern bei der Erfüllung ihrer Verpflichtungen hinsichtlich der Aufdeckung, Meldung und Entfernung von kinderpornografischem Online-Material helfen. Es wird ihnen den Zugang zu zuverlässigen Erkennungstools erleichtern und eine Datenbank mit Indikatoren für sexuellen Kindesmissbrauch bereitstellen (Hashes, KI-Muster/Klassifikatoren), damit eindeutig ist, was nach den EU-Vorschriften als sexueller Missbrauch von Kindern gilt. Indem es diese Indikatoren mit den Unternehmen teilt und sie deutlich darüber aufklärt, welche Inhalte in der EU illegal sind, brauchen diese nicht mehr auf US-amerikanische Bestimmungen zurückzugreifen. Mit dem Vorschlag wird also ein proaktives System geschaffen, über das alle einschlägigen Anbieter gemeinsam tätig werden, und das im Gegensatz zum derzeitigen reaktiven System steht, in dem die Strafverfolgung in der EU vom US-Recht und freiwilligen Maßnahmen der Unternehmen abhängt. Das Zentrum wird die von den Anbietern erhaltenen Meldungen zunächst prüfen, um falsch-positive Ergebnisse auszuschließen, und sie dann an Europol und an die nationalen Strafverfolgungsbehörden weiterleiten.

Als Empfänger von Meldungen über Kindesmissbrauch im Internet wird das Zentrum Einblick in die Wirksamkeit der Aufdeckungsmaßnahmen haben und so die Transparenz und Rechenschaftspflicht des Prozesses gewährleisten.

Wann wird das EU-Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern eingerichtet?

Abhängig vom Zeitplan für die Annahme und Umsetzung der vorgeschlagenen Verordnung dürfte das Zentrum seine Arbeit zwischen 2024 und 2026 aufnehmen. Zu Beginn wird sich das Zentrum auf die Prävention und Unterstützung der Opfer konzentrieren. 2030 dürfte es voraussichtlich voll funktionsfähig sein. Die Vorbereitungen für den neuen Prozess der Aufdeckung, Meldung und Entfernung von Inhalten sowie die Einrichtung der Datenbank mit Indikatoren für Kindesmissbrauch sollten dann abgeschlossen sein.

Was wird getan, damit es erst gar nicht zum sexuellen Missbrauch von Kindern kommt?

Prävention ist von entscheidender Bedeutung für die Bekämpfung von Kindesmissbrauch.

Die bestehenden EU-Vorschriften zur Bekämpfung des sexuellen Missbrauchs von Kindern (Richtlinie 2011/93) verpflichten die Mitgliedstaaten dazu, in Präventionsprogramme für verurteilte und potenzielle Straftäter zu investieren und durch Aufklärung und Sensibilisierung zur Prävention beizutragen.

Damit die Mitgliedstaaten diesen Verpflichtungen uneingeschränkt nachkommen können, und um die Prävention zu verbessern, werden sie von der Kommission durch die Einrichtung eines Netzes von Präventionsexperten unterstützt, wie im Juli 2020 in der Strategie für eine wirksamere Bekämpfung des sexuellen Missbrauchs von Kindern angekündigt wurde. Das Netz wird die Kommunikation und den Austausch bewährter Methoden zwischen Forschern und Praktikern fördern.

Die Gemeinsame Forschungsstelle der Kommission hat in Zusammenarbeit mit den Experten, die möglicherweise Teil des Präventionsnetzes sein werden, einen Bericht mit Klassifizierungskriterien für Präventionsprogramme in der gesamten EU veröffentlicht.

Die EU will den Schutz von Kindern vor sexuellem Missbrauch weltweit verbessern und unterstützt und kooperiert in diesem Zusammenhang mit WeProtect Global Alliance. Außerdem stellt sie aus dem Fonds für die innere Sicherheit Fördermittel für Präventionsprojekte zur Verfügung.

Welche Verbindungen gibt es zur neuen Strategie „Ein besseres Internet für Kinder“?

Die Strategie „Ein besseres Internet für Kinder“ wird bei der Umsetzung der EU-Rechtsvorschriften über die Sicherheit von Kindern helfen, unter anderem durch strengere Bestimmungen im geplanten Gesetz über digitale Dienste und in der vorgeschlagenen Verordnung über die Prävention und Bekämpfung von sexuellem Missbrauch und sexueller Ausbeutung von Kindern.

Im Rahmen der Strategie für ein besseres Internet für Kinder kofinanziert die EU Hotlines für ein sicheres Internet und unterstützt die Öffentlichkeit, vor allem Kinder, wenn diese mit schädlichen und illegalen Inhalte wie kinderpornografischem Material konfrontiert sind. Sofern ihnen gemäß den Bedingungen des geplanten Gesetzes über digitale Dienste der Status eines „vertrauenswürdigen Hinweisgebers“ verliehen wurde, können diese Hotlines zu einer schnelleren Bewertung und Entfernung illegaler Online-Inhalte beitragen.

Wie hängt dieser Vorschlag mit dem Gesetz über digitale Dienste zusammen?

Mit dem Gesetz über digitale Dienste wird eine harmonisierte Ausgangsbasis für die Bekämpfung aller illegalen Inhalte geschaffen.

Material über sexuellen Kindesmissbrauch und illegale Inhalte im Allgemeinen werden darin reaktiv und fallweise behandelt. Die vorgeschlagene Verordnung zur Prävention und Bekämpfung des sexuellen Missbrauchs und der sexuellen Ausbeutung von Kindern wird den mit dem Gesetz über digitale Dienste geschaffenen allgemeinen Rahmen ergänzen. Durch spezifische und gezielte Vorschriften wird sie die Verbreitung von bekanntem kinderpornografischem Material unterbinden.

Weitere Informationen:

Pressemitteilung: Kampf gegen Kindesmissbrauch: Kommission präsentiert Gesetzesvorschlag zum Schutz von Kindern

Factsheet

Vorschlag für eine Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern

Website

Pressekontakt: katrin [dot] ABELEec [dot] europa [dot] eu (Katrin Abele), Tel.: +49 (30) 2280-2140. Mehr Informationen zu allen Pressekontakten hier.

Anfragen von Bürgerinnen und Bürgern beantwortet das Team des Besucherzentrums ERLEBNIS EUROPA per frageerlebnis-europa [dot] eu (E-Mail) oder telefonisch unter (030) 2280 2900.