Ein Europa, das schützt: Kommission empfiehlt Maßnahmen, um illegale Online-Inhalte gezielt zu bekämpfen

Die heute veröffentlichten Empfehlungen gelten für alle Formen illegaler Inhalte: terroristische Inhalte, Aufstachelung zu Hass und Gewalt, Darstellungen des sexuellen Missbrauchs von Kindern, Produktfälschungen und Urheberrechtsverletzungen. Die Empfehlung umfasst die erforderlichen Sicherheitsvorkehrungen, die von den Online-Plattformen und den Mitgliedstaaten zu ergreifen sind, um rasche und proaktive Erkennung und Entfernung illegaler Online-Inhalte zu gewährleisten. Sie sollen diese Arbeit weiter voranzutreiben, bevor entschieden wird, ob Rechtsvorschriften notwendig sind.

Hierzu erklärte der für den digitalen Binnenmarkt zuständige Vizepräsident, Andrus Ansip: „Da Online-Plattformen zu einem zentralen Zugangsportal zu Informationen werden, liegt es in ihrer Verantwortung, ein sicheres Umfeld für ihre Nutzer zu schaffen. Was außerhalb des Internets verboten ist, ist auch im Internet illegal. Einige Plattformen haben bereits mehr illegale Inhalte als je zuvor entfernt – ein Beleg dafür, dass die Selbstregulierung funktionieren kann. Aber wir müssen noch schneller gegen terroristische Propaganda und andere illegale Inhalte vorgehen, die eine ernste Bedrohung für die Sicherheit der Bürger und die Grundrechte darstellen.“

Die Verbreitung illegaler Online-Inhalte untergräbt das Vertrauen der Bürger in das Internet und stellt eine Sicherheitsbedrohung dar. Durch freiwillige Maßnahmen der Industrie, die von der Kommission über das EU-Internetforum zu terroristischen Inhalten im Internet, den Verhaltenskodex zur Bekämpfung von Hetze im Internet und die Gemeinsame Absichtserklärung zum Verkauf nachgeahmter Güter gefördert werden, wurden bereits Ergebnisse erzielt. Dennoch besteht noch erheblicher Spielraum für ein wirksameres Vorgehen, insbesondere in Bezug auf das dringliche Thema terroristischer Inhalte, die ernste Sicherheitsrisiken bergen.

Bessere Verfahren für eine effizientere Entfernung illegaler Inhalte

In der heutigen Empfehlung werden operative Maßnahmen zur rascheren Erkennung und Entfernung illegaler Online-Inhalte, zur Stärkung der Zusammenarbeit zwischen Unternehmen, vertrauenswürdigen Hinweisgebern und Strafverfolgungsbehörden sowie zur Erhöhung der Transparenz und der Sicherheitsvorkehrungen für die Bürger festgelegt:

• Klarere „Melde- und Abhilfeverfahren“: Die Unternehmen sollten einfache und transparente Regeln für die Meldung illegaler Inhalte festlegen, darunter Schnellverfahren für „vertrauenswürdige Hinweisgeber“. Um die unbeabsichtigte Entfernung von Inhalten, die nicht illegal sind, zu vermeiden, sollten die Anbieter von Inhalten über solche Entscheidungen informiert werden und die Möglichkeit haben, ihnen zu widersprechen.
• Effizientere Werkzeuge und proaktive Technologien: Die Unternehmen sollten klare Meldesysteme für die Nutzer festlegen. Sie sollten über proaktive Werkzeuge zur Erkennung und Entfernung illegaler Inhalte verfügen. Dies gilt insbesondere für terroristische Inhalte und für Inhalte, die nicht in einen Gesamtkontext eingeordnet werden müssen, um als illegal angesehen zu werden, z. B. wenn es um Darstellungen des sexuellen Missbrauchs von Kindern oder nachgeahmte Güter geht.
• Stärkere Garantien zum Schutz der Grundrechte: Um sicherzustellen, dass Entscheidungen über die Entfernung von Inhalten zutreffend und fundiert sind (insbesondere beim Einsatz automatisierter Werkzeuge), sollten die Unternehmen unter uneingeschränkter Achtung der Grundrechte, der Freiheit der Meinungsäußerung und der Datenschutzregeln wirksame und angemessene Sicherheitsvorkehrungen, einschließlich der Aufsicht und Überprüfung durch Menschen, einführen.
• Besonderes Augenmerk auf kleine Unternehmen: Die Industrie sollte im Rahmen freiwilliger Vereinbarungen zusammenarbeiten und Erfahrungen, bewährte Verfahren und technologische Lösungen austauschen, darunter auch Instrumente, die eine automatische Erkennung ermöglichen. Diese Zusammenarbeit dürfte insbesondere kleineren Plattformen mit begrenzteren Ressourcen und Fachkenntnissen zugutekommen.
• Engere Zusammenarbeit mit den Behörden: Gibt es Beweise für eine schwere Straftat oder besteht der Verdacht, dass illegale Inhalte eine Gefahr für Leben oder Sicherheit darstellen, sollten die Unternehmen die Strafverfolgungsbehörden unverzüglich informieren. Die Mitgliedstaaten werden aufgefordert, geeignete rechtliche Verpflichtungen festzulegen.

Diese Maßnahmen können je nach Art der illegalen Inhalte unterschiedlich ausfallen, weshalb die Unternehmen in der Empfehlung ermutigt werden, bei der Entfernung illegaler Inhalte den Grundsatz der Verhältnismäßigkeit zu beachten.

Verstärkter Schutz vor terroristischen Online-Inhalten

Die Verbreitung terroristischer Online-Inhalte stellt ein besonders schwerwiegendes Risiko für die Sicherheit der Europäer dar und ihre Unterbindung ist eine Angelegenheit von äußerster Dringlichkeit. Aus diesem Grund empfiehlt die Kommission heute zusätzlich besondere Bestimmungen zur weiteren Eindämmung terroristischer Online-Inhalte:

• Eine-Stunde-Regel: Da terroristische Inhalte in den ersten Stunden nach ihrem Auftauchen im Internet am meisten Schaden anrichten, sollten alle Unternehmen solche Inhalte grundsätzlich innerhalb einer Stunde, nachdem sie gemeldet wurden, entfernen.
• Raschere Erkennung und wirksame Entfernung: Zusätzlich zu den Meldungen sollten Internetunternehmen proaktive Maßnahmen, darunter die automatische Erkennung, einführen, um terroristische Inhalte wirksam und schnell entfernen oder deaktivieren zu können und zu verhindern, dass sie erneut auftauchen, nachdem sie einmal entfernt worden sind. Um kleinere Plattformen zu unterstützen, sollten die Unternehmen geeignete technologische Instrumente austauschen und optimieren sowie Arbeitsvereinbarungen für eine bessere Zusammenarbeit mit den zuständigen Behörden, einschließlich Europol, treffen.
• Verbessertes Meldesystem: Es sollten Schnellverfahren geschaffen werden, damit Meldungen so schnell wie möglich bearbeitet werden können. Die Mitgliedstaaten müssen wiederum dafür sorgen, dass sie über die erforderlichen Fähigkeiten und Ressourcen verfügen, um terroristische Inhalte erkennen und melden zu können.
• Regelmäßige Berichterstattung: Die Mitgliedstaaten sollten der Kommission regelmäßig, vorzugsweise alle drei Monate, über Fälle und die entsprechenden Folgemaßnahmen sowie über die allgemeine Zusammenarbeit mit Unternehmen zur Eindämmung terroristischer Online-Inhalte Bericht erstatten.

Nächste Schritte:

Die Kommission wird die als Reaktion auf diese Empfehlung ergriffenen Maßnahmen überwachen und entscheiden, ob weitere Schritte, gegebenenfalls auch der Erlass von Rechtsvorschriften, erforderlich sind.

Darüber hinaus wird die Kommission ihre Analysen fortsetzen und eng mit den Interessenträgern zusammenarbeiten. In diesem Zusammenhang wird sie in den kommenden Wochen eine öffentliche Konsultation zu diesem Thema einleiten.

Damit die Wirkung der Empfehlung überprüft werden kann, müssen Mitgliedstaaten und Unternehmen innerhalb von drei Monaten relevante Informationen zu terroristischen Inhalten und innerhalb von sechs Monaten Informationen zu anderen illegalen Inhalten vorlegen.

Weitere Informationen:

Memo: Häufig gestellte Fragen: Empfehlung der Kommission für wirksame Maßnahmen im Umgang mit illegalen Online-Inhalten

Factsheet zu illegalen Online-Inhalten

Folgenabschätzung in der Anfangsphase und andere nützliche Links

Pressemitteilung: Sicherheitsunion: Terroristische Radikalisierung – Die Kommission legt nach

Erklärung: Entfernung illegaler Online-Inhalte: Kommission fordert verstärkte Bemühungen und raschere Fortschritte von allen Seiten (EN)

Pressemitteilung: Sicherheitsunion: Kommission verstärkt Bemühungen im Kampf gegen illegale Online-Inhalte

Mitteilung: Umgang mit illegalen Online-Inhalten – Mehr Verantwortung für Online-Plattformen

Pressekontakt: katrin [dot] ABELEec [dot] europa [dot] eu (Katrin Abele), Tel.: +49 (30) 2280-2140

Anfragen von Bürgerinnen und Bürgern beantwortet das Team des Besucherzentrums ERLEBNIS EUROPA per frageerlebnis-europa [dot] eu (E-Mail) oder telefonisch unter (030) 2280 2900.