Sexualisierte Deepfakes: EU-Kommission leitet Verfahren gegen X wegen Grok ein

Die Europäische Kommission hat eine förmliche Untersuchung gegen X gemäß dem Gesetz über digitale Dienste (DSA) eingeleitet. Sie prüft, ob das Unternehmen die Risiken, die mit der Einführung der Funktionen von Grok verbunden sind, ordnungsgemäß bewertet und gemindert hat. Dazu gehören Risiken im Zusammenhang mit der Verbreitung illegaler Inhalte in der EU, wie manipulierte sexuell anstößige Bilder, einschließlich Inhalten, die möglicherweise sexuellen Kindesmissbrauch darstellen.

Sexualisierte Deepfakes sind eine inakzeptable Entwürdigung

Henna Virkkunen, Exekutiv-Vizepräsidentin für Technologische Souveränität, Sicherheit und Demokratie, sagte: „Sexualisierte Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Entwürdigung. Mit dieser Untersuchung werden wir feststellen, ob X seinen gesetzlichen Verpflichtungen gemäß dem DSA nachgekommen ist oder ob es die Rechte europäischer Bürger – einschließlich der Rechte von Frauen und Kindern – als Kollateralschaden seines Dienstes behandelt hat.“

Verfahren aus 2023 gegen X verlängert

Außerdem hat die Kommission ihr im Dezember 2023 gegen X eingeleitetes förmliches Verfahren verlängert. Sie will feststellen, ob X alle systemischen Risiken im Sinne der DSA im Zusammenhang mit seinen Empfehlungssystemen, einschließlich der Auswirkungen seiner kürzlich angekündigten Umstellung auf ein Grok-basiertes Empfehlungssystem, ordnungsgemäß bewertet und gemindert hat.

Mögliche Verstöße

Sollten sich diese Versäumnisse bestätigen, würden sie einen Verstoß gegen Artikel 34 Absätze 1 und 2, Artikel 35 Absatz 1 und Artikel 42 Absatz 2 der DSA darstellen. Die Kommission wird nun vorrangig eine eingehende Untersuchung durchführen. Die Einleitung eines förmlichen Verfahrens greift dessen Ergebnis nicht vor.

Zusammenarbeit mit irischem Koordinator für digitale Dienste

Bei der Vorbereitung dieser Untersuchung hat die Kommission eng mit Coimisiún na Meán, dem irischen Koordinator für digitale Dienste, zusammengearbeitet. Darüber hinaus wird Coimisiún na Meán gemäß Artikel 66 Absatz 3 als nationaler Koordinator für digitale Dienste im Land der Niederlassung in der EU an dieser Untersuchung beteiligt sein.

Nächste Schritte

Die Kommission wird weiterhin Beweise sammeln, beispielsweise durch zusätzliche Auskunftsersuchen, Befragungen oder Inspektionen. Sie kann vorläufige Maßnahmen verhängen, wenn keine wesentlichen Anpassungen am Dienst X vorgenommen werden.

Die Einleitung eines förmlichen Verfahrens ermächtigt die Kommission, weitere Durchsetzungsmaßnahmen zu ergreifen, beispielsweise eine Entscheidung wegen Nichteinhaltung zu erlassen. Die Kommission ist auch befugt, alle von X gemachten Zusagen zur Behebung der Angelegenheiten, die Gegenstand des Verfahrens sind, anzunehmen.

Die Einleitung eines förmlichen Verfahrens entbindet die Koordinatoren für digitale Dienste oder andere zuständige Behörden der EU-Mitgliedstaaten von ihren Befugnissen zur Überwachung und Durchsetzung des DSA in Bezug auf die mutmaßlichen Verstöße.

Ausführliche Informationen finden Sie in der vollständigen Pressemitteilung hier.

Weitere Informationen

Die am 18. Dezember 2023 eingeleitete Untersuchung zu X  

Das Gesetz über digitale Dienste

Übersicht über die sehr großen Plattformen und Suchmaschinen

Pressekontakt:  nikola [dot] johnec [dot] europa [dot] eu (Nikola John), Tel.: +49 (30) 2280 2410, mehr Informationen zu allen Pressekontakten hier.

Anfragen von Bürgerinnen und Bürgern beantwortet das Team des Besucherzentrums ERLEBNIS EUROPA per frageerlebnis-europa [dot] eu (E-Mail) oder telefonisch unter (030) 2280 2900.

Bitte beachten Sie: Bei der Übersetzung von Pressemitteilungen aus der Originalfassung kommt auch Maschinenübersetzung zum Einsatz. Die Versionen in der Originalsprache finden Sie immer hier.