Künstliche Intelligenz (KI): Neue EU-Regeln zur Produkthaftung und harmonisierte Haftungsvorschriften

Nach fast 40 Jahren will die EU-Kommission die europäischen Haftungsvorschriften für fehlerhafte Produkte modernisieren und erstmals die Haftungsregeln für künstliche Intelligenz (KI) in der EU harmonisieren. Dazu hat sie zwei Gesetzgebungsvorschläge vorgelegt. Die neuen Vorschriften sollen den Unternehmen Rechtssicherheit schaffen, damit diese in neue und innovative Produkte investieren können. Zudem geht es darum, dass Opfer angemessen entschädigt werden können, wenn fehlerhafte Produkte Schäden verursachen.

Die für Werte und Transparenz zuständige Kommissionsvizepräsidentin Věra Jourová sagte: „Wir wollen, dass die KI-Technologien in der EU florieren. Um dies zu erreichen, müssen die Menschen digitalen Innovationen vertrauen. Mit dem heutigen Vorschlag zur zivilrechtlichen Haftung von KI geben wir den Kunden Instrumente für Abhilfe bei durch KI verursachten Schäden an die Hand, damit sie über das gleiche Schutzniveau wie bei herkömmlichen Technologien verfügen, und wir gewährleisten Rechtssicherheit für unseren Binnenmarkt.“

Binnenmarkt-Kommissar Thierry Breton ergänzte: „Die Produkthaftungsrichtlinie ist seit vier Jahrzehnten ein Eckpfeiler des Binnenmarkts. Der heutige Vorschlag sorgt dafür, dass er den Herausforderungen der kommenden Jahrzehnte gewachsen ist. Die neuen Vorschriften werden den globalen Wertschöpfungsketten entsprechen, Innovationen und das Vertrauen der Verbraucher fördern und Unternehmen, die am ökologischen und digitalen Wandel beteiligt sind, mehr Rechtssicherheit bieten.“

EU-Justizkommissar Didier Reynders erklärte: „Bei der Beschäftigung mit dem enormen Potenzial neuer Technologien müssen wir stets die Verbrauchersicherheit gewährleisten. Angemessene Schutzstandards für die Bürgerinnen und Bürger der EU sind die Grundlage für das Vertrauen der Verbraucher und damit für erfolgreiche Innovationen. Neue Technologien wie Drohnen oder von KI betriebene Zustelldienste können nur funktionieren, wenn sich die Verbraucher sicher und geschützt fühlen. Heute schlagen wir moderne Haftungsvorschriften vor, die genau hierfür sorgen werden. Wir machen unseren Rechtsrahmen fit für die Realitäten des digitalen Wandels.“

1. Überarbeitete Produkthaftungsrichtlinie – gerüstet für den ökologischen und digitalen Wandel und globale Wertschöpfungsketten

Mit der überarbeiteten Richtlinie werden die geltenden bewährten Vorschriften auf der Grundlage der verschuldensunabhängigen Haftung der Hersteller für die Entschädigung von Personenschäden, Sachschäden oder Datenverlusten, die durch unsichere Produkte – von Gartenstühlen bis hin zu modernen Maschinen – verursacht werden, modernisiert und verstärkt. Die Richtlinie gewährleistet sowohl für Unternehmen als auch für Verbraucher faire und berechenbare Vorschriften, und zwar durch folgende Elemente:

• Modernisierung der Haftungsvorschriften für kreislauforientierte Geschäftsmodelle: Sicherstellung, dass die Haftungsvorschriften für Unternehmen, die ihre Produkte wesentlich verändern, klar und gerecht sind.

• Modernisierung der Haftungsvorschriften für Produkte im digitalen Zeitalter: Schadensersatz für Schäden, die entstehen, wenn Produkte wie Roboter, Drohnen oder Smart-Home-Systeme durch Software-Updates, KI oder digitale Dienste, die für den Betrieb des jeweiligen Produkts erforderlich sind, unsicher gemacht werden, und wenn die Hersteller Schwachstellen im Bereich der Cybersicherheit nicht beheben.

• Schaffung einheitlicherer Wettbewerbsbedingungen für Hersteller in der EU und in Nicht-EU-Ländern: Wenn Verbraucher durch unsichere Produkte, die von außerhalb der EU eingeführt werden, zu Schaden kommen, können sie sich bezüglich des Schadensersatzes an den Importeur oder den EU-Vertreter des Herstellers wenden.

• Gleichstellung der Verbraucher mit den Herstellern: Verpflichtung der Hersteller zur Offenlegung von Beweismitteln, mehr Flexibilität bei den Fristen für die Geltendmachung von Ansprüchen und Erleichterung der Beweislast für die Opfer in komplexen Fällen, z. B. im Zusammenhang mit Arzneimitteln oder KI.

2. Leichterer Zugang zu Rechtsbehelfen für Opfer dank der Richtlinie über KI-Haftung

Der Zweck der Richtlinie über KI-Haftung besteht darin, einheitliche Regeln für den Zugang zu Informationen und die Erleichterung der Beweislast im Zusammenhang mit durch KI-Systeme verursachten Schäden festzulegen, indem ein umfassenderer Schutz für Opfer (sowohl Einzelpersonen als auch Unternehmen) eingeführt und der KI-Sektor durch Stärkung der Garantien gefördert wird.

Durch die Richtlinie werden bestimmte Vorschriften für Ansprüche, die nicht in den Anwendungsbereich der Produkthaftungsrichtlinie fallen, in Fällen, in denen Schäden durch Fehlverhalten verursacht werden, harmonisiert. Dies umfasst beispielsweise Verletzungen der Privatsphäre oder durch Sicherheitsprobleme verursachte Schäden. Dank der neuen Vorschriften wird es beispielsweise leichter, Schadensersatz zu erhalten, wenn jemand in einem Einstellungsverfahren, bei dem KI-Technologie zum Einsatz kam, diskriminiert wurde.

Mit der Richtlinie wird das rechtliche Verfahren für Opfer vereinfacht, wenn es darum geht, nachzuweisen, dass das Verschulden einer Person zu einem Schaden geführt hat.

Erreicht wird dies durch die Einführung von zwei wesentlichen Elementen:

• in Fällen, in denen ein entsprechendes Verschulden festgestellt wurde und nach vernünftigem Ermessen von einem ursächlichen Zusammenhang mit der KI-Leistung ausgegangen werden kann, greift die so genannten „Kausalitätsvermutung“. Opfer müssen bisher detailliert erklären, wie der Schaden durch ein bestimmtes Verschulden oder eine bestimmte Unterlassung verursacht wurde; dies kann bei dem Versuch, komplexe KI-Systeme zu verstehen und sich darin zurechtzufinden, besonders schwierig sein.
• die Opfer werden über mehr Instrumente verfügen, um rechtliche Entschädigung zu verlangen, indem in Fällen, in denen Hochrisiko-KI-Systeme betroffen sind, ein Recht auf Zugang zu Beweismitteln im Besitz von Unternehmen und Anbietern eingeführt wird.

Mit den neuen Vorschriften wird ein ausgewogenes Verhältnis zwischen dem Schutz der Verbraucher und der Förderung von Innovationen hergestellt. Zugleich werden zusätzliche Hindernisse für Opfer beim Zugang zu Schadensersatz beseitigt und Garantien für den KI-Sektor festgelegt, indem beispielsweise das Recht eingeführt wird, einen Haftungsanspruch auf der Grundlage einer Kausalitätsvermutung anzufechten.

Im Einklang mit den Zielen des Weißbuchs zur KI und dem Vorschlag der Kommission für ein Gesetz über künstliche Intelligenz von 2021, mit denen ein Rahmen für Exzellenz und Vertrauen in KI geschaffen wird, stellen die neuen Vorschriften sicher, dass Opfer bei durch KI-Produkte oder -Dienste verursachten Schäden von denselben Schutzstandards profitieren wie bei unter anderen Umständen verursachten Schäden.

Nächste Schritte

Der Kommissionsvorschlag muss nun vom Europäischen Parlament und vom Rat angenommen werden. Gemäß dem Vorschlag wird die Kommission im Bedarfsfall fünf Jahre nach Inkrafttreten der Richtlinie über KI-Haftung prüfen, ob Regeln für die verschuldensunabhängige Haftung für Ansprüche im Zusammenhang mit KI erforderlich sind.

Hintergrund

Die derzeitigen EU-Vorschriften über die Produkthaftung, die auf der verschuldensunabhängigen Haftung der Hersteller beruhen, sind fast 40 Jahre alt. Moderne Haftungsvorschriften sind wichtig für den ökologischen und digitalen Wandel, insbesondere für die Anpassung an neue Technologien wie künstliche Intelligenz. Es geht darum, Rechtssicherheit für Unternehmen zu schaffen und dafür zu sorgen, dass die Verbraucher gut geschützt sind, falls es zu Problemen kommt.

In ihren politischen Leitlinien hat Kommissionspräsidentin Ursula von der Leyen ein koordiniertes europäisches Konzept für künstliche Intelligenz vorgestellt. Die Kommission hat sich verpflichtet, die Einführung von KI zu fördern und die mit ihrer Nutzung verbundenen Risiken und potenziellen Schäden ganzheitlich anzugehen.

Im Weißbuch zur KI vom 19. Februar 2020 hat sich die Kommission verpflichtet, die Einführung von KI zu fördern und die mit einigen ihrer Anwendungen verbundenen Risiken durch die Förderung von Exzellenz und Vertrauen zu bewältigen. In dem Bericht über die Haftung für KI, der dem Weißbuch beigefügt ist, hat die Kommission die besonderen Herausforderungen aufgezeigt, die KI für die bestehenden Haftungsvorschriften darstellt.

Im April 2021 nahm die Kommission ihren Vorschlag für das Gesetz über künstliche Intelligenz an, in dem horizontale Vorschriften für künstliche Intelligenz mit Schwerpunkt auf der Schadensverhütung festgelegt sind. Das Gesetz über künstliche Intelligenz ist eine Leitinitiative zur Gewährleistung der Sicherheit und Vertrauenswürdigkeit von in der EU entwickelten und verwendeten Hochrisiko-KI-Systemen. Es wird die Sicherheit und die Grundrechte von Menschen und Unternehmen gewährleisten und gleichzeitig die Einführung von KI sowie Investitionen und Innovationen auf diesem Gebiet stärken. Das heutige Paket zur KI-Haftung ergänzt das Gesetz über künstliche Intelligenz, indem es verschuldensbasierte zivilrechtliche Haftungsansprüche für Schäden erleichtert und einen neuen Standard für Vertrauen in die Wiedergutmachung festlegt.

Mit der Richtlinie über KI-Haftung wird das Privatrecht an die neuen, durch KI entstandenen Herausforderungen angepasst. Zusammen mit der Überarbeitung der Produkthaftungsrichtlinie ergänzen diese Initiativen die Bemühungen der Kommission, die Haftungsvorschriften an den ökologischen und digitalen Wandel anzupassen.

Weitere Informationen:

Vollständige Pressemitteilung

Vorschlag für eine Richtlinie zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz   

Vorschlag: Überarbeitung der Produkthaftungsrichtlinie

Fragen und Antworten: Richtlinie über KI-Haftung

Fragen und Antworten: Produkthaftungsrichtlinie

Haftungsvorschriften für künstliche Intelligenz

Weißbuch der Kommission zur künstlichen Intelligenz – Ein europäisches Konzept für Exzellenz und Vertrauen

Bericht der Kommission über die Auswirkungen von künstlicher Intelligenz, des Internets der Dinge und der Robotik in Hinblick auf Sicherheit und Haftung

Bericht der Expertengruppe „Liability for artificial intelligence and other emerging digital technologies“ (Haftung für künstliche Intelligenz und andere neue digitale Technologien)

„Comparative Law Study on Civil Liability for Artificial Intelligence“ (Vergleichende Rechtsstudie zur zivilrechtlichen Haftung für künstliche Intelligenz)

Pressekontakt: katrin [dot] abeleec [dot] europa [dot] eu (Katrin Abele) Tel.: +49 (0) 30 2280-2140, nikola [dot] johnec [dot] europa [dot] eu (Nikola John). Tel.: +49 (0) 30 2280-2410. Mehr Informationen zu allen Pressekontakten hier.

Anfragen von Bürgerinnen und Bürgern beantwortet das Team des Besucherzentrums ERLEBNIS EUROPA per frageerlebnis-europa [dot] eu (E-Mail) oder telefonisch unter (030) 2280 2900.