KI-Flash: KI und (Produkt-)Haftung – Inkrafttreten der neuen EU-Produkthaftungsrichtlinie

Nachdem wir in unserem letzten KI-Flash über die nach der KI-Verordnung vorzuweisende KI-Kompetenz berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben. 

Heutiges Thema: KI und (Produkt-)Haftung – Inkrafttreten der neuen EU-Produkthaftungsrichtlinie 

Am 01. August 2024 ist mit der KI-Verordnung („KI-VO“) ein umfassendes Regelungswerk für KI in Kraft getreten. Dort werden aber nicht alle Rechtsfragen im Zusammenhang mit KI-Systemen abschließend geregelt. So ist etwa die Haftung für Fehler von KI-Systemen in der KI-VO nicht explizit geregelt. 

Während die geplante KI-Haftungsrichtlinie (hierzu hatten wir berichtet) weiterhin auf sich warten lässt, ist am 09.12.2024 die neue Produkthaftungsrichtlinie (EU) 2024/2853 („ProdHaft-RL“) in Kraft getreten. Die Richtlinie muss nun innerhalb von 24 Monaten von den Mitgliedsstaaten in nationales Recht umgesetzt werden. Sie enthält neue Regeln zur verschuldensunabhängigen Haftung von Produktherstellern (und unter Umständen auch Importeuren, Bevollmächtigten, Lieferanten und sog. Fulfilment-Dienstleistern). Zu den von der neuen Produkthaftungsrichtlinie erfassten Produkten zählen insbesondere auch KI-Systeme. 

Hintergrund und Anwendung der neuen Produkthaftungsrichtlinie auf KI

Nach dem aktuell in Deutschland geltenden Produkthaftungsgesetz (ProdHaftG) haften Hersteller von Produkten in Deutschland verschuldensunabhängig für Verletzungen von Leib, Leben oder Gesundheit einer Person und für Sachbeschädigungen, die auf einen Fehler ihres Produkts zurückzuführen sind. Allerdings ist bis heute nicht abschließend geklärt, inwieweit das ProdHaftG etwa auch auf Softwareprodukte und KI-Systeme Anwendung findet. 

Dieser Unklarheit bereitet der europäische Gesetzgeber mit der neuen Produkthaftungsrichtlinie nun endgültig ein Ende. Unter einem Produkt ist nach Art. 4 Nr. 1 ProdHaft-RL nun ausdrücklich auch Software zu verstehen. Erwägungsgrund 13 der ProdHaft-RL präzisiert, in welchen Formen Software erfasst ist und nennt dabei explizit auch KI: „z. B. Betriebssysteme, Firmware, Computerprogramme, Anwendungen oder KI-Systeme“. Dies gilt unabhängig von der Art der Bereitstellung oder Nutzung der Software bzw. KI – also unabhängig davon, ob sie auf einem Gerät gespeichert, über eine Cloud abgerufen oder durch ein Software-(KI)-as-a-Service-Modell bereitgestellt wird.

Anbieter von KI-Systemen im Sinne der KI-VO gelten gleichzeitig als Produkthersteller im Sinne der ProdHaft-RL. Auch Betreiber von KI-Systemen, die ein KI-System oder ein KI-Modell eines Dritten durch umfangreiches Training (etwa im Rahmen eines Finetunings) wesentlich umgestalten, können dadurch schnell zum Produkthersteller werden. Denn gemäß Art. 8 Abs. 2 ProdHaft-RL gilt jedes Unternehmen als Hersteller, das ein Produkt außerhalb der Kontrolle des Herstellers wesentlich verändert und es anschließend auf dem Markt bereitstellt oder in Betrieb nimmt. Erwägungsgrund 14 stellt klar, dass eine wesentliche Änderung auch durch das kontinuierliche Lernen eines KI-Systems erfolgen kann. Auch im Zuge von größeren Updates und Upgrades des KI-Systems kann daher eine wesentliche Umgestaltung erfolgen. 

Ausdrücklich nicht erfasst sind hingegen „nackte“ Informationen. Die Produkthaftungsvorschriften gelten daher grundsätzlich nicht für den Inhalt digitaler Dateien oder den reinen Quellcode von Software. Allerdings kann auch der Entwickler eines KI-Modells gegebenenfalls in den Adressatenkreis der ProdHaft-RL fallen, soweit das Modell als „Komponente“ in ein Produkt integriert wird. 

Ebenfalls ausgenommen ist Free-and-Open-Source-Software, die außerhalb einer Geschäftstätigkeit bereitgestellt wird. Auch diese Schwelle könnte im Einzelfall jedoch möglicherweise schnell überschritten sein, da die ProdHaft-RL auch die Bereitstellung einer Software „gegen Daten“ zur Einstufung als Geschäftstätigkeit führen kann. 

Folgen der Anwendbarkeit

Wie nach dem derzeit geltenden Produkthaftungsrecht haften Hersteller auch nach der neuen ProdHaft-RL für Schäden an bestimmten Rechtsgütern, die durch fehlerhafte Produkte kausal verursacht worden sind.

Im Grundsatz hat der Geschädigte diese Voraussetzungen darzulegen und zu beweisen. Allerdings sieht die ProdHaft-RL eine Reihe an Beweislasterleichterungen für den Geschädigten vor. Der Gesetzgeber sah vor dem Hintergrund immer komplexer werdender Technologien, einschließlich KI, ein ungleiches Informationsgefälle zwischen Hersteller und Geschädigtem. Daher soll der Hersteller unter anderem zur Offenlegung von Beweismitteln verpflichtet sein. Es gilt  eine Vermutung für die Fehlerhaftigkeit eines Produkts, wenn es für den Geschädigten aufgrund der technischen Komplexität des Falles übermäßig schwierig wäre, diesen Beweis zu führen. Das gilt auch für den ursächlichen Zusammenhang zwischen Schaden und Fehlerhaftigkeit. Als Beispiele hierfür führt die ProdHaft-RL in Erwägungsgrund 48 etwa das maschinelle Lernen und die Funktionsweise eines KI-Systems auf. 

Die Produkthaftung entfällt grundsätzlich zehn Jahre nach dem Inverkehrbringen oder der Inbetriebnahme des (KI-)Produkts. Mit wesentlichen Veränderungen beginnt die Frist erneut. Dies gilt es insbesondere im Falle des (Weiter-)Trainings von KI zu beachten.

Fazit und Praxishinweise

Die ProdHaft-RL enthält erste generelle Bestimmungen für die Haftung von KI als Softwareprodukt. Sie soll allerdings nur für Produkte gelten, die nach dem 9. Dezember 2026 in Verkehr gebracht oder in Betrieb genommen werden. Bestandsprodukte sind demnach nicht erfasst. Betroffen sind in erster Linie die Produkthersteller. Nur in Ausnahmefällen können auch Lieferanten aus dem reformierten Produkthaftungsrecht in Anspruch genommen werden.

Die geplante KI-Haftungsrichtlinie wird die Regeln über die Haftung für KI, insbesondere Hochrisiko-KI-Systeme, weiter ausbauen und auf andere Marktteilnehmer erweitern. 

Daneben sollte allerdings nicht vergessen werden, dass sowohl Hersteller als auch Verwender von KI bereits jetzt nach den allgemeinen Regeln des bürgerlichen Rechts für Pflichtverletzungen im Zusammenhang mit KI haften. Hersteller und Händler, die KI-Systeme oder Modelle auf dem Markt anbieten, haften gegenüber ihren Abnehmern im Rahmen des Mängelgewährleistungsrechts und müssen besonderen Wert darauf legen, dass sie vertraglich nur solche Eigenschaften der KI zusagen, die die Anwendung auch wirklich leisten kann. Auch der bloße Verwender einer KI kann für Pflichtverletzungen, die sich aus der Verwendung des KI-generierten Outputs ergeben, nach den allgemeinen Regeln der §§ 280 ff. und 823 ff. des Bürgerlichen Gesetzbuches (BGB) für Schäden haftbar gemacht werden. Ein pauschaler Ausschluss der Haftung für KI in allgemeinen Geschäftsbedingungen ist unwirksam, obwohl er in der Praxis häufig zu lesen ist. 

Dass sich Unternehmen fortan intensiver mit den möglichen Haftungsszenarien im Zusammenhang mit dem Einsatz von KI beschäftigen werden müssen, belegt eine kürzlich ergangene Entscheidung des LG Kiel (Urteil vom 29.02.2024 – 6 O 151/23): Das Gericht bejahte darin die Störerhaftung eines Informationsdienstes für die Unrichtigkeit von mit Hilfe von KI generierter Informationen. Diese vielfältigen Haftungsszenarien sollten vor der Umsetzung eines KI-Projekts sorgfältig analysiert werden, um die Einhaltung aller für das konkrete Produkt maßgeblichen Vorgaben sicherzustellen. Wenden Sie sich gerne an uns, wenn wir Sie hierbei unterstützen können.