KI und Produkthaftung – Die neuen Richtlinienvorschläge der Europäischen Kommission
- Kurzmeldungen
Die Europäische Kommission hat am 28. September zwei Richtlinienvorschläge vorgelegt, die weitgehende Haftungsverschärfungen für Unternehmen insgesamt, insbesondere aber für Anbieter von Künstlicher Intelligenz (KI), bedeuten könnten: die Neufassung der bestehenden Produkthaftungsrichtlinie (1985)1 und eine neue KI-Haftungsrichtlinie2.
Wesentliche Neuerungen in der Neufassung der Produkthaftungsrichtlinie :
- Der Produktbegriff umfasst nun ausdrücklich Software. Fortan könnten damit jegliche KI-Systeme sowie KI-fähige Waren unter die Richtlinie fallen.
- Der Schadensbegriff wurde ausgeweitet und soll künftig auch den Verlust oder die Verfälschung von Daten.
- Unternehmen sollen vor Gericht weitreichenden Informations- und Beweisoffenlegungspflichten unterworfen werden.
- Erhebliche Beweiserleichterungen für Geschädigte und Regelungen zur Beweislastumkehr : Die Fehlerhaftigkeit eines Produkts soll u.a. dann zulasten des Herstellers vermutet werden, wenn er bestimmten Verpflichtungen zur Offenlegung von Beweisen nicht nachkommt oder der Kläger nachweist, dass der Schaden durch eine offensichtliche Fehlfunktion bei normalem Gebrauch entstanden ist. Der erforderliche Kausalzusammenhang zwischen der Fehlerhaftigkeit des Produkts und dem daraus resultierenden Schaden soll vermutet werden, wenn der verursachte Schaden typischerweise mit dem betreffenden Fehler zusammenhängt. Eine Beweislasterleichterung zugunsten des Geschädigten soll auch dann gelten, wenn er beim Versuch, den Produktmangel zu beweisen, aufgrund technischer oder wissenschaftlicher Komplexität außerordentlichen Schwierigkeiten In einem solchen Fall soll er nur beweisen müssen, dass das Produkt zum Schaden beigetragen hat und dass das Vorliegen eines Mangels oder dessen Ursächlichkeit für den Schaden wahrscheinlich sind. Der Beklagte darf diese Vermutungen jeweils widerlegen.
- Ausweitung bzw. Präzisierung des Kreises der möglichen Haftungsadressaten : als Hersteller gilt künftig auch ein Unternehmen, welches ein Produkt – nachdem es bereits in den Verkehr gebracht wurde – verändert oder kontrolliert (z.B. durch Softwareupdates). Neben Herstellern, Importeuren und Händlern können künftig auch Hersteller mangelhafter Komponenten eines Produkts (bisher: Hersteller des Endprodukts, eines Grundstoffs oder eines Teilprodukts), sogenannte Fulfillment-Dienstleister und Online-Plattformen unter bestimmten Voraussetzungen zur Haftung herangezogen werden.
Bemerkenswert ist in diesem Zusammenhang, dass diese Neuregelungen ohne Einschränkungen für die Produkthaftung im Allgemeinen getroffen werden sollen und somit nicht nur auf KI-Produkte, sondern auch auf alle anderen Produktgruppen anwendbar wären. Dies erscheint zumindest in Bezug auf die Beweiserleichterungen insofern unverhältnismäßig, als der Bedarf im Wesentlichen wohl nur beim Gebrauch von KI-Systemen besteht. Denn nur dort bestehen auch die aufgrund des Gebrauchs von KI identifizierten besonderen Beweisschwierigkeiten für Geschädigte in Form von Undurchschaubarkeit, Komplexität und der Selbstlernfähigkeit dieser Systeme. Für herkömmliche Produkte ohne KI-Elemente dürfte kein besonderer Bedarf erkennbar sein, die Beweisregeln derart einseitig zulasten von Unternehmen auszugestalten.
Die wichtigsten Regelungen der neuen KI-Haftungsrichtlinie :
Die neue Richtlinie über KI-Haftung soll Klägern ein vereinfachtes Vorgehen gegen Anbieter von KI-Systemen im Rahmen der außervertraglichen zivilrechtlichen Haftung ermöglichen. Dies soll nach Vorschlag der Kommission auch hier vor allem durch die Einführung von Beweislasterleichterungen für die Geschädigten erreicht werden:
- Das Verschulden eines Anbieters von sog. Hochrisiko-KI-Systemen soll vermutet werden, wenn er bestimmte Informationen und Beweise nicht offenlegt.
- Der erforderliche Zusammenhang zwischen dem Verschulden des Anbieters und dem entstanden Schaden soll vermutet werden, wenn (1) nachgewiesen ist oder vermutet wird, dass der KI-Anbieter gegen Sorgfaltspflichten verstoßen hat, (2) nach den Umständen des Falles nach vernünftigem Ermessen davon ausgegangen werden kann, dass das Verschulden zu der jeweiligen in Frage stehenden Leistung des KI-Systems geführt hat und (3) die Ursächlichkeit zwischen dem vom KI-System hervorgebrachten Ergebnis und dem Schaden nachgewiesen ist. Im Falle von Nicht-Hochrisiko-KI-Systemen gilt diese Vermutung allerdings nur, wenn es für den Kläger übermäßig schwierig ist, die Kausalität zwischen dem Verschulden des KI-Anbieters und dem vom KI-System hervorgebrachten Ergebnis zu beweisen.
Sollten die Vorschläge umgesetzt werden, sähen sich Wirtschaftsakteure erhöhten Haftungsrisiken ausgesetzt. Unternehmen, besonders solchen, die im KI-Bereich tätig sind, sei daher angeraten, die weiteren Entwicklungen im Gesetzgebungsprozess zu beobachten und sich auf die künftigen Änderungen vorzubereiten.