Nachdem wir in unserem letzten KI-Flash über die Sanktionen bei Verstößen gegen die KI-VO berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben.

Heutiges Thema: Ausblick auf das Verhältnis von KI-Systemen zu dem geplanten Cyber Resilience Act

Am 01. August 2024 ist die KI-VO in Kraft getreten. Ihre Vorgaben werden etappenweise anwendbar. Derzeit befindet sich aber noch ein weiteres Regelwerk im Endspurt der europäischen Gesetzgebung, das für KI-Systeme relevant werden kann: Der Cyber Resilience Act (CRA). Er enthält strenge Vorgaben in Bezug auf die Cybersicherheit von sog. Produkten mit digitalen Elementen. Hiervon können auch Hersteller von KI-Systemen betroffen sein, selbst wenn sie nach der KI-VO nicht als Hochrisiko-KI-System gelten. Wir geben hier daher einen kurzen Überblick zum Anwendungsbereich des CRA, seinen obligatorischen Vorgaben und seinen Schnittstellen zur KI-VO.

Der CRA wurde am 12. März 2024 von EU-Parlament verabschiedet und die noch ausstehende Billigung durch den Rat der Europäischen Union gilt als Formalie. Mit einem Inkrafttreten wird noch Ende 2024 gerechnet.

Der Anwendungsbereich des CRA und KI-Systeme

Der CRA gilt für Produkte mit digitalen Elementen. Dieser Begriff ist sehr weit zu verstehen und umfasst alle Software- und Hardwareprodukte, die eine Datenverbindung zu einem anderen Gerät oder einem Netzwerk einschließen (vernetze Produkte). Auch Standalone-Software ist erfasst.

Der CRA gilt damit für einen weitaus größeren Bereich als die ausschließlich auf künstliche Intelligenz anwendbare KI-VO. Der CRA umfasst auch „normale“ Softwareprodukte, die nicht autonom Output ableiten, sondern auf simplen Wenn-Dann-Beziehungen basieren (zum Begriff des KI-Systems berichteten wir hier). Erforderlich ist aber immer eine Datenverbindung mit einem Gerät oder Netz. Unter dieser Voraussetzung können auch KI-Systeme in den Anwendungsbereich des CRA fallen. Greift die KI-basierte Software – etwa in einer Smart Home Umgebung – auf andere Geräte oder ein Netzwerk zu, ist der Anwendungsbereich des CRA eröffnet.

Die Betroffenheit vom CRA ist unabhängig von der Einstufung des fraglichen KI-Systems als risikoarmes oder Hochrisiko-KI-System nach der KI-VO. Das kann zu unangenehmen Überraschungen führen, wenn das KI-System zwar nach der KI-VO lediglich den beschränkten Pflichten eines unkritischen KI-Systems unterliegt, die Anwendbarkeit des CRA aber zu einem zusätzlichen Strauß an Pflichten führt.

Welche Pflichten sind für Hersteller von KI-Systemen unter Geltung des CRA zu erfüllen?

Der Hersteller eines Produktes im Anwendungsbereich des CRA muss eine Risiko- und Schwachstellenanalyse durchführen. Im Anschluss darf er das Produkt nur so konzipieren, dass es angesichts der Risiken ein angemessenes Cybersicherheitsniveau gewährleistet. Unter anderem darf er das Produkt mit keinerlei ihm bekannten Schwachstellen ausliefern. Er muss die Grundsätze der Datensparsamkeit, -vertraulichkeit und -integrität beachten sowie Authentifizierungs- und Verschlüsselungssysteme vorhalten. Die Verpflichtungen greifen während des gesamten Produkt-Lebenszyklus, die Cybersicherheit des Produkts ist laufend durch Sicherheitsupdates zu gewährleisten. Es sind Transparenzinformationen sowie Anleitungen für Nutzer des Produkts und eine technische Dokumentation vorzuhalten. Cyber-Schwachstellen des Produkts muss der Hersteller unverzüglich an die Marktüberwachungsbehörde, die ENISA, melden.

All diese Anforderungen sind schließlich durch ein Konformitätsbewertungsverfahren abzusegnen. Dieses ähnelt dem aus der KI-VO bekannten Verfahren für Hochrisiko-KI-Systeme (wir berichteten hier). Hier wie dort ist teilweise eine eigenständige Prüfung durch den Hersteller / Anbieter selbst möglich und für bestimmte kritische Produkte eine externe Bewertungsstelle heranzuziehen. Für den CRA sind in dessen Anhang III solche wichtigen und kritischen Produkte aufgelistet. Das betrifft etwa Smart-Home-Produkte mit Allzweck- oder Sicherheitsfunktionen.

Hochrisiko-KI-Systeme als Produkte mit Digitalen Elementen

Anbieter von Hochrisiko-KI-Systemen müssen diese gemäß Art. 15 Abs. 1 KI-VO u.a. so konzipieren und entwickeln, dass es ein angemessenes Maß an Cybersicherheit erreicht. Ist ein Hochrisiko-KI-System zugleich auch ein Produkt mit digitalen Elementen, sieht Art. 8 des CRA vor, dass die Anforderungen des Art. 15 KI-VO an die Cybersicherheit als erfüllt gelten, wenn alle Vorgaben des CRA eingehalten und durch das Konformitätsbewertungsverfahren abgedeckt sind.

Die Verfahrensregeln richten sich in diesem Fall grundsätzlich einheitlich nach der KI-VO (dort Art. 43). Eine Rückausnahme von diesem Grundsatz besteht, wenn das Hochrisiko-KI-System zwar nach Art. 43 KI-VO eigenständig auf Konformität geprüft werden darf, jedoch nach dem CRA eines strengeren Bewertungsverfahrens bedarf. In diesem Fall sollen die Konformitätsprüfungen nach der KI-VO und nach dem CRA getrennt verlaufen.

Fazit

Neben der KI-VO kann auf KI-Systeme als Produkt mit digitalen Elementen im Sinne des CRA oder als Teil eines solchen Produktes auch der CRA Anwendung finden. Die Hersteller solcher KI-Systeme müssen daher, auch wenn ihr KI-System nach der KI-VO als unkritisch eingestuft ist, die strengen Vorgaben zur Cybersicherheit des CRA einhalten und ein Konformitätsbewertungsverfahren mit Blick auf die Cybersicherheit durchlaufen. Tritt der CRA noch dieses Jahr in Kraft, müssen betroffene Produkte ab 2027 CRA-konform sein. Ansonsten drohen Bußgelder und Rückrufverfügungen. Das bedeutet, dass Unternehmen bereits jetzt die neuen Vorgaben in der Produktentwicklung mitbedenken müssen.

Anbieter von Hochrisiko-KI-Systemen werden in der KI-VO gesondert auf die Cybersicherheit verpflichtet. Dabei können (und müssen) sie sich an den Maßstäben des CRA orientieren, wenn das Hochrisiko-KI-System gleichzeitig ein vernetztes Produkt mit digitalen Elementen ist. Die obligatorische Konformitätsbewertung wird dabei grundsätzlich nach dem Verfahren der KI-VO durchgeführt und muss die Vorgaben des CRA miteinschließen.

News & Events

Verbot von Vorher-Nachher-Bildern in der ästhetischen Medizin auch bei nicht klassisch-operativen Eingriffen

Trending

Newsletter abonnieren