Video: Künstliche Intelligenz „made in Europe“ – Diskussion des Vorschlags der EU-Kommission zur KI-Regulierung

Die Bedeutung künstlicher Intelligenz (KI) wird in den kommenden Jahren voraussichtlich massiv zunehmen.

Zwar sind Unternehmen beim Einsatz von KI-Anwendungen derzeit noch recht verhalten. Eine Befragung des Digitalverbands Bitkom aus April 2021 belegt allerdings, dass jedes vierte Unternehmen zukünftig in KI investieren möchte.

Auch die EU-Kommission rechnet mit einer stark wachsenden Bedeutung von KI-Anwendungen im Alltag. Mit dem Regulierungsvorschlag vom 21.04.2021 hat die EU-Kommission deswegen den weltweit ersten Rechtsrahmen speziell für Künstliche Intelligenz veröffentlicht.

Im Rahmen unserer Veranstaltung UpdateIT haben wir dazu mit Dr. Anna Christmann, Mitglied des Bundestages, Bündnis 90/Die Grünen und Mitglied der Enquete-Kommission „Künstliche Intelligenz“ im Deutschen Bundestag und mit Nicole Formica-Schiller, KI-Bundesverband Task Force “Regulatory & AI”, “Health & AI”, Vorstand Bayern, Spokesperson ꞁ CEO & Gründerin Pamanicor Health gesprochen.

Zusammenfassung des Vorschlags der EU-Kommission zur KI-Regulierung

Gegenstand des Vorschlags sind nicht zivilrechtliche Aspekte von künstlicher Intelligenz, wie etwa die Haftung für Fehlverhalten von KI oder das „geistige Eigentum“ an trainierten Algorithmen. Die EU-Kommission nimmt in dem Verordnungsentwurf vielmehr eine Risikoklassifizierung verschiedener KI-Anwendungen vor und knüpft daran bestimmte Rechtsfolgen und Anforderungen:

Bestimmte KI-Anwendungen, die nach Auffassung der EU-Kommission besonders gefährlich sind und der Werteordnung der Europäischen Union widersprechen, sollen in der EU danach verboten sein. Das betrifft Systeme im Zusammenhang mit Social Scoring, aber grundsätzlich auch KI-basierte Maßnahmen zur biometrischen Identifikation natürlicher Personen auf öffentlichen Plätzen.

Daneben sieht der Verordnungsentwurf eine Regulierung sogenannter Hochrisiko-Anwendungen künstlicher Intelligenz vor, wie etwa KI-Funktionen für autonomes Fahren. Hochrisiko-Anwendungen sind in der EU danach erlaubt, müssen allerdings bestimmte Voraussetzungen erfüllen. Die EU-Kommission stellt in dem Entwurf etwa Anforderungen an die Auswahl und Überprüfung der Trainingsdaten, an Dokumentation, Protokollierung und Sicherheit der jeweiligen KI-Anwendung und an transparente Nutzerinformationen auf.

In einer dritten Regulierungskategorie enthält der Vorschlag der EU-Kommission bestimmte Transparenzpflichten für KI-Anwendungen, die mit Menschen interagieren (beispielsweise KI-basierte Chat Bots) oder bestimmte Inhalte selbstständig generieren oder manipulieren können („Deep Fakes“).

Neben dieser materiell-rechtlichen Regulierung bestimmter KI-Systeme enthält der Vorschlag der EU-Kommission eine Reihe regulatorischer Maßnahmen, um die Entwicklung und den Einsatz von künstlicher Intelligenz in der EU zu erleichtern und sieht sowohl auf nationaler wie auch auf EU-Ebene die Einsetzung hierfür zuständige Gremien und Behörden vor.