"KI-Flash": Regulierung Künstlicher Intelligenz durch die EU - Was ist ein "KI System" nach dem EU AI Act?

Nachdem wir in unserem letzten KI-Flash über Mitbestimmungsrechte des Betriebsrats beim Einsatz von ChatGPT berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben.

Die EU-Verordnung über Künstliche Intelligenz („AI Act“) ist ihrem Inkrafttreten ein Stück näher gerückt. Nachdem sich das EU-Parlament und der Rat im Dezember 2023 politisch auf eine angepasste Fassung des AI Acts geeinigt haben, wurde diese Fassung schließlich Anfang Februar 2024 von den Mitgliedstaaten der EU einstimmig gebilligt. In diesem KI Flash befassen wir uns mit der Definition des „KI-Systems“ in der aktualisierten Fassung des AI Acts. Was versteht also der AI Act unter Künstlicher Intelligenz?

Inkrafttreten und Wirksamwerden des AI Acts

Nach der erfolgten politischen Einigung Anfang Februar 2024 müssen nun noch das Europäische Parlament und eine Ratsformation formell zustimmen, bevor die Verordnung im EU-Amtsblatt veröffentlich werden kann. Am 20. Tag nach der Veröffentlichung tritt der AI Act in Kraft.

2 Jahre nach Inkrafttreten wird die überwiegende Anzahl der Vorschriften des AI Acts tatsächlich anwendbar. Allerdings werden im AI Act vorgesehene Verbote (verbotene KI-Systeme) voraussichtlich bereits 6 Monaten nach Inkrafttreten wirksam, die Vorschriften zu KI-Modellen mit allgemeinem Verwendungszweck (GPAI) voraussichtlich nach 12 Monaten.

Was ist ein KI-System nach dem AI Act?

Der Begriff des KI-Systems wurde im Gesetzgebungsprozess heftig diskutiert. Nach der Kompromissfassung des AI Acts ist nach Art. 3(1) der englischen Sprachfassung ein KI-System

„a machine-based system designed to operate with varying levels of autonomy and that may exhibit adaptiveness after deployment and that, for explicit or implicit objectives, infers, from the input it receives, how to generate outputs such as predictions, content, recommendations, or decisions that can influence physical or virtual environments.“

Die Definition wurde bewusst an eine Fassung der OECD angelehnt. Dadurch verspricht sich die EU mehr Akzeptanz und Kohärenz auf internationaler Ebene.

Als zentrales Merkmal zur Abgrenzung der „KI-Systeme“ von traditioneller Software setzt ein KI-System nach der Definition voraus, dass es aus dem Input Schlussfolgerungen für den Output ableitet („infers, from the input it receives, how to generate outputs“). Dies soll die Fähigkeit von KI-Systemen hervorheben, aus eingegebenen Daten Modelle, und/oder Algorithmen abzuleiten. Systeme, die hingegen auf Regeln beruhen, die ausschließlich von natürlichen Personen festgelegt werden, um automatische Vorgänge auszuführen, wollte die EU damit vom Anwendungsbereich des AI Acts ausschließen. Die Fähigkeiten von KI-Systemen sollen definitorisch über grundlegende Datenverarbeitungsvorgänge hinausgehen und eher als Lernen, Schlussfolgern oder Modellieren zu begreifen sein.

Außerdem geht die Definition im AI Act davon aus, dass KI-Systeme mit unterschiedlichem Grad an Autonomie arbeiten („designed to operate with varying levels of autonomy“). Es muss demnach ein gewisses Maß an Unabhängigkeit des Handelns des Systems vom Menschen bestehen. Mit anderen Worten muss das System ohne menschliches Eingreifen operieren können.

In dem Merkmal der Anpassungsfähigkeit („adaptivness“) soll die Fähigkeit eines KI-Systems zum Ausdruck kommen, selber (weiter) zu lernen und sich dadurch laufend zu verändern.

Gesetzliche Definitionen sind auslegungsfähig und oftmals auslegungsbedürftig. Dies gilt auch für die Definition der „KI-Systeme“ im AI Act. Sprechen Sie uns gerne an. Wir helfen bei der Einordnung Ihrer Software als KI-System und der möglichen Konsequenzen, die sich aufgrund der EU Regulierung ergeben können.