KI-Flash: Begriffsbestimmung und Pflichten bei General Purpose AI Models (GPAIM)

Nachdem wir in unserem letzten KI-Flash über den Betreiber eines KI-Systems nach dem AI Act berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben. Da Zeit in der heutigen Gesellschaft ein rares Gut ist, wollen wir mit unseren „KI-Flash“ gleich auf den Punkt kommen und die rechtlichen Herausforderungen kurz und prägnant zusammenfassen:

Heutiges Thema: Begriffsbestimmung und Pflichten bei General Purpose AI Models (GPAIM)

Der AI Act regelt insbesondere die Entwicklung und den Betrieb von sog. KI-Systemen. Daneben werden jedoch auch (bestimmte) KI-Modelle reguliert, nämlich die sog. General Purpose AI Models (auch GPAIM oder GPAI-Models). In unserer Beratungspraxis fällt uns immer wieder auf, dass gerade die Begrifflichkeiten und Pflichten im Zusammenhang mit GPAIM zu erheblichen Unsicherheiten in Unternehmen führen und mitunter nicht klar voneinander unterschieden werden.

Der vorliegende KI-Flash soll daher nochmal konkret aufzeigen, was die Unterschiede zwischen einem KI-System und einem KI-Modell sind, und wann Letzteres gerade als ein GPAIM anzusehen ist. Daneben soll ein erster Überblick aufgezeigt werden, welche Pflichten für welchen Adressaten eines GPAIM bestehen.

Eine erste Einordnung

Der AI Act definiert zunächst die Begriffe KI-System, GPAI-Model und GPAI-System.

Zur allgemeinen Begriffsbestimmung eines KI-Systems haben wir bereits in einem vergangenen KI-Flash berichtet. Hierbei kann man sich ganz grundsätzlich merken, dass der AI Act – von den Fällen eines lediglich minimalen Risikos abgesehen – sämtliche KI-Systeme (hierbei die Entwicklung sowie den anschließenden Betrieb) reguliert. Je nach Risikoklassifizierung sind in den jeweiligen Lebenszyklen des KI-Systems unterschiedliche Anforderungen zu beachten. Diese adressieren entweder den Anbieter oder den Betreiber des KI-Systems.

Ein Unterfall eines KI-Systems stellt das sog. GPAI-System dar, welches in Artikel 3 Nr. 66 AI Act definiert wird. Ein GPAI-System ist hiernach

„ein KI-System, das auf einem KI-Modell mit allgemeinem Verwendungszweck beruht und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen“.

In Artikel 3 Nr. 63 AI Act wird demgegenüber das GPAI-Model definiert. Hiernach handelt es sich um

„ein KI-Modell – einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird –, das eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann, ausgenommen KI-Modelle, die vor ihrem Inverkehrbringen für Forschungs- und Entwicklungstätigkeiten oder die Konzipierung von Prototypen eingesetzt werden“ 

Die Begriffe GPAI-System und GPAI-Model werden häufig durcheinandergeworfen, obwohl beide Bezugsobjekte unterschiedlichen Regelungen folgen und sich auch aus technischer Sicht voneinander unterscheiden. Während es sich bei einem GPAI-System um einen bestimmten Unterfall eines KI-Systems handelt, ist das GPAI-Model – wie es der Name bereits vermuten lässt – als ein KI-Modell zu klassifizieren. Auch wenn der Begriff des KI-Modells im AI Act selbst nicht definiert wird, kann man sich grundsätzlich die nachfolgenden Faustformeln merken:

Bei einem KI-System handelt es sich um die funktionsfähige und mit einer Benutzeroberfläche ausgestattete KI-Anwendung, während das KI-Modell das dahinterstehende (technische) Herzstück, also die KI-gestützte Funktionsweise, darstellt. Letzteres meint also insbesondere den eigentlichen Algorithmus und seine Gewichtungen. In Erwägungsgrund 97 des AI Act heißt es in Bezug auf GPAIM wörtlich:

„KI-Modelle mit allgemeinem Verwendungszweck können auf verschiedene Weise in Verkehr gebracht werden, unter anderem über Bibliotheken, Anwendungsprogrammierschnittstellen (API), durch direktes Herunterladen oder als physische Kopie. Diese Modelle können weiter geändert oder zu neuen Modellen verfeinert werden. Obwohl KI-Modelle wesentliche Komponenten von KI-Systemen sind, stellen sie für sich genommen keine KI-Systeme dar. Damit KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich. KI-Modelle sind in der Regel in KI-Systeme integriert und Teil davon.“

Ein System wird also gerade dann zum KI-System, wenn ein KI-Modell integriert wird. Während das KI-System – bildlich gesprochen – die KI „zum Anfassen und Nutzen“ darstellt, ist das KI-Modell ohne Integration in ein System nicht für den Endnutzer geeignet.

Sie können sich hierbei insbesondere merken, dass der AI Act – neben KI-Systemen – jedoch nur solche (also nicht alle!) KI-Modelle reguliert, welche gerade als GPAIM anzusehen sind.

Welchen Pflichten unterliegt nun ein GPAI-System?

GPAI-Systeme sind – jedenfalls soweit es um die Risikoklassifizierung geht – als „gewöhnliche“ KI-Systeme anzusehen. In Erwägungsgrund 85 des AI Act heißt es hierzu wörtlich:

„KI-Systeme mit allgemeinem Verwendungszweck können als eigenständige Hochrisiko-KI-Systeme eingesetzt werden oder Komponenten anderer Hochrisiko-KI-System sein.“

Während GPAIM einer gänzlich eigenständigen Regulierung unterliegen (hierzu sogleich), gelten für GPAI-Systeme grundsätzlich die gewöhnlichen Spielregeln zur Risikoklassifzierung. Dies bedeutet, dass ein GPAI-System – in Abhängigkeit der jeweiligen Nutzung – auch als Hochrisiko-KI-System eingestuft werden kann. 

Daneben können spezifische Transparenzpflichten umzusetzen sein, welche wiederum für sämtliche einschlägigen KI-Systemen zu beachten sind. So heißt es in Art. 50 Abs. 2 AI Act, welcher „bestimmte KI-Systeme“ adressiert, etwa wörtlich:

„Anbieter von KI-Systemen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, stellen sicher, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. […]“

Wann wird ein KI-Modell zu einem GPAIM?

GPAIM weisen per Definition „eine erhebliche allgemeine Verwendbarkeit“ auf und können ein „breites Spektrum unterschiedlicher Aufgaben kompetent“ausführen. Wann diese Merkmale im Einzelfall erfüllt sind, lässt sich den Regelungen des AI Acts nicht konkret entnehmen. In Erwägungsgrund 99 des AI Act findet sich jedoch zumindest die nachfolgende Konkretisierung:

„Große generative KI-Modelle sind ein typisches Beispiel für ein KI-Modell mit allgemeinem Verwendungszweck, da sie eine flexible Erzeugung von Inhalten ermöglichen, etwa in Form von Text- Audio-, Bild- oder Videoinhalten, die leicht ein breites Spektrum unterschiedlicher Aufgaben umfassen können.“

Dies bedeutet, dass jedenfalls die aktuell im Fokus stehenden großen Sprachmodelle (sog. Large Language Models – verkürzt auch LLMs) als GPAIM anzusehen sind. Daneben ist im jeweiligen Einzelfall zu prüfen, ob das KI-Modell, da es etwa dazu in der Lage ist, Texte, Bilder und/oder andere Inhalte zu erzeugen, eine erhebliche Allgemeinheit aufweist und insbesondere für verschiedene Zwecke eingesetzt werden kann.

Welche Pflichten gelten für den Anbieter eines GPAIM?

Für GPAIM existieren ausschließlich Pflichten für den Anbieter eines GPAIM. Die Rolle des Betreibers existiert hier nicht! Ein KI-Modell (also auch ein GPAIM) muss stets in ein System integriert werden, sodass es überhaupt nutzbar wird.

Welche Pflichten für Anbieter von GPAIM gelten, muss danach differenziert werden, ob das GPAIM ein systemisches Risiko aufweist, oder nicht.

Der Hintergrund dieser Differenzierung im Gegensatz zu KI-Systemen lässt sich mit dem allgemeinen Verständnis zwischen KI-System und KI-Modell gut nachvollziehen. Da ein GPAIM gerade kein KI-System darstellt, da ihm insbesondere eine Benutzeroberfläche fehlt, können die auf KI-Systeme gemünzten Merkmale bei der Risikoklassifizierung (welche häufig auf ganz spezielle Use Cases abstellen) nicht ohne weiteres herangezogen werden. Das GPAIM kann gerade für eine Vielzahl von Zwecken verwendet werden und muss darüber hinaus zunächst in ein konkretes KI-System integriert werden.

In Art. 51 Abs. 1 AI Act wird sodann festgehalten, wann ein „systemisches Risiko“ anzunehmen ist. In der Norm heißt es wörtlich:

„Ein KI-Modell mit allgemeinem Verwendungszweck wird als KI-Modell mit allgemeinem Verwendungszweck mit systemischem Risiko eingestuft, wenn eine der folgenden Bedingungen erfüllt ist:

(a) Es verfügt über Fähigkeiten mit hohem Wirkungsgrad, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden;

(b) einem unter Berücksichtigung der in Anhang XIII festgelegten Kriterien von der Kommission von Amts wegen oder aufgrund einer qualifizierten Warnung des wissenschaftlichen Gremiums getroffenen Entscheidung zufolge verfügt es über Fähigkeiten oder eine Wirkung, die denen gemäß Buchstabe a entsprechen.“

Ein GPAIM verfügt grundsätzlich dann über „Fähigkeiten mit hohem Wirkungsgrad“, sofern die kumulierte Menge der für sein Training verwendeten Rechnungen, gemessen in sog. Gleitkommaoperationen (auch „FLOPS“ genannt), mehr als 10^25 verfügt. Diese Frage kann – wie bei der Nutzung von KI ganz generell – nur durch ein interdisziplinär besetztes Team mit der nötigen technischen Fachkunde geklärt werden.

Für Anbieter von GPAIM ohne systemisches Risiko gelten insbesondere die nachfolgenden Pflichten:

• Erstellen und Aktualisieren einer technischen Dokumentation des Modells, einschließlich seines Trainings- und Testverfahrens
• Erstellen und Aktualisieren von Informationen für Anbieter eines KI-Systems, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren

Für Anbieter von GPAIM mit systemischem Risiko gelten insbesondere die nachfolgenden (weiteren!) Pflichten:

• Durchführung einer Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen
• Bewertung und Minderung von möglichen systemischen Risiken auf Unionsebene – einschließlich ihrer Ursachen –, die sich aus der Entwicklung, dem Inverkehrbringen oder der Verwendung ergeben
• Erfassung und Dokumentation von einschlägigen Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen
• Gewährleistung eines angemessenen Maßes an Cybersicherheit für die KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko und die physische Infrastruktur

Praxistipp

GPAIM nehmen eine gewisse Sonderrolle im AI Act ein und sind für viele Unternehmen nicht wirklich „greifbar“. Umso mehr müssen die jeweiligen Anforderungen sehr gründlich geprüft werden. Dies betrifft – neben der Unterscheidung zwischen KI-System und KI-Modell – insbesondere die Frage, ob das Unternehmen im Einzelfall auch als Anbieter eines GPAIM anzusehen sein kann. Gerne sind wir hierbei behilflich.