KI Flash: Konsultation des AI Office zur Vorbereitung von Leitlinien für GPAIM

Nachdem wir in unserem letzten KI-Flash über Zurechnungsfragen beim Einsatz von KI-Tools berichtet haben, möchten wir Ihnen auch weiterhin in regelmäßigen Abständen rechtliche Impulse mit auf den Weg geben. 

Heutiges Thema: Konsultation des AI Office zur Vorbereitung von Leitlinien für GPAIM

Das AI Office der Europäischen Kommission hat per Datum vom 22. April 2025 eine Konsultation zur Vorbereitung von Leitlinien für GPAIM gestartet (siehe hier die offizielle Pressemitteilung). Hintergrund der Konsultation sind die Vorschriften der Art. 51 ff. der KI-Verordnung (KI-VO), die die Entwicklung von KI-Modellen mit allgemeinem Verwendungszweck (GPAIM) regulieren und ab dem 02. August 2025 Gültigkeit beanspruchen. 

Ziel der Konsultation ist es, Steakholder mit einschlägigem Fachwissen und Expertise (bspw. Industrieverbände und Anbieter von GPAIM) in den Prozess der Ausarbeitung von Leitlinien einzubeziehen. Die Konsultation läuft bis zum 22. Mai 2025, während eine Veröffentlichung der finalisierten Leitlinien für Mai oder Juni 2025 geplant ist. Die Leitlinien sollen den sich derzeit ebenfalls in der Konsultation befindlichen Praxisleitfaden (vgl. Art. 56 KI-VO) ergänzen und eine weitere Hilfestellung für die Praxis bieten.

Auch wenn die aktuellen Arbeitsdokumente des AI Office naturgemäß noch nicht finalisiert wurden, und eine verbindliche Auslegung der KI-VO stets dem Europäischen Gerichtshof (EuGH) obliegt, lassen sich bereits einige rechtliche Einordnungen des AI Office ableiten, die im vorliegenden KI-Flash vorgestellt werden sollen.

Wann ist ein KI-Modell ein GPAIM?

Bei der Frage, ob ein KI-Modell als GPAIM anzusehen ist, kommt es primär darauf an, ob es “eine erhebliche allgemeine Verwendbarkeit aufweist und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen“. Die Klärung dieser Anforderungen ist von grundlegender Bedeutung, da nur KI-Modelle, die als GPAIM einzustufen sind, den Anforderungen der KI-VO unterliegen.

Das AI Office geht aktuell davon aus, dass ein KI-Modell, das Text und/oder Bild erzeugen kann, dann als GPAIM anzusehen ist, sofern seine Trainingsberechnung 10^22 FLOPs (=Gleitkommaoperationen) übersteigt. Gemäß Art. 3 Nr. 67 KI-VO handelt es sich bei Gleitkommaoperationen um

„jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird;“

KI-Modelle, die weder Text noch Bild erzeugen, können als GPAIM eingestuft werden, wenn sie einen Grad an Allgemeinheit aufweisen, der mit den vom AI Office primär in den Blick genommenen KI-Modellen zur Generierung von Bild und/oder Text vergleichbar ist. 

Die Arbeitsdokumente des AI Office beinhalten verschiedene Berechnungsmöglichkeiten nebst dazugehörigen Beispielen, anhand derer die Schätzung der Anzahl vom FLOPs vorgenommen werden kann. Es wird insbesondere zwischen einem hardware-basierten Ansatz und einem architekturbasierten Ansatz unterschieden. Anbietern von KI-Modellen soll es dabei grundsätzlich möglich sein, zwischen beiden Berechnungsmethoden frei auszuwählen, wobei weitergehende Anforderungen zur Art sowie zum Zeitpunkt der Berechnung aufgestellt werden.

Wichtig ist, anzumerken, dass die Vermutungsregeln anhand des o.g. Schwellenwertes ausdrücklich widerlegbar sind. Wenn die Trainingsberechnung den o.g. Schwellenwert erreicht, wird somit zunächst davon ausgegangen, dass das KI-Modell über eine ausreichende Allgemeinheit verfügt, um als GPAIM eingestuft zu werden. Dies gilt jedoch nur dann, sofern keine gegenteiligen Anhaltspunkte vorliegen. Ob ein KI-Modell eine ausreichende Allgemeingültigkeit aufweist und in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent auszuführen, hängt nach den Ausführungen des AI Office nicht nur von der Trainingsberechnung ab, sondern auch von der Modalität sowie weiteren Merkmalen der für das Training verwendeten Daten. Nach den Ausführungen des AI Office sollte bspw. ein KI-Modell, das nur für die Transkription von Sprache geeignet ist, nicht als GPAIM anzusehen sein, selbst wenn seine Trainingsberechnung den o.g. Schwellenwert erreichen. 

Unterscheidung zwischen KI-Modell und Modellversion

Da GPAIM laut Erwägungsgrund 97 KI-VO “weiter geändert oder zu neuen Modellen verfeinert werden” können, stellt sich insbesondere beim sog. Fine-Tuning die Frage, wo genau die Grenze zur Entwicklung eines (neuen) eigenständigen GPAIM liegt. Die Frage war bereits Gegenstand einer Vielzahl an Diskussionen, wobei unterschiedliche Merkmale zur Abgrenzung herangezogen werden.

Das AI Office geht aktuell davon aus, dass Änderungen an einem KI-Modell nur dann als eigenständige Entwicklung anzusehen sind, wenn die Änderungen mehr als ein Drittel der Rechenleistung in Anspruch nehmen, die für die Einstufung des Modells als GPAIM erforderlich ist. Dies bedeutet, dass die Rechenleistung beim Fine-Tuning den Wert 3 * 10^21 FLOPs übersteigen müsste, um eine Klassifizierung des geänderten KI-Modells zu einem (neuen) GPAIM zu rechtfertigen. Weiterentwicklungen, die unterhalb der vorgenannten Schwelle liegen, sollen demgegenüber lediglich als neue Modellversion eingestuft werden.

Die Frage, ob es sich um eine eigenständige Entwicklung eines GPAIM, oder nur um die Schaffung einer neuen Modellversion handelt, spielt auch bei der Bestimmung der einschlägigen Pflichten eine entscheidende Rolle. Ausweislich Erwägungsgrund 109 KI-VO „sollten die Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck auf diese Änderung oder Feinabstimmung beschränkt sein, indem beispielsweise die bereits vorhandene technische Dokumentation um Informationen über die Änderungen, einschließlich neuer Trainingsdatenquellen, ergänzt wird, um die in dieser Verordnung festgelegten Pflichten in der Wertschöpfungskette zu erfüllen.“

Der Ansatz des AI Office zur Grenzziehung ist sehr „technisch“, im Ergebnis jedoch konsequent. In den Arbeitsdokumenten des AI Office wird ausdrücklich darauf hingewiesen, dass die Trainingsberechnung zwar nur als ein unvollkommener Indikator zur Bestimmung von GPAIM anzusehen ist, derzeit jedoch das größte Maß an Rechtssicherheit bietet. Das AI Office weist in seinen Arbeitsdokumenten jedoch ausdrücklich darauf hin, dass die herangezogenen Schwellenwerte sowie deren Berechnung künftig ggf. nochmal angepasst werden (müssen).

Wer ist Anbieter des GPAIM?

Aus praktischer Sicht von besonderer Bedeutung ist zudem die Frage, wer als Anbieter eines GPAIM in Betracht kommt und daher die Pflichten der Art. 51 ff. KI-VO umsetzen muss. 

Bei der Frage, ob ein Unternehmen als Anbieter eines GPAIM anzusehen ist, muss das jeweilige GPAIM gerade durch das Unternehmen in Verkehr gebracht werden. Nach Art. 3 Nr. 9 KI-VO handelt es sich hierbei um die erstmalige Bereitstellung des GPAIM auf dem Unionsmarkt, wobei das GPAIM entgeltlich oder unentgeltlich im Rahmen einer Geschäftstätigkeit „abgegeben“ werden muss. Das Inverkehrbringen nimmt daher primär die Breitstellung des GPAIM gegenüber – aus Sicht des Anbieters – externen Dritten in den Blick, sodass die rein interne Nutzung von KI-Modellen zumindest nicht schwerpunktmäßig erfasst wird. In Erwägungsgrund 97 der KI-VO heißt es jedoch wörtlich:

„Diese Verordnung enthält spezifische Vorschriften für KI-Modelle mit allgemeinem Verwendungszweck und für KI-Modelle mit allgemeinem Verwendungszweck, die systemische Risiken bergen; diese sollten auch gelten, wenn diese Modelle in ein KI-System integriert oder Teil davon sind. Es sollte klar sein, dass die Pflichten für die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck gelten sollten, sobald die KI-Modelle mit allgemeinem Verwendungszweck in Verkehr gebracht werden. Wenn der Anbieter eines KI-Modells mit allgemeinem Verwendungszweck ein eigenes Modell in sein eigenes KI-System integriert, das auf dem Markt bereitgestellt oder in Betrieb genommen wird, sollte jenes Modell als in Verkehr gebracht gelten und sollten daher die Pflichten aus dieser Verordnung für Modelle weiterhin zusätzlich zu den Pflichten für KI-Systeme gelten. Die für Modelle festgelegten Pflichten sollten in jedem Fall nicht gelten, wenn ein eigenes Modell für rein interne Verfahren verwendet wird, die für die Bereitstellung eines Produkts oder einer Dienstleistung an Dritte nicht wesentlich sind, und die Rechte natürlicher Personen nicht beeinträchtigt werden. Angesichts ihrer potenziellen in erheblichem Ausmaße negativen Auswirkungen sollten KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko stets den einschlägigen Pflichten gemäß dieser Verordnung unterliegen.“

Diese Systematik (bestehend aus Ausnahmen und Rückausnahmen) muss daher in jedem Einzelfall geprüft werden. Nur auf diese Weise kann mit Gewissheit festgestellt werden, ob eine Anbietereigenschaft auch bei rein interner Nutzung des GPAIM in Betracht kommt. Details hierzu werden in den aktuellen Arbeitspapieren des AI Office noch nicht abgebildet, weshalb die weiteren Entwicklungen im Blick behalten werden müssen.

Das AI Office hat jedoch bereits einige Beispiele entwickelt, bei deren Vorliegen vom Inverkehrbringen des GPAIM auszugehen sein soll:

• Breitstellung des GPAIM über eine Programmierbibliothek
• Bereitstellung des GPAIM über eine Programmierschnittstelle (API)
• Bereitstellung des GPAIM zum direkten Download
• Breitstellung einer physischen Kopie des GPAIM oder Upload des GPAIM auf die eigene Infrastruktur eines Dritten
• Integration des GPAIM in einen Chatbot, der auf einer öffentlichen Webseite oder in einer App abrufbar ist
• Integration des GPAIM in ein Produkt oder in eine Dienstleistung, die auf dem Markt angeboten wird

Ausnahmen bei Open Source

In Erwägungsgrund 102 KI-VO wird festgehalten, dass für „Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die im Rahmen einer freien und quelloffenen Lizenz freigegeben werden und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden, […] Ausnahmen in Bezug auf die Transparenzanforderungen für KI-Modelle mit allgemeinem Verwendungszweck gelten [sollten], es sei denn, sie können als Modelle gelten, die ein systemisches Risiko bergen“. Die KI-VO sieht daher für gewisse Anbieter von GPAIM – welche kein systemisches Risiko aufweisen – Ausnahmen bei der Bestimmung der einschlägigen Pflichten vor.

Um in den Genuss von Ausnahmeregelungen zu kommen, müssen Anbieter von GPAIM nach den Ausführungen des AI Office folgende Bedingungen erfüllen:

• Das GPAIM wird unter einer freien und quelloffenen Lizenz veröffentlicht, die den Zugang, die Nutzung, die Veränderung und die Verbreitung des KI-Modells erlaubt;
• Die Parameter, einschließlich die Gewichte, die Informationen über die Modellarchitektur und die Informationen über die Verwendung des KI-Modells werden öffentlich zugänglich gemacht;
• Das GPAIM unterliegt keinem systemischen Risiko.

Zu sämtlichen der genannten Anforderungen werden in den Arbeitspapieren des AI Office bereits weiterführende Erläuterungen vorgenommen.

Bedeutung von Praxisleitfäden und Stellung des AI Office

Das AI Office geht in seinem Arbeitspapier zudem kurz auf die Bedeutung von Praxisleitfäden und seiner eigenen Stellung als Aufsichtsbehörde ein. 

Das AI Office ist für die Prüfung der Anforderungen für Anbieter von GPAIM zuständig (vgl. Art. 88 KI-VO). Gleiches gilt für Anbieter von KI-Systemen, die technische auf einem GPAIM aufbauen, sofern es sich in beiden Fällen um den gleichen Anbieter handelt (vgl. Art. 75 Abs. 1 KI-VO). Das AI Office führt selbst aus, dass es bei der Durchsetzung der KI-VO einen möglichst kooperativen und verhältnismäßigen Ansatz verfolgen möchte. Wie sich dies in der Praxis konkret auswirken wird, bleibt abzuwarten.

Gemäß Art. 53 Abs. 4 und Art. 55 Abs. 2 KI-VO stellt die Einhaltung von genehmigten Praxisleitfäden jedenfalls ein geeignetes Mittel dar, die Einhaltung der Anforderungen der KI-VO zu gewährleisten. Die Unterzeichnung entsprechender Praxisleitfäden soll daher insbesondere dem vereinfachten Nachweis dienen. Das AI Office weist ausdrücklich darauf hin, dass sich Unternehmen im Falle der Unterzeichnung eines Praxisleitfadens darauf verlassen können sollen, dass sich aufsichtsbehördliche Prüfungen auf die Einhaltung dieser Praxisleitfäden beschränken. Anbieter, die keinen entsprechenden Praxisleitfaden unterzeichnen, müssen demgegenüber durch andere angemessene, wirksame und verhältnismäßige Mittel nachweisen, dass sie die Anforderungen der KI-VO umsetzen.

Praxishinweis

Künstliche Intelligenz nimmt mehr und mehr an Bedeutung zu. Aus datenschutzrechtlicher Sicht wurden bereits vielfache Stellungnahmen der Datenschutzaufsichtsbehörden veröffentlicht, die sich sowohl mit der Entwicklung als auch mit dem Einsatz von KI beschäftigten. Auch der Europäische Datenschutzausschuss bezieht sich in seinem aktuellen Tätigkeitsbericht für das Jahr 2024 (veröffentlicht am 23. April 2025) mehrfach auf das Themenfeld KI. Durch die stufenweise Gültigkeit der KI-VO nehmen nun auch die (weiteren) regulatorischen Anforderungen an Fahrt auf. 

Auch wenn das Themenfeld GPAIM – und ganz generell die Entwicklung von KI – häufig in den Verantwortungsbereich der Tech-Giganten verschoben wird, existiert eine Vielzahl an praxisrelevanten Konstellationen, in denen auch KMUs in die Rolle als Anbieter von KI schlüpfen können. Insbesondere beim Fine-Tuning von KI-Modellen sowie je nach Art und Weise der Nutzung von KI kann ein „Entwickeln“ und „Inverkehrbringen“ im Sinne der KI-VO in Betracht zu ziehen sein.

Unsere Empfehlung kann daher nur lauten, dass sich Unternehmen möglichst frühzeitig mit den regulatorischen Anforderungen auseinandersetzen und ein Konzept für die Entwicklung und den Einsatz von KI vorhalten. Die Deadline für GPAIM am 02. August 2025 rückt immer näher, sodass grundlegende Anforderungen – trotz teilweise bestehender Übergangsregelungen sowie Regelungen zum Bestandschutz – bereits jetzt bekannt sein sollten.

Kommen Sie im Falle von Fragen zum Entwickeln oder zum Einsatz von KI gerne auf uns zu!