„KI-Flash“ – Datenschutzrechtliche Besonderheiten beim Einsatz von KI

„KI-Quickies“ – Eine Beitragsreihe

Nachdem wir erst kürzlich unser Beratungsangebot zur Durchführung einer Datenschutz-Folgenabschätzung für den Einsatz von KI veröffentlicht haben, möchten wir Ihnen in einem nächsten Schritt – und von nun an in regelmäßigen Abständen – die rechtlichen Besonderheiten beim Einsatz von KI aufzeigen. Unter dem Titel „KI-Quickies“ werden in den nächsten Wochen und Monaten wichtige rechtliche Fragestellungen zum Thema KI in Form von Kurzbeiträgen aufgezeigt.

Da Zeit in der heutigen Gesellschaft ein rares Gut ist, wollen wir mit unserem „KI-Quickies“ gleich auf den Punkt kommen und die rechtlichen Herausforderungen kurz und prägnant zusammenfassen:

Heutiges Thema: Datenschutzrechtliche Besonderheiten beim Einsatz von KI

In unserem ersten KI-Quickie geht es um eine kurze Darstellung der datenschutzrechtlichen Besonderheiten beim Einsatz von KI. Grundsätzlich wird die Frage erlaubt sein, warum die Einhaltung datenschutzrechtlicher Vorgaben gerade beim Einsatz von KI eine gewisse Herausforderung darstellt. Regelmäßig werden personenbezogene Daten verarbeitet und diese Verarbeitung muss den Anforderungen der DS-GVO entsprechen. Wo liegen aber die Besonderheiten?

Typische Risiken beim Einsatz von KI

KI trifft – zumindest bis zu einem gewissen Grad – eigenständige Entscheidungen. Um dies zu ermöglichen, wird das System im Vorfeld mit einer Vielzahl an Datensätzen trainiert. Was passiert aber, wenn diese Daten inhaltlich falsch sind, oder Versäumnisse bei der Bereinigung der Datensätze entstehen? Im Ergebnis kann es passieren, dass die KI – da sie es nicht anders „weiß“ – Diskriminierungen hervorruft (etwa aufgrund von Alter, Hautfarbe oder Geschlecht). Auch wäre es ein Desaster, sofern die (personenbezogenen) Arbeitsergebnisse der KI inhaltlich falsch wären und das System schlimmstenfalls wirtschaftlich unbrauchbar wird. Die Art der verwendeten Daten und deren Weg hin zu echten Trainingsdaten kann daher als echte Besonderheit bei KI angesehen werden.

Große Datenmenge

Dies führt uns gleich zur nächsten Besonderheit. Da eine KI kein echtes menschliches Verständnis aufweist, muss diese trainiert werden – und dies mit regelmäßig sehr vielen Daten. Da die DS-GVO einem risikobasierten Ansatz folgt, muss dieses Gewicht an Daten natürlich gesondert berücksichtigt werden. Sämtliche in der DS-GVO angelegten Risiken steigen proportional zu einer steigenden Datenmenge. Denkbare Verstöße gegen den Grundsatz der Datenminimierung und Zweckbindung liegen daher auf der Hand.

Intransparenz

Eine weitere Besonderheit beim Einsatz von KI ist die regelmäßige Intransparenz der Entscheidungsfindung (auch „Blackbox“). Gerade bei gewissen KI-Modellen (insbesondere bei neuronalen Netzen) kann zwar das Ergebnis der Entscheidung einer KI aufgezeigt werden. Der Weg zur Entscheidungsfindung ist jedoch nicht ohne Weiteres verständlich. Praktische Problemstellungen bei der Herausgabe von Datenschutzhinweisen gemäß Art. 13 DS-GVO oder der Nachweispflicht gegenüber der Aufsichtsbehörde gemäß Art. 5 Abs. 2 DS-GVO liegen auf der Hand. So wird es künftig gerade in den Verantwortungsbereich der Hersteller von KI-Anwendungen fallen, die notwendigen Informationen für den Anwender bereitzustellen. Nur eine „DS-GVO-freundliche“ KI wird Unternehmen langfristig von deren Einsatz überzeugen.

Rechtliche und technische Herausforderungen – unsere Beratungsleistungen:

Unser Kredo kann daher nur lauten: Checken Sie datenschutzrechtliche Anforderungen beim Einsatz von KI möglichst frühzeitig. SKW Schwarz berät bereits jetzt eine Vielzahl von Mandanten (sowohl Anwender als auch Anbieter/Hersteller von KI-Lösungen) jeglicher Größenordnung bei der Implementierung und Nutzung von KI-Anwendungen. Wir kennen die rechtlichen und technischen Herausforderungen aus einer Vielzahl von KI-Projekten. Neben datenschutzrechtlichen Fragestellungen geht es regelmäßig auch um die Vertragsgestaltung sowie die Sicherung der jeweiligen Rechte (etwa im Urheberrecht). Gerne unterstützen wir Sie daher bei dem rechtssicheren Einsatz von KI im Unternehmen.

In unserem nächsten KI-Quickie soll es um eine kurze Vorstellung der denkbaren datenschutzrechtlichen Rechtsgrundlagen bei Einsatz von KI gehen.