Wie man ein KI-Modell trainiert, ohne in die GDPR-Fallen zu tappen

Die Entwickler von KI-Modellen können sicherstellen, dass sie während der Entwicklungsphase die Anforderungen der GDPR (Allgemeine Datenschutzverordnung) einhalten, indem sie anonyme Datensätze verwenden oder Pseudonymisierungstechniken anwenden.

Einführung

Die Entwicklung und der Einsatz von KI-Modellen erfordern den Zugriff auf große Datenmengen, die möglicherweise personenbezogene Daten enthalten. Wenn personenbezogene Daten während der Entwicklungs- oder Einsatzphase des KI-Modells verarbeitet werden, kann die GDPR zur Anwendung kommen. In diesem Artikel geben wir einige nützliche Tipps, wie Anbieter personenbezogene Daten während der Entwicklung von KI-Modellen verarbeiten können, ohne Datenschutzfehler zu machen.

1. Entwicklung und Einsatz von KI-Modellen – Verarbeitung personenbezogener Daten

Stellen Sie sich folgende Szenarien vor:

• Ein EU-basiertes Online-Geschäft entwickelt einen Kundenservice-Chatbot, der Fragen und Anfragen der Kunden beantwortet. Um effektiv zu sein, wurde der Chatbot mit historischen Gesprächsdaten trainiert.
• Ein Finanzinstitut entwickelt ein KI-System zur Automatisierung von Kreditgenehmigungen für EU-basierte Antragsteller. Das KI-System wurde mit verschiedenen Daten aus früheren Kreditgenehmigungen trainiert, z. B. der Kreditgeschichte, dem Einkommen und den demografischen Daten der Kreditnehmer.

Es ist offensichtlich, dass beide KI-Modelle während der Einsatzphase personenbezogene Daten verarbeiten, da der Chatbot mit identifizierten oder identifizierbaren Kunden kommuniziert und das Kreditgenehmigungs-KI-System über Anträge von identifizierbaren Kreditnehmern entscheidet. Daher ist klar, dass unter bestimmten Umständen die GDPR Anwendung findet.

2. Anonyme KI-Modelle

Da die Grundsätze der GDPR nicht für die Verarbeitung anonymisierter Informationen gelten, kann der Anbieter, wenn ein KI-Modell als anonym betrachtet werden kann, von der GDPR ausgenommen werden. Ein KI-Modell kann als anonym angesehen werden, wenn folgende Bedingungen erfüllt sind:

1. Die personenbezogenen Daten, die mit den Trainingsdaten verbunden sind, können nicht aus dem Modell extrahiert werden.
2. Jede Ausgabe, die durch Abfragen des Modells erzeugt wird, bezieht sich nicht auf die betroffenen Personen, deren personenbezogene Daten zum Trainieren des Modells verwendet wurden.

Ein einfacher Ansatz zur Behauptung der Anonymität besteht darin, die Trainingsdaten vor dem Training des KI-Modells zu anonymisieren, indem beispielsweise demografische Daten der Kreditnehmer randomisiert oder generalisiert werden.

3. Technische Maßnahmen

Eine technische Maßnahme zur Verbesserung der Datensicherheit, die von Anbietern von KI-Modellen verwendet werden kann, ist die Pseudonymisierung, die die Verknüpfbarkeit des Datensatzes mit der ursprünglichen Identität der betroffenen Person reduziert. Beispielsweise können die tatsächlichen Namen der Kreditnehmer durch Identifikationsnummern oder andere Codes ersetzt werden.

Wenn der tatsächliche Inhalt der Daten für die Verarbeitung nicht relevant ist, kann das Maskieren personenbezogener Daten oder das Ersetzen durch fiktive personenbezogene Daten im Trainingssatz eine geeignete Lösung sein. Beispielsweise sollte die Kreditgeschichte eines Kreditnehmers nicht durch gefälschte Daten ersetzt werden, da dies das Training des KI-Systems und dessen Einsatz in der Zukunft beeinflussen könnte. Andererseits sind der Name und das genaue Geburtsdatum (außer dem Geburtsjahr) des Kreditnehmers eher irrelevant, sodass sie maskiert oder durch falsche Informationen ersetzt werden können.

4. Maßnahmen zur Erleichterung der Ausübung der Rechte der betroffenen Personen

Anbieter von KI-Modellen können die Einhaltung der GDPR demonstrieren, indem sie die Ausübung der Rechte der betroffenen Personen erleichtern. Wenn der Anbieter einen angemessenen Zeitraum zwischen der Erhebung des Trainingsdatensatzes und dessen Verwendung einhält, haben die betroffenen Personen die Möglichkeit, ihre Rechte während dieses Zeitraums auszuüben. Beispielsweise kann der Kunde des Online-Shops die Löschung seines Gesprächsverlaufs verlangen oder der Verarbeitung seiner Gesprächsdaten zu Trainingszwecken widersprechen.

Darüber hinaus kann der Anbieter, auch wenn die spezifischen Gründe in der GDPR nicht zutreffen, der betroffenen Person erlauben, ihr Recht auf Löschung auszuüben und die Daten aus dem Trainingsdatensatz zu löschen, um zu demonstrieren, dass der Anbieter nur personenbezogene Daten verwendet, die zur Schulung des KI-Modells vollständig im Einklang mit den datenschutzrechtlichen Rechten der betroffenen Personen erhoben wurden.

5. Transparenzmaßnahmen

Zuletzt können Anbieter Maßnahmen ergreifen, die eine größere Transparenz hinsichtlich der Entwicklung des KI-Modells bieten. Der Anbieter kann öffentliche und leicht zugängliche Mitteilungen veröffentlichen, die über die von der GDPR geforderten Informationen hinausgehen. Beispielsweise könnte der Anbieter des Kreditgenehmigungs-KI-Systems zusätzliche Details zu den Erhebungskriterien der Trainingsdatenbank bereitstellen.

Darüber hinaus können Anbieter alternative Formen der Information der betroffenen Personen nutzen, wie Medienkampagnen, auch in sozialen Medien, um die betroffenen Personen über die Verarbeitung personenbezogener Daten im Zusammenhang mit dem Training des KI-Modells zu informieren.

6. Zusammenfassung

Zusammenfassend lässt sich sagen, dass Anbieter während der Entwicklungsphase eines KI-Modells mehrere Maßnahmen ergreifen können, um den Trainingsdatensatz GDPR-konform zu gestalten. Einerseits können sie anonyme Datensätze verwenden, um die Entwicklung des KI-Modells von der GDPR auszunehmen. Andererseits, wenn Anonymisierung nicht möglich oder nicht praktikabel ist, können sie eine Reihe anderer technischer und organisatorischer Maßnahmen ergreifen, um die Datensicherheit zu erhöhen oder die Ausübung der Rechte der betroffenen Personen zu erleichtern.

Quellenliste:

• Quelle: HOW TO TRAIN AN AI MODEL WITHOUT FALLING INTO GDPR PITFALLS?
• Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models