Datenschutzkonforme KI-Anwendung?

Datenschutz
1

Hallo alle zusammen,

ich habe aus einer Gesundheitseinrichtung eine Anfrage zu einer KI-Anwendung.

Nun bin ich mir nicht sicher, ob ich mich verrannt habe und alles viel zu kompliziert sehe. Über Hilfe und Denkanstöße wäre ich dankbar.

Der Anbieter der KI stellt seine KI selbst als eine KI-Lösung vor, die es ermöglicht andere LLMs datenschutzkonform zu nutzen. Die Eingabe von Anfragen mit personenbezogenen Daten sollen problemlos erfolgen können, da die KI vor dem eigentlich genutzten LLM geschaltet wird. Vor der Weitergabe der Anfrage an die LLM identifiziert die KI personenbezogene Daten und maskiert bzw. anonymisiert diese.

Der Anbieter erklärt, dass die Daten nicht zum Training genutzt werden und die Verarbeitung auf europäischen Servern stattfindet. Ein Auftragsverarbeitungsvertrag ist vorhanden.

Positiv finde ich, dass mit dieser KI verhindert werden kann, dass personenbezogene Daten durch Beschäftigte „versehentlich“ in LLMs eingegeben werden.

Ich sehe aber die Probleme nur verlagert.

Selbst wenn eine Anonymisierung vorliegt (was ich bezweifle), muss der Verantwortliche die Verarbeitung personenbezogener Daten durch die vorgeschaltete KI rechtfertigen.

Neben den üblichen Schwierigkeiten beim KI-Einsatz wie die Erfüllung der Informationspflichten und die Wahrung der Betroffenen-Rechten sehe ich keine tragbare Rechtsgrundlage für die Eingabe von Patientendaten. Die grundsätzliche Rechtsgrundlage ist in der Regel die Interessenabwägung gemäß Art. 6 Abs. 1 Lit. f) DSGVO. Diese bekanntlich für Gesundheitsdaten nicht aus.

Der Behandlungsvertrag gemäß Art. 9 Abs. 2 Lit. h) DSGVO i.V.m. §22 Abs.1 Uabs. 1 Lit. b) BDSG greift meines Erachtens nicht, da der Einsatz der KI für die Vertragserfüllung nicht erforderlich ist.

Eine ausdrückliche Einwilligung der betroffenen Personen gemäß Art. 9 Abs.2 Lit. a) DSGVO wäre möglich, stößt aber bei der praktischen Umsetzung an Grenzen.

Ich würde daher den für datenschutzkonform Einsatz für möglich halten, wenn Eingabe von besonderen Arten von Daten ausgeschlossen ist.

Wie sehen Sie das?

Vorab vielen Dank für Hinweise und fürs Mitdenken.

Beste Grüße

2

Gehe nochmal einen Schritt “zurück”: Wofür soll die KI-Anwendung genutzt werden? Diese Fragestellung fehlt mir immer wieder bei den meisten Diskussionen dieser Art. Es gibt keine Rechtsgrundlagen für “Software”, sondern für “Datenverarbeitungen” zu einem festgelegten Zweck.

So wird natürlich Diagnosestellung und Behandlung durch einen Behandlungsvertrag abgedeckt, und wenn die Diagnosefindung mithilfe eines KI-Tools erfolgt, dann ist trotzdem die Rechtsgrundlage für diesen Zweck vorhanden. Da ist es (erstmal) egal, mit welcher Software ich arbeite. Erst im zweiten Schritt schaue ich mir dann die Prozess-Abläufe und Datenströme an, inwiefern die Software (hier also die KI-Anwendung) datenschutzkonform eingesetzt werden kann. ( Interne KI oder eben Online-Verarbeitung anonymisierter Daten, keine Verarbeitung der KI-Anbieter zu eigenen Zwecken usw.)

Ich kenne es tatsächlich aus der Praxis, dass in den KI-Richtlinien häufig die Verarbeitung personenbezogener Daten verboten wird. Nur leider ist diese organisatorische Maßnahme sehr anfällig dafür, von den Beschäftigten nicht eingehalten zu werden. Als Aufsichtsbehörde wurden uns in diesem Zusammenhang schon mehrfach Datenpannen gemeldet…

2 „Gefällt mir“
3

Vielen Dank für den Hinweis, hilft mir weiter… :slightly_smiling_face:

4

Das braucht zusätzlich zum Erlaubnistatbestand für den Verarbeitungszweck (und der wäre?) in Art. 6 Abs. 1 eine konkrete Ausnahme vom Verarbeitungsverbot für Gesudnehtsdaten in Art. 9 Abs. 2 (nämlich?). Ggf. mit weiteren Pflichten wie Information bei Zweckänderung (Art. 6 Abs. 4, Art. 13 Abs. 3, Art. 14 Abs. 4)

“Ohne Gesundheitsdaten” würde bedeuten, dass man Datensätze, die ursprünglich Gesundheitsdaten enthalten anonymisiert, bzw. den Gesundheitsteil wegsortiert. Doch das Selektieren der Nicht-Gesundheits-Felder bzw. das Anonymisieren ist ebenfalls eine Verarbeitungstägigkeit, die eine Art.-6-Rechtsgrundlage und (im Fall von ursprünglichen Gesundheitsdaten) eine Art.-9-Ausnahme benötigt.

Im Ergebnis personenbezogene Daten wie “Lieschem Müller” bleiben Gesundheitsdaten, wenn sie immer noch im Zusammenhang mit der Gesundheitseinrichtung stehen; z. B. “Lieschen Müller war in der Reha /hat mit ((Facharztrichtung)) zu tun /nahm Medikament…”

D., der bei solchen Vorhaben immer gespannt ist, wie das argumentiert werden soll. Wer “datenschutzkonform” behauptet, muss die Zulässigkeit für den konkreten Einsatzzweck vorturnen.

5

Wo erfolgt die Anonymisierung/Maskierung von personenbezogenen Daten? In “der Wolke“ wo dieser KI-Anbieter seinen Anonymisierungsservice hostet oder OnPremise bei der Gesundheitseinrichtung?

6

Ja, tatsächlich In der “Wolke”. Daher auch meine Überlegung, dass sich die Probelme nur Verlagern.

7

Ich würde auch gerne einen Schritt zurückgehen. Die Gesundheitseinrichtung ist Data Controller, verwaltet vermutlich Patientendaten. Darf die Gesundheitseinrichtung personenbezogene Daten an irgendeinen Data Processor weiterreichen? Ich vermute, ja. Unter welchen Voraussetzungen?