KI-gestützte Dokumentationsassistenten in Behandlungszimmern

Datenschutz
1

Hallo,

ich bin auf einen Dienst für Arztpraxen gestoßen, der sich DokuAssistent nennt. Damit kann man alle Gespräche in einem ärztlichen Behandlungszimmer aufzeichen, transkribieren und in die Patientenakte eintragen lassen. Es handelt sich um ein KI-System mit dem Zweck, das lästige Protokollieren von Gesprächen zu sparen.

Ein Patient kommt mit Schmerzen beispielsweise zu einem Zahnarzt. Selbst wenn der Arzt um eine Einwilligung zu dieser Verarbeitung bittet - würde der Patient diese nun verweigern? Ist die Zustimmung wirklich freiwillig? Weigert er sich, muss der Arzt oder ein Mitarbeiter die Tipparbeit übernehmen, die er eigentlich loswerden wollte und der Patient wird vielleicht nicht so gut behandel. Zudem steht auf entsprechender Webseite, dass eine Einwilligung auch gar nicht so wichtig ist, oder so ähnlich: “Die Entscheidung, ob eine ausdrückliche Einwilligung des Patienten (und ggf. dessen Begleitpersonen) benötigt wird, liegt grundsätzlich beim Leistungserbringer als datenschutzrechtlich Verantwortlichem. Hierbei können auch Art und Weise der Nutzung eine Rolle spielen. Grundsätzlich kann das Produkt sowohl mit als auch ohne Einwilligung verwendet werden.”

Vielleicht hat sich der datenschutzfürsorgliche Arzt sogar eine ordentlichen Einwilligung irgendwann unterzeichnen lassen. Zur nächsten Vorsorgeuntersuchung Monate später sitzt ein Patient mit Begleitperson (die nicht eingewilligt hat) im Behandlungszimmer und wartet auf den Arzt. Denkt dieser Patient noch daran, dass alles was er nun spricht, aufgenommen wird? Oder aber, falls er daran denkt, redet er dann später mit dem Arzt offen über alle Beschwerden oder läßt etwas weg, weil er sich “abgehört” fühlt ? Ist die Patienten - Arzt - Beziehung dann vielleicht nicht mehr so “natürlich” wie sie sein sollte?

Gerade in Arztpraxen geht es um Gesundheitsdaten und dieser DokuAssistent wird nicht nur Informationen aufzeichnen und “strukturiert zusammenfassen”, die für die Behandlung absolut notwendig sind. “Ob Anamnese, Befund oder Therapie - alles Gesagte wird erfasst, ohne Smalltalk einzubeziehen.” Muss eine schlaue KI sein, wenn sie das alles auseinander halten soll.

Die Aufnahmen werden nach 30 Tagen gelöscht “um DSGVO-Konformität zu garantieren”. Und ich dachte immer, da gehört mehr dazu… Wo die Aufnahmen diese 30 Tage gespeichert sind, wird irgendwie nicht erwähnt, aber wahrscheinlich auf jeden Fall DSGVO-konform.

Wie werden solche Systeme in diesem Forum bewertet? Bin ich zu kritisch?

2

“Die Entscheidung ob eine Einwilligung von Patient und ggf. Begleitung benötigt wird, liegt beim Leistungserbringer.” Das ist derb :frowning: Die Leistungserbringer als inhabergeführte Praxis habe ja auch so viel Ahnung vom Datenschutz. Einen externen DSB werden die nur selten zu Rate ziehen, weil man ja keinen DSB benennen muss. Ich will nicht wissen, wie viele Leistungserbringer daraus ableiten, dass Datenschutz für sie keine Rolle spielt und bei den paar Vordrucken, die man braucht auf die KV verlassen.

Die Aufzeichnung von Sprache an sich ist bereits eine Verarbeitung des biometrischen Mediums Sprache (Art. 9). Dabei wir der Leistungserbringer gar nicht an der Einwilligung vorbei kommen. Wird die Einwilligung verweigert kommt dann muss halt jemand manuell tippen. Oder in Marmorblöcke ritzen….

Eine just in time Transskription ohne Speicherung wäre auf Basis der Einwilligung wäre das mindeste an technisch organisatorischen Maßnahmen, auf deren Basis man über das System reden könnte.

Ich habe kürzlich versucht einen Hausarzt telefonisch zu erreichen. Erreicht habe ich lediglich den “Sprachassistenten” von DoctoLib, der mir als erstes erzählt, dass das Gespräch aufgezeichnet wird, ob ich das will wurde nicht erst abgefragt. Das Gespräch kam jedoch nicht zustande, weil ich aufgelegt habe….

3

Ich denke zuerst an § 201 StGB, dass ein vertrauliches Gespräch nicht heimlich aufgenommen werden darf. Das bedeutet nicht automatisch “Einwilligung”, aber so wäre die Information leichter nachzuweisen; und man könnte bei dieser Gelegenheit weiteren Vorhaben zustimmen lassen. (Ich gehe davon aus, dass das Gespräch wenigstens kurz auf einem Tonträger zwischengespeichert = aufgezeichnet wird.)

Sonst könnte man das Werkzeug nur als Ersatz für die bisherige Mitschrift betrachten.

Doch es können weitere Aspekte zu kären sein:

Z. B. die Beteiligung eines externen Dienstes. (Auftragsverarbeitung, Art. 28 DSGVO? Als sonstige mitwirkende Personen, § 203 Abs. 3 StGGB?)

Drittlandübermittlung,indem der Dienst seinen Sitz außerhalb der EU/EWR hat, bzw. Daten dort verarbeiten lässt.

Sozialdatenschutz, wenn ein Sozialleistungsträger dem Verantwortlichen Sozialdaten unter bestimmten Auflagen übermittelt hat (Vertraulichkeit, Drittländer).

KI-Eigenheiten, also Aufklärung über mögliche “Nebenwirkungen”, ob mit den Daten Modelle trainiert werden (dürfen), wie die KI funktioniert (viel Spaß beim Herauskriegen), wenn sie mit Folgen für die Person entscheidet bzw. wesentliche Beiträge für ärztliche Entscheidungen liefert.

Und schließlich die Betroffenheit weiterer Personen. Also angestelltes Personal des Verantwortlichen, dessen Stimmen ebenfalls aufgezeichnet /erkannt /ausgewertet werden. Das geht praktisch nur mit Einwilligung. Wobei es der nötigen Freiwilligkeit zuwieder liefe, Unwillige mit der Alternative des selbst Mitschreibens zu bestrafen.

Das alles waren nur erste Gedanken. Folgenabschätzung?

D., der keine einfache Antwort sieht.

4

Ohne eine ordentliche Datenschutzinformation ist die Einwilligung eh nichtig. Und auf diese Information (komplett mit allen Pflichtangaben) würde ich bestehen. Gab es diese?