Privacy by Design für emotionale KI-Roboter

Stellen Sie sich einen Pflegeroboter vor, der seine Antworten mithilfe einer Kamera und eines Mikrofons anpasst. Bevor Sie über seine Datenschutzerklärung nachdenken, klären Sie, was er tatsächlich misst, ob die Bearbeitung nötig und der Einsatz erlaubt ist. Dies ist ein Gestaltungsszenario, keine Aussage über ein bestimmtes Spital oder Produkt.

Emotionserkennung ist eine unsichere Messung

Ein Gesichtsausdruck ist kein direkter Einblick in den inneren Zustand einer Person. Die Übersichtsarbeit von Barrett und anderen aus dem Jahr 2019 beschreibt erhebliche Unterschiede zwischen Personen und Situationen und warnt davor, allein aus Gesichtsbewegungen eine bestimmte Emotion abzuleiten. Das Korrigendum berichtigt Bildzuordnung und Darstellung. Ein Anbieteretikett wie «verwirrt» oder «glücklich» muss deshalb für den Einsatzkontext validiert werden und darf nicht als feststehende Tatsache über einen Patienten gelten.

Datenschutzfragen reichen zudem über die Identifizierung hinaus. McStays Untersuchung von 2020 verband Interviews, eine britische Umfrage und einen Workshop zu Bedenken gegenüber emotionaler KI ohne Personenidentifizierung. Sie belegt weder, dass jeder freundliche Roboter mehr Offenlegung verursacht, noch dass eine bestimmte Informationsgestaltung das Problem löst.

Eine warme Stimme oder vertraute Form kann eine Interaktion beeinflussen. Prüfen Sie diese Möglichkeit mit den vorgesehenen Nutzenden. Unterstellen Sie weder gleiche Reaktionen aller älteren Menschen, Kinder oder sozial isolierten Personen noch eine aus Emotionswerten ableitbare Einwilligungsfähigkeit.

Daten vor der Wahl der Rechtsgrundlage einordnen

Prüfen Sie nach der DSGVO, ob personenbezogene Daten vorliegen und welche Verarbeitung geplant ist. Bilder und Aufzeichnungen sind nicht automatisch biometrische Daten nach Artikel 4 Nummer 14. Die biometrische Kategorie in Artikel 9 betrifft die Verarbeitung zur eindeutigen Identifizierung einer Person. Gesundheitsdaten können unabhängig von diesem Zweck unter Artikel 9 fallen.

Soweit die DSGVO gilt, braucht die Verarbeitung eine Rechtsgrundlage nach Artikel 6. Bei Daten nach Artikel 9 ist zusätzlich eine einschlägige Bedingung nach Artikel 9 Absatz 2 erforderlich. Einwilligung ist eine Möglichkeit, nicht die allgemeine Grundlage jeder Roboterinteraktion. Wird sie herangezogen, sind Freiwilligkeit, Bestimmtheit, Informiertheit und Eindeutigkeit zu prüfen (Artikel 4 Nummer 11); für Daten nach Artikel 9 verlangt Artikel 9 Absatz 2 Buchstabe a eine ausdrückliche Einwilligung, und das Unionsrecht oder das Recht der Mitgliedstaaten kann vorsehen, dass die Einwilligung das Verbot nicht aufheben kann. In einer Betreuungssituation kann eine Ablehnung praktisch schwierig sein. Eine nur nominelle Wahl reicht nicht.

Erfassen Sie Zweck, Empfänger, Aufbewahrung und Zugriff vor der Auswahl der Schutzmassnahmen. Artikel 25 verlangt Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen: geeignete Massnahmen ab der Festlegung der Mittel der Verarbeitung und Voreinstellungen, die nur die für den jeweiligen Zweck erforderlichen Daten verarbeiten. Prüfen Sie, ob eine Datenschutz-Folgenabschätzung nach Artikel 35 erforderlich ist. Lokale Verarbeitung kann bestimmte Offenlegungen reduzieren, ersetzt aber weder die Rechtfertigung der Erhebung noch Gerätesicherheit.

Verbote der KI-Verordnung vor Hochrisikopflichten prüfen

Die konsolidierte EU-KI-Verordnung verbietet in Artikel 5 Absatz 1 Buchstabe f bestimmte Einsätze zur Emotionsableitung am Arbeitsplatz und in Bildungseinrichtungen, mit einer Ausnahme für medizinische oder Sicherheitsgründe. Diese Ausnahme ist keine pauschale Erlaubnis nach anderem Recht.

Emotionserkennungssysteme stehen in Anhang III Nummer 1 Buchstabe c, soweit ihre Verwendung erlaubt ist. Die Hochrisikoeinstufung ist zusammen mit Artikel 6, seinen Voraussetzungen und begrenzten Ausnahmen zu lesen. Menschliche Beteiligung macht einen erlaubten Einsatz nicht automatisch risikoarm.

Artikel 50 Absatz 1 betrifft die Information über direkte KI-Interaktion, mit einer Ausnahme bei Offensichtlichkeit und weiteren festgelegten Grenzen. Absatz 3 verpflichtet Betreiber gesondert zur Information der von Emotionserkennung betroffenen Personen, vorbehaltlich seiner Ausnahme. Die Information muss Absatz 5 entsprechen, einschliesslich Zeitpunkt und Barrierefreiheit. Ein Hinweis legalisiert keine verbotene Praxis.

Das einschlägige Verbot nach Artikel 5 gilt seit dem 2. Februar 2025, Artikel 50 grundsätzlich seit dem 2. August 2026. Nach der Änderungsverordnung (EU) 2026/1744 gelten die einschlägigen Hochrisikopflichten nach Anhang III ab dem 2. Dezember 2027, vorbehaltlich anwendbarer Übergänge. Es handelt sich um getrennte Fristen und Pflichten.

Dieselbe Verordnung hat Artikel 5 Absatz 1 Unterabsatz 1 um die Buchstaben ba und bb ergänzt; sie gelten nach Artikel 113 Absatz 3 Buchstabe a ab dem 2. Dezember 2026. Erfasst sind KI-Systeme, die realistische Bild-, Video-, Ton- oder ähnliche Inhalte mit intimen Körperteilen einer bestimmbaren Person oder mit einer bestimmbaren Person bei eindeutig sexuellen Handlungen ohne deren freiwillige, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung erzeugen oder manipulieren, sowie Systeme, die Darstellungen oder Darbietungen sexuellen Kindesmissbrauchs im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren, es sei denn, nach nationalem Recht gilt das «unrechtmässige» Verhalten als gerechtfertigt. Nach Artikel 5 Absatz 1a sind Inverkehrbringen und Inbetriebnahme nur verboten, wenn ein solches Ergebnis Zweckbestimmung des Systems ist oder ohne erhebliche technische Änderungen und ohne angemessene Schutzvorkehrungen vernünftigerweise vorhersehbar und reproduzierbar eintritt; Betreiber sind erfasst, wenn sie ein System zu diesem Zweck verwenden. Für Buchstabe ba nimmt Absatz 1b Manipulationen aus, welche die Sichtbarkeit dargestellter intimer Körperteile weder erhöhen noch die Art dargestellter eindeutig sexueller Handlungen verändern. Diese Verbote betreffen erzeugte Inhalte und keine Emotionsableitung, doch ein Roboter mit Kameras und generativen Funktionen braucht dieselbe Prüfung. Keine Kennzeichnung und kein Hinweis macht eine verbotene Verwendung rechtmässig.

Verständliche Informationen und nutzbare Kontrollen gestalten

Die folgenden Punkte sind zu prüfende Gestaltungsvorschläge, keine fünf empirisch validierten Lösungen:

1. Die tatsächliche Bearbeitung erklären. Sensoren, Zweck, Empfänger und Aufbewahrung konkret beschreiben. Eine abgeleitete Kategorie von einer bestätigten Beobachtung unterscheiden.
2. Geeignete Kanäle anbieten. Zugänglichen Text, Audio oder Bilder passend zu Nutzenden und Situation bereitstellen und die Kanäle nach der Situation wählen: Alle gleichzeitig einzusetzen ist keine allgemeine Rechtspflicht.
3. Wahlmöglichkeiten praktisch machen. Wo einschlägig, Ablehnung oder Widerruf einer Einwilligung, Pausieren eines Sensors oder menschliche Hilfe ermöglichen. Folgen ehrlich erklären.
4. Informationen konsistent halten. Gesprochene Zusammenfassung und schriftliche Details dürfen einander nicht widersprechen. Keine allgemeine rechtliche Gleichrangigkeit aller Kanäle erfinden.
5. Ausdrückliche Präferenzen zuerst nutzen. Sprache, Textgrösse oder alternative Erklärung auswählbar machen. Das Ableiten von Verwirrung zur Anpassung einer Datenschutzerklärung kann zusätzliche unsichere und eingriffsintensive Bearbeitung verursachen.

Artikel 12 DSGVO verlangt klare, zugängliche Information, aber keine universelle Roboteroberfläche. Testen Sie Verständnis und Bedienbarkeit der Wahlmöglichkeiten mit repräsentativen Nutzenden. Freundlicher Ton beweist kein Verständnis, ein Klick keine wirksame Einwilligung.

Schweizer Pflichten gesondert beurteilen

Das Schweizer DSG hat eigene Regeln, darunter Datenschutz durch Technik und Voreinstellungen in Artikel 7 sowie Folgenabschätzungen bei hohem Risiko in Artikel 22. Nach Artikel 5 Buchstabe c sind Gesundheitsdaten und biometrische Daten, die eine Person eindeutig identifizieren, besonders schützenswerte Personendaten, und Artikel 22 nennt ihre umfangreiche Bearbeitung als Fall eines hohen Risikos. Anders als die DSGVO verlangt das DSG nicht für jede private Datenbearbeitung eine Rechtsgrundlage. Ein Rechtfertigungsgrund wie Einwilligung, überwiegendes Interesse oder Gesetz ist erforderlich, wenn die Bearbeitung die Persönlichkeit verletzt (Artikel 30 und 31), und ist eine Einwilligung erforderlich, muss sie für besonders schützenswerte Personendaten ausdrücklich erfolgen (Artikel 6 Absatz 7). Geheimhaltung im Gesundheitswesen, sektorspezifische Regeln und gegebenenfalls kantonales Recht sind zusätzlich zu prüfen.

Stand der Schweizer Regulierung (geprüft am 26. September 2026). In der Schweiz gibt es noch keine spezifische KI-Gesetzgebung; der EDÖB hält fest, dass das geltende DSG auf KI-gestützte Datenbearbeitungen direkt anwendbar ist. Am 12. Februar 2025 hat der Bundesrat entschieden, die KI-Konvention des Europarats zu ratifizieren, die in erster Linie staatliche Akteure erfasst. Das EJPD soll bis Ende 2026 eine Vernehmlassungsvorlage erarbeiten, namentlich zu Transparenz, Datenschutz, Nichtdiskriminierung und Aufsicht. Die Schweiz hat die Konvention am 27. März 2025 unterzeichnet. Bei der Prüfung führte das Bundesamt für Justiz noch keine veröffentlichte Vorlage auf.

Für eine Schweizer Organisation hängt die Anwendbarkeit der EU-KI-Verordnung von den tatsächlichen Anknüpfungspunkten nach Artikel 2 ab, darunter bestimmte in der Union verwendete Ergebnisse. Der Hinweis, ein Roboter «betreffe EU-Personen», genügt als Prüfung des Geltungsbereichs nicht.