EU-KI-Verordnung: Welche juristische KI ist hochriskant?

Der Einsatz von KI in einer Kanzlei macht ein System nicht automatisch zu Hochrisiko-KI. Entscheidend sind der vorgesehene Zweck, die in der Verordnung genannte Tätigkeit und die tatsächliche Rolle Ihrer Organisation. Datenschutz und Berufsgeheimnis sind gesondert zu prüfen.

Auch Zuverlässigkeit und rechtliche Einstufung brauchen getrennte Nachweise. Die Studie von Dahl und anderen aus dem Jahr 2024 dokumentierte Halluzinationen und die Anfälligkeit für falsche Prämissen bei öffentlich zugänglichen Modellen in Tests zur US-Rechtsprechung. Sie begründet Quellenprüfungen; sie zeigt nicht, dass jedes juristische KI-Werkzeug ein Hochrisikosystem ist, und ihre Ergebnisse sind keine aktuellen Fehlerquoten für alle Produkte oder für Schweizer Recht.

Räumlichen Anwendungsbereich feststellen

Art. 2 erfasst unter anderem Anbieter, die Systeme in der EU in Verkehr bringen, Betreiber mit Sitz in der EU und bestimmte Anbieter oder Betreiber ausserhalb der EU, wenn die Ergebnisse in der Union verwendet werden. Halten Sie fest, welcher dieser Bezüge für den konkreten Einsatz besteht und ob eine Ausnahme greift. Ein EU-Mandant oder ein in der EU angebotenes Produkt ist der Ausgangspunkt dieser Prüfung, nicht ihr Ergebnis.

Den vorgesehenen Einsatz einordnen

Art. 5 verbietet bestimmte Praktiken nach den dort geregelten Bedingungen und Ausnahmen. Die Hochrisiko-Einstufung richtet sich nach Art. 6 und Anhang I oder III. Art. 6 Abs. 3 enthält unter den dort genannten Voraussetzungen eine begrenzte Ausnahme für bestimmte Systeme des Anhangs III ohne erhebliches Risiko. Systeme, die natürliche Personen profilieren, bleiben hochriskant. Eine abschliessende menschliche Entscheidung beseitigt die Einstufung nicht automatisch.

Die Verordnung (EU) 2026/1744 hat zwei Verbote eingefügt, die ab dem 2. Dezember 2026 gelten. Art. 5 Abs. 1 lit. ba verbietet das Inverkehrbringen, die Inbetriebnahme und die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, die intime Körperteile einer bestimmbaren natürlichen Person oder eine bestimmbare Person bei eindeutig sexuellen Handlungen darstellen, ohne dass diese Person der Erzeugung oder Manipulation aus freien Stücken, spezifisch, aufgeklärt, eindeutig und ausdrücklich zugestimmt hat. Art. 5 Abs. 1 lit. bb betrifft Material oder Darbietungen im Sinne von Art. 2 Buchstaben c und e der Richtlinie 2011/93/EU (Darstellungen sexuellen Missbrauchs von Kindern), vorbehaltlich der dort genannten Rechtfertigung nach nationalem Recht. Nach Art. 5 Abs. 1a ist ein Anbieter erfasst, wenn diese Erzeugung oder Manipulation die Zweckbestimmung des Systems ist oder ohne erhebliche technische Änderung ein vernünftigerweise vorhersehbares und reproduzierbares Ergebnis darstellt und angemessene Schutzvorkehrungen fehlen; ein Betreiber ist erfasst, wenn er ein System zu diesem Zweck verwendet. Nur für lit. ba bestimmt Art. 5 Abs. 1b, dass ein KI-System, das Material manipuliert, ohne die Sichtbarkeit dargestellter intimer Körperteile zu erhöhen oder die Art der dargestellten eindeutig sexuellen Handlungen zu verändern, nicht als manipulativ gilt. Keiner der beiden Buchstaben enthält eine Ausnahme für gekennzeichnete Inhalte; eine Offenlegung nach Art. 50 macht eine verbotene Praxis daher nicht rechtmässig.

• Beschäftigungssysteme können unter Anhang III Nummer 4 fallen, etwa bei Einstellung, Bewerberfilterung und bestimmten Formen der Personalsteuerung.
• Anhang III Nummer 8 Buchstabe a betrifft Systeme für Justizbehörden oder in deren Auftrag sowie vergleichbare Anwendungen in der alternativen Streitbeilegung. Private Rechtsrecherche oder Prozessberatung fällt nicht automatisch darunter.
• Anhang III Nummer 5 betrifft bestimmte wesentliche Dienstleistungen, Kreditwürdigkeitsprüfungen sowie Lebens- und Krankenversicherungen. Allgemeine Finanzberatung ist damit nicht gleichzusetzen.

Anbieter- und Betreiberpflichten trennen

Anbieter von Hochrisiko-Systemen haben je nach Fall Pflichten zu Risikomanagement, technischer Dokumentation, Konformitätsbewertung und Registrierung. Massgeblich sind unter anderem Art. 9, 11, 16, 43 und 49. Art. 51 regelt dagegen die Einstufung von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko, nicht die Registrierung.

Der mit derselben Änderung eingefügte Art. 4a erlaubt Anbietern von Hochrisiko-Systemen ausnahmsweise die Verarbeitung besonderer Kategorien personenbezogener Daten, soweit dies für die Erkennung und Korrektur von Verzerrungen nach Art. 10 Abs. 2 lit. f und g unbedingt erforderlich ist, mit angemessenen Vorkehrungen zum Schutz der Grundrechte und Grundfreiheiten. Er gilt zusätzlich zur DSGVO und nur, wenn alle sechs Voraussetzungen erfüllt sind: Andere Daten, auch synthetische oder anonymisierte, genügen nicht; die Daten unterliegen technischen Beschränkungen der Weiterverwendung und modernsten Sicherheits- und Datenschutzmassnahmen einschliesslich Pseudonymisierung; der Zugriff ist streng kontrolliert, dokumentiert und auf befugte, zur Vertraulichkeit verpflichtete Personen beschränkt; die Daten werden nicht an Dritte übermittelt oder übertragen, und Dritte haben keinen anderweitigen Zugang; sie werden gelöscht, sobald die Verzerrung korrigiert ist oder die Speicherfrist endet, je nachdem, was zuerst eintritt; und das Verarbeitungsverzeichnis begründet, warum die Verarbeitung unbedingt erforderlich war und warum andere Daten dieses Ziel nicht erreichen konnten. Nach Art. 4a Abs. 2 dürfen Betreiber von Hochrisiko-Systemen sowie Anbieter und Betreiber anderer KI-Systeme und -Modelle solche Daten nur verarbeiten, wenn dies zur Erkennung und Korrektur möglicher Verzerrungen unbedingt erforderlich ist, die die Gesundheit und Sicherheit von Personen beeinträchtigen, negative Auswirkungen auf die Grundrechte haben oder zu einer unionsrechtlich verbotenen Diskriminierung führen, und wenn alle Bedingungen und Vorkehrungen nach Abs. 1 Anwendung finden. Art. 4a Abs. 2 begründet keine Pflicht zu einer solchen Erkennung und Korrektur von Verzerrungen.

Betreiber sollten Art. 26 prüfen: Betriebsanleitungen beachten, geeignete menschliche Aufsicht benennen, den Betrieb überwachen und die ihrer Kontrolle unterliegenden Protokolle aufbewahren. Art. 27 verlangt eine Grundrechte-Folgenabschätzung für bestimmte Betreiber und Anwendungen, nicht für jede Kanzlei. Eine wesentliche Änderung, Umkennzeichnung oder Zweckänderung kann nach Art. 25 eine Anbieterrolle begründen. Dokumentieren Sie diese Entscheidung vor der Aufgabenverteilung.

Transparenz, Erklärungen und Schweizer Pflichten

Art. 50 enthält bestimmte Offenlegungs- und maschinenlesbare Kennzeichnungspflichten samt Ausnahmen. Art. 86 gibt ein Recht auf Erklärung bestimmter Entscheidungen auf Grundlage von Hochrisiko-Systemen des Anhangs III mit rechtlichen oder ähnlich erheblichen nachteiligen Auswirkungen; er ist enger als ein allgemeines Anfechtungsrecht für jede KI-unterstützte Rechtsmeinung.

Schweizer Datenschutz und Berufsgeheimnis erfordern eine eigene Prüfung von Daten, Empfängern, Zugriffsrechten und Vertraulichkeit. Für Anwältinnen und Anwälte begründet Art. 13 BGFA ein zeitlich unbegrenztes Berufsgeheimnis über alles, was ihnen infolge ihres Berufes von ihrer Klientschaft anvertraut worden ist, und verpflichtet sie, für dessen Wahrung durch ihre Hilfspersonen zu sorgen. Art. 321 StGB stellt die Offenbarung solcher Geheimnisse durch Anwältinnen, Anwälte und ihre Hilfspersonen unter Strafe. Nach Art. 9 DSG darf eine Bearbeitung nur einem Auftragsbearbeiter übertragen werden, wenn keine gesetzliche oder vertragliche Geheimhaltungspflicht die Übertragung verbietet. Schweizer Hosting allein beantwortet diese Fragen nicht. Prüfen Sie Verträge, Unterauftragsbearbeiter, Auslandbekanntgabe, Trainingsnutzung und mandatsbezogene Zugriffe. Die fachliche Prüfung der Beratung bleibt bei der verantwortlichen Person.

Ein praktischer Entscheidungsnachweis

Prüfen Sie bei recherchierenden Systemen, ob Quellenberechtigungen auch für abgerufene Passagen und erzeugte Antworten gelten. Testen Sie mandatsübergreifende Datenabflüsse, irreführende Belege und Anweisungen in Quelldokumenten. Halten Sie eine manuelle Alternative und offene Fragen fest.

Primärquellen

• Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI), in Kraft seit dem 27. Juli 2026
• KI-Verordnung, konsolidierte Fassung vom 27. Juli 2026: Art. 2, 4, 4a, 5, 6, 9, 10, 11, 16, 25, 26, 27, 43, 49, 50, 51, 86, 111, 113; Anhang III
• DSGVO: Art. 3, 6, 9, 10, 22, 28, 35
• DSG: Art. 9; BGFA: Art. 13; StGB: Art. 321