Weka Plus

KI-Verordnung: Schweizer Unternehmen im Blickpunkt der KI-Verordnung

Am 2. August 2024 trat die Europäische Verordnung über Künstliche Intelligenz («KI») in Kraft und wurde abgestuft: Überwiegend gilt sie angesichts einer Übergangszeit von zwei Jahren ab dem 2. August 2026, wobei einige Bestimmungen, etwa die Vorschriften zu den verbotenen Praktiken im KI-Bereich, bereits am 2. Februar 2025 Geltung erlangen. Sanktionsbewehrt ist dieses Verbot wiederum ab dem 2. August 2025. Provider von Hochrisiko-KI-Systemen profitieren von einer Übergangsfrist von drei Jahren bis zum 1. August 2027. Auch wenn diese Fristen auf den ersten Blick noch lang erscheinen mögen, sollten auch Schweizer Unternehmen, welche KI bereits jetzt einsetzen oder in naher Zukunft einzusetzen beabsichtigen, möglichst führzeitig wichtige Weichen für die Zukunft stellen. Denn die Verwendung von KI, insbesondere von Large Language Models («LLMs»), kann zahlreiche datenschutzrechtliche Implikationen haben und rechtliche Fragen aufwerfen, die teilweise bislang nicht abschliessend bezüglich KI-Verordnung geklärt sind.

14.01.2025 Von: Julia Nitschke, Dirk Spacek
KI-Verordnung

Ist die KI-Verordnung überhaupt auf Schweizer Unternehmen anwendbar?

Grundsätzlich ist die KI-Verordnung («KI-VO») für Unternehmen im Nicht-EU-Mitgliedstaat Schweiz nicht verbindlich. Die KI-VO wird jedoch auch weitreichende extraterritoriale Auswirkungen haben, was insbesondere der Fall sein kann bei grösseren KI-Projekten mit EU-Bezug, etwa wenn das Unternehmen mit Sitz in der Schweiz KI-Systeme in der EU in Verkehr bringen möchte oder die Auswertungsergebnisse in der EU verwertet werden sollen, oder aber – und dies dürfte in der Praxis häufig der Fall sein – Personen, die sich in der EU befinden, von den KI-Systemen betroffen sind.

Wie greifen die Regelungen der KI-Verordnung und der einschlägigen Datenschutzgesetze ineinander?

Soweit die Verwendung des KI-Systems die Bearbeitung von Personendaten umfasst, was zu prüfen ist (dazu später), gelten die datenschutzrechtlichen Pflichten der KI-System-Provider in ihrer Rolle als Verantwortliche oder Auftragsverarbeiter weiterhin. Dies umfasst insbesondere die geltenden Grundsätze der Datenminimierung und des Datenschutzes durch Technikgestaltung und Voreinstellungen (Privacy by Design und Privacy by Default). Der Schutz der Personendaten muss von den KI-System-Providern während des gesamten Lebenszyklus des KI-Systems sichergestellt werden. Im Falle eines Einsatzes von KI-Systemen gelten die Regelungen der KI-VO, u.a. die speziellen Anforderungen an die Daten-Governance, "on top". 

Welche Daten bearbeitet das KI-System? 

Zunächst muss die Unternehmensführung Überlegungen darüber anstellen, welche KI-Systeme für welche Anwendungsbereiche eingesetzt werden sollen. Dabei ist zu beachten, dass im Anwendungsbereich der KI-VO ab dem 2. Februar 2025 diverse Praktiken verboten oder nur unter sehr engen Ausnahmebestimmungen zulässig sind, so etwa das "Social Scoring" oder die biometrische Echtzeitüberwachung öffentlich zugänglicher Räume. 

Anschliessend sollte festgestellt werden, ob und wenn ja welche (Personen-)Daten und Datenbearbeitungen dafür notwendig sind. Die Beantwortung dieser Frage ist von den vom Unternehmen festgelegten Anwendungsbereichen und der Funktionsweise des KI-Systems abhängig und kann nicht pauschal erfolgen. Es ist dabei von entscheidender Bedeutung, dass sich das Unternehmen ein tiefgreifendes Verständnis der zugrunde liegenden Lernmethoden, Technologien und Systeme angeeignet hat.

Die KI-VO definiert "KI-System" als ein "maschinengestütztes System, das für einen in unterschiedlichem Grade autonomen Betrieb ausgelegt ist (…) und das aus den erhaltenen Eingaben für explizite oder implizite Ziele ableitet, wie Ausgaben (…) erstellt werden, die physische oder virtuelle Umgebungen beeinflussen können". Ein KI-System besteht aus mehreren Komponenten, wobei ein LLM eine solche Komponenten darstellen kann. Eine Datenbearbeitung findet dabei regelmässig nicht nur durch das LLM, sondern auch durch weitere Komponenten (wie Schnittstellen oder Filter) statt. Die technischen Aspekte von LLMs und ihre Bewertung im Lichte der Rechtsprechung des Schweizer Bundesgerichts sowie des Europäischen Gerichtshofs zum Begriff der Personendaten lassen den Schluss zu, dass im LLM in der Regel keine Personendaten gespeichert werden, was in der Schweizer und internationalen Datenschutzszene aktuell kontrovers diskutiert wird. Begründet wird dies vereinfacht gesagt u.a. damit, dass selbst wenn Trainingsdaten einmal Personendaten enthielten, sie im Prozess des maschinellen Lernens in Sprachfragmente («Token») transformiert würden, sodass sie nicht mehr als solche rekonstruierbar seien. Diese Sprachfragmente würden sich nicht (mehr) auf eine bestimmte oder bestimmbare natürliche Person beziehen, wie es das Schweizer Datenschutzgesetz («DSG») und die Europäische Datenschutz-Grundverordnung («DSGVO») vorsieht. Klarer gestaltet sich die Rechtslage in dem Fall, wenn sich ein Unternehmen entscheiden sollte, das LLM mit Personendaten für einen konkreten Nutzungszweck «nachzutrainieren». Bei diesen Datenbearbeitungen muss das Unternehmen die datenschutzrechtlichen Rahmenbedingungen einhalten, u.a. die Personendaten rechtmässig, nur für den bestimmten und für den informierten Betroffenen erkennbaren Zweck und verhältnismässig bearbeiten und darüber hinaus sicherstellen, dass die Betroffenenrechte erfüllt werden können. Selbst wenn in den Inputs Namen und Anschriften der Betroffenen entfernt werden, sind zahlreiche KI-Systeme durch die Herstellung von Querbezügen in der Lage, einen Personenbezug zu betroffenen Personen herzustellen, sodass die dahingehende Funktionsweise des KI-Systems mit dem jeweiligen Provider dezidiert analysiert werden muss. Nur sofern mit Sicherheit ausgeschlossen werden kann, dass Personendaten bearbeitet werden, sind die datenschutzrechtlichen Bestimmungen nicht anwendbar.

Jetzt weiterlesen mit Weka+

  • Unlimitierter Zugriff auf über 1100 Arbeitshilfen
  • Alle kostenpflichtigen Beiträge auf weka.ch frei
  • Täglich aktualisiert
  • Wöchentlich neue Beiträge und Arbeitshilfen
  • Exklusive Spezialangebote
  • Seminargutscheine
  • Einladungen für Live-Webinare
ab CHF 24.80 pro Monat Jetzt abonnieren Sie haben schon ein W+ Abo? Hier anmelden
Newsletter W+ abonnieren