Weka Plus

Transparenzpflichten: Welche Transparenzpflichten gilt es bei KI-Systemen zu beachten

In vielen Zeitungen und auf den Sozialen Medien liest man im Moment über die Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte der Union (nachstehend «AI Act») und deren weitreichende Auswirkung auf alle in Europa aktiven Unternehmen. Regelmässig wird dabei auf die Kategorisierung von verschiedenen KI-Systemen eingegangen, doch welche konkreten Pflichten sich durch eine Unterstellung ergeben, wir oft nicht erläutert. Eine der Pflichten, die sich aus dem AI Act ergeben, ist jene der Pflicht zur Transparenz. Was dies für Ihr Unternehmen bedeutet und wie Sie diese Transparenzpflichten umsetzen können, lesen Sie nachstehend.

04.02.2025 Von: Cornelia Mattig
Transparenzpflichten

Der AI Act hat einen breiten Anwendungsbereich und erfasst verschiedene Risikokategorien von KI-Systemen, aber auch KI-Modelle mit allgemeinem Verwendungszweck (sog. «general purpose AI»). Je nach Kategorie finden umfangreichere Anforderungen und Pflichten Anwendung. Bestimmte KI-Systeme werden vom AI Act sogar verboten. Unabhängig von der Risikokategorisierung von KI-Systemen gelten aber Transparenzpflichten für Anbieter und Anwender von KI-Systemen. Diese allgemeinen Transparenzbestimmungen werden für Hochrisiko-KI-Systeme zudem noch um umfassendere Transparenzpflichten ergänzt.

Allgemeine Transparenzpflichten

Wenn ein KI-System (z.B. ein Chatbot oder ein virtueller Assistent) mit Menschen interagiert oder gar dessen Emotionen oder Merkmale durch automatisierte Mittel erkennt, hat der Anbieter gegenüber den betroffenen Personen zeitnah klar und verständlich über das KI-System zu informieren. Das KI-System kann dabei so konzipiert oder entwickelt werden, dass dieses die Informationspflicht selbst erfüllt. Soweit dies angemessen und relevant ist, muss im Rahmen dieser Information auch angegeben werden, welche Funktionen und Entscheide von der KI wahrgenommen bzw. getroffen werden. Zudem sind den Menschen, welche die KI nutzen, auch deren Rechte sowie allfällige Beschwerdemöglichkeiten bzw. Rechtsmittel aufzuzeigen. Diese allgemeine Transparenzpflicht ist unabhängig von der Risikokategorie, da unabhängig von der Risikokategorie die Gefahr der Nachahmung oder Täuschung besteht. Selbstverständlich sieht der AI Act auch hierzu Ausnahmen insbesondere in Bezug auf Bedürfnisse im Rahmen der Strafverfolgung vor.

Der Kern der Informationspflicht liegt in der Bekanntgabe der Information, dass es sich um ein KI-System handelt. Ferner müssen natürliche Personen darüber benachrichtigt werden, wenn das KI-System biometrische Daten, Gefühle oder Absichten dieser Personen erkennen oder ableiten oder sie bestimmten Kategorien (z.B. Geschlecht, Alter, Haarfarbe, Augenfarbe, ethnische Herkunft, persönliche Vorliegen und Interessen) zuordnen kann.

Ausnahmsweise kann von der Informationspflicht abgesehen werden, wenn es aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass es sich um ein KI-System handelt. Bei dieser Beurteilung ist die Zielgruppe und deren individuellen Bedürfnisse (z.B. Alter oder Behinderung) zu berücksichtigen.

Die allgemeine Transparenzpflicht regelt zudem KI-Systeme, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren können, damit diese wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden («Deepfake»).

Auch hier ist offenzulegen, dass es sich um ein Deepfake handelt und das Werk dementsprechend ein künstlicher Ursprung hat. Ferner ist eine entsprechende Kennzeichnung anzubringen. Die Kennzeichnung kann zum Beispiel durch ein Wasserzeichen erfolgen, wobei auch die Kennzeichnung mit dem technischen Fortschritt einherzugehen hat. Das Ziel dieser Information- und Kennzeichnungspflicht liegt darin, dass Fehlinformationen, Manipulationen, Betrug oder Verbrauchertäuschung verhindert werden, um langfristig die Integrität und das Vertrauen in das Informationsökosystem zu erhalten sowie die demokratischen Prozesse, den zivilgesellschaftlichen Diskurs und Wahlprozesse nicht durch Desinformation zu gefährden. Von dieser Transparenzpflicht ausgenommen sind allerdings Deepfakes mit dem Zweck der Aufdeckung, Verhütung, Ermittlung und Verfolgung von Straftaten oder wenn diese im Rahmen der freien Meinungsäusserung und der Freiheit der Kunst oder Wissenschaft erforderlich sind oder erstellt werden. Es ist nicht gewollt, dass Inhalte von offen-sichtlich kreativen, satirischen, künstlerischen, fiktionalen oder analogen Werken eingeschränkt werden. In diesen Fällen sind aber dennoch geeignete Schutzmassnahmen für die Wahrung der Rechte und Freiheiten Dritter zu ergreifen. Ein angemessener Hinweis auf das Vorhandenseins solcher künstlich generierten oder manipulierter Inhalte, welcher die Darstellung oder den Genuss des Werks nicht einschränkt, ist voraussichtlich angemessen.

Die Informationen sind jeweils spätestens im Zeitpunkt der ersten Interaktion oder des ersten Kontakts mit den zur Verfügung gestellten Inhalten bereitzustellen. Diese Informationen und Kennzeichnungen sind ferner altersgerecht und in einem für Menschen mit Behinderung zugänglichen Format darzustellen.

Jetzt weiterlesen mit Weka+

  • Unlimitierter Zugriff auf über 1100 Arbeitshilfen
  • Alle kostenpflichtigen Beiträge auf weka.ch frei
  • Täglich aktualisiert
  • Wöchentlich neue Beiträge und Arbeitshilfen
  • Exklusive Spezialangebote
  • Seminargutscheine
  • Einladungen für Live-Webinare
ab CHF 24.80 pro Monat Jetzt abonnieren Sie haben schon ein W+ Abo? Hier anmelden
Newsletter W+ abonnieren