
Transparenzpflichten: Welche Transparenzpflichten gilt es bei KI-Systemen zu beachten

Passende Arbeitshilfen
Der AI Act hat einen breiten Anwendungsbereich und erfasst verschiedene Risikokategorien von KI-Systemen, aber auch KI-Modelle mit allgemeinem Verwendungszweck (sog. «general purpose AI»). Je nach Kategorie finden umfangreichere Anforderungen und Pflichten Anwendung. Bestimmte KI-Systeme werden vom AI Act sogar verboten. Unabhängig von der Risikokategorisierung von KI-Systemen gelten aber Transparenzpflichten für Anbieter und Anwender von KI-Systemen. Diese allgemeinen Transparenzbestimmungen werden für Hochrisiko-KI-Systeme zudem noch um umfassendere Transparenzpflichten ergänzt.
Allgemeine Transparenzpflichten
Wenn ein KI-System (z.B. ein Chatbot oder ein virtueller Assistent) mit Menschen interagiert oder gar dessen Emotionen oder Merkmale durch automatisierte Mittel erkennt, hat der Anbieter gegenüber den betroffenen Personen zeitnah klar und verständlich über das KI-System zu informieren. Das KI-System kann dabei so konzipiert oder entwickelt werden, dass dieses die Informationspflicht selbst erfüllt. Soweit dies angemessen und relevant ist, muss im Rahmen dieser Information auch angegeben werden, welche Funktionen und Entscheide von der KI wahrgenommen bzw. getroffen werden. Zudem sind den Menschen, welche die KI nutzen, auch deren Rechte sowie allfällige Beschwerdemöglichkeiten bzw. Rechtsmittel aufzuzeigen. Diese allgemeine Transparenzpflicht ist unabhängig von der Risikokategorie, da unabhängig von der Risikokategorie die Gefahr der Nachahmung oder Täuschung besteht. Selbstverständlich sieht der AI Act auch hierzu Ausnahmen insbesondere in Bezug auf Bedürfnisse im Rahmen der Strafverfolgung vor.
Der Kern der Informationspflicht liegt in der Bekanntgabe der Information, dass es sich um ein KI-System handelt. Ferner müssen natürliche Personen darüber benachrichtigt werden, wenn das KI-System biometrische Daten, Gefühle oder Absichten dieser Personen erkennen oder ableiten oder sie bestimmten Kategorien (z.B. Geschlecht, Alter, Haarfarbe, Augenfarbe, ethnische Herkunft, persönliche Vorliegen und Interessen) zuordnen kann.
Ausnahmsweise kann von der Informationspflicht abgesehen werden, wenn es aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass es sich um ein KI-System handelt. Bei dieser Beurteilung ist die Zielgruppe und deren individuellen Bedürfnisse (z.B. Alter oder Behinderung) zu berücksichtigen.
Die allgemeine Transparenzpflicht regelt zudem KI-Systeme, die Bild-, Ton- oder Videoinhalte erzeugen oder manipulieren können, damit diese wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden («Deepfake»).
Auch hier ist offenzulegen, dass es sich um ein Deepfake handelt und das Werk dementsprechend ein künstlicher Ursprung hat. Ferner ist eine entsprechende Kennzeichnung anzubringen. Die Kennzeichnung kann zum Beispiel durch ein Wasserzeichen erfolgen, wobei auch die Kennzeichnung mit dem technischen Fortschritt einherzugehen hat. Das Ziel dieser Information- und Kennzeichnungspflicht liegt darin, dass Fehlinformationen, Manipulationen, Betrug oder Verbrauchertäuschung verhindert werden, um langfristig die Integrität und das Vertrauen in das Informationsökosystem zu erhalten sowie die demokratischen Prozesse, den zivilgesellschaftlichen Diskurs und Wahlprozesse nicht durch Desinformation zu gefährden. Von dieser Transparenzpflicht ausgenommen sind allerdings Deepfakes mit dem Zweck der Aufdeckung, Verhütung, Ermittlung und Verfolgung von Straftaten oder wenn diese im Rahmen der freien Meinungsäusserung und der Freiheit der Kunst oder Wissenschaft erforderlich sind oder erstellt werden. Es ist nicht gewollt, dass Inhalte von offen-sichtlich kreativen, satirischen, künstlerischen, fiktionalen oder analogen Werken eingeschränkt werden. In diesen Fällen sind aber dennoch geeignete Schutzmassnahmen für die Wahrung der Rechte und Freiheiten Dritter zu ergreifen. Ein angemessener Hinweis auf das Vorhandenseins solcher künstlich generierten oder manipulierter Inhalte, welcher die Darstellung oder den Genuss des Werks nicht einschränkt, ist voraussichtlich angemessen.
Die Informationen sind jeweils spätestens im Zeitpunkt der ersten Interaktion oder des ersten Kontakts mit den zur Verfügung gestellten Inhalten bereitzustellen. Diese Informationen und Kennzeichnungen sind ferner altersgerecht und in einem für Menschen mit Behinderung zugänglichen Format darzustellen.
Jetzt weiterlesen mit 
- Unlimitierter Zugriff auf über 1100 Arbeitshilfen
- Alle kostenpflichtigen Beiträge auf weka.ch frei
- Täglich aktualisiert
- Wöchentlich neue Beiträge und Arbeitshilfen
- Exklusive Spezialangebote
- Seminargutscheine
- Einladungen für Live-Webinare