KI-Risiken: 5 Tipps für den Einsatz von KI im Unternehmen

KI-Kompass für Führungskräfte

Trends, Strategien und Best Practice

ab CHF 78.00

Die KI-Zeitbombe tickt und tickt und tickt

Für die Kaspersky-Studie „Gen AI Business Infiltration“ wurden im vergangenen Jahr (2023) 1.863 Führungskräfte in Grossbritannien, Frankreich, Deutschland, Spanien, Italien, Rumänien, Niederlanden und Griechenland befragt. 250 der Befragten stammten aus Deutschland. Das Ergebnis überrascht – eigentlich nicht wirklich. Mehr als die Hälfte (55,2 Prozent) will KI-Tools für repetitive Aufgaben zukünftig stärker nutzen. Gleichzeitig gehen mehr als die Hälfte (54,8 Prozent) davon aus, dass ihre Mitarbeiter KI längst im Verborgenen, also unkontrolliert, nutzen. „Während unsere Studie zeigt, dass Führungskräfte in den Vorstandsetagen die Verwendung von KI in ihren Unternehmen akzeptieren, ist das Ausmass der Nutzung noch nicht umfassend geklärt. Da die rasante Entwicklung von künstlicher Intelligenz anhält, wird deren unkontrollierte Verwendung immer schwieriger zu kontrollieren und zu sichern. Das gilt in allen wichtigen Unternehmensfunktionen wie HR, Finanzen, Marketing oder sogar dem IT“, so David Emm, Principal Security Reseacher bei Kaspersky. „Bevor die Technologie eingesetzt wird, ist es zwingend erforderlich, dass vor jeder weiteren Integration von generativer KI in die Unternehmensumgebung ein umfassendes Verständnis des Datenmanagements und die Implementierung robuster Richtlinien vorhanden ist.“ (Quelle: https://www.kaspersky.de/about/press-releases/2023_haben-unternehmen-den-einsatz-von-generativer-ki-noch-im-griff. Letzter Zugriff 25.05.2024). 

Die Studie rückt somit viele Aspekte in den Fokus, einer jedoch als Basis: Das eigene Verständnis. Und zu diesem Verständnis gehören auch, endlich konsequent die KI-Risiken ins Visier zu nehmen. Denn, es gibt einige, mit denen Sie sich und Ihre Mitarbeiter auseinandersetzen müssen. 

KI-Risiken im Visier:

• Datenschutz. Wer künstliche Intelligenz einsetzt, verarbeitet jede Menge an Daten. Oft grosse Mengen an Daten, die Datenmissbrauch und Datendiebstahl vereinfachen. Die aber auch eine entscheidende Frage aufpoppen lässt: Welche Unternehmensdaten sind so sensibel, das sie definitiv nicht mit KI verarbeitet werden dürfen - und welche nicht? Sensibilisierung, klare Richtlinien und erhöhte Datensicherheit sind gefordert. 
• Erhöhte Fehleranfälligkeit. Auch KI macht Fehler. Denn KI, wie sie heute im Einsatz ist, lernt nur im Rahmen festgelegter Möglichkeiten. Tritt ein Fehler auf, wurde KI falsch programmiert.
• Unklare Haftung und Verantwortung. Nutzt Ihr Unternehmen KI, ist die Frage der Verantwortung für Fehler, die durch deren Einsatz auftreten, oft nicht geklärt. Ein Beispiel: Wer haftet dafür, wenn KI wichtige Daten leakt? Sie, weil Ihr Unternehmen KI genutzt hat? Oder das Unternehmen, das diese spezielle (Gen) KI entwickelte? 
• (Potenzielle) Rechtsstreitigkeiten über Urheberrechte. KI verarbeitet Daten, nicht nur die Ihres Unternehmens. Da die Quellen nicht genannt werden, sind Sie nie wirklich sicher, wer der eigentliche Urheber ist. Denken Sie nur an die aktuelle Klage von Scarlett Johanssons, die OpenAI beschuldigt, ihre Stimme verwendet zu haben.
• Verbreitung von Fake News. Ohne Quellenangaben können Sie aktuell nie wirklich nachvollziehen, woher die Information und die Daten stammen, die beispielsweise von ChatGPT als Antwort gegeben werden. Sicher, vieles werden Sie korrekt einordnen können, d.h. Sie erkennen: Das ist Nonsens bzw. Das ist korrekt. Manches Mal aber nicht. Entscheidend ist: Können Ihre Mitarbeiter dies immer korrekt einordnen? Laufen Sie dadurch Gefahr, Fake News im Unternehmen zu nutzen oder schlimmer noch, zu deren Verbreitung beizutragen? 
• Diskriminierung. KI verarbeitet die Daten, die Sie bzw. Ihre Mitarbeiter eingeben. Nicht immer geschieht diese Eingabe ungeprüft, auch im Hinblick auf Gleichbehandlung. Wenn zum Beispiel ins HR-Tool alle erfolgreichen Bewerbungen der letzten Jahrzehnte eingegeben werden, ist es kaum verwunderlich, dass die KI auch nur wieder die gleichen Kandidaten zum Vorstellungsgespräch einlädt. Vielleicht nur Männer? Hier ist es wichtig, den Blick auf potenzielle Diskriminierungs-Fallen zu lenken, um unbeabsichtigte Bias (Befangenheit und Voreingenommenheit) zu verhindern.