KI-Anwendungen: Risikomanagement in Zeiten der künstlichen Intelligenz

In einer Welt, die von zunehmender Unsicherheit und schnellem technologischen Fortschritt geprägt ist, wird effektives Risikomanagement für Unternehmen immer wichtiger. Welche Chancen und Gefahren sich im Zusammenhang mit künstlicher Intelligenz ergeben und welches Potenzial sich im Bereich Risikomanagement selbst durch die neue Technologie und KI-Anwendungen eröffnet, soll dieser Artikel beleuchten.

04.02.2025 Von: Simon Schneiter
KI-Anwendungen

Als die NZZ Ende 2023 den Ex-Open-AI-Manager Zack Kass nach dem Potenzial von künstlicher Intelligenz (KI) gefragt hat, sprach dieser von unendlichen Energiequellen und Superintelligenz, welche dazu führen würden, dass die Kosten von Gütern gegen null streben werden und wir alle Krankheiten heilen könnten. Von diesem Zustand sind wir aktuell noch ein gutes Stück entfernt und dennoch hat KI bereits einen bleibenden Eindruck hinterlassen.

Neue Chancen dank KI-Anwendungen

Wir erleben bereits seit einigen Jahren, wie künstliche Intelligenz in Alltag und Arbeitswelt immer mehr zum Einsatz kommt. KI hilft bei der Diagnose von Krankheiten, vereitelt Finanzbetrug, optimiert Lagerbewirtschaftung und liefert die individuell passendste Werbung auf die Bildschirme. Generative KI sorgt dafür, dass Sprachübersetzungen nicht mehr Tage dauern, sondern praktisch simultan erfolgen können und passende Inhalte in Text, Ton und Bild in kürzester Zeit erstellt werden können. 

KI-Anwendungen sind vielfältig und werden in Zukunft bestimmt noch vielfältiger. Ihr Einsatzzweck reicht von Forschung und Entwicklung über Produktion bis zu Marketing und Public Relations. Durch die Kopplung von Robotik und KI, welche bereits heute stattfindet, werden sich zudem immer mehr Anwendungsfelder im Bereich physischer Arbeiten erschliessen. Unternehmen, welche entsprechende Chancen frühzeitig nutzen, können sich einen Wettbewerbsvorteil schaffen, sofern sie auch die Gefahren entsprechen managen.

Neue Gefahren

Trat künstliche Intelligenz bis vor einiger Zeit vor allem als integrierter Teil geschlossener Produkte oder als Anwendung für eher kleine Nutzergruppen in Erscheinung, so sehen wir uns mit einem neuen Phänomen konfrontiert. Internetnutzer weltweit haben Zugriff auf oft kostenlose Tools, welche mittels künstlicher Intelligenz Text, Bild und Ton analysieren und erzeugen können. Die Einstiegshürden sind minimal und viele Anwender realisieren gar nicht, dass sie Daten an ein Drittunternehmen bekannt geben. Dies ist im Unternehmenskontext jedoch mit Gefahren verbunden.

Ein Gesetzesverstoss ist in Zeiten von Datenschutzgesetzen, Informationssicherheitsgesetz (ISG) und NIS2 schnell begangen, wenn Daten ohne entsprechende Rahmenbedingungen und Überprüfungen Dritten anvertraut werden. Zudem hat die EU vor Kurzem mit dem AI-Act explizite Spielregeln für die Entwicklung und den Einsatz von künstlicher Intelligenz erlassen.

Daneben gibt es Bedenken im Hinblick auf den Schutz von Geschäftsgeheimnissen. Werden Daten für das Training einer KI genutzt, könnten sie auch ungewollt an Dritte abfliessen. Auch wenn Input-Daten nicht fürs Training genutzt werden, können diese durch den Anbieter selbst missbraucht werden oder im Zuge eines Datenlecks an die Öffentlichkeit oder Konkurrenz gelangen. Über die Sicherheitsvorkehrungen aufseiten der meisten Anbieter ist wenig bekannt und negative Schlagzeilen gab es bereits einige. Die Gefahr mit dem Datenleck besteht zudem auch, wenn entsprechende KI-Anwendungen lokal betrieben werden. Sind vertrauliche Informationen erst einmal erfasst, können diese auch an Mitarbeitende ausgeplaudert werden, die nicht über die notwendigen Berechtigungen verfügen.

Eine weitere Gefahr entsteht durch die sogenannten Halluzinationen. Generative KI kann fehlerhafte Texte schreiben, welche absolut korrekt klingen. Wenn Unternehmen entsprechende Inhalte ungeprüft nutzen, riskieren sie einen Reputationsschaden oder gar schlimmeres.

Klar formulierte Vorgaben, Schulungen und Sensibilisierungskampagnen können helfen, ebenso wie technologische Ansätze. Initial müssen Unternehmen aber Klarheit darüber gewinnen, ob und wie sie generative KI für die Arbeit nutzen oder zulassen möchten. Diese Diskussion muss geführt werden. Idealerweise wird sie informiert geführt, d. h. auf Basis einer Erhebung der aktuellen Nutzung und Einsatzwünsche sowie unter Berücksichtigung von Chancen und Gefahren.

Umgang mit generativer KI im KMU

  • Übersicht gewinnen: Herausfinden, wo bereits mit generativer KI gearbeitet wird und welche Wünsche diesbezüglich existieren.
  • Strategie/Konzept definieren: Festlegen, wie im Unternehmen mit ChatGPT & Co. umgegangen werden soll und wie dies durchgesetzt werden kann. Chancen und Gefahren anhand konkreter Use Cases diskutieren und abwägen.
  • Umsetzung: Mittels verständlicher Vorgaben, Schulungen und Sensibilisierung, Prozessanpassungen, technischen Lösungen und allfälligem Monitoring gilt es, die Nutzung von generativer KI in die gewünschten Bahnen zu lenken. 

Tipp: Auch bei eher restriktiven Ansätzen kann es sich lohnen, innerhalb definierter Schranken Experimente zuzulassen.

Und schlussendlich nutzen auch Kriminelle die Vorteile von künstlicher Intelligenz. Optimierte Phishing-Mails, Deepfake-Videos und Schock-Anrufe mittels Voice-Cloning sind nur einige der bekanntesten Beispiele, über welche Mitarbeitende aufgeklärt werden sollten.

Neue Möglichkeiten des Risikomanagements

Mit künstlicher Intelligenz lässt sich auch das Risikomanagement an sich optimieren. In den Bereichen Risikoidentifikation, Risikoanalyse und Risikobehandlung bietet sich einiges Potenzial dazu.

Eine der bemerkenswertesten Fähigkeiten von KI ist ihre Fähigkeit, grosse Datenmengen in Echtzeit zu analysieren und Muster zu erkennen, die auf potenzielle Risiken hinweisen. Durch den Einsatz von Algorithmen des maschinellen Lernens können Unternehmen Anomalien in Finanztransaktionen, Lieferketten oder IT-Systemen frühzeitig erkennen. Dies ermöglicht es, präventive Massnahmen zu ergreifen, bevor ein Risiko zu einem ernsthaften Problem eskaliert. Solche Modelle basieren meist auf dem Vergleich einer grossen Menge an historischen Daten mit aktuellen Inputs und werden unter dem Begriff «Predictive Analytics» zusammengefasst. 

Dieselben Fähigkeiten der KI helfen jedoch nicht nur bei der Identifikation von Risiken, sondern auch bei deren Bewertung. So werden etwa in modernen IT-Sicherheitssystemen verdächtige Aktivitäten mithilfe entsprechender Algorithmen analysiert und bewertet. Ähnliche Funktionen werden auch in anderen Bereichen bereits eingesetzt.

Der Einsatz künstlicher Intelligenz im Risikomanagement kann jedoch noch einen Schritt weitergehen und automatisierte Aktionen zur Risikobehandlung auslösen. Finanztransaktionen können präventiv blockiert, Computer vom Netzwerk isoliert, Nutzerkonten deaktiviert und ein Bremspedal betätigt werden.

Mit der generativen KI kommen zusätzliche Möglichkeiten der Effizienzsteigerung dazu. Chatbots lassen sich im Kontext der Risikoidentifikation und -analyse einsetzen. Algorithmen können Texte, Audiodateien und visuellen Input analysieren und dadurch zur Identifikation und Analyse beitragen. Die automatisierte Analyse von Medienberichten und Überwachung von sozialen Medien wird heute bereits zur Identifikation von Risiken eingesetzt. Ausserdem lässt sich der Bereich der Berichterstattung weitgehend automatisieren und somit ohne viel Aufwand stufen- und empfängergerechtes Risk Reporting etablieren.

Bei all diesen Möglichkeiten gilt es jedoch die entsprechenden Herausforderungen nicht zu vergessen. So kann die fehlende Transparenz komplexer Berechnungen zu mangelndem Verständnis für die Ergebnisse und zu Bedenken bezüglich der Rechenschaftspflicht führen. Komplexität und Aufwand einer wertstiftenden Integration entsprechender Modelle dürfen zudem nicht unterschätzt werden, insbesondere dann, wenn es gilt, eigene unbereinigte Datenquellen zu verwenden. Das Prinzip «Bullshit in, Bullshit out» gilt für KI ganz besonders. Die Sicherstellung hoher Datenqualität ist dementsprechend von grundlegender Bedeutung. Zudem sollten Feedback-Schleifen implementiert werden, um die Modelle stetig zu verbessern.

Fazit

Anwendungen künstlicher Intelligenz gewinnen zunehmend an Bedeutung. Die Chancen und Gefahren sind vielfältig. Unternehmen sollten aktuelle Einsatzzwecke analysieren, ihren Umgang mit dem Thema definieren und entsprechende Massnahmen umsetzen. Dabei kann es sich anbieten, auch die Risikomanagementprozesse mittels KI zu optimieren.

Newsletter W+ abonnieren