Risques liés à l'IA: Cinq conseils concernant l'utilisation de l'IA dans l'entreprise

L'intelligence artificielle à l'œuvre

L'IA générative (Gen AI) n'est pas seulement sur toutes les lèvres, elle est aussi largement utilisée depuis un certain temps déjà. Il en va certainement de même dans votre entreprise. En effet, à première vue, les avantages offerts par l'IA générative semblent clairement l’emporter à tous égards :

• Google Gemini (anciennement Google Bard), qui permet de traduire et d'écrire du texte
• ChatGPT, qui répond aux questions (souvent correctement, d’ailleurs !), écrit des textes et génère de nouveaux formats de texte,
• bHuman par lequel des vidéomessages de masse et personnalisés sont rendus possibles
• Compose AI, qui permet de répondre aux courriels plus rapidement
• Descript Overdub, qui permet de reproduire à l'identique sa propre voix pour des enregistrements audio et vidéo
• Durable, qui construit des sites web avec un design adapté, des images, des textes et un formulaire de contact en 30 secondes.

Le cœur de l'entrepreneur bat dès lors à tout rompre. La Gen AI offre une multitude de merveilleuses options d'utilisation définitivement avantageuses au niveau de la production ainsi que de nombreuses solutions à des problèmes tels que la pénurie de main-d'œuvre qualifiée. Malgré tout, il y péril en la demeure.

La bombe à retardement «IA» fait tic-tac, tic-tac…

L'étude Kaspersky « Gen AI Business Infiltration » a été réalisée l'année dernière (2023) auprès de 1'863 cadres supérieurs au Royaume-Uni, en France, en Allemagne, en Espagne, en Italie, en Roumanie, aux Pays-Bas et en Grèce. 250 des personnes interrogées étaient originaires d'Allemagne. Le résultat est-il surprenant ? En fait, pas vraiment. Plus de la moitié du panel (55,2 %) souhaite utiliser davantage, à l'avenir, les outils d'IA pour exécuter des tâches répétitives. En même temps, plus de la moitié du même panel (54,8 pour cent) part du principe que la plupart des collaborateurs utilisent depuis longtemps l'IA de manière cachée, c'est-à-dire sans être contrôlés. « Alors que notre étude montre que les cadres supérieurs acceptent l'utilisation de l'IA dans leur entreprise, l'ampleur de cette utilisation n'est pas encore entièrement clarifiée. Comme le développement rapide de l'intelligence artificielle se poursuit, son utilisation incontrôlée devient de plus en plus difficile à contenir et à sécuriser. C'est vrai dans toutes les fonctions importantes de l'entreprise, comme les RH, les finances, le marketing ou même l'informatique », explique David Emm, Principal Security Reseacher chez Kaspersky. « Avant de déployer telle ou telle technologie, il est impératif de bien comprendre la gestion des données et de mettre en place des politiques robustes avant toute nouvelle intégration de l'IA générative dans l'environnement de l'entreprise ». (Source: https://www.kaspersky.de/about/press-releases/2023_haben-unternehmen-den-einsatz-von-generativer-ki-noch-im-griff. Etat au 25.05.2024). 

L'étude jette donc la lumière sur différents aspects du problème. Il y en a toutefois un qui lui sert de base : la compréhension individuelle de ce phénomène. Et cette compréhension implique aussi de cibler de manière conséquente les risques liés à l'IA. Il en existe quelques-uns, et vous et vos collaborateurs devrez y faire face.

Risques liés à l’IA en ligne de mire:

• La protection des données. L'utilisation de l'intelligence artificielle implique le traitement d'une grande quantité de données qui facilite l'abus et le vol de ces dernières. Cela soulève aussi une question cruciale : quelles données d'entreprise sont-elles à ce point sensibles qu'elles ne peuvent en tout état de cause pas être traitées par l'IA - et lesquelles peuvent l'être ? La sensibilisation de vos collaborateurs, des directives claires et une sécurité accrue des données sont absolument nécessaires.
• Un risque d'erreur accru. L'IA aussi commet des erreurs. L'IA, telle qu'elle est utilisée aujourd'hui, n'apprend que dans le cadre de possibilités bien définies. Si une erreur se produit, cela signifie que l'IA a été mal programmée.
• Une responsabilité floue. Si votre entreprise utilise une IA, la question de la responsabilité des erreurs qui surviennent suite à son utilisation n'est souvent pas des plus limpides. En voici un exemple : qui est responsable si l'IA divulgue des données importantes ? Vous, parce que votre entreprise a utilisé l'IA, ou alors l'entreprise qui a développé l'IA (générative) en question ?
• Les litiges (potentiels) en matière de droits d'auteur. L'IA traite de nombreuses données, et pas seulement celles de votre entreprise. Comme les sources ne sont pas mentionnées, vous n'êtes jamais vraiment sûr(e) de l'identité de leur véritable auteur. Il suffit de penser à l'actuel procès intenté par Scarlett Johansson, qui accuse OpenAI d'avoir utilisé sa voix.
• La diffusion de fausses nouvelles (fake news). Sans indication de leur(s) source(s), vous ne pourrez jamais vraiment comprendre d'où proviennent les informations et les données fournies par ChatGPT en guise de réponse. Bien sûr, vous pourrez classer correctement de nombreuses informations, c'est-à-dire que vous les reconnaîtrez : nonsensiques ou correctes. Mais pas toujours. L'essentiel est de savoir si vos collaborateurs sont toujours capables de les étiqueter correctement. Vous risquerez-vous à faire courir des fake news au sein de votre entreprise ou, pire encore, à contribuer à leur propagation ?
• La discrimination. L'IA traite les données que vous ou vos collaborateurs introduisent. Cette saisie n'est pas toujours vérifiée, notamment en ce qui concerne l'égalité de traitement. Si, par exemple, toutes les candidatures retenues au cours des dernières décennies sont introduites dans l'outil RH, il n'est guère surprenant que l'IA n'invite que les mêmes candidats à un entretien d'embauche. Peut-être seulement des hommes ? Dans ce cas, il est important d'attirer l'attention sur les pièges potentiels de la discrimination afin d'éviter les biais involontaires (partialité et préjugés).

Minimiser les risques liés à l’IA : cinq conseils pratiques 

L'IA générative évolue en permanence. Le regard que l'on porte sur l'utilisation de l'IA dans l'entreprise devrait donc lui aussi se renouveler en permanence. Déterminez la fréquence à laquelle l'IA utilisée dans l'entreprise doit être contrôlée. Vous renforcerez ainsi conjointement assurance qualité et protection des données.

Conseil n° 1: suivre l'utilisation de l'IA à la trace

Votre entreprise a recours à l'IA, cela ne fait aucun doute. Rien que lorsque votre collaborateur fait des recherches sur Internet pour une présentation ou un rapport, il est en contact avec l'IA. En effet, les réponses aux questions posées sont bien souvent des réponses d'IA. Posez-vous alors deux questions:

• Dans quels domaines l'IA est-elle, à votre connaissance, explicitement utilisée - et de quelle manière ?
• Dans quels domaines l'IA est-elle utilisée à votre insu – quels sont vos soupçons ?

Cherchez les réponses. Obtenez une vue d'ensemble de l'utilisation de l'IA au sein de votre entreprise.

Conseil n° 2: définir le degré de sensibilité des données

Votre entreprise génère beaucoup de données, des quantités abracadabrantesques de données. Sur vos clients et leurs commandes. Sur vos collaborateurs. Sur vos fournisseurs. Sur vos partenaires commerciaux. Sur les productions, les processus de travail, les tâches, les investissements et les projets d'avenir. Rares sont les données qui peuvent être divulguées à l'extérieur. La protection des données est de mise comme jamais.

Il faut donc savoir à tout prix:

• quelles données doivent être protégées 
• quelles données ne doivent jamais être utilisées par des outils d'IA
• quelles données anonymisées ou généralisées peuvent être injectées dans les outils IA
• quelles données peuvent être communiquées à l'extérieur

Conseil n° 3: mieux contrôler la gestion des données

La mise en réseau des données au sein de l'entreprise est importante et permet d'optimiser les processus de travail, de traiter les demandes des clients de manière plus satisfaisante et d'augmenter la productivité. Toutefois, cela augmente également le risque de perte incontrôlée de données. Il est important, pour cette raison précise, de savoir:

• qui a accès à quelles données et informations et quand ? 
• comment les données sont-elles actuellement contrôlées dans votre entreprise ?
• comment le flux de données est-il géré ?
• quelles ont été les failles de sécurité détectées par le passé ?
• quels risques peuvent survenir (ou sont déjà survenus), notamment en ce qui concerne l'utilisation de l'IA ?
• comment la gestion des données doit-elle être améliorée ?

Conseil n° 4: édicter règles et directives

Des directives claires sont indispensables dans le cadre de l'utilisation d'une IA. Examinez les règles existantes qui ont jusqu'à présent servi de repères à vos collaborateurs et demandez-vous donc:

• Y a-t-il des faiblesses dans ces dernières parce que l'IA a évolué ? 
• Y a-t-il des domaines d'utilisation de l'IA qui n'y sont pas du tout pris en compte ?
• Quelles sont les questions et/ou les problèmes que vos collaborateurs vous adressent lorsqu'il s'agit de l'utilisation de l'IA ? 
• Quelles sont les nouvelles directives qui doivent dès lors être intégrées ?

Conseil n° 5: améliorer la transparence

Montrez dans quels domaines de l'entreprise et dans le cadre de quels processus vous utilisez des outils d'IA générative. Renforcez ainsi la confiance de vos clients, collaborateurs, partenaires commerciaux et parties prenantes qui se demandent peut-être : « Est-ce un chatbot qui vient de me répondre ? Ou alors est-ce un collaborateur auquel je peux m'adresser personnellement en tant qu'interlocuteur ? Ce dernier élément est une composante vitale en vue de la fidélisation de votre clientèle.