Éthique dans l'IA générative : motifs de préoccupations et solutions pour les entreprises

La technologie de l'IA générative gagne en popularité, mais les entreprises suivent-elles des directives pour réglementer son utilisation? GetApp a interrogé 103 employés québécois qui se servent des applications de l'IA générative afin de connaître leur avis sur ces outils et sur la manière d'en tirer le meilleur parti.

Si les capacités de la technologie de l'IA générative offrent des possibilités considérables, elles suscitent également quelques inquiétudes. Selon une étude de Gartner, 70 % des organisations considèrent l'utilisation éthique et durable de l'IA (article en anglais) comme l'une de leurs principales préoccupations.

Une approche responsable de la mise en place de la technologie de l'IA générative permet aux organisations d'établir un rapport de confiance avec leurs employés, les parties prenantes et les clients. Alors que le Canada n'a pas encore adopté de loi spécifique à l'IA, les législateurs canadiens se penchent sur son utilisation pour la prise de décision automatisée. La loi applicable au secteur privé québécois (Loi sur la protection des renseignements personnels au Québec), amendée par le projet de loi n° 64, est pionnière en matière de législation qui réglemente la prise de décision automatique.

Pour savoir si les entreprises québécoises ont mis en place des politiques ou des directives concernant l'utilisation de la technologie de l'IA générative, nous avons interrogé 103 personnes employées à temps plein ou à temps partiel, qui se servent de l'IA générative au travail au moins plusieurs fois par mois. Vous trouverez la méthodologie complète au bas de cet article.

Dépendance excessive à l'IA et protection de la vie privée parmi les principales préoccupations éthiques

Selon Avivah Litan, analyste chez Gartner, les motifs d'inquiétudes les plus fréquents en matière d'IA générative (article en anglais) concernent la confiance, la sécurité, les trucages, la protection des données, les “hallucinations”, les risques liés à la cybersécurité et les questions de droit d'auteur.

Comme les modèles d'IA générative sont généralement entraînés sur d'importants volumes de données provenant de diverses sources, dont Internet, l'une de ces sources de données pourrait être inconnue, ce qui, dans certains cas, serait susceptible de porter préjudice aux entreprises. Prenons l'exemple d'une entreprise pharmaceutique qui dépendrait d'une formule produite par un logiciel d'IA générative pour la molécule d'un médicament qui serait protégée par un brevet et exposerait cette entreprise à des risques juridiques.

Nous avons également demandé aux personnes interrogées ce qui les inquiétait le plus en matière d'IA générative.

Pour approfondir cette question, nous avons demandé aux personnes interrogées quels étaient les risques auxquels s'exposait leur entreprise lorsqu'elle utilisait les outils d'IA générative. Près de la moitié des personnes interrogées (47 %) considèrent que les risques liés à la cybersécurité viennent en tête de liste, suivis par les risques concernant la protection de la vie privée (35 %), le manque d'explications (30 %) et les risques juridiques et de conformité (27 %).

Pour répondre aux préoccupations éthiques des entreprises concernant l'utilisation de l'IA générative, les organisations devraient soumettre les résultats provenant des modèles de l'IA générative à des examens manuels et rigoureux pour identifier les résultats biaisés ou les fausses informations.

Comment les personnes interrogées contrôlent-elles la qualité des résultats produits par les outils de l'IA générative ?

Les logiciels de l'IA générative risquent de produire des résultats inattendus car ils sont entraînés sur de vastes ensembles de données provenant de sources multiples qui ne sont pas forcément vérifiées ni fiables. Il faut donc s'assurer de l'exactitude des résultats générés.

Pour nous assurer que les employés qui se servent ouvertement de l'IA générative au travail vérifient l'exactitude des résultats obtenus, nous leur avons demandé comment ils s'y prenaient. Nous avons identifié plusieurs options permettant d'évaluer l'exactitude des données.

• 38 % des utilisateurs interrogés déclarent que leur entreprise recueille les commentaires des employés par le biais d'enquêtes.
• 31 % disent comparer les résultats humains aux résultats de l'IA.
• 25 % déclarent qu'une équipe spécialisée évalue les résultats.
• 24 % disposent d'indicateurs clés de performance (ICP) pour contrôler les résultats de l'IA générative.
• 22 % déclarent que leur entreprise ne contrôle pas ces résultats pour l'instant, mais pensent qu'elle devrait commencer à le faire.
• Seules 4 % des personnes interrogées déclarent ne pas contrôler les résultats et ne pas juger nécessaire de le faire.

Sachant que seuls 4 % des utilisateurs ne contrôlent pas les résultats générés par les logiciels de l'IA, il serait sans doute utile de mettre en place des techniques et des méthodes permettant aux entreprises d'effectuer ces contrôles de manière régulière.

Les entreprises ont-elles mis en place une réglementation pour l'utilisation des applications de l'IA générative au travail?

La sécurité est un facteur essentiel à prendre en compte lors de l'introduction de toute nouvelle technologie dans les activités de l'entreprise. L'utilisation de l'IA générative peut concerner des informations sensibles, telles que les dossiers des clients, du contenu commercial ou des données financières, essentielles aux activités d'une entreprise.

De fait, notre étude révèle que 79 % des employés québécois interrogés informent leur entreprise qu'ils utilisent l'IA générative au travail, tandis que 21 % d'entre eux ne le font pas.

Informer la direction de l'utilisation d'outils de l'IA générative peut épargner aux employés des risques tels que des attaques de cybersécurité ou des problèmes de droits d'auteur. Les travailleurs devraient idéalement obtenir le consentement de leurs responsables ou employeurs lorsqu'ils se servent des outils de l'IA générative, afin de pouvoir le faire à bon escient. Toute organisation devrait aussi communiquer clairement les consignes d'utilisation des logiciels de l'IA générative à leurs employés afin que ceux-ci puissent s'en servir si nécessaire.

C'est pourquoi nous avons demandé au groupe des personnes interrogées qui se servent ouvertement des applications de l'IA, que nous appellerons "utilisateurs", si leur entreprise a mis en place des consignes sur leur lieu de travail.

Sachant que près de la moitié des personnes interrogées (48 %) déclarent que leur entreprise a mis en place des règles pour une utilisation optimale de l'IA générative au travail, nous avons interrogé ce groupe sur le type de directives employées dans leur organisation. Voici les résultats :

• 54 % d'entre elles déclarent que leur entreprise a mis en place des directives pour garantir que les logiciels de l'IA générative sont utilisés dans le respect des réglementations et des lois.
• 51 % affirment que des procédures ont été établies pour une utilisation appropriée des outils de l'IA générative qui ont été approuvés.
• 39 % disent que dans leur entreprise, les employés doivent suivre une formation sur la bonne utilisation des outils de l'IA générative, ainsi que sur le respect de la vie privée et les questions d'éthique.
• 39 % des personnes interrogées déclarent qu'il leur faut l'approbation de leurs responsables pour utiliser les plateformes de l'IA générative pour des tâches bien spécifiques.
• 18 % d'entre elles indiquent qu'une liste sélective de logiciels de l'IA générative autorisés a été créée.
• 13 % des personnes interrogées déclarent que les employés doivent examiner et signer un document relatif à la politique de l'entreprise avant d'utiliser des logiciels de l'IA générative.

Impact de l'IA générative sur l'emploi

Le développement des logiciels de l'IA générative, tels que Midjourney et ChatGPT, permet désormais de rédiger des articles, de générer des codes de programmation et de créer des modèles commerciaux en quelques secondes. Les employés pourraient donc craindre que l'IA ne remplace leur travail dans les années à venir.

Nous avons demandé aux personnes interrogées ce qu'elles en pensent et voici leurs réponses :

Sans surprise, 34 % des personnes interrogées se disent plutôt inquiètes, tandis que 28 % ne sont pas sûres de l'impact de cette technologie sur leur emploi. Par ailleurs, 24 % estiment que l'IA générative ne constitue pas une menace pour leur emploi. Dans l'ensemble, on remarque une certaine incertitude quant à l'impact de cette technologie sur l'emploi. Cela s'explique sans doute par le fait que les derniers outils de l'IA générative, tels que ChatGPT, sont relativement récents et que leurs effets réels restent difficiles à évaluer pour l'instant.

Cependant, selon une étude de Gartner, l'impact sur l'emploi global restera neutre (article en anglais); il n'y aura pas de diminution ni d'augmentation nette jusqu'en 2026. Le même rapport indique également que les solutions basées sur l'IA permettront de créer plus d'un demi-milliard d'emplois nets au cours des dix prochaines années.

4 façons de limiter les risques liés à l'utilisation d'outils de l'IA générative pour les entreprises

Selon Mondaq, les investissements dans l'IA générative devraient atteindre 42,6 milliards de dollars américains (article en anglais) d'ici à fin 2023. Cette projection se fonde sur le potentiel des applications de l'IA générative à stimuler la productivité et à favoriser l'innovation, comme expliqué dans la première partie de cet article.

En outre, 91 % des utilisateurs interrogés déclarent accorder une certaine importance ou une grande importance à la mise en œuvre de cette technologie, ce qui souligne encore l'intérêt qu'elle suscite.

Toutefois, il est important de garder à l'esprit que toute nouvelle technologie comporte des risques au même titre que des avantages. Cela ne signifie pas pour autant que les organisations doivent cesser de s'y intéresser et d'en tirer parti. Au contraire, les entreprises devraient suivre certaines étapes pour limiter les risques de l'IA générative et l'utiliser à leur avantage. Voici quelques suggestions :

• Testez les outils en interne : avant qu'une entreprise ne pense à mettre en œuvre des plateformes de l'IA générative dans ses opérations quotidiennes, elle peut envisager de les tester à grande échelle avec ses employés et ses parties prenantes en interne afin de comprendre comment ces outils peuvent être utilisés au mieux.
• Identifiez les bons outils : comme vous pouvez trouver une variété de logiciels gratuits disponibles sur le marché, recherchez de préférence les outils qui ont été soigneusement vérifiés et qui offrent une certaine forme de fiabilité aux entreprises.
• Analysez le niveau de supervision requis : examinez le niveau de contrôle d'accès à accorder aux employés et décidez si l'utilisation de logiciels spécifiques de l'IA générative doit être supervisée par une quelconque autorité dirigeante et, le cas échéant, par qui.
• Définissez une politique claire pour l'utilisation des logiciels de l'IA générative : les entreprises devraient disposer d'une stratégie détaillée définissant le cadre de cette utilisation ainsi que les conséquences auxquelles un(e) employé(e) ou partie prenante pourrait être confronté(e) en cas d'utilisation abusive de toute donnée sensible.