Pourquoi GetApp est gratuit

Éthique dans l'IA générative : motifs de préoccupations et solutions pour les entreprises

Publié le 2023-09-04 par Smriti Arya

La technologie de l'IA générative gagne en popularité, mais les entreprises suivent-elles des directives pour réglementer son utilisation? GetApp a interrogé 103 employés québécois qui se servent des applications de l'IA générative afin de connaître leur avis sur ces outils et sur la manière d'en tirer le meilleur parti.

Surmonter les problèmes éthiques liés aux applications d'IA générative

Si les capacités de la technologie de l'IA générative offrent des possibilités considérables, elles suscitent également quelques inquiétudes. Selon une étude de Gartner, 70 % des organisations considèrent l'utilisation éthique et durable de l'IA (article en anglais) comme l'une de leurs principales préoccupations.

Une approche responsable de la mise en place de la technologie de l'IA générative permet aux organisations d'établir un rapport de confiance avec leurs employés, les parties prenantes et les clients. Alors que le Canada n'a pas encore adopté de loi spécifique à l'IA, les législateurs canadiens se penchent sur son utilisation pour la prise de décision automatisée. La loi applicable au secteur privé québécois (Loi sur la protection des renseignements personnels au Québec), amendée par le projet de loi n° 64, est pionnière en matière de législation qui réglemente la prise de décision automatique.

Pour savoir si les entreprises québécoises ont mis en place des politiques ou des directives concernant l'utilisation de la technologie de l'IA générative, nous avons interrogé 103 personnes employées à temps plein ou à temps partiel, qui se servent de l'IA générative au travail au moins plusieurs fois par mois. Vous trouverez la méthodologie complète au bas de cet article.

Dépendance excessive à l'IA et protection de la vie privée parmi les principales préoccupations éthiques

Selon Avivah Litan, analyste chez Gartner, les motifs d'inquiétudes les plus fréquents en matière d'IA générative (article en anglais) concernent la confiance, la sécurité, les trucages, la protection des données, les “hallucinations”, les risques liés à la cybersécurité et les questions de droit d'auteur.

Comme les modèles d'IA générative sont généralement entraînés sur d'importants volumes de données provenant de diverses sources, dont Internet, l'une de ces sources de données pourrait être inconnue, ce qui, dans certains cas, serait susceptible de porter préjudice aux entreprises. Prenons l'exemple d'une entreprise pharmaceutique qui dépendrait d'une formule produite par un logiciel d'IA générative pour la molécule d'un médicament qui serait protégée par un brevet et exposerait cette entreprise à des risques juridiques.

Nous avons également demandé aux personnes interrogées ce qui les inquiétait le plus en matière d'IA générative.

Préoccupations éthiques des entreprises liées à l'utilisation de l'IA générative

Pour approfondir cette question, nous avons demandé aux personnes interrogées quels étaient les risques auxquels s'exposait leur entreprise lorsqu'elle utilisait les outils d'IA générative. Près de la moitié des personnes interrogées (47 %) considèrent que les risques liés à la cybersécurité viennent en tête de liste, suivis par les risques concernant la protection de la vie privée (35 %), le manque d'explications (30 %) et les risques juridiques et de conformité (27 %).

Pour répondre aux préoccupations éthiques des entreprises concernant l'utilisation de l'IA générative, les organisations devraient soumettre les résultats provenant des modèles de l'IA générative à des examens manuels et rigoureux pour identifier les résultats biaisés ou les fausses informations.

Conseils aux PME : 

Pour exploiter aux mieux les outils de l'IA générative, les entreprises devraient utiliser les outils suivants.

Comment les personnes interrogées contrôlent-elles la qualité des résultats produits par les outils de l'IA générative ?

Les logiciels de l'IA générative risquent de produire des résultats inattendus car ils sont entraînés sur de vastes ensembles de données provenant de sources multiples qui ne sont pas forcément vérifiées ni fiables. Il faut donc s'assurer de l'exactitude des résultats générés.

Pour nous assurer que les employés qui se servent ouvertement de l'IA générative au travail vérifient l'exactitude des résultats obtenus, nous leur avons demandé comment ils s'y prenaient. Nous avons identifié plusieurs options permettant d'évaluer l'exactitude des données.

  • 38 % des utilisateurs interrogés déclarent que leur entreprise recueille les commentaires des employés par le biais d'enquêtes.
  • 31 % disent comparer les résultats humains aux résultats de l'IA.
  • 25 % déclarent qu'une équipe spécialisée évalue les résultats.
  • 24 % disposent d'indicateurs clés de performance (ICP) pour contrôler les résultats de l'IA générative.
  • 22 % déclarent que leur entreprise ne contrôle pas ces résultats pour l'instant, mais pensent qu'elle devrait commencer à le faire.
  • Seules 4 % des personnes interrogées déclarent ne pas contrôler les résultats et ne pas juger nécessaire de le faire.

Sachant que seuls 4 % des utilisateurs ne contrôlent pas les résultats générés par les logiciels de l'IA, il serait sans doute utile de mettre en place des techniques et des méthodes permettant aux entreprises d'effectuer ces contrôles de manière régulière.

Les entreprises ont-elles mis en place une réglementation pour l'utilisation des applications de l'IA générative au travail?

La sécurité est un facteur essentiel à prendre en compte lors de l'introduction de toute nouvelle technologie dans les activités de l'entreprise. L'utilisation de l'IA générative peut concerner des informations sensibles, telles que les dossiers des clients, du contenu commercial ou des données financières, essentielles aux activités d'une entreprise.

De fait, notre étude révèle que 79 % des employés québécois interrogés informent leur entreprise qu'ils utilisent l'IA générative au travail, tandis que 21 % d'entre eux ne le font pas.

Informer la direction de l'utilisation d'outils de l'IA générative peut épargner aux employés des risques tels que des attaques de cybersécurité ou des problèmes de droits d'auteur. Les travailleurs devraient idéalement obtenir le consentement de leurs responsables ou employeurs lorsqu'ils se servent des outils de l'IA générative, afin de pouvoir le faire à bon escient. Toute organisation devrait aussi communiquer clairement les consignes d'utilisation des logiciels de l'IA générative à leurs employés afin que ceux-ci puissent s'en servir si nécessaire.

C'est pourquoi nous avons demandé au groupe des personnes interrogées qui se servent ouvertement des applications de l'IA, que nous appellerons "utilisateurs", si leur entreprise a mis en place des consignes sur leur lieu de travail.

Les entreprises québécoises mettent-elles en place ou non une réglementation sur l'IA générative au travail?

Sachant que près de la moitié des personnes interrogées (48 %) déclarent que leur entreprise a mis en place des règles pour une utilisation optimale de l'IA générative au travail, nous avons interrogé ce groupe sur le type de directives employées dans leur organisation. Voici les résultats :

  • 54 % d'entre elles déclarent que leur entreprise a mis en place des directives pour garantir que les logiciels de l'IA générative sont utilisés dans le respect des réglementations et des lois.
  • 51 % affirment que des procédures ont été établies pour une utilisation appropriée des outils de l'IA générative qui ont été approuvés.
  • 39 % disent que dans leur entreprise, les employés doivent suivre une formation sur la bonne utilisation des outils de l'IA générative, ainsi que sur le respect de la vie privée et les questions d'éthique.
  • 39 % des personnes interrogées déclarent qu'il leur faut l'approbation de leurs responsables pour utiliser les plateformes de l'IA générative pour des tâches bien spécifiques.
  • 18 % d'entre elles indiquent qu'une liste sélective de logiciels de l'IA générative autorisés a été créée.
  • 13 % des personnes interrogées déclarent que les employés doivent examiner et signer un document relatif à la politique de l'entreprise avant d'utiliser des logiciels de l'IA générative.

Quelques facteurs à prendre en compte lors de l'établissement d'une politique d'utilisation de l'IA générative pour votre entreprise

  • Garantir le respect de la vie privée : les outils de l'IA générative recueillent des informations afin de produire des résultats. À ce titre, les employeurs devraient indiquer clairement aux employés qu'aucune information commerciale sensible ou confidentielle ne doit être partagée en tant qu'invite lors de l'utilisation des logiciels de l'IA générative.
  • Éviter toute partialité : les outils de l'IA générative peuvent présenter une certaine partialité, car ces modèles sont entraînés sur des quantités massives de données provenant de différentes sources qui peuvent être biaisées. Par exemple, si les données utilisées pour entraîner un logiciel de l'IA générative proviennent d'une source en faveur d'un sexe ou d'une origine spécifique, le système pourrait produire des résultats biaisés. Bien qu'il soit probablement impossible d'éliminer complètement ce problème, les entreprises devraient contrôler les résultats générés par l'IA pour éviter et corriger les erreurs ou résultats biaisés.
  • Viser la transparence : les entreprises devraient clairement mentionner dans leur document leur politique concernant l'utilisation par leurs employés des logiciels de l'IA dans leurs tâches quotidiennes. Elles devraient également indiquer à leurs clients ou partenaires commerciaux si et comment ces logiciels sont utilisés en rapport avec leurs services/produits.

Impact de l'IA générative sur l'emploi

Le développement des logiciels de l'IA générative, tels que Midjourney et ChatGPT, permet désormais de rédiger des articles, de générer des codes de programmation et de créer des modèles commerciaux en quelques secondes. Les employés pourraient donc craindre que l'IA ne remplace leur travail dans les années à venir.

Nous avons demandé aux personnes interrogées ce qu'elles en pensent et voici leurs réponses :

Inquiétudes des salariés quant à l'impact de l'IA générative sur leur emploi

Sans surprise, 34 % des personnes interrogées se disent plutôt inquiètes, tandis que 28 % ne sont pas sûres de l'impact de cette technologie sur leur emploi. Par ailleurs, 24 % estiment que l'IA générative ne constitue pas une menace pour leur emploi. Dans l'ensemble, on remarque une certaine incertitude quant à l'impact de cette technologie sur l'emploi. Cela s'explique sans doute par le fait que les derniers outils de l'IA générative, tels que ChatGPT, sont relativement récents et que leurs effets réels restent difficiles à évaluer pour l'instant.

Cependant, selon une étude de Gartner, l'impact sur l'emploi global restera neutre (article en anglais); il n'y aura pas de diminution ni d'augmentation nette jusqu'en 2026. Le même rapport indique également que les solutions basées sur l'IA permettront de créer plus d'un demi-milliard d'emplois nets au cours des dix prochaines années.

4 façons de limiter les risques liés à l'utilisation d'outils de l'IA générative pour les entreprises

Selon Mondaq, les investissements dans l'IA générative devraient atteindre 42,6 milliards de dollars américains (article en anglais) d'ici à fin 2023. Cette projection se fonde sur le potentiel des applications de l'IA générative à stimuler la productivité et à favoriser l'innovation, comme expliqué dans la première partie de cet article.

En outre, 91 % des utilisateurs interrogés déclarent accorder une certaine importance ou une grande importance à la mise en œuvre de cette technologie, ce qui souligne encore l'intérêt qu'elle suscite.

Toutefois, il est important de garder à l'esprit que toute nouvelle technologie comporte des risques au même titre que des avantages. Cela ne signifie pas pour autant que les organisations doivent cesser de s'y intéresser et d'en tirer parti. Au contraire, les entreprises devraient suivre certaines étapes pour limiter les risques de l'IA générative et l'utiliser à leur avantage. Voici quelques suggestions :

  • Testez les outils en interne : avant qu'une entreprise ne pense à mettre en œuvre des plateformes de l'IA générative dans ses opérations quotidiennes, elle peut envisager de les tester à grande échelle avec ses employés et ses parties prenantes en interne afin de comprendre comment ces outils peuvent être utilisés au mieux.
  • Identifiez les bons outils : comme vous pouvez trouver une variété de logiciels gratuits disponibles sur le marché, recherchez de préférence les outils qui ont été soigneusement vérifiés et qui offrent une certaine forme de fiabilité aux entreprises.
  • Analysez le niveau de supervision requis : examinez le niveau de contrôle d'accès à accorder aux employés et décidez si l'utilisation de logiciels spécifiques de l'IA générative doit être supervisée par une quelconque autorité dirigeante et, le cas échéant, par qui.
  • Définissez une politique claire pour l'utilisation des logiciels de l'IA générative : les entreprises devraient disposer d'une stratégie détaillée définissant le cadre de cette utilisation ainsi que les conséquences auxquelles un(e) employé(e) ou partie prenante pourrait être confronté(e) en cas d'utilisation abusive de toute donnée sensible.
Vous recherchez un logiciel d'IA générative? Consultez notre catalogue!


Méthodologie

Les données pour l'enquête de GetApp sur les applications de l'IA générative ont été recueillies en juin 2023 auprès de 103 personnes. Nous avons sélectionné un panel de participants selon les critères suivants : 

  • Réside au Québec
  • Âgé(e) de 18 à 65 ans
  • Employé(e) à temps complet ou à temps partiel dans une entreprise et utilise un ordinateur de bureau ou portable pour effectuer ses tâches quotidiennes. 
  • Comprend la définition de l'IA générative : "L'IA générative (GAI pour “Generative AI”) désigne une intelligence artificielle capable de générer un contenu nouveau et original, tel que des images, des vidéos, de la musique, du codage ou du texte. Il utilise généralement des techniques d'apprentissage profond et des réseaux neuronaux pour analyser et apprendre à partir de grands ensembles de données, et utilise ces informations pour générer du contenu semblable à des créations humaines. Quelques exemples d'applications d'IA générative sont ChatGPT, Bard et DALL-E."
  • Utilise des applications d'IA générative au moins quelques fois par mois.


Cet article peut faire référence à des produits, programmes ou services qui ne sont pas disponibles dans votre pays, ou qui peuvent être limités par les lois ou règlements de votre pays. Nous vous suggérons de consulter directement l'éditeur du logiciel pour obtenir des informations sur la disponibilité du produit et le respect des lois locales.

À propos de l'auteur(e)

Smriti est analyste de contenu pour le Canada, aidant les PME à obtenir des informations clés sur les logiciels, les affaires et les tendances technologiques.

Smriti est analyste de contenu pour le Canada, aidant les PME à obtenir des informations clés sur les logiciels, les affaires et les tendances technologiques.