L’utilisation de l’intelligence artificielle (IA) présente de nombreuses opportunités pour l’entreprise mais elle présente aussi son lot de défis. D’ailleurs, plus l’entreprise est grosse, plus les avantages et aussi les défis de l’IA sont marqués, puisque les utilisations deviennent complexes.

Parmi les nombreux enjeux existants, nous en avons choisi quelques-uns que nous aborderons ici sous les thèmes suivants:

• Les enjeux technologiques
• Les enjeux humains
• Les enjeux éthiques

Les enjeux technologiques

Validité des résultats

L’IA impressionne par sa capacité à traiter une quantité titanesque de données et à en extraire un résultat en quelques secondes.

Mais la validité des résultats obtenus dépend déjà d’une part de la qualité et de la précision des données qui sont sa matière première et d’autre part des échantillonnages disponibles. En effet, une quantité insuffisante de données sur un sujet, par exemple sur le transfert des apprentissages, ou un échantillonnage non représentatif de données, par exemple où les femmes ne sont pas proportionnellement représentées, va fausser les résultats, donnant lieu à des erreurs et des biais qui peuvent passer inaperçus chez la personne utilisatrice.

Ceci met en lumière à la fois les limites de l’utilisation de l’intelligence artificielle et l’importance du capital humain qui, loin de se soumettre à une utilisation aveugle de l’IA, est invité à analyser, valider et contrôler les données et les processus impliqués dans l’utilisation de l’IA afin d’en tirer pleinement parti.

Évolution rapide

La technologie en IA évolue très rapidement produisant un essor de nouveaux outils.

Choisir parmi la panoplie d’outils d’IA existants pour répondre aux besoins de l’organisation constitue déjà un défi de taille pour les leaders et les gestionnaires qui doivent s’assurer de surcroît que ces outils s’intègrent bien entre eux et de façon complémentaire. Ainsi, une organisation qui a besoin d’offrir une partie de sa formation à distance en format asynchrone pourrait avoir à choisir et à arrimer, en vue de développer des cours, des outils d’IA capables de faire des résumés, de traduire du texte, de simuler la voix humaine ou de proposer de nouvelles images selon un style graphique défini. Mais l’évolution très rapide de la technologie multiplie la difficulté en poussant leaders et gestionnaires à constamment devoir réévaluer leurs choix d’outils d’IA devenus soudainement inadéquats ou obsolètes.

Et enfin, les outils d’IA doivent être fréquemment mis à jour pour demeurer efficaces et ne sont pas à l’abri de bogues qui peuvent gêner les opérations humaines.

Les enjeux humains

Résistance au changement

Face à des systèmes et outils d’IA si performants, les personnes employées ainsi que gestionnaires peuvent ressentir de la méfiance envers une technologie IA perçue comme une compétitrice déloyale venue remettre en question la valeur de leurs tâches et leur productivité. C’est indéniable, le redesign d’emplois sont bien réels dans à peu près tous les secteurs.

Mais qu’on le veuille ou non, l’IA est là pour rester. Et même lorsque les rôles et responsabilités demeurent essentiellement les mêmes, l’utilisation de l’IA, en bouleversant les façons d’exécuter les tâches, engendre conséquemment la redistribution des efforts accordés à divers types de tâches. Par exemple, une personne formatrice aura toujours les mêmes rôles et responsabilités au sein de l’organisation mais l’utilisation de l’IA pourrait faire en sorte qu’elle mette moins d’efforts à développer du matériel de cours mais plus d’efforts dans l’accompagnement des personnes à former. Cela est une bonne chose, me direz-vous, et c’est vrai. Mais cela n’enlève rien à la complexité de maîtriser les outils d’IA nécessaires au développement de cours et surtout de changer son approche d’accompagnement face à des personnes qui elles aussi utilisent l’IA de façon indépendante pour apprendre.

Et force est de constater que tant les organisations que leur main d’œuvre ne sont pas toutes bien préparées aux ajustements que cela implique.

Besoin de formation

La vitesse et la profondeur des changements occasionnées par l’utilisation de l’IA en lien avec la redéfinition des rôles et responsabilités et l’exécution des tâches suscitent des besoins de formation pour tous les types de postes. Ce sera vraisemblablement le cas aussi pour notre personne formatrice qui aura besoin de formation elle-même, d’abord pour maîtriser les outils, et ensuite pour mieux développer et accompagner.

Les enjeux éthiques

Les enjeux éthiques posés par l’utilisation de l’IA méritent une réflexion en vue d’établir une ligne de conduite claire avant même l’implantation de l’IA dans son organisation.

Biais

Une seule question posée dans un outil IA donné permet, avec une facilité déconcertante, de valider toutes sortes de perceptions humaines qui ne sont jamais à l’abri de biais. Par exemple, en matière d’évaluation de la performance, une personne gestionnaire pourrait se servir de l’IA autant pour aider les personnes employées à développer leurs compétences qu’à justifier leur non-rétention pour incompétence.

Comment alors détecter et minimiser les risques d’une potentielle utilisation non éthique de l’IA?

Consentement et confidentialité

Les outils d’IA sont aussi capables de recueillir des informations personnelles et même d’en inférer à partir de données connues. Non seulement ces informations doivent être protégées selon la loi, mais la personne employée doit être en mesure de consentir à leur collecte et à leur utilisation.

Supposons que les interactions d’une personne employée qui clavarde avec un chatbot tuteur durant une formation sont récoltées et analysées par l’équipe de formation et l’équipe de gestion. Est-ce que la collecte a été consentie par toutes les parties? Est-ce que les raisons de la collecte sont connues et consenties par tous? Sont-elles justifiables, comme dans le cas d’une personne gestionnaire qui mesure en fonction des compétences attendues?

Transparence

D’ailleurs, la personne employée savait-elle seulement que ledit tuteur est un chatbot et pas une vraie personne? L’IA peut brouiller à ce point la frontière entre la perception et la réalité qu’il est facile d’abuser la confiance des personnes utilisatrices.

Au-delà du respect des lois existantes et encore en émergence en lien avec l’utilisation de l’IA, dans tous les cas de figure présentés ci-haut, le potentiel d’une utilisation non éthique de l’IA nécessite la mise en place de garde-fous tels que l’établissement de règles de transparence.

Notre solution

Nous vous proposons un accompagnement personnalisé pour passer en revue avec vous vos enjeux technologiques, humains et éthiques amenés par l’utilisation de l’intelligence artificielle ainsi qu’une solution technologique sur mesure.

Contactez-nous pour en savoir plus.

Partager : Retour aux articles