Acceptability of Artificial Intelligence in a Professional Context : influencing factors and evaluation methodologies
Acceptabilité de l’Intelligence Artificielle en contexte professionnel : facteurs d’influence et méthodologies d’évaluation
Résumé
The design of Artificial Intelligence-based computer solutions in the workplace is experiencing rapid growth. Although they improve task performance, they often face low acceptability from employees, mainly due to fear of replacement and distrust of automated decisions. In this context, our work focuses on how an AI solution can be acceptable to employees, the end-users, and to companies, the decision makers of its introduction at workstations. After a state-of-the- art review on the perception of AI solutions in business and the notion of acceptability, we focus on the use of methods to consider user experience. We then present the design strategies of AI solutions currently used by SIGMA Informatique and continue with a study on the effect of increasing the transparency of these technologies on the trust they gain from human operators. Additionally, we present a methodology for measuring human trust in the predictions of an AI solution for a task assisted by a predictive algorithm. To evaluate this trust, we use methods typically employed for subjective quality of experience (QoE) assessment. The results reveal that the more an AI solution communicates information to support its prediction, the more the human operator will trust it. Finally, we examine the impact of the emergence of generative tools, which disrupt traditional theories of trust in AI solutions. These new technologies, often introduced by the employees themselves, change this dynamic, requiring companies to adapt. We therefore propose a design approach based on collecting end-user preferences to select technical foundations aimed at finding a compromise between performance, user acceptability, and organizational constraints. Thus, this work sheds light on the role of factors such as trust in the acceptability of AI solutions in a professional context, as well as methodological foundations for evaluating and designing the acceptability of these solutions.
La conception de solutions informatiques intégrant de l’Intelligence Artificielle, sur les postes de travail connaît une croissance rapide. Bien qu’elles améliorent la performance des taches, elles rencontrent souvent une faible acceptabilité de la part des employés, principalement en raison de la peur du remplacement et de la méfiance envers les décisions automatisées. Dans ce contexte, nos travaux s’intéressent a comment une solution IA peut être acceptable par les employés, utilisateurs finaux, et les entreprises, décideuses de son introduction sur les postes de travail. Après un état de l’art sur la perception des solutions IA en entreprise et de la notion d’acceptabilité, nous nous intéressons a la mobilisation de méthodes de prise en compte de l’expérience utilisateur. Ensuite nous présentons les stratégies de conception de solutions IA qui sont actuellement mobilisées par SIGMA Informatique, et nous poursuivons avec une étude de l’effet de l’accroissement de la transparence de ces technologies sur la confiance que leur accordent les opérateurs humains. En complément, nous présentons également une méthodologie de mesure de la confiance des humains envers les prédictions d’une solution IA pour une tache assistée par un algorithme prédictif. Pour évaluer cette confiance, nous utilisons notamment des méthodes utilisées pour faire de l’évaluation subjective de la qualité d’expérience (QoE). Les résultats révèlent que plus une solution IA communique d’informations pour accompagner sa prédiction, plus l’opérateur humain lui fera confiance. Et enfin, nous examinons l’impact de l’arrivée des outils génératifs, qui bouleversent les théories traditionnelles de la confiance accordée aux solutions IA. Ces nouvelles technologies, souvent introduites par les employés eux-mêmes, changent cette dynamique, nécessitant une adaptation des entreprises. Nous proposons donc une approche de conception, basée sur le recueil des préférences des utilisateurs finaux, pour sélectionner des socles techniques, visant a trouver un compromis entre performance, acceptabilité par les utilisateurs et contrainte de l’organisation. Ces travaux proposent donc un éclairage sur la place de facteurs, tels que la confiance, dans l’acceptabilité des solutions IA en contexte professionnel, mais aussi des socles méthodologiques d’évaluation et de conception de l’acceptabilité de ces solutions.
| Origine | Version validée par le jury (STAR) |
|---|