Quand l’IA met à l’épreuve les valeurs que nous affirmons défendre
Je reviens souvent à une question qui reste inconfortablement présente derrière nombre de nos conversations sur l’intelligence artificielle : qu’attendons-nous, au juste, d’un engagement éthique lorsqu’une décision plus rentable, plus commode ou plus séduisante sur le plan concurrentiel nous entraîne dans une autre direction ?
Il est relativement facile de parler d’innovation responsable tant que la responsabilité paraît compatible avec tout ce que nous souhaitons accomplir par ailleurs. Nous pouvons soutenir la transparence lorsque la divulgation d’informations ne fragilise pas notre position, défendre la supervision humaine lorsqu’elle ne réduit pas les économies promises, et nous préoccuper de la vie privée tout en conservant l’accès aux informations que nous aimerions garder. Le moment le plus révélateur survient lorsque ces engagements commencent à contraindre une décision, car c’est alors que nous découvrons si nos valeurs ont une influence sur la manière dont nous entendons agir.
Imaginons une organisation qui s’apprête à mettre en place un service d’IA destiné à prendre en charge une part importante de ses interactions avec les clients. Dans cette situation hypothétique, les premiers résultats sont encourageants : les demandes courantes sont traitées rapidement, les réponses paraissent cohérentes et le dossier d’investissement laisse entrevoir une réduction sensible du travail confié aux équipes d’assistance. Pourtant, les essais révèlent aussi que certaines situations complexes sont mal prises en charge, notamment lorsque les circonstances du client ne correspondent pas aux hypothèses qui ont guidé la conception du service. Un accompagnement humain supplémentaire pourrait remédier à une partie de cette faiblesse, mais son maintien réduirait les économies attendues.
La décision des dirigeants porte désormais sur bien davantage que la performance d’un modèle. Elle concerne les personnes dont l’expérience sera prise en compte dans l’évaluation de cette performance, celles qui supporteront les conséquences des limites restantes, et la disposition de l’organisation à revoir un dossier d’investissement séduisant lorsque les éléments disponibles ne le justifient plus sous sa forme initiale. Réduire la charge de travail interne peut constituer une amélioration utile, mais si les clients doivent consacrer davantage de temps à corriger des malentendus, à réexpliquer leur situation ou à trouver quelqu’un ayant l’autorité nécessaire pour les aider, une partie du coût aura peut-être simplement été déplacée hors du périmètre que l’organisation préfère mesurer.
C’est ici que la Congruence devient plus exigeante que l’idée rassurante de cohérence. Telle qu’elle est développée dans l’Ethical Leadership Practice Guide, la congruence concerne la relation entre ce que nous croyons, ce que nous disons et ce que nous faisons ; sa portée tient à la cohérence de ces trois dimensions lorsque les circonstances rendent leur alignement inconfortable (Ethics & Leadership Association [ELA], 2026a, p. 7). Un dirigeant qui revoit un engagement de lancement parce que les essais ont révélé une faiblesse sérieuse peut donc faire preuve de davantage de congruence que celui qui préserve la date initiale, surtout si l’engagement essentiel consiste à servir les personnes de manière responsable.
Cette distinction compte, car nous pouvons nous attacher remarquablement à l’expression visible d’une décision tout en perdant de vue la finalité qui la justifiait. La date devient une promesse, la promesse devient une mesure de crédibilité, et la capacité à tenir cette promesse finit par compter davantage que les conditions permettant de l’honorer de manière responsable. Lorsqu’une personne soulève enfin une préoccupation dérangeante, l’organisation peut avoir déjà engagé une telle part de sa réputation dans le résultat souhaité que le réexaminer lui paraît être un échec du leadership.
Le modèle d’intégrité offre une manière utile d’examiner cette tension, car il distingue quatre dimensions que nous confondons trop facilement dans un jugement unique : la capacité, le cadre juridique, l’éthique et les valeurs — Ability, Legal, Ethics et Values dans le modèle original. La capacité concerne les moyens concrets dont nous disposons pour agir, notamment les compétences, les ressources, les informations et les capacités opérationnelles nécessaires pour le faire de manière responsable. Appliquée à notre service d’IA hypothétique, elle inclurait la capacité à accompagner les situations que la technologie maîtrise mal, au lieu d’arrêter l’évaluation au moment où le logiciel produit une réponse.
La dimension juridique concerne les obligations et les autorisations qui encadrent l’activité, tandis que l’éthique interroge le rapport de la décision aux normes et aux codes par lesquels une profession ou une organisation définit une conduite responsable. Les valeurs ramènent l’examen aux convictions à travers lesquelles les personnes déterminent ce qu’elles sont prêtes à défendre, ainsi qu’à la relation entre ces convictions et les engagements exprimés par l’organisation. Ces dimensions s’influencent mutuellement, mais répondent à des questions différentes ; le fait qu’une action soit techniquement possible, par exemple, ne démontre pas qu’elle soit autorisée, appropriée ou cohérente avec les principes dont nous nous réclamons (ELA, 2026a, pp. 54–55, 79–80).
À mes yeux, l’utilité du modèle tient précisément à sa résistance à la tentation de laisser une réponse séduisante trancher l’ensemble de la discussion. Un système performant peut servir une finalité mal justifiée, un dispositif juridiquement défendable peut traiter les personnes d’une manière contraire à nos engagements professionnels, et une conviction sincère peut appeler un réexamen lorsque ses conséquences deviennent plus claires. Le modèle nous aide à faire apparaître ces tensions ; le travail difficile de jugement, d’explication et de prise en charge de la décision reste celui des personnes qui la prennent.
Cela me ramène à un point que j’ai exploré dans Notre manière d’être présents : nous parlons souvent des organisations comme d’êtres indépendants capables de décider, d’autoriser, de refuser ou d’assumer une responsabilité, alors que les décisions par lesquelles une organisation agit sont prises et soutenues par des personnes (Lazar, 2026a). L’IA peut rendre cette distinction plus difficile à percevoir, car un résultat peut passer par un fournisseur, une équipe de développement, un commanditaire métier, un processus de configuration et un circuit automatisé avant d’atteindre la personne concernée. Chaque participant peut avoir rempli une responsabilité particulière, tandis que l’obligation d’expliquer la décision qui en résulte et d’en répondre reste étonnamment difficile à situer.
La responsabilité et l’obligation de rendre compte méritent donc un traitement plus rigoureux que la simple attribution d’un nom à la dernière étape d’approbation. Les participants doivent répondre de choix différents : ce qui a été conçu, les limites qui ont été communiquées, l’usage qui a été autorisé, les conditions de fonctionnement qui ont été mises en place, et ce qui s’est passé lorsque des éléments ont suggéré que le dispositif posait problème. La compétence technique d’un fournisseur ne démontre pas qu’un déploiement particulier soit approprié, tout comme l’approbation de l’organisation utilisatrice ne décharge pas les concepteurs de leur responsabilité à l’égard des choix et des affirmations qui relèvent de leur contrôle.
La Responsabilité courageuse prend ici toute sa substance, car assumer une décision suppose d’accepter de rendre visibles ses conséquences encore non résolues avant que les circonstances ne les rendent incontournables. Un cas pédagogique fictif, The Warning No One Wanted, l’illustre à travers Jane, une responsable d’équipe qui relève des insuffisances de préparation avant le lancement d’une plateforme de services. Ses préoccupations sont consignées et reconnues, mais leur portée s’atténue progressivement à mesure qu’elles remontent dans l’organisation, jusqu’à ce qu’elle demande à l’équipe dirigeante de décider explicitement du risque restant et de désigner qui répondra de son acceptation. Le cas porte sur une plateforme de services et non sur un déploiement d’IA, mais la distinction qu’il met en évidence est directement pertinente : un avertissement peut rester présent dans les documents tout en exerçant très peu d’influence sur la suite des événements (ELA, n.d.).
Cette possibilité devient particulièrement préoccupante lorsque des personnes portent des engagements éthiques sincères tout en travaillant dans des dispositifs qui pénalisent les comportements que ces engagements exigent, une tension également évoquée dans la récente réflexion d’ELA sur la dépendance cachée (ELA, 2026b). Si la position d’un commanditaire dépend d’une économie particulière, si les responsables sont principalement récompensés pour la réduction du temps de traitement, et si les personnes chargées des vérifications doivent justifier chaque intervention qui ralentit le processus, l’organisation a déjà façonné les conditions dans lesquelles ses engagements éthiques seront interprétés.
C’est aussi pourquoi le Service avant le statut a une portée pratique qui dépasse largement l’attente de dirigeants attentionnés. Il nous invite à examiner ce que l’autorité sert à protéger, notamment lorsque défendre les intérêts des personnes servies exige d’un responsable haut placé qu’il accepte une situation embarrassante, revoie un engagement public ou reconnaisse qu’un jugement antérieur était incomplet. Attendre d’un salarié qu’il fasse preuve de courage moral tout en lui laissant supporter le coût professionnel d’une contestation d’un commanditaire puissant serait une interprétation pour le moins sélective du leadership éthique.
Les travaux d’Amy Edmondson sur la sécurité psychologique permettent de comprendre pourquoi les conditions entourant une telle contestation comptent. La sécurité psychologique concerne la conviction que les membres d’une équipe peuvent prendre des risques interpersonnels, notamment en reconnaissant une incertitude, en demandant de l’aide ou en discutant d’une erreur ; son étude de 1999 a mis en évidence une association entre cette conviction partagée et les comportements d’apprentissage de l’équipe. Appliquée à l’IA, l’implication que j’en tire est qu’une organisation a besoin de personnes capables de questionner à la fois le résultat d’un système et les hypothèses de ceux qui le soutiennent, avec une attente raisonnable que leur préoccupation sera examinée sur le fond. Si signaler une limite est interprété comme une résistance à l’innovation, l’organisation risque d’affaiblir sa propre capacité à découvrir ce qu’exige un usage responsable. (Edmondson, 1999)
La promesse familière de supervision humaine doit être examinée avec la même attention aux conditions de fonctionnement. Revenons à notre service hypothétique : supposons que l’organisation maintienne une personne pour examiner les cas difficiles, tout en réduisant les effectifs, en augmentant le nombre de dossiers confiés à chaque personne et en mesurant la performance à travers la rapidité de leur clôture. La présence d’un examinateur humain peut correspondre à la description du processus tout en lui laissant très peu de capacité pratique à exercer le jugement dont ce processus est censé dépendre.
Une perspective historique est utile ici. Dans Ironies of Automation, Lisanne Bainbridge a examiné comment l’automatisation des processus industriels pouvait accroître les difficultés rencontrées par les opérateurs humains, notamment lorsqu’ils restaient responsables de la gestion des situations anormales. Bien que son sujet soit l’automatisation industrielle, la question se prolonge dans la discussion sur l’IA : lorsque nous comptons sur des personnes pour gérer les situations que l’automatisation ne résout pas correctement, quelles compétences, quelles informations, quel temps et quelle autorité préservons-nous pour elles ? Considérer ces conditions comme des frais facultatifs fragiliserait précisément le mécanisme sur lequel nous comptons pour rendre le dispositif responsable. (Bainbridge, 1983)
Nous devons toutefois nous garder de supposer que l’ajout d’une personne améliore nécessairement chaque résultat. La discussion consacrée aux interactions entre humains et IA dans le cadre de gestion des risques de l’IA du NIST reconnaît que les résultats dépendent de la configuration de cette relation, et que les biais humains et ceux du système peuvent parfois se renforcer mutuellement. Une supervision effective exige donc d’examiner le travail réalisé, les conséquences en jeu et la contribution précise attendue de la personne ; un simple clic d’approbation nous renseigne très peu sur ces éléments. (Tabassi, 2023, annexe C)
L’Humilité transformationnelle offre un fondement éthique au maintien de cet examen. Elle suppose de reconnaître que la confiance dans une décision n’exclut pas une compréhension incomplète, et que de nouveaux éléments peuvent nous conduire à changer notre manière de procéder. Pour un déploiement d’IA, cela pourrait signifier considérer l’autorisation initiale comme un jugement qui reste révisable, en définissant explicitement les conditions d’un élargissement de l’usage, de sa limitation, de sa correction ou de son arrêt. L’engagement envers l’apprentissage gagne en crédibilité lorsque ces possibilités ont été envisagées avant que l’organisation ne devienne dépendante du résultat souhaité.
La vie privée introduit une autre version de cette tension. Considérons une seconde situation hypothétique : un service d’IA destiné à aider des personnes à réfléchir à des circonstances professionnelles difficiles. Des conversations détaillées pourraient contribuer à améliorer le service, tout en contenant des informations sur des collègues, des clients ou d’autres personnes qui n’ont jamais choisi d’interagir avec lui. Décider de conserver ces conversations impliquerait donc davantage que la valeur du jeu de données obtenu, car les personnes qui créent de la valeur pour le service et celles que ces informations exposent ne sont pas nécessairement les mêmes.
C’est ici que le Stewardship partagé élargit la portée de la responsabilité des dirigeants. Il nous invite à considérer la confiance, les relations, les ressources et les conséquences qui nous sont confiées, y compris celles qui dépassent notre rôle immédiat ou notre transaction directe. Une décision de conservation des informations exigerait alors d’expliquer clairement ce qui est nécessaire, dans quel but, qui peut y accéder, pendant combien de temps le besoin subsiste, et quels engagements peuvent effectivement être tenus quant à leur traitement. L’obligation de rendre compte peut nécessiter des traces des décisions, des essais et des actions correctives, sans que cela détermine automatiquement si chaque conversation sous-jacente doit être conservée (ELA, 2026a, pp. 7, 79–80).
À travers ces exemples, le coût éthique devient plus facile à comprendre dès lors que nous cessons de supposer que les dépenses de l’organisation rendent compte de toutes les conséquences de sa décision. Une économie sur les capacités d’assistance peut devenir un effort supplémentaire pour un client, un lancement accéléré peut devenir une incertitude portée par les salariés, et un jeu de données plus utile peut exposer des personnes dont la situation n’avait jamais figuré dans le dossier d’investissement. Le stewardship partagé demande aux dirigeants d’introduire ces conséquences dans la discussion, même lorsque les personnes qui les supportent ont peu d’influence sur la décision.
Il existe cependant un autre risque qui mérite la même attention : une organisation peut répondre à ces préoccupations en accumulant les examens, les comités, les déclarations et les obligations de compte rendu sans devenir beaucoup plus capable d’y répondre. Dans Quand la gouvernance oublie sa raison d’être, j’ai exploré la manière dont des dispositifs destinés à soutenir la responsabilité peuvent progressivement s’investir davantage dans leur propre préservation que dans la mission qu’ils étaient censés servir (Lazar, 2026b). La gouvernance de l’IA est exposée à la même dérive lorsque produire des preuves de supervision devient plus facile à reconnaître et à récompenser que corriger les conditions qui rendent cette supervision inefficace.
Un processus de gouvernance utile devrait donc aider les personnes à prendre et à réexaminer des décisions en comprenant mieux leurs conséquences. Sa contribution devrait être visible dans ce qui change : un usage inapproprié est limité, une préoccupation parvient à quelqu’un ayant l’autorité d’agir, une personne bénéficie d’un véritable réexamen de sa situation, ou un indicateur de performance trompeur est corrigé. Lorsqu’un niveau d’approbation supplémentaire apporte peu à cette capacité, son existence mérite d’être examinée au même titre que toute autre prétention formulée au nom de la responsabilité.
Cet argument ne suppose pas non plus que retarder une décision soit toujours le choix le plus éthique. Reporter un service utile peut avoir ses propres conséquences, notamment lorsque les personnes continuent de dépendre d’un dispositif lent, incohérent ou inaccessible. Il s’agit d’examiner honnêtement les solutions disponibles, y compris le coût d’agir, celui d’attendre et la répartition de l’un comme de l’autre ; l’incertitude ne peut pas toujours être éliminée, mais elle peut être rendue suffisamment visible pour qu’une décision puisse être expliquée, contestée et révisée.
Ce qui me préoccupe le plus est la possibilité que nous demandions aux systèmes d’IA d’exprimer des valeurs que nous n’avons pas rendues opérantes dans les organisations qui les déploient. Nous pouvons demander de la transparence tout en protégeant des décisions opaques, insister sur la capacité d’agir des personnes tout en récompensant leur docilité, ou déclarer que les personnes comptent tout en faisant disparaître leurs besoins dans une mesure agrégée d’efficacité. Dans de telles circonstances, améliorer la technologie peut être nécessaire, mais les questions de leadership demeurent.
C’est pourquoi la congruence, la responsabilité courageuse, l’humilité transformationnelle, le service avant le statut et le stewardship partagé méritent d’être compris comme des disciplines liées entre elles. Elles nous aident à examiner si nos engagements restent cohérents, si les conséquences sont assumées, si le jugement peut évoluer, ce que l’autorité protège et quels intérêts entrent dans la décision. Leur pertinence pour l’IA devient plus claire lorsqu’elles influencent les conditions dans lesquelles un système est développé et utilisé, y compris lorsque leur respect exige d’accepter un résultat moins commode.
Peut-être la question à introduire dans notre prochaine discussion sur l’IA responsable est-elle donc de savoir si nous pouvons identifier une décision que nos engagements éthiques ont effectivement changée. Et si les personnes concernées pouvaient voir comment cette décision a été prise, ce que nous avons choisi de préserver et les coûts que nous étions prêts à supporter nous-mêmes, reconnaîtraient-elles les valeurs dont nous affirmons qu’elles nous guident ?
Références
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.
Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.
Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.
Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.
Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.
Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.
Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”
Commentaires