Cuando la IA pone a prueba los valores que afirmamos defender
Vuelvo una y otra vez a una pregunta que subyace, de manera incómoda, a muchas de nuestras conversaciones sobre inteligencia artificial: ¿qué esperamos, exactamente, que cambie un compromiso ético cuando la decisión más rentable, conveniente o atractiva desde el punto de vista competitivo nos lleva en otra dirección?
Resulta relativamente fácil hablar de innovación responsable mientras la responsabilidad parece compatible con todo lo demás que queremos conseguir. Podemos apoyar la transparencia cuando revelar información no debilita nuestra posición, defender la supervisión humana cuando no afecta a los ahorros que hemos prometido y expresar preocupación por la privacidad mientras la información que querríamos conservar sigue estando a nuestra disposición. El momento más revelador llega cuando esos compromisos empiezan a limitar una decisión, porque es entonces cuando descubrimos si nuestros valores influyen en la manera en que pretendemos actuar.
Imaginemos una organización que se prepara para introducir un servicio de IA que atenderá una parte sustancial de sus interacciones con los clientes. En esta situación hipotética, los primeros resultados son alentadores: las solicitudes habituales se procesan con rapidez, las respuestas parecen coherentes y el caso de negocio indica que la organización podría reducir significativamente el trabajo asignado a sus equipos de atención. Sin embargo, las pruebas también revelan que algunas situaciones complejas se resuelven mal, especialmente cuando las circunstancias de un cliente no encajan en los supuestos sobre los que se diseñó el servicio. Un apoyo humano adicional podría remediar parte de esa debilidad, aunque mantenerlo reduciría los ahorros previstos.
La decisión de liderazgo abarca ahora mucho más que el rendimiento de un modelo. Se refiere a qué experiencias contarán al evaluar ese rendimiento, quién asumirá las consecuencias de las limitaciones pendientes y si la organización está dispuesta a revisar un caso de negocio atractivo porque la evidencia ya no lo respalda en su forma original. Una reducción de la carga de trabajo interna puede seguir siendo una mejora útil, pero, si los clientes deben dedicar más tiempo a corregir malentendidos, repetir sus circunstancias o encontrar a alguien con autoridad para ayudarles, quizá parte del coste simplemente se haya desplazado fuera del ámbito de medición que la organización prefiere.
Aquí es donde la Congruencia se vuelve más exigente que la reconfortante idea de ser coherente. Tal como se desarrolla en el Ethical Leadership Practice Guide, la congruencia se refiere a la relación entre lo que creemos, lo que decimos y lo que hacemos; su importancia reside en que esas tres dimensiones mantengan su coherencia cuando las circunstancias hacen incómodo alinearlas (Ethics & Leadership Association [ELA], 2026a, p. 7). Por tanto, un líder que revisa un compromiso de lanzamiento porque las pruebas han revelado una debilidad grave puede estar actuando con mayor congruencia que quien protege la fecha original, especialmente si el compromiso que más importa es la promesa de servir a las personas de manera responsable.
Esta distinción importa porque podemos apegarnos extraordinariamente a la expresión visible de una decisión y perder de vista el propósito que la justificaba. La fecha se convierte en una promesa, la promesa se convierte en una medida de credibilidad y, con el tiempo, la capacidad de mantenerla empieza a importar más que las condiciones que permiten cumplirla responsablemente. Cuando alguien plantea una preocupación incómoda, puede que la organización ya haya comprometido tanta reputación en el resultado preferido que reconsiderarlo se viva como un fracaso del liderazgo.
El Modelo de Integridad ofrece una forma útil de examinar esta tensión porque distingue cuatro dimensiones que se funden con demasiada facilidad en un único juicio: Capacidad (Ability), Legalidad (Legal), Ética (Ethics) y Valores (Values). La capacidad se refiere a si contamos con los medios prácticos para hacer algo, incluidas la competencia, los recursos, la información y la capacidad operativa necesarios para hacerlo responsablemente. Aplicada a nuestro servicio hipotético de IA, incluiría la capacidad de atender las situaciones que la tecnología no resuelve bien, en lugar de detener la evaluación en el momento en que el programa produce una respuesta.
La dimensión de Legalidad se refiere a las obligaciones y los permisos que rigen la actividad, mientras que la Ética pregunta cómo se relaciona la decisión con las normas y los códigos mediante los cuales una profesión u organización define la conducta responsable. Los Valores devuelven el examen a las convicciones con las que las personas entienden qué están dispuestas a defender, incluida la relación entre esas convicciones y los compromisos expresados por la organización. Estas dimensiones se influyen mutuamente, pero responden a preguntas diferentes; que algo sea técnicamente posible, por ejemplo, no demuestra que esté permitido, sea apropiado o resulte coherente con los principios que afirmamos defender (ELA, 2026a, pp. 54–55, 79–80).
A mi juicio, lo que hace útil al modelo es precisamente su resistencia a la tentación de permitir que una respuesta atractiva zanje toda la discusión. Un sistema competente puede utilizarse para un fin mal justificado, un acuerdo jurídicamente defendible puede tratar a las personas de formas que entren en conflicto con nuestros compromisos profesionales y una convicción sincera puede seguir necesitando examen cuando sus consecuencias se aclaran. El modelo nos ayuda a poner de manifiesto esas tensiones; el difícil trabajo de juzgar, explicar y asumir las consecuencias sigue correspondiendo a quienes toman la decisión.
Esto me devuelve a una idea que exploré en Cómo nos presentamos: a menudo hablamos de las organizaciones como si fueran seres independientes capaces de decidir, permitir, rechazar o asumir responsabilidades, cuando las decisiones mediante las cuales actúa una organización las toman y sostienen personas (Lazar, 2026a). La IA puede dificultar esta distinción, porque un resultado puede pasar por un proveedor, un equipo de desarrollo, un patrocinador del negocio, un proceso de configuración y un flujo de trabajo automatizado antes de llegar a la persona afectada. Cada participante puede haber cumplido una responsabilidad concreta, mientras que sigue siendo sorprendentemente difícil identificar quién tiene la obligación de explicar la decisión resultante y responder por ella.
La responsabilidad y la obligación de rendir cuentas merecen, por tanto, un tratamiento más cuidadoso que limitarse a asignar un nombre al último paso de aprobación. Distintos participantes deben responder por decisiones diferentes: qué se diseñó, qué limitaciones se comunicaron, qué uso se autorizó, qué condiciones operativas se proporcionaron y qué ocurrió cuando la evidencia indicó que el sistema de trabajo estaba causando un problema. La competencia técnica de un proveedor no demuestra que un despliegue concreto sea apropiado, del mismo modo que la aprobación de la organización que lo despliega no exime a quienes desarrollan el sistema de responder por las decisiones y afirmaciones que están bajo su control.
La Responsabilidad valiente empieza a adquirir contenido aquí, porque asumir una decisión implica estar dispuesto a hacer visibles sus consecuencias pendientes antes de que las circunstancias vuelvan imposible eludirlas. Un caso didáctico ficticio, The Warning No One Wanted, lo ilustra a través de Jane, una responsable de equipo que identifica deficiencias de preparación antes del lanzamiento de una plataforma de servicios. Sus preocupaciones quedan registradas y se reconocen, pero su significado se va atenuando a medida que atraviesan la organización, hasta que ella pide al equipo directivo que tome una decisión explícita sobre el riesgo restante e identifique quién responderá por aceptarlo. El caso trata de una plataforma de servicios y no de un despliegue de IA, pero la distinción que pone de manifiesto es directamente pertinente: una advertencia puede seguir presente en la documentación y, al mismo tiempo, influir muy poco en lo que ocurre después (ELA, n.d.).
Esa posibilidad resulta especialmente preocupante cuando las personas mantienen compromisos éticos sinceros mientras trabajan en estructuras que penalizan la conducta que esos compromisos exigen, una tensión que también plantea la reciente reflexión de ELA sobre la dependencia oculta (ELA, 2026b). Si la posición de un patrocinador depende de lograr un ahorro concreto, si se recompensa a los responsables principalmente por reducir el tiempo de gestión y si quienes revisan los casos deben justificar cada intervención que ralentiza el proceso, la organización ya ha configurado las condiciones en las que se interpretarán sus compromisos éticos.
Por eso, Servicio antes que estatus tiene también un significado práctico que va mucho más allá de esperar que los líderes sean considerados. Nos lleva a preguntar qué se está protegiendo mediante la autoridad, especialmente cuando proteger los intereses de las personas a las que se sirve exige que alguien en un puesto superior acepte una situación embarazosa, revise un compromiso público o reconozca que un juicio anterior era incompleto. Esperar que un empleado demuestre valor moral mientras se le deja asumir el coste profesional de cuestionar a un patrocinador poderoso sería una interpretación bastante selectiva del liderazgo ético.
El trabajo de Amy Edmondson sobre seguridad psicológica ayuda a explicar por qué importan las condiciones que rodean ese cuestionamiento. La seguridad psicológica se refiere a si las personas creen que pueden asumir riesgos interpersonales dentro de un equipo, como admitir incertidumbre, pedir ayuda o hablar de un error; su estudio de 1999 encontró una asociación entre esa creencia compartida y las conductas de aprendizaje del equipo. Aplicada a la IA, la implicación que yo extraería es que una organización necesita personas capaces de cuestionar tanto los resultados de un sistema como los supuestos de quienes lo patrocinan, con una expectativa razonable de que la preocupación se examinará por su contenido. Si señalar una limitación se interpreta como resistencia a la innovación, la organización puede debilitar su propia capacidad para descubrir qué exige un uso responsable. (Edmondson, 1999)
La conocida promesa de supervisión humana debe examinarse con la misma atención a las condiciones operativas. Volviendo a nuestro servicio hipotético, supongamos que la organización mantiene a una persona para revisar los casos difíciles, pero también reduce la plantilla, aumenta el número de casos que debe gestionar cada revisor y mide el rendimiento por la velocidad con la que se cierran esos casos. La presencia de una persona revisora puede ajustarse a la descripción del proceso y, sin embargo, dejarle muy poca capacidad práctica para ejercer el juicio del que supuestamente depende ese proceso.
Hay aquí una perspectiva histórica útil. En Ironies of Automation, Lisanne Bainbridge examinó cómo la automatización de los procesos industriales podía ampliar los problemas que afrontaban los operadores humanos, especialmente cuando seguían siendo responsables de gestionar situaciones anómalas. Aunque su tema era la automatización industrial, la pregunta se traslada a la discusión sobre IA: cuando confiamos en personas para gestionar las situaciones que la automatización no puede resolver adecuadamente, ¿qué competencia, información, tiempo y autoridad estamos preservando para ellas? Tratar esas condiciones como gastos generales prescindibles debilitaría precisamente el mecanismo en el que confiamos para hacer responsable el sistema de trabajo. (Bainbridge, 1983)
Al mismo tiempo, debemos ser prudentes al suponer que incorporar a una persona mejora necesariamente todos los resultados. La discusión sobre interacción entre seres humanos e IA del marco de gestión de riesgos de IA del NIST reconoce que los resultados dependen de cómo se configure esa relación y que los sesgos humanos y los del sistema pueden, en ocasiones, reforzarse mutuamente. Una supervisión significativa exige, por tanto, examinar el trabajo que se realiza, las consecuencias implicadas y la contribución concreta que se espera de una persona; un clic de aprobación, por sí solo, nos dice muy poco sobre cualquiera de estas cuestiones. (Tabassi, 2023, apéndice C)
La Humildad transformacional proporciona un fundamento ético para mantener ese examen. Implica reconocer que la confianza en una decisión no elimina la posibilidad de que nuestra comprensión sea incompleta y que nueva evidencia puede exigirnos cambiar nuestra manera de proceder. Para un despliegue de IA, esto podría significar tratar la autorización inicial como un juicio que permanece abierto a revisión, con condiciones explícitas para ampliar el uso, limitarlo, corregirlo o ponerle fin. El compromiso con el aprendizaje resulta más creíble cuando esas posibilidades se han considerado antes de que la organización dependa del resultado preferido.
La privacidad introduce otra versión de la misma tensión. Pensemos en una segunda situación hipotética: un servicio de IA destinado a ayudar a las personas a reflexionar sobre circunstancias profesionales difíciles. Las conversaciones detalladas podrían contribuir a mejorar el servicio y, a la vez, contener información sobre compañeros, clientes u otras personas que nunca eligieron interactuar con él. La pregunta de si deben conservarse esas conversaciones implicaría, por tanto, algo más que el valor del conjunto de datos resultante, porque las personas que crean valor para el servicio y las que quedan expuestas por esa información pueden no ser las mismas.
Aquí es donde la Corresponsabilidad amplía el alcance de la responsabilidad del liderazgo. Nos pide considerar la confianza, las relaciones, los recursos y las consecuencias puestos a nuestro cuidado, incluidos los que van más allá de nuestro papel inmediato o de una transacción directa. Una decisión sobre conservación de información exigiría entonces explicar con claridad qué se necesita, para qué fin, quién puede acceder a ello, durante cuánto tiempo sigue siendo necesario y qué compromisos pueden sostenerse realmente respecto a su tratamiento. La rendición de cuentas puede requerir registros de decisiones, pruebas y medidas correctivas, pero ese requisito no resuelve automáticamente si debe conservarse cada conversación subyacente (ELA, 2026a, pp. 7, 79–80).
A lo largo de estos ejemplos, el coste ético se entiende mejor cuando dejamos de suponer que el gasto propio de la organización recoge todas las consecuencias de su decisión. Un ahorro en capacidad de atención puede convertirse en esfuerzo adicional para un cliente; un lanzamiento más rápido, en incertidumbre que recae sobre los empleados; y un conjunto de datos más útil, en exposición para personas cuyas circunstancias nunca formaron parte del caso de negocio. La Corresponsabilidad pide a los líderes que incorporen esas consecuencias a la discusión, incluso cuando quienes las soportan apenas influyen en la decisión.
Existe, sin embargo, otro riesgo que merece la misma atención, porque una organización puede responder a estas preocupaciones acumulando revisiones, comités, declaraciones y requisitos de información sin mejorar mucho su capacidad de abordarlas. En Cuando la gobernanza olvida su propósito, exploré cómo los mecanismos destinados a sostener la responsabilidad pueden ir preocupándose más por su propia conservación que por la misión a la que debían servir (Lazar, 2026b). La gobernanza de la IA es vulnerable a esa misma deriva cuando resulta más fácil reconocer y recompensar la producción de pruebas de supervisión que corregir las condiciones que la hacen ineficaz.
Un proceso de gobernanza útil debería, por tanto, ayudar a las personas a tomar y revisar decisiones con una comprensión más clara de sus consecuencias. Su contribución debería hacerse visible en lo que cambia: se restringe un uso inadecuado, una preocupación llega a alguien con autoridad para actuar, una persona obtiene una reconsideración sustantiva o se revisa una medida de rendimiento engañosa. Cuando otra capa de aprobación aporta poco a esa capacidad, su existencia merece examinarse junto con cualquier otra afirmación hecha en nombre de la responsabilidad.
Tampoco debe entenderse este argumento como una presunción de que retrasar siempre sea la opción más ética. Demorar un servicio útil puede tener sus propias consecuencias, especialmente cuando las personas siguen dependiendo de un sistema existente que es lento, inconsistente o inaccesible. La tarea consiste en examinar honestamente las alternativas disponibles, incluidos el coste de seguir adelante, el coste de esperar y la distribución de ambos; la incertidumbre no siempre puede eliminarse, pero sí hacerse suficientemente visible para que una decisión pueda explicarse, cuestionarse y revisarse.
Lo que más me preocupa es la posibilidad de que pidamos a los sistemas de IA expresar valores que no hemos hecho operativos dentro de las organizaciones que los despliegan. Podemos pedir transparencia mientras protegemos decisiones opacas, insistir en la capacidad de decisión humana mientras recompensamos la obediencia o declarar que las personas importan mientras hacemos desaparecer sus necesidades dentro de una medida agregada de eficiencia. En tales circunstancias, mejorar la tecnología puede ser necesario, pero las preguntas sobre liderazgo seguirían presentes.
Por eso, Congruencia, Responsabilidad valiente, Humildad transformacional, Servicio antes que estatus y Corresponsabilidad merecen entenderse como disciplinas conectadas. Nos ayudan a examinar si nuestros compromisos siguen siendo coherentes, si alguien asume las consecuencias, si el juicio puede evolucionar, qué protege la autoridad y qué intereses entran en la decisión. Su pertinencia para la IA se vuelve más clara cuando influyen en las condiciones en las que un sistema se desarrolla y utiliza, incluidas las ocasiones en las que respetarlas exige aceptar un resultado menos conveniente.
Quizá, entonces, la pregunta que debamos llevar a la próxima conversación sobre IA responsable sea si podemos identificar una decisión que nuestros compromisos éticos hayan cambiado de verdad. Y, si las personas afectadas pudieran ver cómo se tomó esa decisión, qué elegimos preservar y qué costes estuvimos dispuestos a asumir nosotros mismos, ¿reconocerían los valores que decimos que nos guían?
Referencias
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.
Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.
Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.
Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.
Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.
Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.
Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”
Comentarios