Quando a IA põe à prova os valores que afirmamos defender
Volto sempre a uma pergunta que permanece, de maneira desconfortável, por trás de muitas das nossas conversas sobre inteligência artificial: o que, exatamente, esperamos que um compromisso ético mude quando a decisão mais lucrativa, conveniente ou atraente do ponto de vista competitivo nos leva em outra direção?
É relativamente fácil falar de inovação responsável enquanto a responsabilidade parece compatível com tudo o mais que queremos alcançar. Podemos apoiar a transparência quando a divulgação de informações não enfraquece nossa posição, defender a supervisão humana quando ela não afeta as economias que prometemos e expressar preocupação com a privacidade enquanto as informações que gostaríamos de guardar continuam disponíveis. O momento mais revelador chega quando esses compromissos começam a impor limites a uma decisão, porque é aí que descobrimos se nossos valores exercem alguma influência sobre a maneira como pretendemos atuar.
Imagine uma organização se preparando para introduzir um serviço de IA que atenderá uma parcela significativa das interações com seus clientes. Nessa situação hipotética, os resultados iniciais são encorajadores: solicitações rotineiras são processadas rapidamente, as respostas parecem coerentes e o caso de negócio sugere que a organização poderia reduzir significativamente o trabalho atribuído às equipes de atendimento. No entanto, os testes também revelam que algumas situações complexas são tratadas de maneira inadequada, sobretudo quando as circunstâncias de um cliente não se encaixam nas premissas que orientaram a concepção do serviço. Um apoio humano adicional poderia corrigir parte dessa fragilidade, embora mantê-lo reduzisse as economias previstas.
A decisão de liderança passa então a envolver muito mais do que o desempenho de um modelo. Ela envolve quais experiências contarão na avaliação desse desempenho, quem absorverá as consequências das limitações restantes e se a organização está disposta a revisar um caso de negócio atraente porque as evidências já não o sustentam em sua forma original. A redução da carga de trabalho interna ainda pode representar uma melhoria útil, mas, se os clientes precisarem gastar mais tempo corrigindo mal-entendidos, repetindo suas circunstâncias ou encontrando alguém com autoridade para ajudar, talvez parte do custo apenas tenha sido deslocada para fora do campo de medição preferido pela organização.
É aqui que a Congruência se torna mais exigente do que a ideia reconfortante de ser coerente. Conforme desenvolvida no Ethical Leadership Practice Guide, a congruência diz respeito à relação entre aquilo em que acreditamos, o que dizemos e o que fazemos; sua importância está em saber se essas três dimensões permanecem coerentes quando as circunstâncias tornam inconveniente alinhá-las (Ethics & Leadership Association [ELA], 2026a, p. 7). Um líder que revê um compromisso de lançamento porque os testes revelaram uma fragilidade grave pode, portanto, estar agindo com mais congruência do que aquele que protege a data original, especialmente se o compromisso mais importante for a promessa de servir às pessoas de maneira responsável.
Essa distinção importa porque podemos nos apegar de forma extraordinária à expressão visível de uma decisão e perder de vista o propósito que a justificou. A data se transforma em promessa, a promessa se transforma em medida de credibilidade e, com o tempo, a capacidade de preservá-la começa a importar mais do que as condições em que ela pode ser cumprida de maneira responsável. Quando alguém apresenta uma preocupação inconveniente, a organização talvez já tenha comprometido tanta reputação com o resultado desejado que reconsiderá-lo pareça uma falha de liderança.
O Modelo de Integridade oferece uma maneira útil de examinar essa tensão porque distingue quatro dimensões que, com facilidade excessiva, são condensadas em um único julgamento: Capacidade (Ability), Legalidade (Legal), Ética (Ethics) e Valores (Values). Capacidade diz respeito a termos os meios práticos para fazer algo, incluindo a competência, os recursos, as informações e a capacidade operacional necessários para fazê-lo de maneira responsável. Aplicada ao nosso serviço hipotético de IA, ela incluiria a capacidade de atender às situações com as quais a tecnologia não lida bem, em vez de encerrar a avaliação no momento em que o software produz uma resposta.
A dimensão da Legalidade trata das obrigações e permissões que regem a atividade, enquanto a Ética pergunta como a decisão se relaciona com os padrões e códigos pelos quais uma profissão ou organização define a conduta responsável. Valores traz o exame de volta às convicções pelas quais as pessoas compreendem o que estão dispostas a defender, incluindo a relação entre essas convicções e os compromissos expressos pela organização. Essas dimensões influenciam umas às outras, mas respondem a perguntas diferentes; o fato de algo ser tecnicamente possível, por exemplo, não demonstra que seja permitido, apropriado ou coerente com os princípios que afirmamos defender (ELA, 2026a, pp. 54–55, 79–80).
A meu ver, o que torna o modelo útil é justamente sua resistência à tentação de deixar que uma resposta atraente encerre toda a discussão. Um sistema capaz ainda pode ser usado para uma finalidade mal justificada, um arranjo juridicamente defensável ainda pode tratar as pessoas de maneiras que conflitam com nossos compromissos profissionais, e uma convicção sincera ainda pode precisar de exame quando suas consequências ficam mais claras. O modelo nos ajuda a expor essas tensões; o difícil trabalho de julgar, explicar e assumir as consequências continua com as pessoas que tomam a decisão.
Isso me leva de volta a uma ideia que explorei em Como nos apresentamos: frequentemente falamos das organizações como se fossem seres independentes, capazes de decidir, permitir, recusar ou assumir responsabilidades, quando as decisões pelas quais uma organização age são tomadas e sustentadas por pessoas (Lazar, 2026a). A IA pode tornar essa distinção mais difícil de perceber, porque um resultado pode passar por um fornecedor, uma equipe de desenvolvimento, um patrocinador do negócio, um processo de configuração e um fluxo de trabalho automatizado antes de chegar à pessoa afetada. Cada participante pode ter cumprido uma responsabilidade específica, enquanto a obrigação de explicar a decisão resultante e responder por ela continua surpreendentemente difícil de localizar.
Responsabilidade e prestação de contas merecem, portanto, um tratamento mais cuidadoso do que simplesmente atribuir um nome à última etapa de aprovação. Participantes diferentes precisam responder por escolhas diferentes: o que foi concebido, quais limitações foram comunicadas, que uso foi autorizado, quais condições operacionais foram oferecidas e o que aconteceu quando as evidências sugeriram que o arranjo estava causando um problema. A competência técnica de um fornecedor não demonstra que determinada implantação seja apropriada, assim como a aprovação da organização que implanta o sistema não exime seus desenvolvedores da responsabilidade pelas escolhas e afirmações sob seu controle.
A Responsabilidade corajosa começa a ganhar substância aqui, porque assumir uma decisão envolve estar disposto a tornar visíveis suas consequências ainda não resolvidas antes que as circunstâncias tornem impossível evitá-las. Um caso didático fictício, The Warning No One Wanted, ilustra isso por meio de Jane, uma líder de equipe que identifica fragilidades na preparação antes do lançamento de uma plataforma de serviços. Suas preocupações são registradas e reconhecidas, mas seu significado vai sendo suavizado à medida que percorrem a organização, até que ela pede à equipe de liderança uma decisão explícita sobre o risco restante e a identificação de quem responderá por aceitá-lo. O caso trata de uma plataforma de serviços, e não de uma implantação de IA, mas a distinção que revela é diretamente relevante: um alerta pode continuar presente na documentação e, ao mesmo tempo, exercer pouquíssima influência sobre o que acontece em seguida (ELA, n.d.).
Essa possibilidade se torna especialmente preocupante quando as pessoas mantêm compromissos éticos sinceros enquanto trabalham em arranjos que penalizam a conduta exigida por esses compromissos, uma tensão também abordada na reflexão recente da ELA sobre dependência oculta (ELA, 2026b). Se a posição de um patrocinador depende de entregar determinada economia, se os gestores são recompensados principalmente por reduzir o tempo de atendimento e se os revisores precisam justificar cada intervenção que retarda o processo, a organização já moldou as condições em que seus compromissos éticos serão interpretados.
É também por isso que Serviço antes do status tem um significado prático que vai muito além da expectativa de que os líderes sejam atenciosos. O princípio pergunta o que a autoridade está sendo usada para proteger, especialmente quando proteger os interesses das pessoas atendidas exige que alguém em posição superior aceite um constrangimento, reveja um compromisso público ou reconheça que um julgamento anterior estava incompleto. Esperar que um funcionário demonstre coragem moral enquanto se deixa com ele o custo profissional de questionar um patrocinador poderoso seria uma interpretação bastante seletiva da liderança ética.
O trabalho de Amy Edmondson sobre segurança psicológica ajuda a explicar por que as condições em torno desse questionamento importam. Segurança psicológica diz respeito a as pessoas acreditarem que podem assumir riscos interpessoais dentro de uma equipe, incluindo admitir incerteza, pedir ajuda ou discutir um erro; seu estudo de 1999 encontrou uma associação entre essa crença compartilhada e os comportamentos de aprendizagem da equipe. Aplicada à IA, a implicação que eu extrairia é que uma organização precisa de pessoas capazes de questionar tanto os resultados de um sistema quanto as premissas de seus patrocinadores, com uma expectativa razoável de que a preocupação será examinada por seu mérito. Se apontar uma limitação for interpretado como resistência à inovação, a organização poderá enfraquecer sua própria capacidade de descobrir o que o uso responsável exige. (Edmondson, 1999)
A conhecida promessa de supervisão humana precisa ser examinada com a mesma atenção às condições operacionais. Voltando ao nosso serviço hipotético, suponha que a organização mantenha uma pessoa para revisar casos difíceis, mas também reduza o quadro de funcionários, aumente o número de casos que cada revisor deve tratar e meça o desempenho pela velocidade com que esses casos são encerrados. A presença de um revisor humano pode atender à descrição do processo e, ainda assim, deixar essa pessoa com pouquíssima capacidade prática de exercer o julgamento do qual o processo supostamente depende.
Há aqui uma perspectiva histórica útil. Em Ironies of Automation, Lisanne Bainbridge examinou como a automação de processos industriais poderia ampliar os problemas enfrentados pelos operadores humanos, sobretudo quando continuavam responsáveis por lidar com condições anormais. Embora seu tema fosse a automação industrial, a pergunta se estende à discussão sobre IA: quando confiamos em pessoas para administrar as situações que a automação não consegue resolver adequadamente, que competência, informação, tempo e autoridade estamos preservando para elas? Tratar essas condições como despesas indiretas dispensáveis enfraqueceria justamente o mecanismo em que confiamos para tornar o arranjo responsável. (Bainbridge, 1983)
Ao mesmo tempo, devemos ter cuidado ao supor que acrescentar uma pessoa necessariamente melhora todos os resultados. A discussão sobre interação entre humanos e IA no referencial de gestão de riscos de IA do NIST reconhece que os resultados dependem de como a relação é configurada e que os vieses humanos e os do sistema podem, às vezes, reforçar uns aos outros. Uma supervisão significativa exige, portanto, examinar o trabalho realizado, as consequências envolvidas e a contribuição específica esperada de uma pessoa; um clique de aprovação, por si só, nos diz muito pouco sobre qualquer uma dessas questões. (Tabassi, 2023, apêndice C)
A Humildade transformacional oferece um fundamento ético para manter esse exame. Ela envolve reconhecer que a confiança em uma decisão não elimina a possibilidade de nossa compreensão estar incompleta e de novas evidências exigirem uma mudança na maneira de proceder. Na implantação de IA, isso poderia significar tratar a autorização inicial como um julgamento que permanece aberto à revisão, com condições explícitas para ampliar o uso, restringi-lo, corrigi-lo ou encerrá-lo. O compromisso com a aprendizagem tem mais credibilidade quando essas possibilidades foram consideradas antes que a organização se torne dependente do resultado desejado.
A privacidade introduz outra versão da mesma tensão. Considere uma segunda situação hipotética: um serviço de IA destinado a ajudar as pessoas a refletir sobre circunstâncias profissionais difíceis. Conversas detalhadas poderiam ajudar a melhorar o serviço e, ao mesmo tempo, conter informações sobre colegas, clientes ou outras pessoas que nunca escolheram interagir com ele. A decisão de conservar ou não essas conversas envolveria, portanto, mais do que o valor do conjunto de dados resultante, porque as pessoas que criam valor para o serviço e aquelas expostas por essas informações podem não ser as mesmas.
É aqui que a Corresponsabilidade amplia o alcance da responsabilidade da liderança. Ela nos pede que consideremos a confiança, as relações, os recursos e as consequências colocados sob nossos cuidados, incluindo os que ultrapassam nosso papel imediato ou uma transação direta. Uma decisão sobre retenção de informações exigiria então uma explicação clara do que é necessário, para qual finalidade, quem pode acessar, por quanto tempo continua necessário e quais compromissos sobre seu tratamento podem efetivamente ser sustentados. A prestação de contas pode exigir registros de decisões, testes e ações corretivas, mas essa exigência não resolve automaticamente se toda conversa subjacente deve ser guardada (ELA, 2026a, pp. 7, 79–80).
Nesses exemplos, o custo ético fica mais fácil de compreender quando deixamos de supor que as despesas da própria organização abrangem todas as consequências de sua decisão. Uma economia na capacidade de atendimento pode se tornar esforço adicional para um cliente; um lançamento mais rápido, incerteza suportada pelos funcionários; e um conjunto de dados mais útil, exposição para pessoas cujas circunstâncias nunca fizeram parte do caso de negócio. A Corresponsabilidade pede aos líderes que incluam essas consequências na discussão, mesmo quando as pessoas que as suportam têm pouca influência sobre a decisão.
Há, no entanto, outro risco que merece a mesma atenção, porque uma organização pode responder a essas preocupações acumulando revisões, comitês, declarações e exigências de relatórios sem melhorar muito sua capacidade de enfrentá-las. Em Quando a governança esquece seu propósito, explorei como os arranjos destinados a sustentar a responsabilidade podem, gradualmente, se dedicar mais à própria preservação do que à missão que deveriam servir (Lazar, 2026b). A governança da IA está sujeita ao mesmo desvio quando produzir evidências de supervisão se torna mais fácil de reconhecer e recompensar do que corrigir as condições que tornam essa supervisão ineficaz.
Um processo útil de governança deveria, portanto, ajudar as pessoas a tomar e rever decisões com uma compreensão mais clara de suas consequências. Sua contribuição deveria aparecer no que muda: um uso inadequado é restringido, uma preocupação chega a alguém com autoridade para agir, uma pessoa obtém uma reconsideração efetiva ou uma medida enganosa de desempenho é revista. Quando outra camada de aprovação acrescenta pouco a essa capacidade, sua existência merece ser examinada junto com qualquer outra alegação feita em nome da responsabilidade.
Esse argumento tampouco deve ser entendido como uma presunção de que adiar seja sempre a escolha mais ética. Atrasar um serviço útil pode ter consequências próprias, especialmente quando as pessoas continuam dependendo de um arranjo existente que é lento, inconsistente ou inacessível. A tarefa é examinar honestamente as alternativas disponíveis, incluindo o custo de prosseguir, o custo de esperar e a distribuição de ambos; nem sempre é possível eliminar a incerteza, mas podemos torná-la suficientemente visível para que uma decisão seja explicada, questionada e revista.
O que mais me preocupa é a possibilidade de pedirmos aos sistemas de IA que expressem valores que não tornamos operacionais dentro das organizações que os implantam. Podemos pedir transparência enquanto protegemos decisões opacas, insistir na autonomia humana enquanto recompensamos a obediência ou declarar que as pessoas importam enquanto fazemos suas necessidades desaparecerem em uma medida agregada de eficiência. Nessas circunstâncias, melhorar a tecnologia pode ser necessário, mas as questões de liderança permaneceriam.
É por isso que Congruência, Responsabilidade corajosa, Humildade transformacional, Serviço antes do status e Corresponsabilidade merecem ser entendidos como disciplinas conectadas. Eles nos ajudam a examinar se nossos compromissos permanecem coerentes, se as consequências são assumidas, se o julgamento pode evoluir, o que a autoridade protege e quais interesses entram na decisão. Sua relevância para a IA fica mais clara quando afetam as condições em que um sistema é desenvolvido e utilizado, incluindo as ocasiões em que respeitá-los exige aceitar um resultado menos conveniente.
Talvez, então, a pergunta a levar para a próxima conversa sobre IA responsável seja se conseguimos identificar uma decisão que nossos compromissos éticos realmente tenham mudado. E, se as pessoas afetadas pudessem ver como essa decisão foi tomada, o que escolhemos preservar e quais custos estávamos dispostos a assumir nós mesmos, reconheceriam os valores que dizemos nos orientar?
Referências
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.
Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.
Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.
Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.
Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.
Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.
Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”
Comentários