Quando l’IA mette alla prova i valori che affermiamo di difendere
Torno continuamente a una domanda che rimane, scomodamente, sullo sfondo di molte delle nostre conversazioni sull’intelligenza artificiale: che cosa ci aspettiamo, esattamente, che un impegno etico cambi quando la decisione più redditizia, conveniente o attraente sul piano competitivo ci porta in un’altra direzione?
È relativamente facile parlare di innovazione responsabile finché la responsabilità sembra compatibile con tutto il resto che vogliamo ottenere. Possiamo sostenere la trasparenza quando divulgare informazioni non indebolisce la nostra posizione, difendere la supervisione umana quando non incide sui risparmi promessi ed esprimere preoccupazione per la riservatezza finché le informazioni che vorremmo conservare restano a nostra disposizione. Il momento più rivelatore arriva quando questi impegni cominciano a porre vincoli a una decisione, perché è allora che scopriamo se i nostri valori esercitano un’influenza sul modo in cui intendiamo operare.
Immaginiamo un’organizzazione che si prepara a introdurre un servizio di IA destinato a gestire una parte significativa delle interazioni con i clienti. In questa situazione ipotetica, i primi risultati sono incoraggianti: le richieste ordinarie vengono elaborate rapidamente, le risposte appaiono coerenti e il business case suggerisce che l’organizzazione potrebbe ridurre notevolmente il lavoro assegnato ai team di assistenza. Le prove rivelano però anche che alcune situazioni complesse sono gestite male, soprattutto quando le circostanze di un cliente non rientrano nelle ipotesi su cui è stato progettato il servizio. Un supporto umano aggiuntivo potrebbe compensare parte di questa debolezza, ma mantenerlo ridurrebbe i risparmi previsti.
La decisione di leadership riguarda ora molto più delle prestazioni di un modello. Riguarda quali esperienze conteranno nella valutazione delle prestazioni, chi assorbirà le conseguenze dei limiti ancora presenti e se l’organizzazione è disposta a rivedere un business case attraente perché le evidenze non lo sostengono più nella sua forma originaria. Una riduzione del carico di lavoro interno può ancora rappresentare un miglioramento utile, ma, se i clienti devono dedicare più tempo a correggere incomprensioni, ripetere la propria situazione o trovare qualcuno con l’autorità necessaria per aiutarli, parte del costo potrebbe essersi semplicemente spostata al di fuori del perimetro di misurazione preferito dall’organizzazione.
È qui che la Coerenza diventa più esigente della rassicurante idea di mantenere una condotta costante. Come viene sviluppata nell’Ethical Leadership Practice Guide, la coerenza riguarda la relazione tra ciò in cui crediamo, ciò che diciamo e ciò che facciamo; la sua importanza sta nel verificare se queste tre dimensioni rimangano allineate quando le circostanze rendono scomodo esserlo (Ethics & Leadership Association [ELA], 2026a, p. 7). Un leader che rivede un impegno di lancio perché le prove hanno evidenziato una debolezza grave può quindi agire con maggiore coerenza di chi protegge la data originaria, soprattutto se l’impegno più importante è la promessa di servire le persone in modo responsabile.
Questa distinzione conta perché possiamo affezionarci in misura sorprendente all’espressione visibile di una decisione, perdendo di vista lo scopo che la giustificava. La data diventa una promessa, la promessa diventa una misura di credibilità e, alla fine, la capacità di mantenerla comincia a contare più delle condizioni che permettono di adempierla responsabilmente. Quando qualcuno solleva una preoccupazione scomoda, l’organizzazione potrebbe aver già investito tanta reputazione nell’esito preferito da vivere un ripensamento come un fallimento della leadership.
Il Modello di Integrità offre un modo utile per esaminare questa tensione, perché distingue quattro dimensioni che troppo facilmente vengono ricondotte a un solo giudizio: Capacità (Ability), Legalità (Legal), Etica (Ethics) e Valori (Values). La capacità riguarda la disponibilità dei mezzi pratici per fare qualcosa, comprese le competenze, le risorse, le informazioni e la capacità operativa necessarie per farlo responsabilmente. Applicata al nostro servizio ipotetico di IA, comprenderebbe la capacità di assistere le situazioni che la tecnologia non sa gestire bene, invece di fermare la valutazione nel momento in cui il software produce una risposta.
La dimensione della Legalità riguarda gli obblighi e le autorizzazioni che disciplinano l’attività, mentre l’Etica chiede come la decisione si rapporti agli standard e ai codici attraverso cui una professione o un’organizzazione definisce la condotta responsabile. I Valori riportano l’esame alle convinzioni attraverso cui le persone comprendono che cosa sono disposte a difendere, inclusa la relazione tra queste convinzioni e gli impegni espressi dall’organizzazione. Le dimensioni si influenzano reciprocamente, ma rispondono a domande diverse; il fatto che qualcosa sia tecnicamente possibile, per esempio, non dimostra che sia consentito, appropriato o coerente con i principi che affermiamo di sostenere (ELA, 2026a, pp. 54–55, 79–80).
A mio avviso, ciò che rende utile il modello è proprio la sua resistenza alla tentazione di lasciare che una risposta attraente chiuda l’intera discussione. Un sistema capace può comunque essere usato per uno scopo scarsamente giustificato, un assetto giuridicamente difendibile può comunque trattare le persone in modi incompatibili con i nostri impegni professionali e una convinzione sincera può comunque richiedere un riesame quando le sue conseguenze diventano più chiare. Il modello ci aiuta a far emergere queste tensioni; il difficile lavoro di giudicare, spiegare e assumersi le conseguenze rimane alle persone che prendono la decisione.
Questo mi riporta a un punto che ho esplorato in Come ci presentiamo: spesso parliamo delle organizzazioni come se fossero esseri indipendenti, capaci di decidere, consentire, rifiutare o assumersi responsabilità, mentre le decisioni attraverso cui un’organizzazione agisce sono prese e sostenute da persone (Lazar, 2026a). L’IA può rendere questa distinzione più difficile da vedere, perché un risultato può passare attraverso un fornitore, un team di sviluppo, un committente aziendale, un processo di configurazione e un flusso di lavoro automatizzato prima di raggiungere la persona interessata. Ogni partecipante può aver assolto una responsabilità specifica, mentre resta sorprendentemente difficile individuare chi abbia l’obbligo di spiegare la decisione risultante e risponderne.
La responsabilità e l’obbligo di rendere conto meritano quindi un trattamento più attento del semplice assegnare un nome all’ultimo passaggio di approvazione. Partecipanti diversi devono rispondere di scelte diverse: che cosa è stato progettato, quali limiti sono stati comunicati, quale uso è stato autorizzato, quali condizioni operative sono state garantite e che cosa è accaduto quando le evidenze hanno suggerito che l’assetto stava causando un problema. La competenza tecnica di un fornitore non dimostra che una determinata implementazione sia appropriata, così come l’approvazione dell’organizzazione che adotta il sistema non solleva chi lo sviluppa dalla responsabilità per le scelte e le dichiarazioni sotto il proprio controllo.
La Responsabilità coraggiosa comincia qui ad acquistare sostanza, perché assumersi una decisione implica essere disposti a rendere visibili le sue conseguenze ancora irrisolte prima che le circostanze rendano impossibile evitarle. Un caso didattico fittizio, The Warning No One Wanted, lo illustra attraverso Jane, una responsabile di team che individua carenze nella preparazione prima del lancio di una piattaforma di servizi. Le sue preoccupazioni vengono registrate e riconosciute, ma il loro significato viene progressivamente attenuato lungo il percorso attraverso l’organizzazione, finché lei chiede al gruppo dirigente di prendere una decisione esplicita sul rischio residuo e di identificare chi risponderà della sua accettazione. Il caso riguarda una piattaforma di servizi e non un’implementazione di IA, ma la distinzione che mette in luce è direttamente pertinente: un avvertimento può restare presente nella documentazione ed esercitare pochissima influenza su ciò che accade dopo (ELA, n.d.).
Questa possibilità diventa particolarmente preoccupante quando le persone hanno impegni etici sinceri ma lavorano all’interno di assetti che penalizzano la condotta richiesta da quegli impegni, una tensione affrontata anche nella recente riflessione di ELA sulla dipendenza nascosta (ELA, 2026b). Se la posizione di un committente dipende dal conseguimento di un determinato risparmio, se i responsabili vengono premiati soprattutto per la riduzione dei tempi di gestione e se i revisori devono giustificare ogni intervento che rallenta il processo, l’organizzazione ha già plasmato le condizioni in cui saranno interpretati i suoi impegni etici.
È anche per questo che Servizio prima dello status ha un significato pratico che va ben oltre l’aspettativa che i leader siano premurosi. Ci chiede che cosa si stia usando l’autorità per proteggere, soprattutto quando tutelare gli interessi delle persone servite richiede a qualcuno in una posizione elevata di accettare un imbarazzo, rivedere un impegno pubblico o riconoscere che un giudizio precedente era incompleto. Aspettarsi che un dipendente dimostri coraggio morale lasciandogli però il costo professionale di mettere in discussione un committente potente sarebbe un’interpretazione piuttosto selettiva della leadership etica.
Il lavoro di Amy Edmondson sulla sicurezza psicologica aiuta a spiegare perché contano le condizioni che circondano una simile contestazione. La sicurezza psicologica riguarda la convinzione di poter assumere rischi interpersonali all’interno di un team, come ammettere un’incertezza, chiedere aiuto o discutere un errore; il suo studio del 1999 ha rilevato un’associazione tra questa convinzione condivisa e i comportamenti di apprendimento del team. Applicata all’IA, l’implicazione che ne trarrei è che un’organizzazione ha bisogno di persone capaci di mettere in discussione sia i risultati di un sistema sia le ipotesi di chi lo promuove, con la ragionevole aspettativa che la preoccupazione venga esaminata nel merito. Se segnalare un limite viene interpretato come resistenza all’innovazione, l’organizzazione può indebolire la propria capacità di scoprire che cosa richieda un uso responsabile. (Edmondson, 1999)
La consueta promessa di supervisione umana va esaminata con la stessa attenzione alle condizioni operative. Tornando al nostro servizio ipotetico, supponiamo che l’organizzazione mantenga una persona per rivedere i casi difficili, ma riduca anche il personale, aumenti il numero di casi assegnati a ciascun revisore e misuri le prestazioni attraverso la velocità di chiusura dei casi. La presenza di un revisore umano può soddisfare la descrizione del processo lasciando però a quella persona una capacità pratica molto limitata di esercitare il giudizio da cui il processo dovrebbe dipendere.
Qui è utile una prospettiva storica. In Ironies of Automation, Lisanne Bainbridge ha esaminato come l’automazione dei processi industriali potesse ampliare i problemi affrontati dagli operatori umani, soprattutto quando rimanevano responsabili della gestione delle condizioni anomale. Benché il suo argomento fosse l’automazione industriale, la domanda si estende al dibattito sull’IA: quando contiamo sulle persone per gestire le situazioni che l’automazione non riesce a risolvere adeguatamente, quali competenze, informazioni, tempo e autorità stiamo preservando per loro? Trattare queste condizioni come costi generali facoltativi indebolirebbe proprio il meccanismo su cui facciamo affidamento per rendere responsabile l’assetto. (Bainbridge, 1983)
Allo stesso tempo, dovremmo essere prudenti nel presumere che aggiungere una persona migliori necessariamente ogni risultato. La discussione sull’interazione tra esseri umani e IA nel quadro di gestione del rischio dell’IA del NIST riconosce che i risultati dipendono da come viene configurata la relazione e che i pregiudizi umani e quelli del sistema possono talvolta rafforzarsi a vicenda. Una supervisione significativa richiede quindi di esaminare il lavoro svolto, le conseguenze in gioco e il contributo specifico che ci si aspetta da una persona; un clic di approvazione, da solo, ci dice ben poco su ciascuno di questi aspetti. (Tabassi, 2023, appendice C)
L’Umiltà trasformazionale offre un fondamento etico per mantenere questo esame. Implica riconoscere che la fiducia in una decisione non elimina la possibilità che la nostra comprensione sia incompleta e che nuove evidenze possano richiedere di cambiare il modo di procedere. Nell’adozione dell’IA, ciò potrebbe significare trattare l’autorizzazione iniziale come un giudizio ancora aperto a revisione, con condizioni esplicite per ampliare l’uso, restringerlo, correggerlo o interromperlo. L’impegno ad apprendere risulta più credibile quando queste possibilità sono state considerate prima che l’organizzazione diventi dipendente dall’esito preferito.
La riservatezza introduce un’altra versione della stessa tensione. Consideriamo una seconda situazione ipotetica: un servizio di IA pensato per aiutare le persone a riflettere su circostanze professionali difficili. Conversazioni dettagliate potrebbero contribuire a migliorare il servizio e, al tempo stesso, contenere informazioni su colleghi, clienti o altre persone che non hanno mai scelto di interagire con esso. La questione se conservare tali conversazioni coinvolgerebbe quindi più del valore dell’insieme di dati risultante, perché le persone che creano valore per il servizio e quelle esposte da quelle informazioni potrebbero non essere le stesse.
È qui che la Custodia condivisa amplia l’ambito della responsabilità di leadership. Ci chiede di considerare la fiducia, le relazioni, le risorse e le conseguenze affidate alla nostra cura, comprese quelle che vanno oltre il nostro ruolo immediato o una transazione diretta. Una decisione sulla conservazione delle informazioni richiederebbe allora una spiegazione chiara di ciò che serve, per quale scopo, di chi possa accedervi, di quanto a lungo rimanga necessario e di quali impegni sulla sua gestione possano essere effettivamente sostenuti. L’obbligo di rendere conto può richiedere registrazioni di decisioni, prove e azioni correttive, ma questo requisito non stabilisce automaticamente se debba essere conservata ogni conversazione sottostante (ELA, 2026a, pp. 7, 79–80).
In questi esempi, il costo etico diventa più comprensibile quando smettiamo di presumere che la spesa dell’organizzazione rappresenti tutte le conseguenze della sua decisione. Un risparmio nella capacità di assistenza può diventare uno sforzo aggiuntivo per un cliente, un rilascio più rapido può diventare incertezza a carico dei dipendenti e un insieme di dati più utile può creare esposizione per persone le cui circostanze non sono mai entrate nel business case. La Custodia condivisa chiede ai leader di portare queste conseguenze nella discussione, anche quando chi le sostiene ha poca influenza sulla decisione.
C’è tuttavia un altro rischio che merita la stessa attenzione: un’organizzazione può rispondere a queste preoccupazioni accumulando revisioni, comitati, dichiarazioni e obblighi di rendicontazione senza diventare molto più capace di affrontarle. In Quando la governance dimentica il proprio scopo, ho esplorato come gli assetti pensati per sostenere la responsabilità possano finire gradualmente per investire più nella propria conservazione che nella missione a cui avrebbero dovuto servire (Lazar, 2026b). La governance dell’IA è vulnerabile alla stessa deriva quando produrre evidenze di supervisione diventa più facile da riconoscere e premiare che correggere le condizioni che rendono la supervisione inefficace.
Un processo di governance utile dovrebbe quindi aiutare le persone a prendere e rivedere decisioni con una comprensione più chiara delle loro conseguenze. Il suo contributo dovrebbe essere visibile in ciò che cambia: un uso inadeguato viene limitato, una preoccupazione raggiunge qualcuno con l’autorità per agire, una persona ottiene un riesame sostanziale o una misura fuorviante delle prestazioni viene rivista. Quando un ulteriore livello di approvazione aggiunge poco a questa capacità, la sua esistenza merita di essere esaminata insieme a ogni altra affermazione formulata in nome della responsabilità.
Né questo ragionamento dovrebbe essere inteso come la presunzione che rinviare sia sempre la scelta più etica. Ritardare un servizio utile può avere conseguenze proprie, soprattutto quando le persone continuano a dipendere da un sistema esistente lento, incoerente o inaccessibile. Il compito è esaminare onestamente le alternative disponibili, compresi il costo di procedere, il costo di aspettare e la distribuzione di entrambi; l’incertezza non può sempre essere eliminata, ma può essere resa abbastanza visibile da consentire di spiegare, contestare e rivedere una decisione.
Ciò che mi preoccupa di più è la possibilità di chiedere ai sistemi di IA di esprimere valori che non abbiamo reso operativi nelle organizzazioni che li adottano. Possiamo chiedere trasparenza mentre proteggiamo decisioni opache, insistere sulla capacità di scelta umana mentre premiamo l’obbedienza o dichiarare che le persone contano mentre facciamo scomparire i loro bisogni dentro una misura aggregata di efficienza. In circostanze simili, migliorare la tecnologia può essere necessario, ma le questioni di leadership resterebbero.
Per questo Coerenza, Responsabilità coraggiosa, Umiltà trasformazionale, Servizio prima dello status e Custodia condivisa meritano di essere comprese come discipline connesse. Ci aiutano a esaminare se i nostri impegni rimangano coerenti, se qualcuno si assuma le conseguenze, se il giudizio possa evolvere, che cosa protegga l’autorità e quali interessi entrino nella decisione. La loro rilevanza per l’IA diventa più chiara quando influiscono sulle condizioni in cui un sistema viene sviluppato e utilizzato, comprese le occasioni in cui rispettarle richiede di accettare un risultato meno conveniente.
Forse, allora, la domanda da portare nella prossima conversazione sull’IA responsabile è se sappiamo individuare una decisione che i nostri impegni etici abbiano realmente cambiato. E se le persone interessate potessero vedere come è stata presa quella decisione, che cosa abbiamo scelto di preservare e quali costi eravamo pronti a sostenere personalmente, riconoscerebbero i valori che diciamo di seguire?
Riferimenti bibliografici
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.
Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.
Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.
Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.
Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.
Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.
Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”
Commenti