Kiedy AI wystawia na próbę wartości, które deklarujemy
Wciąż wracam do pytania, które w niewygodny sposób kryje się pod wieloma naszymi rozmowami o sztucznej inteligencji: co właściwie ma zmienić zobowiązanie etyczne, gdy decyzja najbardziej opłacalna, wygodna lub atrakcyjna z punktu widzenia konkurencji prowadzi nas w inną stronę?
Stosunkowo łatwo mówić o odpowiedzialnych innowacjach, dopóki odpowiedzialność wydaje się zgodna ze wszystkim innym, co chcemy osiągnąć. Możemy wspierać przejrzystość, kiedy ujawnienie informacji nie osłabia naszej pozycji, bronić ludzkiego nadzoru, kiedy nie wpływa on na obiecane oszczędności, i wyrażać troskę o prywatność, dopóki informacje, które chcielibyśmy zachować, pozostają dla nas dostępne. Więcej ujawnia moment, w którym te zobowiązania zaczynają ograniczać decyzję. Wtedy właśnie odkrywamy, czy nasze wartości mają jakikolwiek wpływ na sposób, w jaki zamierzamy działać.
Wyobraźmy sobie organizację przygotowującą się do uruchomienia usługi AI, która ma obsługiwać znaczną część kontaktów z klientami. W tej hipotetycznej sytuacji pierwsze wyniki są zachęcające: rutynowe zgłoszenia przetwarzane są szybko, odpowiedzi wydają się spójne, a uzasadnienie biznesowe sugeruje, że organizacja mogłaby znacząco zmniejszyć ilość pracy zespołów obsługi. Testy pokazują jednak również, że niektóre złożone sytuacje są obsługiwane niewłaściwie, zwłaszcza gdy okoliczności klienta nie pasują do założeń, na których oparto projekt usługi. Dodatkowe wsparcie człowieka mogłoby częściowo zaradzić tej słabości, ale jego utrzymanie zmniejszyłoby oczekiwane oszczędności.
Decyzja przywódcza dotyczy teraz znacznie więcej niż wydajności modelu. Dotyczy tego, czyje doświadczenia będą się liczyć przy ocenie wyników, kto poniesie konsekwencje pozostałych ograniczeń i czy organizacja jest gotowa zmienić atrakcyjne uzasadnienie biznesowe, ponieważ dowody nie wspierają już jego pierwotnej wersji. Mniejsze obciążenie pracą wewnątrz organizacji nadal może być pożyteczną poprawą. Jeśli jednak klienci muszą poświęcać więcej czasu na prostowanie nieporozumień, ponowne wyjaśnianie swojej sytuacji lub szukanie osoby uprawnionej do udzielenia pomocy, część kosztu mogła po prostu przesunąć się poza preferowany przez organizację obszar pomiaru.
Właśnie tutaj Spójność staje się bardziej wymagająca niż uspokajająca myśl o byciu konsekwentnym. W ujęciu przedstawionym w Ethical Leadership Practice Guide spójność dotyczy relacji między tym, w co wierzymy, co mówimy i co robimy. Jej znaczenie polega na tym, czy te trzy wymiary pozostają zgodne, gdy okoliczności czynią tę zgodność niewygodną (Ethics & Leadership Association [ELA], 2026a, s. 7). Lider, który zmienia zobowiązanie dotyczące uruchomienia usługi, ponieważ testy ujawniły poważną słabość, może więc działać bardziej spójnie niż ten, który chroni pierwotny termin, szczególnie jeśli najważniejszym zobowiązaniem jest obietnica odpowiedzialnego służenia ludziom.
To rozróżnienie ma znaczenie, ponieważ potrafimy niezwykle silnie przywiązać się do widocznego wyrazu decyzji, tracąc z oczu cel, który ją uzasadniał. Termin staje się obietnicą, obietnica miarą wiarygodności, a ostatecznie zdolność do jej utrzymania zaczyna liczyć się bardziej niż warunki, w których można ją odpowiedzialnie spełnić. Kiedy ktoś zgłasza niewygodną obawę, organizacja mogła już zainwestować tak wiele reputacji w preferowany wynik, że ponowne rozważenie decyzji wydaje się porażką przywództwa.
Model Integralności daje użyteczny sposób zbadania tego napięcia, ponieważ rozdziela cztery wymiary, które zbyt łatwo sprowadza się do jednego osądu: Zdolność (Ability), Prawo (Legal), Etyka (Ethics) i Wartości (Values). Zdolność dotyczy tego, czy dysponujemy praktycznymi środkami, aby coś zrobić, w tym kompetencjami, zasobami, informacjami i możliwościami operacyjnymi niezbędnymi do odpowiedzialnego działania. W odniesieniu do naszej hipotetycznej usługi AI obejmowałaby także zdolność do wsparcia w sytuacjach, z którymi technologia nie radzi sobie dobrze, zamiast kończenia oceny w chwili, gdy oprogramowanie wygeneruje odpowiedź.
Wymiar Prawa dotyczy obowiązków i uprawnień regulujących daną działalność, natomiast Etyka pyta o relację decyzji do standardów i kodeksów, przez które profesja lub organizacja definiuje odpowiedzialne postępowanie. Wartości kierują analizę z powrotem ku przekonaniom, dzięki którym ludzie rozumieją, czego są gotowi bronić, w tym ku relacji tych przekonań do zobowiązań deklarowanych przez organizację. Wymiary te wpływają na siebie, ale odpowiadają na różne pytania. To, że coś jest technicznie możliwe, nie dowodzi na przykład, że jest dozwolone, właściwe lub zgodne z zasadami, które deklarujemy (ELA, 2026a, s. 54–55, 79–80).
Moim zdaniem użyteczność modelu wynika właśnie z jego odporności na pokusę, by jedna atrakcyjna odpowiedź zamknęła całą dyskusję. Sprawny system nadal może być używany w słabo uzasadnionym celu, rozwiązanie dające się obronić prawnie nadal może traktować ludzi w sposób sprzeczny z naszymi zobowiązaniami zawodowymi, a szczere przekonanie nadal może wymagać zbadania, gdy jego konsekwencje stają się wyraźniejsze. Model pomaga ujawnić te napięcia. Trudna praca związana z osądem, wyjaśnianiem i braniem odpowiedzialności za konsekwencje pozostaje po stronie ludzi podejmujących decyzję.
Wracam tu do myśli, którą rozwinąłem w Jak się pojawiamy: często mówimy o organizacjach tak, jakby były niezależnymi istotami zdolnymi decydować, pozwalać, odmawiać lub przyjmować odpowiedzialność, podczas gdy decyzje, poprzez które działa organizacja, podejmują i podtrzymują ludzie (Lazar, 2026a). AI może utrudniać dostrzeżenie tego rozróżnienia, ponieważ wynik może przejść przez dostawcę, zespół programistyczny, sponsora biznesowego, proces konfiguracji i zautomatyzowany przepływ pracy, zanim dotrze do osoby, której dotyczy. Każdy uczestnik mógł wywiązać się z określonego zadania, a mimo to zaskakująco trudno ustalić, na kim spoczywa obowiązek wyjaśnienia wynikającej z tego decyzji i odpowiedzenia za nią.
Odpowiedzialność za wykonanie zadań oraz obowiązek rozliczenia się z decyzji wymagają zatem staranniejszego podejścia niż samo przypisanie nazwiska do ostatniego etapu zatwierdzania. Różni uczestnicy muszą odpowiadać za różne wybory: co zaprojektowano, jakie ograniczenia ujawniono, jakie zastosowanie dopuszczono, jakie warunki operacyjne zapewniono i co zrobiono, kiedy dowody wskazały, że przyjęte rozwiązanie powoduje problem. Kompetencja techniczna dostawcy nie dowodzi, że konkretne wdrożenie jest właściwe, tak jak zgoda organizacji wdrażającej nie zwalnia twórców systemu z odpowiedzialności za wybory i deklaracje pozostające pod ich kontrolą.
Odważna odpowiedzialność nabiera tu treści, ponieważ przyjęcie odpowiedzialności za decyzję oznacza gotowość do ujawnienia jej nierozstrzygniętych konsekwencji, zanim okoliczności uczynią je niemożliwymi do uniknięcia. Fikcyjny przypadek dydaktyczny The Warning No One Wanted pokazuje to poprzez historię Jane, liderki zespołu, która przed uruchomieniem platformy usługowej dostrzega braki w gotowości. Jej obawy zostają zapisane i uznane, ale ich znaczenie stopniowo łagodnieje w miarę przekazywania ich przez organizację. W końcu prosi zespół kierowniczy o wyraźną decyzję dotyczącą pozostałego ryzyka i wskazanie osoby, która odpowie za jego przyjęcie. Przypadek dotyczy platformy usługowej, a nie wdrożenia AI, lecz ujawnione rozróżnienie jest bezpośrednio istotne: ostrzeżenie może pozostać w dokumentacji, a zarazem mieć bardzo mały wpływ na to, co wydarzy się dalej (ELA, n.d.).
Ta możliwość jest szczególnie niepokojąca, gdy ludzie szczerze uznają zobowiązania etyczne, a jednocześnie pracują w strukturach, które karzą za zachowanie wymagane przez te zobowiązania. To napięcie pojawia się także w niedawnej refleksji ELA o ukrytej zależności (ELA, 2026b). Jeśli pozycja sponsora zależy od osiągnięcia określonej oszczędności, jeśli menedżerów nagradza się głównie za skracanie czasu obsługi, a osoby weryfikujące muszą uzasadniać każdą interwencję spowalniającą proces, organizacja już ukształtowała warunki, w których będą interpretowane jej zobowiązania etyczne.
Dlatego również Służba ponad statusem ma praktyczne znaczenie wykraczające daleko poza oczekiwanie, że liderzy będą uprzejmi i uważni. Każe zapytać, do ochrony czego używana jest władza, zwłaszcza gdy ochrona interesów osób, którym służymy, wymaga od kogoś na wysokim stanowisku przyjęcia zakłopotania, zmiany publicznej deklaracji lub przyznania, że wcześniejszy osąd był niepełny. Oczekiwanie od pracownika odwagi moralnej przy jednoczesnym pozostawieniu mu zawodowego kosztu zakwestionowania wpływowego sponsora byłoby dość wybiórczą interpretacją etycznego przywództwa.
Prace Amy Edmondson nad bezpieczeństwem psychologicznym pomagają wyjaśnić, dlaczego liczą się warunki otaczające taki sprzeciw. Bezpieczeństwo psychologiczne dotyczy przekonania, że w zespole można podejmować ryzyko interpersonalne, między innymi przyznać się do niepewności, poprosić o pomoc czy omówić błąd. Jej badanie z 1999 roku wykazało związek między tym wspólnym przekonaniem a zachowaniami sprzyjającymi uczeniu się zespołu. W odniesieniu do AI wyciągnąłbym stąd wniosek, że organizacja potrzebuje ludzi zdolnych kwestionować zarówno wyniki systemu, jak i założenia jego sponsorów, z uzasadnionym oczekiwaniem, że zgłoszona obawa zostanie oceniona merytorycznie. Jeśli wskazanie ograniczenia jest interpretowane jako opór wobec innowacji, organizacja może osłabić własną zdolność odkrywania, czego wymaga odpowiedzialne użycie. (Edmondson, 1999)
Znana obietnica ludzkiego nadzoru wymaga równie uważnego zbadania warunków operacyjnych. Wracając do naszej hipotetycznej usługi, załóżmy, że organizacja zachowuje stanowisko osoby weryfikującej trudne przypadki, ale jednocześnie zmniejsza zatrudnienie, zwiększa liczbę spraw przypadających na weryfikatora i ocenia wyniki według szybkości zamykania spraw. Obecność człowieka może odpowiadać opisowi procesu, pozostawiając mu zarazem bardzo małe praktyczne możliwości korzystania z osądu, od którego proces rzekomo zależy.
Pomocna jest tu perspektywa historyczna. W Ironies of Automation Lisanne Bainbridge badała, jak automatyzacja procesów przemysłowych może zwiększać problemy ludzkich operatorów, zwłaszcza gdy nadal odpowiadają oni za radzenie sobie z nietypowymi warunkami. Choć jej tematem była automatyzacja przemysłowa, pytanie przenosi się na dyskusję o AI: kiedy polegamy na ludziach w sytuacjach, których automatyzacja nie potrafi odpowiednio rozwiązać, jakie kompetencje, informacje, czas i uprawnienia im zachowujemy? Traktowanie tych warunków jako zbędnych kosztów pośrednich osłabiałoby właśnie ten mechanizm, na którym opieramy odpowiedzialność całego rozwiązania. (Bainbridge, 1983)
Jednocześnie powinniśmy ostrożnie podchodzić do założenia, że dodanie człowieka koniecznie poprawi każdy wynik. Omówienie interakcji człowieka i AI w ramach zarządzania ryzykiem AI opracowanych przez NIST wskazuje, że wyniki zależą od konfiguracji tej relacji, a ludzkie i systemowe uprzedzenia mogą niekiedy wzajemnie się wzmacniać. Znaczący nadzór wymaga więc zbadania wykonywanej pracy, jej konsekwencji oraz konkretnego wkładu oczekiwanego od człowieka. Samo kliknięcie zatwierdzenia mówi o tych kwestiach bardzo niewiele. (Tabassi, 2023, załącznik C)
Transformacyjna pokora daje etyczną podstawę do podtrzymywania takiej analizy. Oznacza uznanie, że zaufanie do decyzji nie usuwa możliwości niepełnego zrozumienia, a nowe dowody mogą wymagać zmiany sposobu postępowania. Przy wdrażaniu AI mogłoby to oznaczać traktowanie początkowej zgody jako osądu nadal otwartego na weryfikację, z wyraźnymi warunkami rozszerzenia zastosowania, jego ograniczenia, skorygowania lub zakończenia. Zobowiązanie do uczenia się jest bardziej wiarygodne, gdy możliwości te rozważono, zanim organizacja stała się zależna od preferowanego wyniku.
Prywatność wprowadza kolejną odmianę tego samego napięcia. Rozważmy drugą sytuację hipotetyczną: usługę AI, która ma pomagać ludziom przemyśleć trudne okoliczności zawodowe. Szczegółowe rozmowy mogłyby pomagać ulepszać usługę, a jednocześnie zawierać informacje o współpracownikach, klientach lub innych osobach, które nigdy nie zdecydowały się z niej korzystać. Pytanie o zachowywanie takich rozmów dotyczyłoby więc czegoś więcej niż wartości powstałego zbioru danych, ponieważ osoby tworzące wartość dla usługi i osoby narażone przez te informacje mogą nie być tymi samymi ludźmi.
To tutaj Wspólna odpowiedzialność powiernicza poszerza zakres odpowiedzialności przywódczej. Każe nam brać pod uwagę powierzone nam zaufanie, relacje, zasoby i konsekwencje, także te wykraczające poza naszą bezpośrednią rolę lub pojedynczą transakcję. Decyzja o przechowywaniu informacji wymagałaby zatem jasnego wyjaśnienia, co jest potrzebne, w jakim celu, kto może uzyskać dostęp, jak długo informacje pozostają konieczne i jakie zobowiązania dotyczące postępowania z nimi można rzeczywiście spełnić. Rozliczalność może wymagać zapisów decyzji, testów i działań naprawczych, ale ten wymóg nie rozstrzyga automatycznie, czy należy zachować każdą rozmowę, która leżała u ich podstaw (ELA, 2026a, s. 7, 79–80).
We wszystkich tych przykładach koszt etyczny staje się bardziej zrozumiały, gdy przestajemy zakładać, że własne wydatki organizacji obejmują wszystkie konsekwencje jej decyzji. Oszczędność na możliwościach obsługi może stać się dodatkowym wysiłkiem klienta, szybsze uruchomienie może oznaczać niepewność ponoszoną przez pracowników, a bardziej użyteczny zbiór danych może narazić osoby, których sytuacja nigdy nie była częścią uzasadnienia biznesowego. Wspólna odpowiedzialność powiernicza wymaga od liderów włączenia tych konsekwencji do dyskusji, nawet gdy ludzie je ponoszący mają niewielki wpływ na decyzję.
Istnieje jednak inne ryzyko zasługujące na równie dużą uwagę: organizacja może odpowiadać na te obawy, mnożąc przeglądy, komitety, deklaracje i obowiązki sprawozdawcze, a mimo to niewiele poprawiać zdolność radzenia sobie z nimi. W Kiedy governance zapomina o swoim celu analizowałem, jak rozwiązania mające wspierać odpowiedzialność mogą stopniowo bardziej angażować się we własne przetrwanie niż w misję, której miały służyć (Lazar, 2026b). Zarządzanie i nadzór nad AI są narażone na ten sam kierunek zmian, gdy tworzenie dowodów nadzoru łatwiej rozpoznać i nagrodzić niż naprawianie warunków, które czynią ten nadzór nieskutecznym.
Użyteczny proces zarządczy powinien więc pomagać ludziom podejmować i ponownie analizować decyzje z jaśniejszym zrozumieniem ich konsekwencji. Jego wkład powinien być widoczny w zmianach: ograniczono niewłaściwe zastosowanie, obawa dotarła do osoby uprawnionej do działania, czyjaś sprawa została rzetelnie ponownie rozpatrzona lub zmieniono mylącą miarę wyników. Jeśli kolejna warstwa zatwierdzania niewiele wnosi do tej zdolności, jej istnienie zasługuje na zbadanie tak samo jak każda inna deklaracja składana w imię odpowiedzialności.
Nie należy też odczytywać tego argumentu jako założenia, że opóźnienie zawsze jest wyborem bardziej etycznym. Odłożenie użytecznej usługi może nieść własne konsekwencje, szczególnie gdy ludzie nadal zależą od istniejącego rozwiązania, które jest powolne, niespójne lub niedostępne. Zadanie polega na uczciwym zbadaniu dostępnych alternatyw, w tym kosztu działania, kosztu czekania i rozkładu obu tych kosztów. Niepewności nie zawsze da się usunąć, ale można ją uczynić dostatecznie widoczną, aby decyzję można było wyjaśnić, zakwestionować i zmienić.
Najbardziej niepokoi mnie możliwość, że będziemy wymagać od systemów AI wyrażania wartości, których sami nie przełożyliśmy na działanie we wdrażających je organizacjach. Możemy domagać się przejrzystości, chroniąc nieprzejrzyste decyzje, nalegać na ludzką sprawczość, nagradzając posłuszeństwo, albo deklarować znaczenie ludzi, sprawiając jednocześnie, że ich potrzeby znikają w zagregowanej mierze efektywności. W takich okolicznościach poprawa technologii może być konieczna, lecz pytania o przywództwo pozostałyby.
Dlatego Spójność, Odważna odpowiedzialność, Transformacyjna pokora, Służba ponad statusem i Wspólna odpowiedzialność powiernicza powinny być rozumiane jako powiązane dyscypliny. Pomagają nam badać, czy zobowiązania pozostają zgodne, czy ktoś bierze odpowiedzialność za konsekwencje, czy osąd może się rozwijać, co chroni władza i czyje interesy wchodzą do decyzji. Ich znaczenie dla AI staje się wyraźniejsze, kiedy wpływają na warunki tworzenia i wykorzystywania systemu, także wtedy, gdy ich przestrzeganie wymaga przyjęcia mniej wygodnego wyniku.
Być może zatem pytanie, które warto wnieść do następnej rozmowy o odpowiedzialnej AI, brzmi: czy potrafimy wskazać decyzję, którą nasze zobowiązania etyczne rzeczywiście zmieniły? A gdyby osoby nią dotknięte mogły zobaczyć, jak ją podjęto, co postanowiliśmy zachować i jakie koszty byliśmy gotowi ponieść sami, czy rozpoznałyby wartości, które według naszych deklaracji nami kierują?
Bibliografia
Bainbridge, L. (1983). Ironies of automation. Automatica, 19(6), 775–779. DOI: 10.1016/0005-1098(83)90046-8.
Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383. DOI: 10.2307/2666999.
Ethics & Leadership Association. (n.d.). The warning no one wanted [Written teaching case]. In Courageous Responsibility: Case Study Analysis. ELA online learning.
Ethics & Leadership Association. (2026a). The Ethical Leadership Practice Guide (1st ed.). Particularly pp. 7, 54–55, and 79–81.
Ethics & Leadership Association. (2026b, September 9). What does hidden dependency actually cost an organization? [Post]. LinkedIn.
Lazar, O. (2026a, March 3). How we show up: The beginning and the end of leadership. Ethics & Leadership Association.
Lazar, O. (2026b, March 22). When governance forgets its purpose. Ethics & Leadership Association.
Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. Particularly Appendix C, “AI Risk Management and Human-AI Interaction.”
Komentarze