Streszczenie: Wywiad z Josefin Rosén analizuje operacjonalizację etyki sztucznej inteligencji i wagi tzw. AI Governance w środowisku korporacyjnym. Rozmowa obala mit, jakoby rygorystyczne zarządzanie danymi i zgodność z regulacjami (np. AI Act) hamowały innowacyjność. Ekspertka udowadnia, że zbudowanie wewnętrznej „infrastruktury zaufania” – poprzez wdrożenie Modelu Zapytania Etycznego, koncepcji human-in-the-loop oraz proporcjonalnego nadzoru nad algorytmami – pozwala unikać krytycznych błędów wizerunkowych i finansowych. Wnioski poparte są danymi z raportu IDC, według których organizacje inwestujące w odpowiedzialne zarządzanie AI osiągają średnio 1,6 raza wyższy zwrot z inwestycji (ROI).
Wdrażanie systemów AI w biznesie przypomina budowanie infrastruktury zaufania. Organizacje, które przełożą abstrakcyjne wartości na codzienne nawyki inżynierów i menedżerów, zyskają długoterminową odporność operacyjną. O tym, jak zarządzać ryzykiem algorytmicznym bez duszenia innowacji, Paulina Kostro rozmawia z Josefin Rosén. To globalna ekspertka ds. wiarygodnej sztucznej inteligencji (Trustworthy AI) w ramach SAS’ Data Ethics Practice, doradczyni biznesu i rządów oraz jedna z najbardziej wpływowych postaci sceny AI w Szwecji według rankingu Tech50. Rosén zasiądzie również w oficjalnej radzie członków Forum Doradczego ds. AI Act.
Paulina Kostro: W świecie biznesu wciąż pokutuje przekonanie, że etyka sztucznej inteligencji i rygorystyczne procedury zarządzania danymi to domena działów compliance, która głównie spowalnia innowacje i tempo wdrażania produktów. Jak menedżerowie mogą zmienić tę narrację?
Josefin Rosén: Warto zacząć od zmiany perspektywy: bezpieczne i transparentne dane to dziś jedna z najsilniejszych przewag rynkowych. Etyka AI nie ma na celu hamowania postępu, lecz budowanie długoterminowego zaufania klientów, które przekłada się na stabilny wzrost.
Największym wyzwaniem dla liderów jest jednak operacjonalizacja tych haseł. Wielkie idee, takie jak „sprawiedliwość” czy „transparentność”, często pozostają na papierze. Aby stały się one codziennym nawykiem zespołów deweloperskich i biznesowych, musimy wyposażyć pracowników w konkretne narzędzia ramowe. W naszej organizacji zachęcamy zespoły do stosowania tego, co nazywamy tzw. Modelem Zapytania Etycznego (Ethical Inquiry Model). Za każdym razem, gdy zespół projektuje lub wdraża nowe rozwiązanie oparte na sztucznej inteligencji, jest zobowiązany do rozważenia i udzielenia precyzyjnych odpowiedzi na trzy kluczowe pytania:
- W jakim celu? Jaka jest pierwotna, głęboka intencja wykorzystania tych danych lub stworzenia tego modelu?
- Z jakim skutkiem? Jakie mogą być odroczone w czasie, nieliniowe konsekwencje tego wdrożenia na dalszych etapach funkcjonowania systemu?
- Dla kogo może to okazać się zawodne? Kto jest w tym scenariuszu najbardziej narażony na błędy algorytmu i kto może odczuć negatywne skutki jego działania?
Gdy te pytania wchodzą do stałego kanonu procedur operacyjnych, abstrakcyjne wartości zaczynają realnie kształtować zachowania pracowników.
Aby to jednak zadziałało, organizacja potrzebuje głębszego zakorzenienia tych zasad w swojej kulturze.
Oczywiście. Wymienione pytania opieramy na sześciu filarach: koncentracji na człowieku (human centricity), inkluzywności, transparentności, odpowiedzialności (accountability), solidności systemu (robustness) oraz prywatności i bezpieczeństwie. Kluczem jest jednak to, by zasady te były wbudowane bezpośrednio w technologię – w naszą platformę – tak aby zarówno inżynierowie, jak i klienci mogli na bieżąco weryfikować tworzone modele pod kątem tych kryteriów.
Żadne narzędzie technologiczne nie spełni jednak swojej roli bez odpowiedniego środowiska. Budujemy to, co nazywamy „płynnością kulturową” (cultural fluency). Poprzez ciągły coaching i szkolenia dbamy o to, by pracownicy byli technologicznie i etycznie świadomi. Muszą rozumieć nie tylko to, jak używać AI, ale przede wszystkim dlaczego sposób jej wykorzystania ma fundamentalne znaczenie dla biznesu.
Spójrzmy na rynkową rzeczywistość. W Europie wchodzi w życie AI Act. Z perspektywy wielu młodych firm i startupów, na przykład w Polsce, te regulacje są postrzegane jako ogromne obciążenie biurokratyczne, które skłania przedsiębiorców do przenoszenia biznesu poza granice Unii Europejskiej. Czy te obawy są uzasadnione?
Jako przedstawicielka amerykańskiej firmy, ale z osobistą, europejską perspektywą, widzę w tym procesie dwa aspekty. W krótkim okresie nowe regulacje bez wątpienia oznaczają dla organizacji więcej pracy i konieczność przebudowania procesów. W dłuższej perspektywie tworzą one jednak wspomnianą infrastrukturę zaufania.
Regulacje – niezależnie od tego, czy mówimy o Europie, USA czy Azji – zmuszają organizacje do sformalizowania tego, co dotychczas w procesach deweloperskich pozostawało w domyśle. Każda firma musi dziś umieć jednoznacznie odpowiedzieć na pytania: Co dokładnie wdrożyliśmy? Gdzie ten model pracuje? Kto personalnie za niego profesjonalnie odpowiada? Jaki jest cel jego funkcjonowania i jak monitorujemy jego parametry w czasie?
Zarządzanie zgodnością (tzw. AI Governance) nie powinno być traktowane jako gorset krępujący innowacyjność. Wręcz przeciwnie – ono definiuje bezpieczne ramy strukturalne, w których można eksperymentować w sposób przewidywalny i odpowiedzialny. Ostatecznie firmy nie będą konkurować wyłącznie tym, co ich algorytmy potrafią zrobić, ale tym, czy rynek i klienci ufają im na tyle, by bez obaw z nich korzystać.
Polskie firmy, podobnie jak globalni gracze, odczuwają silną presję na jak najszybsze wdrażanie AI. Czy da się utrzymać wysokie tempo innowacji, nie rezygnując z zasad bezpieczeństwa?
To zależy od tego, czy organizacja posiada ramy operacyjne, które tę szybkość wspierają. Paradoksalnie, posiadanie silnego i przejrzystego governance framework pozwala firmom poruszać się znacznie szybciej. Dlaczego? Ponieważ eliminujemy niepewność na wczesnym etapie i unikamy potwornie kosztownych niespodzianek w przyszłości – kosztownych pod względem finansowym, prawnym, ale przede wszystkim wizerunkowym.
Warunkiem koniecznym jest jednak zachowanie zasady proporcjonalności. Nadzór nad sztuczną inteligencją musi być aplikowany inteligentnie, na poziomie konkretnych przypadków użycia (use cases). Tam, gdzie stawka jest wysoka – gdzie decyzje algorytmu wpływają na ludzkie życie, finanse czy zdrowie – kontrola musi być rygorystyczna.
Natomiast przy prostych, wewnętrznych zastosowaniach, takich jak automatyczne podsumowywanie spotkań firmowych, nadzór powinien być maksymalnie odchudzony (lightweight). Jeśli scentralizujemy uwagę na procesach o wysokim ryzyku, całą resztę projektów możemy wdrażać ekspresowo. Próba narzucenia ciężkich procedur na błahe procesy zabija ducha innowacji i rodzi naturalny opór pracowników. Odpowiedzialność w biznesie musi być dla ludzi wygodna i intuicyjna. Naszą rolą jako liderów jest sprawić, by wybór odpowiedzialnej ścieżki był dla zespołów najprostszym możliwym rozwiązaniem.
Wspomniała Pani o roli człowieka. Wiele organizacji, szukając drastycznych oszczędności, próbuje całkowicie zastąpić pracowników rozwiązaniami generative AI. Gdzie leży granica automatyzacji procesów decyzyjnych?
Sztuczna inteligencja bez wątpienia transformuje rynek pracy i część zadań zostanie w pełni zautomatyzowana – ten proces już trwa. Jednak w strukturach biznesowych człowiek pozostaje absolutnie niezastąpiony wszędzie tam, gdzie dochodzi do konfliktu wartości, gdzie wymagany jest głęboki osąd sytuacyjny i gdzie odpowiedzialności za decyzję po prostu nie da się oddelegować na maszynę.
W koncepcji human-in-the-loop (człowieka w pętli decyzyjnej) nie chodzi o to, by pracownik był jedynie bezrefleksyjnym “przytakiwaczem” na samym końcu zautomatyzowanego procesu. W takim scenariuszu jego rola faktycznie traci sens. Człowiek musi pozostać projektantem i strażnikiem celu, transparentności oraz rozliczalności systemu. Władza nad kierunkiem, w którym zmierza algorytm, i zdolność pracownika do zakwestionowania wskazań AI to fundamenty zdrowej kultury organizacyjnej. Nasz system zarządczy traktujemy nie jako narzędzie do zastępowania ludzkiego osądu, ale jako technologię do jego skalowania.
Czy ignorowanie tych zasad prowadzi do mierzalnych strat finansowych? Czy dysponują Państwo twardymi danymi, które mogą przekonać sceptycznych dyrektorów finansowych?
Wizerunek i zaufanie buduje się latami, a traci w ułamku sekundy. Rynek zna głośne przypadki systemów oceny zdolności kredytowej, które okazały się głęboko uprzedzone (biased), czy też incydenty związane z niekontrolowanym wyciekiem wrażliwych danych klientów. Nawet drobne potknięcia algorytmu w publicznie dostępnych produktach powodują natychmiastowy drenaż zaufania konsumentów, które niezwykle trudno odbudować. Z kolei w sektorze publicznym i agencjach rządowych – czego przykładem są rygorystyczne procedury europejskich instytucji takich jak Frontex – błędy AI czy tzw. halucynacje modeli językowych rodzą natychmiastowe, dotkliwe konsekwencje prawne i finansowe.
Jeśli chodzi o twarde wskaźniki biznesowe, bezpośrednie zmierzenie zaufania w tradycyjnym raporcie finansowym jest oczywiście trudne – najlepszym miernikiem jest po prostu retencja klientów i ich skłonność do dalszych inwestycji. Posiadamy jednak bardzo precyzyjne dane ilościowe dotyczące zwrotu z inwestycji w obszar zarządzania technologią.
Z naszego najnowszego raportu przygotowanego wspólnie z IDC wynika, że organizacje, które konsekwentnie inwestują w ramy AI Governance, osiągają średnio 1,6 raza wyższy zwrot z inwestycji (ROI) ze swoich projektów opartych na sztucznej inteligencji w porównaniu do firm, które ten obszar zaniedbują. Odpowiedzialne zarządzanie systemami AI po prostu bezpośrednio podnosi rentowność projektów technologicznych. Jeśli liderzy chcą, aby technologia była silnikiem ich wzrostu, muszą upewnić się, że osadzili ją na fundamencie pełnej transparentności i kontroli.
