Czego odpowiedzialna sztuczna inteligencja wymaga od ludzkich ekspertów

Inicjatywa Responsible AI (Odpowiedzialna Sztuczna Inteligencja) bada we współpracy z BCG, w jaki sposób organizacje definiują oraz podchodzą do praktyk, polityk i standardów w tym obszarze. Opierając się na globalnych badaniach kadry zarządzającej wyższego szczebla oraz mniejszych, wyselekcjonowanych panelach eksperckich, program gromadzi perspektywy z różnych sektorów i regionów geograficznych. Jego celem jest dostarczenie praktycznych, gotowych do wdrożenia wniosków (actionable insights) w tym wciąż wczesnym, aczkolwiek niezmiernie istotnym obszarze dla liderów we wszystkich branżach.

Już piąty rok z rzędu MIT Sloan Management Review oraz Boston Consulting Group (BCG) zgromadziły międzynarodowy panel ekspertów ds. AI, w skład którego wchodzą wybitni naukowcy i praktycy biznesu, aby pomóc nam zrozumieć, w jaki sposób koncepcja odpowiedzialnej sztucznej inteligencji jest wdrażana w organizacjach na całym świecie. W naszym pierwszym tegorocznym wpisie przeanalizowaliśmy, jak organizacje powinny postrzegać wpływ sztucznej inteligencji na rynek pracy. Nasi eksperci podkreślili wówczas, że odpowiedzialne podejście do AI wymaga spojrzenia wykraczającego poza samo bezpieczeństwo systemów i uwzględnienia rzeczywistych konsekwencji dla pracowników oraz stabilności gospodarczej.

Tym razem poprosiliśmy nasz panel o odniesienie się do następującej prowokacji: Wysiłki na rzecz odpowiedzialnej sztucznej inteligencji (RAI) kończą się fiaskiem, jeśli organizacje nie kształtują ludzkich ekspertów, którzy potrafią weryfikować rozwiązania AI. Na pierwszy rzut oka panuje w tej kwestii szeroki konsensus – wyraźna większość (84%) naszych panelistów zgadza się lub zdecydowanie zgadza się z tym stwierdzeniem. Jednak dogłębna analiza ujawnia, że eksperci definiują pojęcie weryfikacji znacznie szerzej, niż sugeruje to zadane pytanie. Zamiast traktować ją jako wąską kontrolę poszczególnych wyników, opisują weryfikację jako proces ciągłego stosowania ludzkiego osądu w całym cyklu życia systemu AI: interpretowanie kontekstu, projektowanie testów, audytowanie przepływów pracy (workflows), ustalanie progów tolerancji, decydowanie, kiedy sztucznej inteligencji w ogóle nie należy ufać, oraz branie na siebie odpowiedzialności, której maszyny ponieść nie mogą. Rozumiana w ten sposób weryfikacja nie jest ostatecznym punktem kontrolnym, lecz tkanką łączną odpowiedzialnej sztucznej inteligencji, obejmującą projektowanie, nadzór i rozliczalność (accountability), których organizacje potrzebują, by skalować działania wraz z wdrażanymi systemami. Poniżej przedstawiamy spostrzeżeniami panelistów oraz oferujemy praktyczne rekomendacje dla organizacji, które dążą do kultywowania ludzkiej wiedzy eksperckiej, od której wprost zależą ich wysiłki w zakresie ładu organizacyjnego (governance) odpowiedzialnej AI.

Źródło: Panel 31 ekspertów ds. strategii sztucznej inteligencji.

Ludzie dostarczają kontekstu do weryfikacji wyników AI.

Założyciel ForHumanity, Ryan Carrier, poparł rynkowy konsensus, iż inicjatywy z zakresu odpowiedzialnej AI muszą rozwijać ekspercką wiedzę ludzi do weryfikacji wyników sztucznej inteligencji, ponieważ, jak sam to ujął, „kontekst ma znaczenie”. Podobnego zdania jest CEO TÜV AI.Lab, Franziska Weindauer, która zauważa: „Rozwiązania AI operują w złożonych realiach świata rzeczywistego, a ludzcy eksperci są niezbędni, by interpretować wyniki, wykrywać błędy i zapewniać, że systemy funkcjonują zgodnie z przeznaczeniem”. Stefaan Verhulst, dyrektor ds. badań i rozwoju w GovLab, wyjaśnia: „Wiele z najbardziej doniosłych zagrożeń związanych z AI ma charakter społeczny, a nie techniczny. Zaliczyć można do nich brak zgodności z wartościami publicznymi, szkodliwy wpływ na grupy wrażliwe społecznie czy niewłaściwy kontekst wdrażania rozwiązań”. Wielu ekspertów przekonuje, że to właśnie te ryzyka są najtrudniejsze do wyeliminowania za pomocą czysto technologicznych narzędzi.

Dla części specjalistów kontekst ma wymiar na wskroś ludzki i nie może zostać sprowadzony wyłącznie do formatu czytelnego dla maszyny. Jak tłumaczy prezes OdeseIA, Idoia Salazar: „Nie wszystko da się przełożyć na dane, tak jak nie da się przetłumaczyć na nie kontekstu w określonej sytuacji”. Wybitna ekspertka, członkini komitetu inwestycyjnego funduszu Co-Develop, Yasadora Cordova, zgadza się, że odpowiedzialna AI wymaga „wrażliwości kontekstowej” – cechy, która w jej opinii „nie podlega automatyzacji”. Jai Ganesh, Ph.D., wiceprezes ds. technologii, usług połączonych i inżynierii w Wipro Ltd., dodaje: „Świadomość sytuacyjna to kolejny powód do niepokoju w przypadku systemów AI. Generowany wynik może być technicznie poprawny, ale jednocześnie nieodpowiedni kulturowo lub problematyczny prawnie w danym kraju lub sytuacji”. Yan Chow z Automation Anywhere również zwraca uwagę, że „ludzie identyfikują społeczno-polityczne niuanse i zmiany, których dane nie potrafią uchwycić”. Z tych właśnie powodów rektor National University of Singapore, Simon Chesterman, konkluduje, że „bez względu na to, jak wyrafinowany jest model sztucznej inteligencji czy jak rozbudowane są ramy zarządzania nią, ktoś nadal musi być w stanie zadać pytanie o to, czy system jest niezawodny, zgodny z prawem i odpowiedni w danym kontekście”. To odpowiedzialność, która według niego niezaprzeczalnie wymaga ludzkiej ekspertyzy.

Zdecydowanie się zgadzam

„Koncentracja na człowieku to fundament. Musimy inwestować w doskonale zorientowanych w swojej dziedzinie ekspertów, przeszkolonych nie tylko w zakresie list kontrolnych audytów (compliance checklists), ale w obszarze ograniczeń, błędów poznawczych (biases) i trybów awaryjnych sztucznej inteligencji. Ci ludzie nadają kontekst, wyłapują halucynacje, strzegą granic etycznych i sterują systemem z perspektywy świadomego obserwatora – potrafiąc zrobić krok wstecz, by poddać sytuację refleksji i celowo interweniować pośród chaosu. Bez wzmocnionej, ludzkiej weryfikacji odpowiedzialna sztuczna inteligencja zamienia się jedynie w pusty teatr. Dzięki niej staje się jednak prawdziwym katalizatorem (force multiplier) zaufania i budowania wartości”.

David R. Hardoon, Senior AI leader

Jeśli maszyny nie są w stanie w pełni uchwycić kontekstu, niesie to za sobą istotne konsekwencje praktyczne.

Carrier argumentuje, że „eksperci w swoich dziedzinach są niezbędni, by dostarczać informacje zwrotne oraz oceniać ryzyko, co w efekcie przekłada się na dobrze skalibrowane mechanizmy kontrolne, procesy i środki zaradcze. Są one zaprojektowane w celu zwalczania konkretnych i unikalnych ryzyk wynikających z wdrożeń AI silnie osadzonych w specyficznym kontekście”. Salazar idzie o krok dalej, twierdząc, że „niezależnie od stopnia zaawansowania narzędzia, to nie ono powinno być gwarantem tego, że generowane przezeń wyniki są sprawiedliwe, bezpieczne czy adekwatne do kontekstu”. Dla Ganesha poziom ryzyka drastycznie rośnie w obliczu „przypadków brzegowych (edge cases), nietypowych scenariuszy i nowych kontekstów, z którymi systemy AI zazwyczaj sobie nie radzą”. Jest on przekonany, że „wyłapywanie tego typu błędów wymaga ludzkiego osądu i głębokiej wiedzy dziedzinowej”. Chow zgadza się, że kompetencje ekspertów są krytyczne przy projektowaniu „zweryfikowanych przez fachowców mechanizmów obronnych i barier (guardrails) w tych właśnie przypadkach brzegowych, w których sztuczna inteligencja pozostaje najbardziej wrażliwa”. Co więcej, wskazuje on, że „struktury odpowiedzialnej AI, pozbawione wsparcia ekspertów-ludzi, degenerują się do miana »teatru zgodności« (compliance theater), jako że AI nie dysponuje zdolnością percepcji zmieniającego się dynamicznie kontekstu”.

Utrata ludzkiej wiedzy eksperckiej stanowi egzystencjalne zagrożenie dla organizacji.

Obawa nie polega tu jedynie na tym, że systemy AI zawiodą, gdy zabraknie specjalistów weryfikujących ich wyniki. Głębszym problemem jest ryzyko, że w dłuższej perspektywie organizacje mogą bezpowrotnie utracić kompetencje swojego zespołu. Cordova argumentuje, że „firmy, które powierzają weryfikację wyłącznie sztucznej inteligencji, niszczą własne instytucjonalne zdolności do audytowania, ponieważ wiedza ekspercka zanika (atrofuje), a pracownicy niższych szczebli (junior staff) nigdy nie wykształcają w sobie samodzielności”. Podobne obawy wyraża niezależna konsultantka Linda Leopold: „Jeśli zawsze pozwalamy sztucznej inteligencji wykonywać pracę za nas, z czasem wytracamy ekspertyzę niezbędną do jej nadzorowania”. Jak podkreśla: „Musimy dbać o to, by ludzki osąd pozostawał na tyle wyostrzony, by móc rzucać jej wyzwania”. Dyrektor ds. danych (Chief Data Officer) w EnBW, Rainer Hoffmann, podsumowuje to słowami: „Wysiłki w kierunku odpowiedzialnej AI kończą się porażką nie dlatego, że ludzie nie są w stanie zweryfikować każdej najmniejszej decyzji podejmowanej przez algorytmy, ale dlatego, że organizacjom brakuje fundamentalnej wiedzy o tym, w jaki sposób systemy AI powinny być odpowiedzialnie ewaluowane, monitorowane i wdrażane”.

Z tej perspektywy stawka biznesowa nabiera dogłębnie ludzkiego charakteru. Jak przekonuje badaczka Belona Sonna z Australian National University: „Nadrzędnym celem odpowiedzialnej AI nie jest wyłącznie projektowanie systemów zgodnych z zasadami etycznymi, ale też gwarancja, że ludzie zawsze będą potrafili wkroczyć i interweniować w momencie, gdy pojawi się odchylenie od normy (misalignment)”. Innymi słowy, jak zauważa Salazar, odpowiedzialna sztuczna inteligencja „potrzebuje kadr przygotowanych na to, by nigdy nie przerzucać na maszyny obowiązków, które w swym rdzeniu pozostają czysto ludzką odpowiedzialnością”. Bez tych kompetencji spór o to, czy odpowiedzialna AI wymaga ludzkiej weryfikacji wyników, staje się wręcz bezprzedmiotowy – w organizacji nie pozostanie już bowiem nikt z odpowiednią wiedzą, kto mógłby tę weryfikację przeprowadzić.

Sama weryfikacja przez człowieka nie poddaje się procesowi skalowania.

Mimo szerokiego poparcia dla potrzeby rozwijania ludzkich kompetencji, wielu panelistów wyraża obawy o skalę i zakres takiej weryfikacji. Profesor Wharton School, Kartik Hosanagar, tłumaczy to następująco: „Z pewnością jest wiele sytuacji, w których ludzka kontrola jest bardzo pomocna. Jest jednak mnóstwo innych, w których staje się ona absolutnie niemożliwa do zrealizowania z uwagi na konieczną skalę takiego działania”. Hoffmann popiera to stanowisko, wskazując, że w przypadku „aplikacji przetwarzających monstrualne wolumeny danych lub wykrywających wzorce wykraczające dalece poza zdolności percepcyjne człowieka, weryfikacja poszczególnych wyników sztuka po sztuce (output-by-output) nie jest ani wykonalna, ani użyteczna”. Dla części ekspertów przymus skalowania ręcznej kontroli w taki właśnie sposób, podważyłby podstawową propozycję wartości (value proposition) stojącą za wdrożeniem sztucznej inteligencji. Jak ujmuje to Öykü Işik: „Rdzenną wartością AI jest jej szybkość i skala działania”, przez co „wymóg ludzkiej weryfikacji w odniesieniu do każdego wygenerowanego wyniku, skutecznie zneutralizowałby te fundamentalne przyrosty wydajności”.

Zgadzam się

„Traktowanie weryfikacji jako głównej roli człowieka niesie za sobą ryzyko zredukowania koncepcji odpowiedzialnej AI do przestarzałego modelu nadzoru, który w żaden sposób nie skaluje się z rosnącą autonomią maszyn. Dowodzą tego realia w obszarze rozwoju oprogramowania. Inżynierowie coraz częściej współpracują z systemami potrafiącymi planować, modyfikować i operować na potężnych zasobach kodu – miejscach, gdzie drobiazgowa kontrola ze strony człowieka bywa wręcz niemożliwa lub bezcelowa. Kluczowe jest to, czy organizacje decydują się inwestować w ekspertów potrafiących projektować strumienie pracy (workflows), ustanawiać niezbędne bariery bezpieczeństwa (guardrails) i utrzymywać kontrolę nad odpowiedzialnością (accountability) proporcjonalnie do kompetencji delegowanych na maszyny. Odpowiedzialna sztuczna inteligencja bazuje w mniejszym stopniu na szkoleniu audytorów, którzy mają sprawdzać wyniki po fakcie, a zdecydowanie bardziej na wykształceniu projektantów, operatorów i opiekunów (stewards). Ich zadaniem jest nadzorowanie systemów w konkretnym kontekście, tak by odpowiedzialność pozostawała całkowicie czytelna nawet tam, gdzie bezpośrednia inspekcja techniczna nie jest możliwa”.

Mike Linksvayer, GitHub

Dla wyżej wymienionych ekspertów rozwiązaniem wcale nie jest porzucenie ludzkiego osądu, lecz znacznie bardziej strategiczne podejście do jego wykorzystania. Philip Dawson, dyrektor ds. polityki AI w Armilla AI, wierzy, że „w miarę jak systemy sztucznej inteligencji zyskują na złożoności i tempie wdrażania, weryfikacja bazująca wyłącznie na ludzkiej ingerencji staje się strukturalnym wąskim gardłem”, co wymaga zmiany paradygmatu. Işik posiłkuje się przykładem branży cyberbezpieczeństwa dowodząc, że system musi umieć bezbłędnie identyfikować momenty krytyczne wymagające interwencji człowieka, „jednocześnie bazując na zautomatyzowanym podejmowaniu decyzji dla dominującej części operacji. Pozwala to uniknąć potężnych obciążeń i operacyjnych zatorów”. Argumentuje ona, że „najlepsze inicjatywy w zakresie odpowiedzialnej AI traktują połączenie eksperckiej wiedzy z narządami automatycznymi jako jeden integralny, symbiotyczny mechanizm”. Alyssa Lefaivre Škopac, dyrektor ds. zaufania i bezpieczeństwa w Alberta Machine Intelligence Institute, postuluje wdrażanie „wielowarstwowych strategii bezpieczeństwa (defense-in-depth), które swoim zasięgiem dotykają wszystkiego – od użytkowników pierwszej linii frontu, potrafiących krytycznie odnieść się do wygenerowanych danych, aż po profesjonalistów projektujących solidny ekosystem bezpieczeństwa wokół całej infrastruktury”. Dawson stwierdza analogicznie, że „branża jest wręcz zobligowana do inwestowania w zautomatyzowane ramy ewaluacji (evaluation frameworks) oraz strumienie weryfikacji oparte na inteligentnych agentach (agentic assurance pipelines), które rozszerzają w dużej skali ludzki potencjał oceny, zamiast go zastępować”.

Nadzór operacyjny i odpowiedzialność pozostają na pierwszym planie.

Pomijając kwestię konieczności polegania na hybrydowym, maszynowo-ludzkim systemie weryfikacji, paneliści nie mają wątpliwości: precyzyjny nadzór nad funkcjonowaniem (oversight) oraz wyegzekwowana odpowiedzialność za wyniki (accountability) pozostają fundamentem absolutnie każdej strategii w obszarze odpowiedzialnej AI. Chesterman podkreśla, że „weryfikacji nie należy interpretować na skróty i zbyt płytko”. Jak mówi: „W niektórych procesach to właśnie eksperci będą decydowali o bezpośrednim zatwierdzaniu ostatecznych wyników algorytmów. W innych jednak, sprowadzi się to do projektowania precyzyjnych testów, sprawdzania ciągów zadań produkcyjnych, modelowania progów akceptowalnego ryzyka lub orzekania o całkowitym zaprzestaniu polegania na modelu w danym przypadku”. Ujmując rzecz słowami Chowa: „Udział ekspercki w procesie musi być integralną składową projektowania rozwiązania (design-time), a nie tylko pobieżną weryfikacją na etapie egzekucji (run-time)”. Sameer Gupta, były dyrektor ds. analityki (Chief Analytics Officer) w DBS Bank, wtóruje temu poglądowi, konstatując: „Polityka nadzoru (governance and oversight) winna być rygorystycznie osadzona w każdym poszczególnym etapie projektowania oraz wdrażania technologii AI, odrzucając model traktujący te procesy jako końcowy punkt weryfikacyjny tuż przed wydaniem ostatecznego wyniku”.

Zdecydowanie się zgadzam

„Bez względu na poziom zawiłości technologicznej czy pozornie samodzielne (autonomiczne) działanie w warunkach środowiskowych, sztuczna inteligencja zawsze i niezaprzeczalnie pozostaje konstruktem technologicznym – oprogramowaniem wykonującym określone komendy dla jednostki obliczeniowej. Systemy AI nie posiadają i nie uzyskują sprawczości prawnej, by ponosić winę w świetle prawa bądź odpowiadać za naruszenie norm etycznych wskutek poczynionych działań. Konsekwentnie więc, za każdym projektem bazującym na sztucznej inteligencji winien kryć się odpowiedzialny człowiek, będący gwarantem upewnienia się, czy wygenerowane wartości dodane zostały poprawnie zrozumiane oraz zweryfikowane. Tego typu rozliczalność pociąga za sobą obligatoryjność albo dysponowania bezpośrednią, wewnętrzną ekspertyzą w celu oceny danych na wyjściu z AI, albo permanentny, autoryzowany dostęp do zewnętrznych zasobów merytorycznych. Wdrożenie na rynek modelu sztucznej inteligencji, pozbawionego aktywnego i profesjonalnego nadzoru kadrowego ze strony ludzkiej, jest ex definitione zachowaniem nieodpowiedzialnym, gdyż odsuwa od każdego potencjalną winę w momencie powstania szkód, a co gorsza, kwestionuje wagę konieczności ochrony integralności oraz fundamentalnego bezpieczeństwa w zautomatyzowanych procesach decyzyjnych”.

Ben Dias, IAG

Wielu badaczy niezmiennie dowodzi, że weryfikacja zasobów z wyjścia modelu (outputs) oparta na kompetencjach pracowniczych, sama w sobie jest priorytetem nie tyle dla osiągnięcia wyłącznego sukcesu organizacyjnego, lecz dla udrożnienia spójnego ładu organizacyjnego przy systemach sztucznej inteligencji. Ben Dias, główny badacz naukowy ds. AI w IAG, wyjaśnia wprost, że postrzegane jako „konstrukt technologiczny (…) systemy nie mogą pochwalić się wystarczającą dozą autonomii i umocowania prawnego do poniesienia dotkliwych kar o podłożu jurydycznym czy etycznym, jako pokłosia działań na rynku biznesowym”. Dlatego właśnie – stwierdza bez ogródek – „każda iteracja wykorzystująca algorytmy SI wymaga przydzielenia odpowiedzialnej i fizycznej jednostki, do obowiązków której należy sprawowanie bezpośredniej pieczy nad poprawnością, logicznym zdekodowaniem oraz ostateczną ewaluacją przedstawionych danych”. Podobnego przekonania jest dyrektor ds. produktu w ADP, Naomi Lariviere: „Warto pamiętać, że AI może przygotować wnikliwą rekomendację, potrafi wyręczyć ludzi w rutynowych obowiązkach decyzyjnych, niemniej brak jej jakiejkolwiek świadomości pozwalającej wziąć za to pełną odpowiedzialność na swoje barki”. Dodatkowo, Mike Linksvayer (GitHub) rozwija tę myśl: „Postępująca z upływem lat autonomia i systemowa samoświadomość w budowaniu relacji przez środowisko AI przekładają się dzisiaj bezpośrednio na fakt, iż nie jesteśmy już blokowani przez mozolną kontrolę każdego wyrzuconego wyniku; wąskim gardłem staje się od teraz odpowiednio wczesne, świadome kształtowanie i definiowanie precyzyjnych celów korporacyjnych, narzucanie krytycznych obostrzeń środowiskowych oraz ustalanie przejrzystych ścieżek eskalacji konfliktów dla zachowania kontroli operacyjnej”.

Rekomendacje

Przyjmując, że główną barierą w cyfrowej transformacji nie jest samo sprawdzanie poprawności danych podanych przez sztuczną inteligencję, ale przede wszystkim brak obiektywnej umiejętności sprawowania celowego, świadomego oraz dojrzałego osądu i rozstrzygania, organizacje biznesowe zmuszone są proaktywnie ulokować zasoby czasowe i finansowe we wzmocnienie tych właśnie zdolności. Z pełnym przekonaniem pragniemy rekomendować poniższe strategiczne imperatywy dla jednostek i firm, które mierzą się z wyzwaniem budowania wysoko wykwalifikowanej bazy ludzkich ekspertów, nadążającej swoimi aspiracjami za lawinowym wzrostem potencjału w sektorze inteligentnych technologii:

1. Weryfikujcie projekty, nie tylko wyniki. Wąskie postrzeganie weryfikacji przez człowieka, ograniczające się jedynie do końcowych danych (outputs), absolutnie nie wystarcza. Kontrola ludzka, definiowana w szerokich ramach jako całościowy nadzór na organizacją procesową, powinna być organicznie, głęboko zakorzeniona na absolutnie każdym etapie planowania i późniejszego implementowania algorytmów na wybrane rynki operacyjne, zrywając przy tym definitywnie ze starym modelem klasycznego „ostatecznego punktu kontrolnego”. Przekłada się to na konkretny obraz ekspertów zarządzających ustalaniem precyzyjnych wskaźników granicznych (thresholds), metodycznym formatowaniem testów sprawnościowych, ścisłym przeprowadzaniem audytów poprawności we wzajemnych strumieniach przepływu pracy oraz proaktywnym zakazywaniem stosowania sztucznej inteligencji, w sytuacjach, gdy nie można na niej w pełni polegać. Nie powinno się sprowadzać tego zadania do mało ambitnej korekty merytorycznej z perspektywy post-factum.
2. Nie polegajcie wyłącznie na weryfikacji przez człowieka. Skalowanie ręcznych testów jakości każdego, najmniejszego wytworu algorytmicznego jest czystą iluzją, tak więc zarządy świadomie budujące bezpieczne zaplecze operacyjne, powinny skoncentrować inwestycje na zdywersyfikowanych formach operacyjnych. Oznacza to aktywne doposażenie środowisk w autorskie, ustandaryzowane i wysoce w pełni zautomatyzowane narzędzia teleinformatyczne w celu radykalnego przyspieszenia procesu wspomagania logicznej decyzji. Proces ludzkiej kontroli poddawanej ewaluacji musi bezwzględnie skoncentrować moc w newralgicznych stykach organizacyjnych: skrajnych przypadkach brzegowych, niezwykle delikatnych transakcjach o wysokiej stawce (high-stakes decisions) oraz przy wprowadzaniu produktów w skomplikowane i nieznane rynkowo konstelacje, co w efekcie bezproblemowo pozwala systemom scedować standardowy wolumen pozostałych operacji i zadań technicznych do automatycznej utylizacji. Finalnym punktem docelowym jest uzyskanie idealnie zbalansowanego modelu symetrycznego rozszerzającego siłę i merytorykę człowieka do wielkich skal, niwelując jednocześnie zagrożenie zastąpienia go maszyną bądź uwikłania środowiska technicznego w permanentne obciążenia zaporowe.
3. Inwestujcie w wiedzę ekspercką ludzi. Zarządy muszą kategorycznie wypracować plan wieloletniego inwestowania w rozwój zaawansowanych kompetencji na najwyższym poziomie wiedzy, pozwalającej nie tylko na bieżącą autoryzację gotowych rezultatów, ale również na wielomiesięczną superwizję przy ciągłym ulepszaniu środowiska inżynieryjnego. Trzeba mieć całkowitą świadomość, że bezprecedensowy skok ewolucyjny mocy u samych fundamentów technologicznych automatycznie napędza drastycznie wprost proporcjonalne zapotrzebowanie rynkowe na wysoce rozwinięte umysły ludzkie. Zaniedbanie szkoleń dla młodej kadry (junior staff) prowadzi do całkowitego braku elementarnej samodzielności, co idzie w parze z atroficznym degradem dojrzałych umysłów na szczeblach liderskich wskutek bolesnego wykluczenia i pozbawienia autoryzacji do ingerencji w systemy sztucznej inteligencji, czego smutnym obrazem finałowym z reguły bywa permanentna korporacyjna niewydolność i zapaść z zakresu kontroli zarządczej. Optymalnym rozwiązaniem kryzysowym w wielu uwarunkowaniach staje się świadome zmuszenie środowiska inżynierskiego do dbania i zatrzymywania ludzi w manualnych bądź ustrukturyzowanych relacjach budujących kompetencje i uodparniających na utratę logiki operacyjnej, pomimo oczywistego faktu, iż procesy te z łatwością mogłyby i dawałyby się skutecznie przenieść pod pieczę sztucznej algorytmiki. Bądźmy otwarci w tym wypadku na wyrozumiałą, cierpliwą utratę natychmiastowej, chłodnej wydajności procesowej, odczytując ten akt ustępstwa w charakterze rzetelnej i wizerunkowo rentownej inwestycji dla pokoleń.
4. Weryfikujcie to, czego się nauczono, a nie tylko to, co zostało wytworzone. Do powszechnych patologii rynkowych w środowiskach biznesowych należy koncentrowanie mechanizmów naprawczych na sprawdzaniu stuprocentowej trafności surowych wyników technicznych generowanych przez SI, przy skrajnym zignorowaniu i zapominaniu o wzięciu pod ścisłą lupę ewaluacyjną faktycznych lekcji merytorycznych i wymiernych skutków środowiskowych po aktywowanych, wprowadzonych modelach uczenia inżynieryjnego. Interpretacja przez zespoły testów pilotażowych, analiza wymiernych przyrostów optymalizacyjnych czy w końcu szacowanie, jakie algorytmiczne parametry dały pożądany efekt, a jakie zawiodły, od razu rzutuje podświadomie, dając solidny, merytoryczny gmach, z perspektywy którego zapadają wiążące strategicznie procesy biznesowe i kreowane są polityki rynkowe w kontekście użyteczności platform cyfrowych. Bezpardonowe ominięcie istotnych parametrów podczas gromadzenia statystyk obarczonych wadą (odchylenia w KPI, ignorowanie skrajnych wektorów brzegowych, rynkowe, przedwczesne ogłoszenie tryumfu), stawia na szali powszechne uodparnianie błędów z tendencją do szybkiego zakrzywiania percepcji operacyjnej i skalowania strat procesowych. Profesjonalni analitycy operacyjni ponoszą w tym układzie odpowiedzialność nie tylko za twardą certyfikację wartościowych komponentów środowiska sztucznego modelowania, ale biorą czynny, dogłębnie ewaluujący udział w kwestionowaniu tezy i wiedzy zdefiniowanej jako przyswojona z wprowadzanych do firmy wdrożeń transformacji inżynieryjnej.
5. Traktujcie weryfikację jako imperatyw strategiczny, a nie jedynie praktykę w obszarze odpowiedzialności. Zgodnie z wynikami globalnego badania kadry kierowniczej przeprowadzonego w 2025 roku przez MIT Sloan Management Review i BCG, 86% zespołów najwyższego szczebla zarządzania uważa sztuczną inteligencję za istotny element swoich priorytetów strategicznych. Kiedy AI znajduje się w samym centrum ekosystemu generującego metody osiągania przewagi, optymalizowania wzrostów przychodów i akcelerowania kluczowych decyzji handlowych, naturalną trajektorią zjawiska staje się fakt bezpośredniego korelacji i rzutowania kontroli nadzorczej człowieka na wskaźniki giełdowe i wolumenowe przyrosty – z rzadka postrzeganego i rezerwowanego do szufladki debat etycznych. Defekty w obrabianych danych, brak spójnego ustrukturyzowania, pobieżne podejście do konkludowania nie dają dziś jedynie problematycznego podłoża z odpowiedzialnością ogólnospołeczną – torują w prostym rozrachunku ścieżkę alokacji nietrafionych kapitałów we wdrożenia, potęgują spektakularne awarie i zapaście programów wejściowych, drastycznie rozregulowują ramy solidnego zaplecza przed potencjalnymi rywalami na rynku i dewaluują z trudem wypracowane lojalne powiązania dla relacji budowanych z finalnymi i docelowymi konsumentami oraz firmami partnerskimi. Proponowane i zaprezentowane pryncypia — bezbłędny nadzór techniczny modeli produkcyjnych, symbiotyczna synteza kontroli inżynieryjnej maszynowo-fizycznej wraz z nakładami kierowanymi w stały, permanentny ciąg podnoszenia kwalifikacji wraz ze skrupulatną, precyzyjną diagnostyką w przyswajanych błędach na szlaku operacyjnym — nigdy w żadnym stopniu nie powinny jawić się w sferze dodatkowych, prestiżowo i marketingowo pożądanych fanaberii na mapach biznesowej drogi do celu we wprowadzaniu w firmowe ramy odpowiedzialnych systemów AI. Elementy z pakietu propozycji stały się dzisiaj nierozerwalnymi normami determinującymi bazową poprawność skutecznego egzekwowania strategii w zawiłym łańcuchu dzisiejszego zarządzania komercyjnego.

O panelu

MIT Sloan Management Review i Boston Consulting Group zorganizowały międzynarodowy panel złożony z ponad 50 praktyków branżowych, naukowców, badaczy i decydentów, aby podzielić się swoimi poglądami na kluczowe kwestie dotyczące odpowiedzialnej sztucznej inteligencji. W ciągu pięciu miesięcy poprosimy panelistów o odpowiedź na pytanie dotyczące odpowiedzialnej sztucznej inteligencji i krótkie uzasadnienie swojej odpowiedzi. Czytelnicy mogą zobaczyć wszystkie odpowiedzi i komentarze panelistów na dole każdego artykułu, a także kontynuować dyskusję w ramach AI for Leaders – społeczności LinkedIn, której celem jest wspieranie dialogu między podobnie myślącymi ekspertami i liderami w dziedzinie technologii.

O autorach

Elizabeth M. Renieris jest redaktorką współpracującą programu MIT Sloan Management Review Responsible AI Big Idea, starszą współpracowniczką naukową w Instytucie Etyki w Sztucznej Inteligencji w Oksfordzie, starszą pracowniczką naukową w Centrum Innowacji w Zarządzaniu Międzynarodowym oraz autorką książki Beyond Data: Reclaiming Human Rights at the Dawn of the Metaverse (MIT Press, 2023). Dowiedz się więcej o jej pracy tutaj. David Kiron jest redaktorem naczelnym w MIT Sloan Management Review i współautorem książki „Workforce Ecosystems: Reaching Strategic Goals With People, Partners, and Technology” (MIT Press, 2023). Steven Mills jest dyrektorem zarządzającym i partnerem w Boston Consulting Group, gdzie pełni funkcję dyrektora ds. etyki w dziedzinie sztucznej inteligencji. Anne Kleppe jest dyrektorem zarządzającym i partnerem w Boston Consulting Group, gdzie pełni funkcję globalnego lidera ds. odpowiedzialnej sztucznej inteligencji.