Gdy przyglądamy się pracy maszyn, o wiele częściej jesteśmy świadkami sytuacji, w których wspomagają one pracę człowieka, niż gdy działają samodzielnie. Oczekuje się, że ten schemat utrzyma się w przewidywalnej przyszłości.
Prawie 30 lat temu Robert j. Thomas, wówczas profesor MIT, opublikował książkę What Machines Can’t Do (Czego maszyny nie mogą dokonać). Skupiał się w niej na technologii produkcji i przekonywał, że maszyny nie są jeszcze gotowe, by całkiem przejąć fabryki z rąk ludzi. Chociaż ostatnie osiągnięcia w dziedzinie sztucznej inteligencji znacznie podniosły zdolności maszyn, nadal jest wiele czynności, których nie są jeszcze w stanie wykonać albo przynajmniej nie są w stanie zrobić tego w sposób wysoce skuteczny.
Systemy AI mogą się dobrze spisywać w laboratorium badawczym albo w warunkach wysoce kontrolowanych zastosowań, lecz nadal potrzebują pomocy człowieka w typowych warunkach pracy, które badaliśmy na potrzeby nowej książki Working With AI: Real Stories of Human‑Machine Collaboration (Praca z AI: prawdziwe historie współpracy człowieka z maszyną). W trzydziestu opisanych w niej przypadkach pracownicy wyraźnie pozostawali istotnym czynnikiem.
W tym artykule wykorzystamy niektóre wspomniane w książce przykłady, by przedstawić listy procesów wykorzystujących sztuczną inteligencję, a mimo to nadal wymagających udziału człowieka. Są to zadania, w przypadku których organizacje powinny wciąż inwestować w kapitał ludzki i w których specjalistyczny personel może liczyć w najbliższej przyszłości na ciągłość zatrudnienia.
Obecne ograniczenia AI w miejscu pracy
Sztuczna inteligencja z czasem zyskuje coraz większy potencjał, a zatem nie da się uzyskać jednej niezmiennej odpowiedzi na to, co maszyny już potrafią, a czego jeszcze nie umieją. Być może czytelnik tego artykułu w 2032 roku uzna, że przedstawione w nim ograniczenia AI są komicznie rozmijające się z prawdą. Na razie jednak ważne jest, aby nie oczekiwać od AI więcej, niż może zaoferować. Przedstawiamy niektóre z jej istotnych dzisiejszych ograniczeń.
Zrozumienie kontekstu. AI nie rozumie jeszcze szerszego kontekstu, w którym funkcjonuje biznes oraz tego związanego z zadaniem powierzonym jej do wykonania. Dostrzegliśmy ten problem w wielu przypadkach. Jeden z nich dotyczy sytuacji oceny poziom ryzyka ubezpieczeniowego dokonywanego przez AI na podstawie wielu danych zawartych w dokumentacji medycznej wnioskodawcy, lecz bez zrozumienia kontekstu sytuacyjnego. Na przykład jeden z powszechnie przepisywanych leków zmniejsza nudności zarówno u pacjentów chorych poddawanych chemioterapii, jak i u kobiet w ciąży cierpiących na poranne mdłości. Jak dotąd algorytm nie potrafi rozróżnić tych dwóch sytuacji przy ocenie ryzyka ubezpieczeniowego związanego z taką receptą.
Poznaliśmy również sytuacje, w których systemy AI nie mogły poznać kontekstu relacji pomiędzy ludźmi. Na przykład aplikacja do zbierania funduszy na uniwersytecie wybiera potencjalnych darczyńców i przygotowuje dla nich e‑mail, lecz może nie wiedzieć np. o niedawnej śmierci w rodzinie darczyńcy (co może sprawić, że moment na prośbę o darowiznę będzie niestosowny) lub o niedawnym zwycięstwie ewentualnego darczyńcy w uniwersyteckich mistrzostwach sportowych (o którym być może należałoby wspomnieć w e‑mailu). Obecnie nie ma dobrego sposobu na uwzględnienie szerokiego i zniuansowanego kontekstu ani w algorytmach matematycznych, ani w regułach i wydaje się mało prawdopodobne, by coś w tej kwestii w najbliższym czasie się zmieniło.
Nadawanie priorytetów alertom. Systemy komputerowe, czujniki oraz bazujące na sztucznej inteligencji systemy analizy obrazu i dźwięku często generują alerty, zarówno związane z bezpieczeństwem, zdrowiem, jak i te wynikające z jakiegoś kłopotu samego urządzenia W studium przypadku alertów bezpieczeństwa w dużym centrum handlowym połączonym z singapurskim lotniskiem Changi okazało się, że do filtrowania i nadawania priorytetów alertom niezbędna jest asysta człowieka. W złożonych i stale zmieniających się okolicznościach systemy AI często nie są w stanie odróżnić uzasadnionych i ważnych powodów do wszczęcia alarmu od niepotrzebnych lub mniej istotnych. Chociaż systemy nadzoru AI są bardzo dobre w ustalaniu prawdopodobieństwa słuszności najbardziej oczywistych alarmów, nadal niezbędny jest udział pracowników ochrony i operatorów systemu.
Podobny proces i zestaw wyzwań odnotowano w singapurskim DBS Bank, gdzie sztuczna inteligencja i ludzie ściśle współpracują w celu zapobiegania praniu brudnych pieniędzy i innym rodzajom oszustw. System AI starszej generacji, bazujący na regułach, uruchamiał alarm w przypadku transakcji, które uznał za podejrzane, ale w efekcie wiele z nich było fałszywych. I wprawdzie system AI nowszej generacji, oparty na uczeniu maszynowym, nadaje im priorytet, ludzie nadal angażowani są w ich weryfikację.
Ocena elementów subiektywnych. Jeden z menedżerów, z którymi rozmawialiśmy w DBS, powiedział, że zawsze będzie potrzebny człowiek, ponieważ „zawsze będą istniały elementy subiektywne w ocenie tego, co jest, a co nie jest podejrzane”. Mogą one obejmować rozszerzone służbowe, osobiste albo rodzinne relacje klienta lub też wcześniejsze kontakty z pracownikami banku. Być może w pewnym momencie AI będzie w stanie ocenić uczciwość i wiarygodność osoby poprzez analizę obrazów twarzy i wzorców głosu – niektóre instytucje finansowe w Chinach już posługują się tym rozwiązaniem. Naszym zdaniem bardziej efektywne jest jednak zatrudnienie ludzi dokonujących subiektywnych osądów w celu uzupełnienia algorytmicznych ocen sztucznej inteligencji opartych na danych, zwłaszcza gdy na ocenę silnie wpływają czynniki kulturowe, kontekstowe i subiektywne. Oczywiście zarówno ludzie, jak i maszyny mogą być stronniczy w swoich ocenach, a ludzkie uprzedzenia mogą zostać czasem nieumyślnie „wdrukowane” w algorytmy uczenia maszynowego. Dlatego aby zminimalizować stronniczości jednej lub drugiej strony, warto, by decyzje maszyn były sprawdzane przez ludzi i vice versa.
Analiza tonu komunikatu. Firma Intuit, produkująca oprogramowanie finansowe, wprowadziła narzędzie do poprawy gramatyki i języka dla wewnętrznie opracowywanych treści. Wprawdzie system AI mógł wygenerować wiele poprawnych pod względem gramatycznym i stylistycznym komunikatów, to jednak nie potrafił dostosować tonu wypowiedzi. Ten problem występuje również w przypadku opartej na sztucznej inteligencji analityce mediów społecznościowych, która miała trudności ze zrozumieniem sarkazmu. Nawet najbardziej sprawne narzędzia do generowania języka naturalnego generują czasem treści dla ludzi wręcz obraźliwe. Wydaje się więc prawdopodobne, że ludzie będą musieli nadal oceniać ten aspekt, aby upewnić się, że tekst przygotowany przez AI jest dla człowieka akceptowalny.
Zrozumienie sytuacji i potrzeb emocjonalnych. Współpraca pomiędzy człowiekiem a sztuczną inteligencją, którą zaobserwowaliśmy w Stitch Fix, internetowym sklepie z odzieżą, wyróżniającym się systemem polecania produktów, doskonale przedstawia kluczowe niedociągnięcie sztucznej inteligencji. System AI rekomenduje elementy odzieży, które klienci prawdopodobnie kupią, lecz nie jest w stanie uwzględnić potrzeb emocjonalnych związanych ze specjalnymi okazjami. Klienci są zachęcani do zamieszczania dodatkowych sugestii, które miałyby być wzięte przy przygotowywaniu rekomendacji, takich jak „Mój mąż wraca z misji zagranicznej” albo „Właśnie zaczynam nową pracę i muszę się ubrać tak, aby zrobić wrażenie”, ale AI oczywiście nie wie, co z nimi zrobić. Możliwość wykorzystania takich komentarzy jest jednym z powodów, dla których Stitch Fix zatrudnia tysiące ludzkich stylistów. Dopiero dzięki nimi system rekomendacji wykorzystujący AI zyskuje sens. Zrozumienie emocji może okazać się jedną z ostatnich rzeczy, które AI nauczy się robić, jeżeli kiedykolwiek tego dokona. W przewidywalnej przyszłości ludzie wydają się być niezagrożeni w tej roli.
Ocena i wybór najlepszej opcji. Sztuczna inteligencja jest dobra w podejmowaniu wstępnych decyzji, lecz gdy decyzja ma istotne znaczenie, to człowiek często musi się w nią zaangażować i wydać ostateczny osąd. Tak dzieje się np. w Morgan Stanley, gdzie system „najlepsze dostępne opcje”, wykorzystujący uczenie maszynowe, wskazuje spersonalizowane możliwości inwestycyjne dla klientów firmy i sugeruje je doradcom finansowym, którzy następnie rozstrzygają, które z nich zaproponować swoim klientom.
Kwestia „najlepszej opcji” nabiera innego wymiaru, gdy pojawiają się pytania dotyczące zagrożenia życia – jak w sytuacjach związanych z opieką zdrowotną, w których ludzie i sztuczna inteligencja współpracują, by postawić właściwą diagnozę i wdrożyć leczenie. Na przykład inteligentny system telemedyczny Good Doctor, funkcjonujący w Chinach i Azji Południowo‑Wschodniej, wykorzystuje AI do przedstawiania zaleceń dotyczących triażu oraz leczenia dla setek milionów pacjentów. Widzieliśmy również aplikację do obrazowania stosowaną w dermatologii, w której AI pomagała w rejestrowaniu i prezentowaniu odpowiednich obrazów dermatologowi. W obu przypadkach lekarz podejmował jednak ostateczną decyzję o diagnozie i sposobie leczenia.
Szczególnie w medycynie ważnym warunkiem sukcesu wdrożenia AI jest ograniczenie ambicji jej twórców. Chociaż w przyszłości sztuczna inteligencja może być w stanie przedstawiać kompleksowe oraz poprawne diagnozy i propozycje leczenia bezpośrednio pacjentom, dziś możliwości jej pozostają ograniczone.
Określenie ram problemów, a następnie uczenie i doskonalenie. To niemal cud, że AI może teraz automatycznie generować modele uczenia maszynowego, jak w przypadku, który badaliśmy w sieci supermarketów Kroger i jej spółce zależnej 84.51°, zajmującej się data science. Automatyzacja niektórych zadań związanych z data science jest ironicznym afrontem dla wyjątkowo inteligentnych naukowców zajmujących się tą dziedziną. Niektórzy z doświadczonych specjalistów w 84.51° początkowo obawiali się, że trafią do świata, w którym ich ciężko wypracowana wiedza na temat algorytmów i metod nie będzie miała żadnej wartości. Naukowcy z Kroger z ulgą stwierdzili jednak, że AI przede wszystkim nie potrafi ująć w ramy problemu, który ma być rozwiązany, ani znaleźć danych, które pozwolą na jego rozwiązanie. Tylko człowiek może wskazać zestawy danych mogące wyłonić dostępne opcje i wybrać decyzje, które należy podjąć.
Naukowcy zajmujący się danymi w 84.51° spędzili również sporo czasu na szkoleniu, doskonaleniu i recenzowaniu pracy mniej doświadczonych osób, korzystających z możliwości automatycznego uczenia maszynowego. Podobne postępowanie zaobserwowaliśmy również w wielu innych firmach i uważamy, że miejsca pracy większości naukowców zajmujących się danymi pozostaną w takiej sytuacji przez jakiś czas niezagrożone.
Tworzenie informacji i przekazywanie ich do systemu. Natrafiliśmy na wdrożenie wspomaganej przez AI rozszerzonej rzeczywistości, która miała być stosowana do szkolenia pracowników amerykańskiej firmy produkcyjnej o nazwie PBC Linear. Ten przykład dowodzi, że nim AI się czegoś dowie, to wiedzy muszą dostarczyć jej ludzie. Doświadczeni operatorzy maszyn byli potrzebni do opracowania materiałów szkoleniowych, które następnie mogły być wykorzystane przez nowicjuszy za pośrednictwem systemu zarządzania uczeniem się oraz zestawu Augmented Reality. System sprawuje się dobrze, lecz przede wszystkich dlatego, że został stworzony przez ludzi. Sztuczna inteligencja nie będzie w stanie w najbliższym czasie wydobyć i odpowiednio uporządkować wiedzy o pracy pochodzącej z doświadczonych ludzkich umysłów.
Nadzór nad założeniami analitycznymi. Sztuczna inteligencja może dokonywać różnych analiz, ale nie może odbywać się to bez udziału człowieka, który ustala proces analizy i opis warunków. Znaleźliśmy dwa przykłady – opartą na sztucznej inteligencji aplikację służącą do konserwacji predykcyjnej (wyprzedzającej ewentualne awarie) lokomotyw spalinowych znajdujących się na wyposażeniu Agencji Transportu Zatoki Massachusetts (Massachusetts Bay Transportation Authority, MBTA) oraz system AI do automatycznej kontroli wizualnej obwodów głowic dysków w firmie Seagate, zajmującej się przechowywaniem danych. W obu przypadkach algorytm skutecznie analizował dane i zalecał odpowiednie działania. Jednak żadna z powyższych analiz nie mogła się odbyć bez zdefiniowania, zebrania i usystematyzowania danych przez ludzi, którzy zaprojektowali i skonfigurowali aparaturę oraz nadzorowali, czy proces przebiega poprawnie. Sztuczna inteligencja doskonale radzi sobie z rozwiązywaniem problemów, które człowiek do niej skierował, lecz sama nie wie, od czego zacząć.
Zrozumienie złożonych, zintegrowanych podmiotów. Oczywiste jest, że sztuczna inteligencja może zapewnić przydatne prognozy i spostrzeżenia dotyczące złożonych, połączonych ze sobą podmiotów. Odkryliśmy tę zdolność w przypadku urzędu transportu lądowego w Singapurze. Ta rządowa agencja za pomocą AI monitoruje i wykrywa anomalie w złożonej sieci miejskiego transportu kolejowego na terenie kraju. Jednak jej analizy nie były na tyle dokładne i wiarygodne, by wyeliminować potrzebę zatrudniania pracowników w centralnym ośrodku monitorowania operacji. Jak twierdzą tamtejsi menedżerowie, cenne jest to, że sztuczna inteligencja i powiązane systemy powiadamiają pracowników o problemach z tranzytem, a „to daje nam możliwość podejmowania świadomych decyzji dotyczących sposobu rozwiązania problemu”. Sieć tranzytowa jest zbyt złożona, aby przekazać zarządzanie nią „w ręce” nawet najlepszej AI.
Zachowanie rozwagi przy wykorzystywaniu AI. Nawet jeśli z technicznego punktu widzenia sztuczna inteligencja jest w stanie wykonać jakieś zadanie, może wcale nie być w tym dobra. Badaliśmy wykorzystanie Flippy’ego, robota przewracającego hamburgery, używanego w kilku sieciach restauracji. Kierownik jednej z placówek zdecydował, że Flippy jest dobry w smażeniu, lecz nie jest wystarczająco sprawny w przerzucaniu hamburgerów, by go zatrudnić. Wątpimy, by Flippy był świadomy swoich wad i jest to z reguły stwierdzenie prawdziwe w przypadku każdej sztucznej inteligencji. Tylko ludzie mogą więc zdecydować, czy sztuczna inteligencja powinna być wykorzystana w danym procesie.
Rozważanie następstw etycznych. Firmy zaczynają zdawać sobie sprawę, że systemy AI mogą powodować istotne konsekwencje dla organizacji, pracowników i społeczeństwa. Sztuczna inteligencja nie wie, czym jest etyka, a ludzie owszem. Jak dotąd liderami w podejmowaniu działań dotyczących kwestii etycznych w sektorze komercyjnym są firmy programistyczne, być może dlatego, że w ich branży występuje najwięcej potencjalnych problemów etycznych.
Badany przez nas przypadek praktyki dotyczącej etycznego wymiaru funkcjonowania AI w firmie Salesforce stanowi dobry przykład tego, czego mogą dokonać ludzie. Członkowie tej grupy organizują kampanie wewnątrz i na zewnątrz organizacji, prowadzą coaching, opracowują wytyczne oraz strategie w zakresie etyki, a także pomagają w opracowaniu i wdrażaniu modeli oraz narzędzi wspierających ten proces. Jest mało prawdopodobne, by w ciągu naszego życia zadania te zostały przejęte przez samą sztuczną inteligencję.
Sprawa związana z wykorzystaniem opartej na AI technologii wykrywania strzałów z broni oraz zaleceń dotyczących patrolowania ulic w Departamencie Policji w Wilmington w Karolinie Północnej stwarzała potencjalnie problematyczne kwestie etyczne. Pracownicy ShotSpotter, dostawcy obu tych aplikacji, podjęli wiele działań mających na celu rozwiązanie lub złagodzenie takich problemów i uwzględnili je w swoim oprogramowaniu. Na przykład w przypadku zaleceń dotyczących patrolowania ulic system nie posługuje się żadnymi danymi osobowymi do prognozowania przestępstw, a żaden obywatel nigdy nie jest identyfikowany przez system. Alarmy dotyczące użycia broni palnej są wysyłane tylko do centrum dowodzenia ShotSpottera i są weryfikowane przez specjalistów w celu sprawdzenia, czy źródłem alarmu był rzeczywiście wystrzał czy inny podobny dźwięk. Dopiero po weryfikacji wysyłane jest powiadomienie do jednostek policji. Oczywiście policja musi zachować dużą ostrożność w sposobie zastosowania danych dotyczących użycia broni, aby nie wykorzystać ich w niewłaściwy sposób. Jest to kolejny wymiar rozważań etycznych, który wymaga ludzkiego osądu.
Poprawianie własnych błędów. Ciekawy jest przypadek maszyny do pielenia wykorzystującej system analizy obrazu AI. Jego zadaniem było rozróżnianie chwastów od upraw sałaty, a następnie automatyczne ich usuwanie. Jednak nawet tej maszynie towarzyszył człowiek, wypatrujący oznak problemów mechanicznych albo związanych z oprogramowaniem. Gdyby coś poszło nie tak, miał możliwość skorzystania ze zdalnej pomocy zespołu ekspertów. Owszem, AI są na tyle sprytne, że same mogą zasugerować ludziom swoją naprawę, ale nie rozwiążą każdego możliwego problemu, szczególnie fizycznego. Ludzie pozostaną niezbędni do korygowania systemów AI od czasu do czasu, a pracownicy serwisów mogą liczyć na wieloletnie zatrudnienie.
Zarządzanie zmianami organizacyjnymi. Kilka z analizowanych przez nas przypadków wskazuje na potrzebę zmian organizacyjnych, o ile systemy sztucznej inteligencji mają w nich być skutecznie wykorzystywane. Zastosowanie samego systemu zarządzania zmianami organizacyjnymi opartego na AI do wykonywania tego rodzaju zadań wydaje się mało prawdopodobne nawet przy najbardziej optymistycznych założeniach.
W firmie Southern California Edison system AI informował, które z zadań wykonywanych przez ludzi obsługujących w terenie sieć energetyczną mogą być potencjalnie niebezpieczne. Nim system ostatecznie został wdrożony przez interesariuszy, konieczna była ich długotrwała edukacja i lobbing.
Podobnie w Morgan Stanley system AI wskazujący „najlepsze dostępne opcje” został wprowadzony do firmy jako element całkowicie dobrowolny, a doradców zachęcano do jego przyjęcia poprzez zastosowanie nieformalnej perswazji, wprowadzanie kolejnych ułatwień podczas pracy z AI oraz publikowanie wewnątrz firmy informacji dowodzących, że doradcy korzystający z AI osiągali lepsze wyniki finansowe.
Tylko ludzie potrafią przekonać interesariuszy do przyjęcia nowego podejścia, skoordynować złożone zmiany pomiędzy różnymi funkcjami oraz zrozumieć, dlaczego ludzie opierają się przed użyciem nowego systemu.
Zapewnienie satysfakcji z pracy i pielęgnowanie zaangażowania. W Radius Financial Group, firmie zajmującej się kredytami hipotecznymi, zaobserwowaliśmy, że pracownicy byli bardzo zaangażowani i odczuwali satysfakcję z pracy pomimo intensywnego wykorzystania sztucznej inteligencji i automatyzacji oraz ścisłego monitorowania indywidualnej wydajności za pomocą danych i analityki. Ludzie mówili nam, że lubią swoją pracę ze względu na innych ludzi, którzy są w niej zatrudnieni.
Współgrało to z innymi komentarzami, z jakimi spotkaliśmy się w innych firmach, i sugerowało, że to ludzki element zarządzania oraz relacje koleżeńskie prowadzą do pozytywnych emocji związanych z pracą. Podejście firmy do zaangażowania ludzi może przeciwdziałać „dehumanizującemu” wpływowi sztucznej inteligencji i innych technologii.
Co zrobić z ograniczeniami sztucznej inteligencji i jak wykorzystać mocne strony człowieka
Pojawienie się w organizacji pracy obszarów, w których ludzie są lepsi od sztucznej inteligencji – przynajmniej jak dotąd – jest sprawą dość oczywistą. Jeśli AI ma podejmować decyzje, w większości przypadków powinno się zadbać o to, by ludzie mogli je zmieniać, tak jak to robi Stitch Fix w przypadku narzędzia służącego do podpowiadania stylizacji. Organizacje mogą chcieć monitorować dokonywane przez ludzi zmiany, aby oceniać ich częstotliwość oraz skuteczność. Ten rodzaj oceny może pomóc zarówno projektantom systemu, jak i osobom współpracującym z narzędziem wsparcia przez sztuczną inteligencję.
Eksperci od sztucznej inteligencji powinni poświęcać czas na rozmowy z menedżerami i pracownikami, wyjaśniając im, co AI może, a czego nie może dokonać. Powinny to być dyskusje dotyczące konkretnych zastosowań i dziedzin, ponieważ możliwości sztucznej inteligencji są bardzo rozległe i mogą być wykorzystywane na wiele różnych sposobów. Eksperci i menedżerowie powinni wprowadzać systemy AI krok po kroku do poszczególnych zadań, zamiast fundować organizacjom i pracownikom rewolucję na miarę „wielkiego wybuchu”. Nie jest też złym pomysłem, aby – tak jak zrobił to Morgan Stanley – dać pracownikom pewien wpływ na to, czy i kiedy zaadaptują możliwości AI na swoich stanowiskach pracy, przynajmniej w początkowych fazach wdrażania.
Wszyscy zaangażowani w problematykę AI, w tym jej twórcy oraz potencjalni użytkownicy, powinni zrozumieć, że wdrożenie sztucznej inteligencji jest działaniem związanym z zarządzaniem zmianą. Dlatego liderzy powinni przewidzieć budżet potrzebny na ocenę tej zmiany i ewentualne interwencje związane z procesem wdrażania AI oraz upewnić się, że zespoły dysponują niezbędnymi w procesie zmiany umiejętnościami.
Rozsądnym podejściem w organizacjach planujących redukcję ludzkich miejsc pracy na rzecz AI będzie wprowadzanie takiej zmiany powoli. Etyczne zarządzanie wymaga oczywiście też, by pracodawcy działali transparentnie, wyraźnie informując pracowników o przyszłych perspektywach zawodowych i o tym, jak AI może na nie wpłynąć. Dzięki temu ludzie będą mogli przygotować się do pełnienia takich ról zawodowych, które będą współgrać z AI, albo poszukać alternatywnych miejsc zatrudnienia. Stwierdziliśmy jednak, że utrata miejsc pracy na dużą skalę spowodowana przez sztuczną inteligencję jest zjawiskiem dość rzadkim i uważamy, że większość organizacji odnosi większe korzyści ze współpracy człowieka z maszyną niż z zastąpienia nią wszystkich ludzi.
