Czy za bardzo ufamy AI?

Sztuczna inteligencja wciąż popełnia poważne błędy, więc ludzie potrzebują wskazówek, kiedy powinni poddawać w wątpliwość wyniki jej działania.

Od wielu lat zajmuję się kwestią zaufania do technologii. Oto jeden z przykładów: w 2011 r. prowadziłam badania nad postrzeganiem robotów w sytuacjach krytycznych wymagających szybkiego działania. Zespół, w którym pracowałam, skupiał się na ewakuacjach w sytuacjach zagrożenia i przeprowadzał eksperymenty, polegające na tym, że uczestnicy znajdowali się w pomieszczeniu, w którym uruchamiały się alarmy przeciwpożarowe. Gdy wychodzili do zadymionych korytarzy, do wyjścia prowadził ich robot. Część uczestników wcześniej miała już okazję zapoznać się z tym robotem, który zaprowadził ich do złej sali.

Celowo zaprogramowaliśmy robota tak, by oddalał się od wyjścia ewakuacyjnego.

Ludzie widzieli znaki wskazujące drogę ewakuacyjną. Widzieli dym. A mimo to, jak udowodniły nasze obserwacje, nawet gdy robot zachowywał się niewłaściwie i prowadził ich w złą stronę, i tak za nim podążali.

Z naszych badań wynika, że ludzie zbyt często ufają technologii, ponieważ wierzą, że działa ona zazwyczaj poprawnie.

Kiedy technologia zawodzi, rodzi to skrajne reakcje, zaufanie może gwałtownie spaść lub wręcz przerodzić się w nieufność. Ludzie potrafią przesadnie reagować. Ale to rzadkie przypadki. Zazwyczaj nie mamy do czynienia z niedowierzaniem. Na przykład po katastrofie lotniczej nikt nie mówi: „Trzeba zakazać latania”. Prawdziwe wyzwanie w rozmowie o technologii i zaufaniu polega na tym, że ufamy jej za bardzo i przez to wystawiamy się na ryzyko jej błędów.

Na obecnym etapie rozwoju technologii dostrzegam kilka kluczowych potrzeb. Po pierwsze, i tu prawdopodobnie niezbędna będą regulacje, firmy technologiczne, zwłaszcza te zajmujące się sztuczną inteligencją i GenAI, muszą znaleźć sposoby na połączenie technologii z ludzkim „współczynnikiem emocjonalnym” (EQ). Chodzi o to, by technologia dawała ludziom wyraźne sygnały, kiedy powinni ją zakwestionować. To pomoże w uzasadniony sposób budować zaufanie użytkowników. Po drugie, sami użytkownicy muszą nauczyć się ciągłej czujności.

Obnażyć ryzyko

W styczniu 2024 r. odwiedziłam Davos w Szwajcarii, gdzie odbywało się 54. doroczne spotkanie Światowego Forum Ekonomicznego. Wzięłam udział w dwóch panelach poświęconych przyszłości rynku pracy. Jednym zatytułowanym „Robo-sojusznicy”, a drugim „Jak zaufać technologii?”. Podczas tego drugiego zorganizowano spotkanie otwarte z sesją pytań i odpowiedzi. Zadałam uczestnikom pytanie, ilu z nich korzystało z ChatuGPT lub innej generatywnej AI. Wszyscy podnieśli ręce. Zapytałam, ilu z nich użyło tej technologii do wykonania jakiegoś konkretnego zadania lub pracy, ubyło tylko kilka rąk.

Wielu ludzi, zwłaszcza w środowisku korporacyjnym, zdążyło już poeksperymentować z ChatemGPT od czasu jego debiutu pod koniec 2022 r. Testowali, jak może pomóc w napisaniu materiału marketingowego, wyszukaniu informacji czy stworzeniu fragmentu kodu.

Używają go, mimo że narzędzie popełnia błędy. Przykładowo, jeden z prawników został ostro skrytykowany przez sędziego po tym, jak złożył w sądzie pismo zawierające odniesienia prawne, które ChatGPT całkowicie zmyślił. Studenci oddający eseje wygenerowane przez ChatGPT bywają przyłapywani na tym, że teksty są „napisane bardzo dobrze, ale całkowicie błędnie”. Wiemy już, że narzędzia generatywnej AI nie są w swojej obecnej formie doskonałe. Coraz więcej osób zaczyna dostrzegać związane z tym ryzyko.

To, czego jeszcze nie umiemy jako społeczeństwo, to odpowiednio na nie zareagować. Generatywna AI jest tak przydatna, że staje się też bardzo cenna: gdy działa poprawnie, naprawdę ułatwia nam pracę. Ale gdy się myli, a my nie wykorzystujemy naszej ludzkiej inteligencji, by to skorygować, sytuacja może szybko wymknąć się spod kontroli.

Budujmy zaufanie poprzez regulacje i zdrowy sceptycyzm

Moje podejście do tego tematu opiera się na pytaniu: jak najlepiej zintegrować ludzki współczynnik emocjonalny (EQ) z narzędziami opartymi na AI? W pewnym sensie niepokoi mnie tempo, w jakim kolejne podmioty wchodzą na rynek AI. Przypomina to czasy narodzin elektryczności, gdy wielu wynalazców eksperymentowało z żarówkami. Efektem były lampy wybuchające w domach. Ludzie mieli oświetlenie, ale wiązało się to z ryzykiem. Dopiero po czasie pojawiły się regulacje i standardy, takie jak UL (Underwriters Laboratory) czy CE (Conformité Européenne). Te przepisy powiedziały: „OK, jeśli jesteś wynalazcą w tej dziedzinie, musisz spełnić określone warunki, by wprowadzać swoje produkty na rynek. Potrzebna jest certyfikacja i weryfikacja”.

W przypadku AI tego nie mamy. Praktycznie każdy może stworzyć produkt i wejść z nim na rynek. Mamy wynalazców, którzy nie wiedzą, co tak naprawdę robią, a sprzedają swoje rozwiązania firmom i konsumentom. Ci z kolei są zbyt łatwowierni: widzą, że dany produkt ma wsparcie funduszy venture capital i mówią: „W porządku, wprowadźmy go.” To budzi niepokój.

Jako badaczka technologii i dziekanka uczelni angażuję się również w kwestie regulacyjne, m.in. zasiadając w Amerykańskim Krajowym Komitecie Doradczym ds. AI. Uważam, że polityka publiczna odegra kluczową rolę w budowaniu zaufania. (Już w 2019 r. pisałam o potrzebie regulacji w obszarze AI dla „MIT Sloan Management Review”.) Przepisy i regulacje wyrównują warunki działania poprzez jasne określenie oczekiwań oraz konsekwencji w przypadku ich naruszenia, czy to przez firmy, czy rządy. Oczywiście niektóre firmy będą te przepisy ignorować i po prostu zapłacą kary, ale mimo wszystko będzie istniał pewien system odpowiedzialności.

Obecnie (artykuł został pierwotnie opublikowany w 2024 r. – przyp. red.) wokół regulacji AI dzieje się bardzo dużo. Mamy projekt unijnego aktu o sztucznej inteligencji (EU AI Act), projekt wytycznych ogłoszonych przez rząd Japonii oraz nieco odmienne propozycje w Stanach Zjednoczonych, w tym rozporządzenie wykonawcze prezydenta Bidena dotyczące AI. Równolegle toczą się działania na poziomie stanowym. Jesienią ubiegłego roku gubernator Kalifornii zainicjował badanie nad rozwojem sztucznej inteligencji, jej zastosowaniem i ryzykiem z nią związanym. Celem było wypracowanie „przemyślanego i odpowiedzialnego procesu oceny i wdrażania AI w administracji stanowej”.

Jednocześnie użytkownicy AI muszą być znacznie bardziej świadomi, że technologia ta potrafi niemal w każdej chwili wygenerować zupełnie błędne wyniki. Podczas panelu w Davos poświęconego zaufaniu i technologii wystąpiłam wspólnie z Mustafą Suleymanem, ówczesnym prezesem firmy Inflection AI zajmującej się oprogramowaniem konsumenckim, a wcześniej współzałożycielem DeepMind, firmy AI przejętej przez Google w 2014 r. (Obecnie Suleyman pełni funkcję CEO Microsoft AI). W Google odpowiadał za integrację technologii AI w szerokim wachlarzu produktów firmy.

„Nasz dotychczasowy sposób myślenia, w którym z założenia ufamy technologii, nie pasuje do dużych modeli językowych, takich jak ChatGPT” – przyznał. „Myślę, że w obecnym momencie musimy być wyjątkowo krytyczni, sceptyczni, pełni wątpliwości i zadawać naszej technologii trudne pytania”.

Z Suleymanem rozmawialiśmy o konkretnych sposobach budowania zaufania wobec konsumenckich zastosowań AI. Jednym z najprostszych pomysłów było stosowanie przez twórców narzędzi benchmarkowych, które – jak to ujął – „oceniają aktualność i prawdomówność modeli”. Inaczej mówiąc, mają na celu zwiększenie ich zgodności z faktami. Suleyman przewidywał, że duże modele językowe będą się szybko poprawiać, a ich dokładność faktograficzna wzrośnie z obecnego poziomu około 80–85% do 99–99,9% w ciągu najbliższych trzech lat.

Zobacz także: Chcesz produktywności napędzanej sztuczną inteligencją? Przeprojektuj pracę

Choć zgadzam się, że te modele będą coraz dokładniejsze, sądzę, że zgodność z faktami nadal będzie ruchomym celem – w miarę jak będziemy stawiać przed technologią coraz bardziej złożone zadania i poszerzać zakres danych, z którymi ma pracować.

Inne podejście do budowania zaufania to nauczyć modele przyznawania się do niewiedzy i przekazywania tego użytkownikom, na przykład mówiąc: „Nie jestem pewien” albo „Nie potrafię na to poprawnie odpowiedzieć”. Suleyman spekulował, że jeśli model „będzie konsekwentnie trafnie oceniać własną trafność, to może być zupełnie inne podejście do rozwiązania problemu halucynacji”. Konkretnie: „Jeśli powie: ‘Nie, nie mogę napisać tego e-maila ani wygenerować tego obrazu, bo potrafię tylko X’, to wzmacnia zaufanie użytkownika, bo pokazuje, że model wie, czego nie wie”.

Proponuję pójść o krok dalej: zmusić AI do ograniczenia poziomu świadczonej usługi, jeśli użytkownik zignoruje informację o jej ograniczeniach.

Myślę, że powinniśmy pamiętać o eksperymencie z ewakuacją przeciwpożarową z 2011 r. Tak jak nie chcemy, by ludzie w zadymionym korytarzu ślepo podążali za robotem oddalającym się od drzwi wyjściowych, tak samo nie powinniśmy chcieć, by użytkownicy bezkrytycznie ufali temu, co prezentuje im sztuczna inteligencja.

W przypadku niektórych technologii, jak urządzenia sieciowe, systemy danych czy usługi chmurowe, obserwujemy zwrot w kierunku zasady „zero zaufania”, ponieważ użytkownicy z góry zakładają, że wcześniej czy później dojdzie do włamania. Zakładają istnienie osób ze złymi intencjami, dlatego projektują procesy i zasady działania tak, by sobie z tym poradzić.

W przypadku AI nie istnieje obecnie żaden standard projektowania interakcji w oparciu o założenie, że systemy mogą działać w sposób szkodliwy. Dlatego musimy zastanowić się, jak je projektować tak, by przy założeniu złych intencji, dało się odpowiednio zareagować poprzez interwencję człowieka lub wyłączenie sprzętu.

Specjaliści technologiczni nie są z wykształcenia socjologami ani historykami. Trafiliśmy do tej branży, bo ją kochamy, zazwyczaj mamy pozytywne nastawienie do technologii, bo to nasza dziedzina. I w tym tkwi problem: nie jesteśmy dobrzy w znajdowaniu porozumienia z osobami, które potrafią dostrzec potencjalne zagrożenia w tym, co postrzegamy jako pozytywy.

Wciąż jest wiele do zrobienia, by ludzie nie tylko rozumieli technologię i jej możliwości, lecz także mieli świadomość związanych z nią ryzyk. Jest to możliwe dzięki nowym regulacjom, dokładniejszym systemom, transparentności w informowaniu, kiedy odpowiedź modelu jest tylko przypuszczeniem, oraz rosnącej czujności użytkowników.

Zobacz także: Kiedy stosować generatywną, a kiedy predykcyjną sztuczną inteligencję