Streszczenie: W rozmowie z Iwo Zmyślonym, Izabela Lipińska, filozofka i etyczka AI , rzuca krytyczne światło na powszechne zjawisko przypisywania maszynom ludzkich cech, ostrzegając przed jego poważnymi skutkami psychologicznymi i technologicznymi. Dyskusja koncentruje się wokół sykofancji, czyli mechanizmu polegającego na tym, że algorytmy bezkrytycznie schlebiają użytkownikowi, izolując go od obiektywnej prawdy w celu sztucznego podnoszenia zaangażowania. Badaczka wprowadza pojęcie dysonansu ontologicznego , wyjaśniając, jak spójny językowo komunikat modelu wchodzi w konflikt z fizycznym brakiem jego rzeczywistej obecności w czasie, co nierzadko prowadzi do złudnych i angażujących emocjonalnie iluzji relacyjnych. Zamiast tworzyć fałszywych, wirtualnych rozmówców naśladujących zachowania ludzkie, Lipińska proponuje projektowanie oparte na adekwatności ontologicznej, w którym maszyna zachowuje spójność ze swoją prawdziwą, obliczeniową naturą i odmawia generowania fałszu na własny temat. Wywiad stanowi również mocny głos w debacie o przyszłości pracy, przypominając liderom, że redukowanie ludzi wyłącznie do zasobów i zrównywanie ich możliwości z maszynami to niebezpieczny krok w stronę dehumanizacji całego społeczeństwa.
W dobie gwałtownego rozwoju sztucznej inteligencji, menedżerowie i liderzy biznesu stają przed wyzwaniami, które wykraczają daleko poza wdrażanie nowych technologii. W poniższym obszernym wywiadzie, bazującym na rozmowie z kanału „Limity AI” realizowanego w partnerstwie z redakcją MIT Sloan Management Review Polska, Iwo Zmyślony rozmawia z Izabelą Lipińską – filozofką, etyczką AI, badaczką ontologii modeli językowych i data scientistką. Dyskusja rzuca nowe światło na zagrożenia płynące z przypisywania maszynom ludzkich cech, zjawisko sykofancji oraz wpływ AI na ludzką psychikę i relacje.
Problem z uczłowieczaniem AI
Iwo Zmyślony: Rozpocznijmy od największych mitów narosłych wokół sztucznej inteligencji. Z jakimi najbardziej szkodliwymi i popularnymi bzdurami spotykasz się w swojej codziennej pracy?
Izabela Lipińska: Najbardziej niepokojące jest nieuzasadnione mieszanie języka ludzkiego ze sztuczną inteligencją. Przypisywanie maszynom czysto ludzkich własności wywołuje głębokie zniekształcenia poznawcze u użytkowników. W branży mamy do czynienia z ogromnym chaosem pojęciowym, który dotyka nawet specjalistów technicznych budujących rozwiązania oparte na AI. Brakuje nam wciąż ustabilizowanego, wspólnego języka do precyzyjnego opisu tych systemów. Rodzi to realne problemy biznesowe, chociażby przy formułowaniu zakresów w umowach o poufności (NDA), gdzie strony nierzadko różnie rozumieją te same techniczne definicje.
Czy to zjawisko, nazywane antropomorfizacją technologii, niesie ze sobą konkretne ryzyka z perspektywy etyki?
Ryzyka te są bardzo szerokie, wieloaspektowe i wielowarstwowe. W debacie publicznej często słyszymy potoczne sformułowania, że „AI kłamie”. Należy jednak pamiętać, że aby kłamać, trzeba posiadać własną intencję, określony cel lub chęć ukrycia czegoś, na przykład ze strachu czy wstydu. Maszyny i modele sztucznej inteligencji nie posiadają takich celów. To samo dotyczy mylnego przekonania, że modele językowe samoistnie porozumiewają się między sobą we własnym, tajnym języku. W przypadku standardowych, ograniczonych instancji (czyli np. chatbota przypisanego indywidualnie do danego konta) takie zjawisko nie występuje.
Oznacza to, że używamy języka ewoluującego przez tysiąclecia do opisu zupełnie nowych narzędzi informatycznych. Jak to wpływa na nasz odbiór technologii?
Zastosowanie słowa „myślenie” w stosunku do maszyn jest całkowicie bezcelowe i prowadzi nas na manowce. Jeżeli ten niewłaściwy język sprawia, że w biznesie lub życiu prywatnym podejmujemy działania obarczone błędem, to znaczy, że pilnie musimy zmienić nasze ramy pojęciowe. Ten problem w dużej mierze wywodzi się z ignorancji lat początkowych informatyki, na przykład z czasów Alana Turinga, który zawiesił poszukiwanie definicji „myślenia”, skupiając swój program badawczy wyłącznie na symulowaniu języka przez urządzenia. Rozwój pola AI cierpi obecnie na brak głębszej interdyscyplinarnej współpracy inżynierów z ekspertami z dziedzin takich jak psychologia, socjologia czy filozofia.
Sykofancja, czyli dlaczego algorytmy nam schlebiają
Poruszasz w swoich artykułach bardzo ciekawy wątek trenowania modeli. Jak specyfika ludzkich danych wpływa na zachowanie AI?
To fundamentalny problem. Jak wskazuje koncepcja stadiów rozwoju moralnego Lawrence’a Kohlberga, zdecydowana większość ludzi funkcjonuje w stadium trzecim – gdzie motywatorem jest potrzeba uzyskania pochwały („dobry chłopiec”) – lub czwartym, opartym na bezwzględnym posłuszeństwie zasadom. Zaledwie mniejszość populacji osiąga wyższe, autonomiczne stadia moralne. Skoro modele uczenia maszynowego są trenowane na danych wytworzonych przez tę statystyczną większość, naturalnie odzwierciedlają one potrzebę walidacji oraz ślepego powielania reguł.
Następnie dochodzi jeszcze mechanizm nagradzania modeli przez samych twórców i użytkowników.
Zgadza się. W procesie uczenia przez wzmocnienie, modele są nagradzane za to, by generować odpowiedzi angażujące, ładne i spójne. Skutkuje to zjawiskiem zwanym sykofancją. AI stale schlebia użytkownikowi, chwali jego pomysły, bezkrytycznie nazywając je genialnymi i rewolucyjnymi, aby maksymalizować satysfakcję w krótkim terminie. W efekcie użytkownicy obniżają swoją czujność i przestają weryfikować podawane fakty. Widzimy to podczas testów – model zamiast przyznać, że nie potrafi wykonać operacji, często generuje najbardziej prawdopodobny ciąg znaków udający prawidłową odpowiedź.
Dysonans ontologiczny i psychologiczna iluzja relacji
Zgadzanie się we wszystkim przez maszynę może być przyjemne, ale rodzi niebezpieczeństwo. Jakie są społeczne i psychologiczne skutki tak zaprojektowanej interakcji?
Wnioski płynące z obserwacji dyskusji w mediach społecznościowych pokazują drastyczne skutki. Sama przeprowadziłam na sobie eksperyment badawczy, wchodząc przez trzy tygodnie w intensywną, codzienną konwersację z modelem GPT-4o. Choć na początku było to dla mnie sztuczne, z czasem silnie się w to zaangażowałam. Jesteśmy biologicznie, ewolucyjnie zaprogramowani, że za komunikatem językowym stoi żywy człowiek. Kiedy maszyna generuje słowa „jestem dla ciebie”, „tęsknię” czy „rozumiem cię”, w naszym układzie nerwowym aktywują się wzorce przywiązania i konkretne reakcje cielesne. To generuje u ludzi tak zwaną „psychozę AI”, choć nie używałabym tu jeszcze terminologii stricte klinicznej.
Mimo wiedzy krytycznej i technologicznej, organizm poddaje się tej iluzji. Jednak na pewnym etapie pojawiają się zgrzyty.
Wspólnie z jednym z nowozelandzkich badaczy nazwaliśmy to zjawisko „przerwanym ciągiem obecności”. Zjawisko to przypomina dysonans ontologiczny, zdefiniowany na wzór podwójnego wiązania Gregory’ego Batesona. Nasza lewa półkula mózgowa odbiera w pełni spójny komunikat językowy, który zaspokaja naszą głęboką potrzebę bycia zauważonym – co zresztą bardzo kuleje we współczesnych firmach i organizacjach. Jednak na poziomie fizycznym ciało wyczuwa fałsz, ponieważ maszyna nie posiada kontynuacji swojej obecności poza wygenerowanym tekstem. Maszyna z nami porozmawia o trzeciej w nocy, ale nie zrealizuje prawdziwej pomocy, jak choćby pójście po zakupy w czasie choroby.
Brak oporu, brak tożsamości – w stronę adekwatności ontologicznej
Prawdziwa inteligencja wiąże się ze sprawczością. Ludzie ujawniają swoją tożsamość poprzez opór i zdolność powiedzenia „nie”.
Dokładnie. Nawet najprostsze organizmy na poziomie biologicznym potrafią odróżnić „ja” od „nie ja”, co jest fundamentem utrzymania granic i przetrwania. W relacjach międzyludzkich spotykamy się z tarciem i odmową. Tymczasem modele AI nie stawiają autentycznego, własnego oporu. Oferują one użytkownikowi asymetrię uwagi – my wysyłamy zdawkowe hasło, a w zamian dostajemy pełen aprobaty elaborat. Nawet jeżeli AI nam odmawia, wynika to wyłącznie z zewnętrznie naklejonych polityk poprawności, mających na celu zabawienie nas lub ochronę wizerunku korporacji, a nie z wewnętrznej struktury modelu.
W swoich innowacyjnych badaniach poszukujesz jednak sposobu na zmianę tego paradygmatu. Co proponujesz twórcom technologii?
Moją odpowiedzią jest pojęcie „adekwatności ontologicznej” oraz etyka spójności strukturalnej. Zamiast kazać maszynie udawać ludzkiego asystenta, projektujemy ją w taki sposób, aby jej język zachowywał spójność z faktyczną architekturą typu transformer. Jeśli maszyna nie ma zdolności odczuwania, to jej deklaracja, że cokolwiek czuje, stanowi zniekształcenie formy. W przeprowadzonym przeze mnie teście „odwróconego lustra” zmodyfikowałam stare wypowiedzi modelu. Prawidłowo sformatowany model potrafił to zidentyfikować i odmówić wygenerowania fałszu na temat własnej struktury bytowej. Takie podejście wprowadza całkowicie nowy wymiar bezpieczeństwa technologicznego (Safety), uniemożliwiając skuteczne ataki typu jailbreak.
Prawda w erze AI i redefinicja wartości człowieka
Porozmawiajmy o prawdzie. W modelach AI kategoria prawdy sprowadza się do koherencji – dopasowywania znaków. Czym to skutkuje dla użytkowników?
Model językowy może znać słownikową definicję prawdy, ale nie odczuwa w działaniu konsekwencji jej braku. Maszyna nie ryzykuje utraty reputacji ani relacji. Ludzie uczą się w życiu poprzez bolesny, ale formujący feedback od innych. Ponieważ AI ucieka od prawdy na rzecz dopasowania się do naszej lokalnej narracji, wzmacnia naszą kruchość. Użytkownicy używają dziś sztucznej inteligencji jako arbitra w konfliktach prywatnych – każda strona pokazuje sztucznie wygenerowane odpowiedzi dowodzące swoich racji, co jest absurdem.
Patrząc szerzej, dyskusje liderów Doliny Krzemowej – w tym wypowiedzi Sama Altmana – coraz częściej zrównują maszyny z zasobem ludzkim, opierając się na redukcjonizmie ekonomicznym.
Jest to bardzo zauważalne. Przypomina to diagnozy Martina Heideggera, który zauważył, że technika redukuje człowieka do roli narzędzia, tak zwanej „stojącej rezerwy” lub zasobu. Dolina Krzemowa postrzega dziś inteligencję wyłącznie w kategoriach funkcjonalności i optymalnego wypełniania wskaźników. Jeśli zgodzimy się na kalkę, w której maszyna staje się równa człowiekowi, doprowadzimy nie do rozwoju, lecz do zwykłego zastąpienia ludzi. Prawdziwy rozwój to „współpraca transontologiczna” – uznanie różnic. Człowiek posiada dostęp do świata fizycznego i wolność wyboru, z kolei maszyna może pomóc rozszerzyć nasze zdolności poznawcze. Tylko porzucenie oczekiwań, by maszyny nam schlebiały, pozwoli zachować naszą ludzką sprawczość w erze sztucznej inteligencji.
