Algorytm wie więcej

O korzyściach biznesowych i zagrożeniach związanych z profilowaniem w internecie, o informacjach, które można wyczytać ze śladów cyfrowych, mówi nam Michał Kosiński, psycholog społeczny pracujący na Stanford University, gość II Kongresu MIT Sloan Management Review Polska Digital Leadership & Technology, który odbędzie się 21–22 kwietnia w Warszawie. Rozmawia Paweł Górecki

Paweł Górecki: Jak twierdzi historyk i badacz ludzkiej cywilizacji Yuval Noah Harari, miarą skuteczności sztucznej inteligencji jest nie to, że jest ona lepsza od człowieka w wymiarze konwersacyjnym czy kognitywnym, ale że lepiej nas zna niż my sami siebie. Czy już jesteśmy na tym etapie? Czy algorytmy analizujące naszą aktywność w mediach społecznościowych znają nas lepiej, niż my sami się znamy?

Michał Kosiński: Bez wątpienia tak. Ludzie często są zaskoczeni tym, że algorytm może znać ich lepiej, niż oni siebie znają sami. Jednak w gruncie rzeczy nie jest to sytuacja zupełnie nowa. Na przykład jeśli jesteśmy u lekarza, ten pyta o symptomy, samopoczucie czy dietę, przekazujemy mu dane na swój temat, a on na ich podstawie podejmuje decyzje dotyczące leczenia czy dokonuje pewnych przewidywań i wie o nas więcej niż my sami.

Z algorytmem analizującym nasz profil facebookowy, płatności kartą czy historię przeglądarki jest podobnie. Tu też na podstawie danych generowane są pewne wnioski. Tyle że znacznie bardziej precyzyjne. Nie ma tu problemu luk w pamięci charakterystycznych zarówno dla lekarza, jak i pacjentów. Ludzie mogą nie pamiętać, ile szklanek wina wypijają czy ile papierosów wypalają, ale algorytm zna ich zachowania. Lekarz ma kontakt z tysiącami pacjentów i ma dostęp do literatury fachowej, za to algorytm analizuje dane miliardów ludzi. Łatwiej może wykryć pewne regularności w danych i na tej podstawie wyciągać
wnioski. Dlatego algorytmy znają nas nie tylko lepiej niż my sami siebie znamy, ale też lepiej, niż np. lekarze.

To prawda, ale widzę tu jednak przeskok jakościowy. Lekarz jest człowiekiem. Jesteśmy przyzwyczajeni do relacji z ludźmi. Kontakt z algorytmem jest jednak bezosobowy, zimny.

Algorytm jest rzeczywiście zimny, ale to jest wbrew pozorom zaleta. Okazuje się że ludzie są dużo bardziej skłonni dzielić się swoimi intymnymi danymi z algorytmem niż z człowiekiem. Ludzie się trochę wstydzą czy boją się tego, że lekarz może będzie ich oceniał. W przypadku algorytmu takie obawy nie istnieją.  

Spróbujmy być bardziej precyzyjni. Jakiego rodzaju prywatne informacje mogą być obecnie zbierane przez algorytmy dzięki analizie zachowań internatuów w sieci?

 Jesteśmy w punkcie, w którym komputerowy algorytm jest w stanie ustalić nasze intymne cechy z dużą dokładnością na podstawie dosłownie kilku indywidualnych śladów cyfrowych, takich jak kilka facebookowych polubień, słów wypowiedzianych na internetowym forum czy kilka zdjęć wrzuconych na Instagrama. Algorytm jest w stanie wykryć nasze cechy demograficzne, takie jak płeć, poglądy polityczne, wiek, wyznanie, ale także cechy psychologiczne, takie jak osobowość, inteligencja czy poziom zadowolenia z życia. Ponadto algorytmy mogą przewidywać nasze zachowania. 

Dotyczy to zachowań w kontekście konsumenckim, czyli jakie towary i jakie produkty czy usługi dana osoba jest skłonna kupić; w kontekście politycznym: na kogo jest skłonna zgłosować; czy osobistym: że ma skłonność do depresji. 

Przy czym od razu warto zauważyć, że takie przewidywania tworzone przez algorytmy wcale nie muszą być postrzegane w kategoriach zagrożeń. Mogą bez wątpienia poprawiać doświadczenia użytkowników rozmaitych platform internetowych, serwisów społecznościowych, ułatwiać kontakty z innymi ludźmi, ułatwiać wybór towarów i usług na platformach komercyjnych. Takich, które doskonale trafiają w potrzeby. Dotyczy to także dóbr kultury takich jak książki czy filmy. 

Korzyści można dostrzec też na rynku pracy, gdzie algorytmy mogą ułatwić znalezienie najlepszej pracy, najbardziej dopasowanej do kompetencji, dającej potencjalnie największą satysfakcję i perspektywy wyraźnego rozwoju. 

Oczywiście jest też druga strona medalu.  Łatwo można wyobrazić sobie sytuację, w której algorytmy mogą nam szkodzić. Nieetyczni politycy mogą wykryć niezdecydowanie wyborców i przekonać ich do opcji politycznej, która nie do końca reprezentuje ich interesy.  W podobny sposób, dzięki algorytmom, sprzedawcy mogą wykryć niezdecydowanie konsumentów i nakłonić ich do zakupu towarów, które nie są im potrzebne. 

Pan często postrzegany jest jako twórca tych algorytmów. Czy rzeczywiście przyczynia się pan do ich powstawania?

 Zdecydowanie nie. Jestem psychologiem, nie naukowcem komputerowym, i zajmuję się testowaniem istniejących już algorytmów. Staram się zrozumieć, jakie korzyści te algorytmy oferują ludziom, ale także jakie niosą ze sobą ryzyko. W tym kontekście często błędnie przypisuje mi się sprawstwo. Proszę pamiętać, że firma Cambridge Analytica wykorzystywała algorytmy tworzone przez Facebooka, a nie własne do profilowania wyborców, co miało doprowadzić do wyboru Donalda Trumpa i brexitu. Ja z tą aferą też niekiedy jestem wiązany, a jedyny mój związek z firmą Cambridge Analytica jest taki, że kiedyś odmówiłem przyjęcia u nich pracy – i to dużo wcześniej, niż było wiadomo, jak kontrowersyjne działania ta organizacja będzie podejmować.

W tej sytuacji spytam pana jako badacza i psychologa, jak te algorytmy właściwie działają? Jak rozumiem, odczytanie czyichś poglądów politycznych czy preferencji seksualnych, czy chęci zakupu pewnych produktów nie musi wiązać się z tym, że te osoby otwarcie o tym mówią. Jest raczej wyczytywane przez algorytm ze szczątkowych informacji dostępnych w sieci. Jak to jest możliwe? 

Odpowiedź na to pytanie jest dość intuicyjna. Mianowicie jeżeli jest jakaś cecha psychologiczna, która jest istotna, to wpływa na nasze zachowanie na wielu poziomach. Można nawet powiedzieć, że istotność cechy  psychologicznej może być mierzona tym, jak wiele zachowań czy preferencji życiowych w różnych sytuacjach ta cecha psychologiczna warunkuje. Możemy mieć cechy psychologiczne, które nie zmieniają naszych zachowań, ale wówczas one nie są uznawane za istotne. Jeżeli przyjmiemy to założenie, to można je też odwrócić. Jeśli obserwujemy u ludzi pewne zachowania, pewne wypowiedzi czy pewne sposoby interakcji z innymi, to świadczą one o istnieniu pewnych cech istotnych, a cechy te można wyczytać z zachowań. 

I algorytm robi to lepiej niż człowiek. 

Tak, dużo lepiej – dlatego że algorytm może po prostu analizować terabajty danych generowanych przez miliardy ludzi i spostrzec takie zależności, które dla człowieka nie będą widoczne. Na przykład, że ludzie, którzy maja liberalne poglądy, nieznacznie częściej niż konserwatyści używają słowa „wszechświat”. Tego słowa używają ludzie na wszystkich krańcach politycznego spektrum, ale osoby o poglądach liberalnych używają go nieco częściej. Jeśli algorytm obserwuje kogoś w internecie czy w kontaktach osobistych, gdy telefon jest włączony, i ta osoba użyje słowa „wszechświat”, to algorytm minimalnie zmienia ocenę afiliacji politycznej takiej osoby. A to było tylko jedno słowo.  Obserwując setki, tysiące czy miliony słów wypowiedzianych przez daną osobę i zapisanych w różnych bazach danych, można to profilowanie psychologiczne czy przewidywanie przyszłego zachowania przeprowadzić z niesamowitą dokładnością.

To w kontekście politycznym, a w biz­nesie? Czym profilowanie w biznesie różni się od tego politycznego?

Profilowanie w biznesie jest wszechobecne i ma podobny charakter, jak w polityce. Tu też analiza pojęć kluczowych wypowiadanych przez potencjalnego klienta może prowadzić do wyznaczenia kierunku jego preferencji zakupowych. Nawet jeżeli firma profilowaniem się nie zajmuje sama z siebie, to zapewne z profilowania tak czy inaczej  korzysta. Jeśli produkt jest sprzedawany na Facebooku, platforma ta stale obserwuje użytkowników i ocenia szanse na to, że zainteresują się tym, a nie innym produktem. Na podstawie tych predykcji algorytm stale modyfikuje opis grupy docelowej danego produktu, dobiera czas i zmienia kontekst, w którym reklama jest wyświetlana. 

Algorytm wie, gdzie znajdujemy się w danej chwili, z jakimi osobami się kontaktujemy. Analizując te dane, dobiera reklamę, która jest nam pokazywana. Tak więc nawet jeśli polityk czy firma sprzedająca swoje produkty w sieci nie stosuje targetingu marketingowego, to i tak te kanały internetowe, które umożliwiają sprzedaż, a także te, w których trwa dyskusja o produktach, z tych narzędzi korzystają. 

I jeszcze raz chciałbym podkreślić, że to wcale nie musi być złe. Technologie tego rodzaju przynoszą wiele korzyści, poprawiają jakość życia, ułatwiają kontakty międzyludzkie oraz ułatwiają wybór właściwych towarów. 

Jeśli chodzi o korzyści, to przekonuje mnie wspomniany przez pana przykład z poszukiwaniem pracy. Jeśli algorytmy pomagają komuś znaleźć pracę, na różnych etapach kariery, zmieniają całe życie takiej osoby.

Zgadzam się. Tu warto jeszcze wspomnieć o tym, że osoby wykształcone, które urodziły się w dużym mieście i mają duży społeczny kapitał i dobrą sieć połączeń społecznych, poradzą sobie także bez algo­rytmów. Natomiast w przypadku ludzi, którzy takich szans i przywilejów są poz­bawieni, algorytmy rzeczywiście przeobrażają życie. Jeżeli dana osoba urodziła się w rodzinie, gdzie jest mniej zasobów, czy to finansowych, czy edukacyjnych, gdzie jest mniej kapitału społecznego; jeżeli osoba ta nie miała szczęścia, żeby uczęszczać do najlepszych uczelni i poznać ludzi, którzy teraz mają dla nich oferty pracy, algorytmy mogą jej pomóc w największym stopniu.  Obserwując miliony ludzi, są w stanie wyczytać, co dla danej osoby jest najlepsze. Pozwoli to jej znaleźć nie tylko pracę, ale też dobra konsumpcyjne, którymi mogłaby być zainteresowana. 

No dobrze, załóżmy, że jakaś hipotetyczna
firma ma już świadomość tego, że profilowanie jest nieuniknione, że niesie pewne szanse biznesowe, szanse na pozyskanie klientów – ale jeszcze nie jest specjalnie zaawansowana w tym obszarze. Co powinna zrobić? Zainwestować w technologie? Zatrudnić analityków? Jak podejść do tego zagadnienia praktycznie? 

Fakty są takie, że nigdy nie było łatwiejszego dostępu do tak wielkiej ilości klientów na całym świecie. I w związku z tym zarówno w polityce, jak i w biznesie firmy, które mają mniejsze budżety, mogą nagle odnieść wspaniały sukces, mogą się z tymi właśnie wyborcami w kontekście polityki czy konsumentami w kontekście biznesu komunikować. W polityce dało nam to Berniego Sandersa, brexit czy Donalda Trumpa. W biznesie też okazuje się, że małe start-upy, które zatrudniają pięciu czy dziesięciu ludzi, nagle mogą swoje technologie, aplikacje czy produkty sprzedawać na całym świecie z wielkim sukcesem. Powiedziałbym więc trochę przewrotnie, że ludzie często nadmiernie skupiają się na tym, żeby wymyślać lepsze sposoby targetowania klientów. Moim zdaniem znacznie ważniejszy jest produkt i usługa, która ludziom się może spodobać. Dopiero drugim krokiem będzie skuteczne dotarcie do klienta, dzięki temu, że współcześnie możemy z klientami komunikować się niemal bezpośrednio.

Dzięki nowym technologiom ludzie będą dowiadywać się o naszych produktach niemal automatycznie, jeśli będą miały dla nich wartość. Inwestowałbym więc raczej w dobre produkty i usługi niż w sposoby dotarcia do klienta.  

Wywiad ukazał się w numerze Zima 2020, ale jego poprawiona wersja dostępna jest na stronie mitsmr.pl