Algorytm wie więcej

O korzyściach biznesowych i zagrożeniach związanych z profilowaniem w internecie, o informacjach, które można wyczytać ze śladów cyfrowych, mówi nam Michał Kosiński, psycholog społeczny, pracujący na Stanford University. Rozmawia Paweł Górecki.

Michał Kosiński będzie gościem II Kongresu MIT Sloan Management Review Polska: Digital Leadership & Technology, który odbędzie się 21–22 kwietnia w Warszawie.

Paweł Górecki: Jak twierdzi historyk i badacz ludzkiej cywilizacji Yuval Noah Harari, miarą skuteczności sztucznej inteligencji jest nie to, że jest ona lepsza od człowieka w wymiarze konwersacyjnym czy kognitywnym, ale że lepiej nas zna niż my sami siebie. Czy już jesteśmy na tym etapie? Czy algorytmy analizujące naszą aktywność w mediach społecznościowych znają nas lepiej, niż my sami się znamy?

Michał Kosiński: Bez wątpienia tak. Ludzie często są zaskoczeni tym, że algorytm może znać ich lepiej, niż oni siebie znają sami. Jednak w gruncie rzeczy nie jest to sytuacja zupełnie nowa. Na przykład jeśli jesteśmy u lekarza, ten pyta o symptomy, samopoczucie czy dietę, przekazujemy mu dane na swój temat, a on na ich podstawie podejmie pewne decyzje dotyczące leczenia czy dokona pewnych przewidywań i wie o nas więcej niż my sami.

Z algorytmem analizującym nasz profil facebookowy, płatności kartą, historię przeglądarki jest podobnie. Tu też na podstawie danych generowane są pewne wnioski, tyle że znacznie bardziej precyzyjne. Nie ma tu problemu ograniczonej ludzkiej pamięci: Ludzie mogą nie pamiętać, ile szklanek wina wypijają czy ile papierosów wypalają, algorytm zna ich zachowania. Lekarz ma kontakt z setkami lub maksymalnie tysiącami pacjentów i bardzo ograniczoną możliwość czytania i zapamiętywania literatury fachowej. Algorytm może łatwo analizować dane miliardów ludzi i zapoznać się z całą bazą medycznej wiedzy. Łatwiej może wykryć pewne regularności w danych i na tej podstawie wyciągać wnioski. Dlatego algorytmy znają nas nie tylko lepiej, niż my sami siebie znamy, ale też lepiej niż np. lekarze.

To prawda, ale widzę tu jednak przeskok jakościowy. Lekarz jest człowiekiem. Jesteśmy przyzwyczajeni do relacji z ludźmi. Kontakt z algorytmem jest jednak bezosobowy, zimny.

Algorytm jest rzeczywiście zimny, ale to jest wbrew pozorom zaleta. Okazuje się, że ludzie są dużo bardziej skłonni dzielić się swoimi intymnymi danymi z algorytmem niż z człowiekiem. Ludzie się trochę wstydzą czy boją się tego, że lekarz może będzie ich oceniał. W przypadku algorytmu takie obawy nie istnieją.

Spróbujmy być bardziej precyzyjni. Jakiego rodzaju prywatne informacje mogą być obecnie zbierane przez algorytmy dzięki analizie zachowań internautów w sieci?

Jesteśmy w punkcie, w którym komputerowy algorytm jest w stanie ustalić nasze intymne cechy z dużą dokładnością na podstawie dosłownie kilku indywidualnych śladów cyfrowych, takich jak kilka facebookowych polubień, kilka zdań wypowiedzianych na internetowym forum czy kilka zdjęć wrzuconych na Instagrama. Algorytm jest w stanie wykryć nasze cechy demograficzne, takie jak płeć, poglądy polityczne, wiek, wyznanie, ale także cechy psychologiczne, takie jak osobowość, inteligencja czy poziom zadowolenia z życia. Ponadto algorytmy mogą przewidywać nasze zachowania.

Dotyczy to zarówno zachowań w kontekście konsumenckim, czyli jakie towary i jakie produkty czy usługi dana osoba jest skłonna kupić; w kontekście politycznym – na kogo jest skłonna zgłosować; czy osobistym – że ma skłonność do depresji.

Przy czym od razu warto zauważyć, że takie przewidywania tworzone przez algorytmy wcale nie muszą być postrzegane w kategoriach zagrożeń. Mogą bez wątpienia poprawiać doświadczenia użytkowników rozmaitych platform internetowych, serwisów społecznościowych, ułatwiać kontakty z innymi ludźmi, ułatwiać wybór towarów i usług na platformach komercyjnych. Takich, które doskonale trafiają w potrzeby. Dotyczy to także dóbr kultury, takich jak książki czy filmy.

Korzyści można dostrzec też na rynku pracy, gdzie algorytmy mogą ułatwić znalezienie najlepszej pracy, najbardziej dopasowanej do kompetencji, dającej potencjalnie największą satysfakcję i perspektywy rozwoju.

Oczywiście jest też druga strona medalu. Łatwo można wyobrazić sobie sytuację, w której algorytmy mogą nam szkodzić. Nieetyczni politycy mogą użyć algorytmów, by wykryć niezdecydowanych lub niedoinformowanych wyborców i wpływać na ich poglądy. W podobny sposób, dzięki algorytmom, sprzedawcy mogą wykryć niezdecydowanie konsumentów i nakłonić ich do zakupu towarów, które nie są im potrzebne.

Pan często postrzegany jest jako twórca tych algorytmów. Czy rzeczywiście przyczynia się pan do ich powstawania?

Zdecydowanie nie. Jestem psychologiem, nie informatykiem i zajmuję się testowaniem szeroko stosowanych algorytmów stworzonych przez innych. Staram się zrozumieć, jakie korzyści te algorytmy oferują ludziom, ale także jakie niosą ze sobą ryzyko. W tym kontekście często błędnie przypisuje mi się sprawstwo. W kontekście wyboru Trumpa czy brexitu firma Cambridge Analytica profilowała wyborców, wykorzystując algorytmy stworzone i opatentowane przez Facebooka, a nie moje czy też swoje własne. Ja z tą aferą też niekiedy jestem wiązany, a jedyny mój związek z Cambridge Analytica jest taki, że kiedyś odmówiłem przyjęcia u nich pracy.

W tej sytuacji spytam pana jako badacza i psychologa, jak te algorytmy właściwie działają? Jak rozumiem, odczytanie czyichś poglądów politycznych czy preferencji seksualnych, czy chęci zakupu pewnych produktów nie musi wiązać się z tym, że te osoby otwarcie o tym mówią. Jest raczej wyczytywane przez algorytm ze szczątkowych informacji dostępnych w sieci. Jak to jest możliwe?

Odpowiedź na to pytanie jest dość intuicyjna, mianowicie jeżeli jest jakaś cecha psychologiczna, która jest istotna, to wpływa na nasze zachowanie na wielu poziomach. Można nawet powiedzieć, że istotność cechy psychologicznej może być mierzona tym, jak wiele zachowań czy preferencji życiowych w różnych sytuacjach ta cecha psychologiczna warunkuje. Możemy mieć cechy psychologiczne, które nie zmieniają naszych zachowań, ale wówczas one nie są uznawane za istotne. Jeżeli przyjmiemy to założenie, to można je też odwrócić. Jeśli obserwujemy u ludzi pewne zachowania, pewne wypowiedzi czy pewne sposoby interakcji z innymi, to świadczą one o istnieniu pewnych cech istotnych, a cechy te można wyczytać z zachowań.

I algorytm robi to lepiej niż człowiek.

Dużo lepiej! Algorytm może analizować terabajty danych generowanych przez miliardy ludzi i spostrzec zależności, które dla człowieka nie będą widoczne. Słowo „wszechświat”, na przykład. Podczas gdy ludzie na wszystkich krańcach politycznego spektrum używają tego słowa, okazuje się, iż osoby o poglądach liberalnych używają go troszkę częściej. Tak więc jeśli algorytm obserwuje kogoś w internecie czy w kontaktach osobistych, gdy telefon jest włączony i ta osoba użyje słowa „wszechświat”, algorytm minimalnie zmienia ocenę afiliacji politycznej takiej osoby. A to było tylko jedno słowo. Obserwując setki, tysiące czy miliony słów wypowiedzianych przez daną osobę i zapisanych w różnych bazach danych, można to profilowanie psychologiczne czy przewidywanie przyszłego zachowania przeprowadzić z niesamowitą dokładnością.

To w kontekście politycznym, a w biznesie? Czym profilowanie w biznesie różni się od tego politycznego?

Profilowanie w biznesie jest wszechobecne i ma podobny charakter jak w polityce. Tu też analiza pojęć kluczowych wypowiadanych przez potencjalnego klienta może prowadzić do wyznaczenia kierunku jego preferencji zakupowych. Nawet jeżeli firma profilowaniem się nie zajmuje sama z siebie, to zapewne z profilowania tak czy inaczej korzysta. Jeśli produkt jest sprzedawany na Facebooku, platforma ta stale obserwuje użytkowników i ocenia szanse na to, że zainteresują się tym, a nie innym produktem. Na podstawie tych predykcji algorytm stale modyfikuje opis grupy docelowej danego produktu, dobiera czas i zmienia kontekst, w którym reklama jest wyświetlana.

Algorytm wie, gdzie znajdujemy się w danej chwili, z jakimi osobami się kontaktujemy. Analizując te dane, dobiera reklamę, która jest nam pokazywana, tak więc nawet jeśli polityk czy firma sprzedająca swoje produkty w sieci nie stosuje targetingu marketingowego, to i tak te kanały internetowe, które umożliwiają sprzedaż, a także te, w których trwa dyskusja o produktach, z tych narzędzi korzystają.

I jeszcze raz chciałbym podkreślić, że to wcale nie musi być złe. Technologie tego rodzaju przynoszą wiele korzyści, poprawiają jakość życia, ułatwiają kontakty międzyludzkie, ułatwiają wybór właściwych towarów.

Jeśli chodzi o korzyści, do mnie trafia wspomniany przez pana przykład z poszukiwaniem pracy. Jeśli algorytmy pomagają komuś znaleźć pracę na różnych etapach kariery, zmieniają całe życie takiej osoby.

Wspaniały przykład. Tu warto jeszcze wspomnieć o tym, że osoby wykształcone, z dużego miasta, ze sporym społecznym kapitałem poradzą sobie także bez algorytmów. Natomiast w przypadku ludzi, którzy takich szans i przywilejów są pozbawieni, algorytmy rzeczywiście przeobrażają życie. Jeżeli dana osoba urodziła się w rodzinie, gdzie jest mniej zasobów czy to finansowych, czy edukacyjnych, gdzie jest mniej kapitału społecznego, jeżeli osoba ta nie miała szczęścia, żeby uczęszczać do najlepszych uczelni i poznać ludzi, którzy teraz mają dla niej oferty pracy, algorytmy mogą jej pomóc w największym stopniu. Obserwując miliony ludzi, są w stanie wyczytać, co dla danej osoby jest najlepsze. Pozwolą jej znaleźć nie tylko pracę, ale też wszelkie dobra konsumpcyjne, którymi mogłaby być zainteresowana.

No dobrze, załóżmy, że jakaś hipotetyczna firma ma już świadomość tego, że profilowanie jest nieuniknione, że niesie pewne szanse biznesowe, szanse na pozyskanie klientów, ale jeszcze nie jest specjalnie zaawansowana w tym obszarze. Co powinna zrobić? Zainwestować w technologie? Zatrudnić analityków? Jak podejść do tego zagadnienia praktycznie?

Fakty są takie, że nigdy nie było łatwiejszego dostępu do tak wielkiej ilości klientów na całym świecie i w związku z tym zarówno w polityce, jak i w biznesie firmy, które mają mniejsze budżety, mogą nagle odnieść wspaniały sukces, mogą się z tymi właśnie wyborcami w kontekście polityki czy konsumentami w kontekście biznesu komunikować. W polityce dało nam to Berniego Sandersa, brexit czy Donalda Trumpa. W biznesie też okazuje się, że małe start-upy, które zatrudniają pięciu czy dziesięciu ludzi, nagle mogą swoje technologie, aplikacje czy produkty sprzedawać na całym świecie z wielkim sukcesem. Powiedziałbym więc trochę przewrotnie, że ludzie często nadmiernie skupiają się na tym, żeby wymyślać lepsze sposoby targetowania klientów. Ale moim zdaniem znacznie ważniejsze są produkt i usługa, które ludziom się mogą spodobać. Dopiero drugim krokiem będzie skuteczne dotarcie do klienta dzięki temu, że współcześnie możemy z klientami komunikować się niemal bezpośrednio.

Dzięki nowym technologiom ludzie będą dowiadywać się o naszych produktach niemal automatycznie, jeśli będą miały dla nich wartość. Podsumowując, inwestowałbym więc przede wszystkim w rozwój dobrych produktów i usług, a dopiero w drugim rzędzie w sposoby dotarcia do klienta.