Żyjemy w erze algorytmów. Formuły te rządzą decyzjami we wszystkich dziedzinach życia i pozwalają firmom bardziej zorientować się na klienta, zwiększając przy tym zyski – za przykład może posłużyć przyjazna subskrybentom personalizacja Netflixa albo codzienne zakupy wspierane ogromnym systemem rekomendacji firmy Amazon.
Co jednak dzieje się, gdy algorytmy są stosowane do oceniania klientów?
Firmy coraz częściej stosują algorytmy oceniające informacje dostarczane przez ich klientów i podejmujące korzystne lub niekorzystne dla nich decyzje. Na przykład aplikacja randkowa Raya wykorzystuje algorytmy, które decydują o tym, kto może zostać zaproszony do grona członków. Zendrive ocenia umiejętności prowadzenia samochodu przez klientów w celu określenia wysokości ich składki ubezpieczeniowej, a globalna instytucja finansowa ING wykorzystuje algorytmy rozpatrujące wnioski kredytowe.
Powszechność algorytmów podejmujących decyzje dotyczące klientów rodzi zestaw interesujących pytań o to, jak konsumenci reagują na fakt, że istotne dla nich decyzje podejmowane są przez algorytmy. Czy klienci ocenialiby bank inaczej w zależności od tego, czy ich wniosek kredytowy został zaakceptowany przez algorytm kredytowy, czy przez pracownika banku? A co by się stało, gdyby ich wniosek został odrzucony? Zrozumienie wpływu reakcji klientów może pomóc menedżerom w podejmowaniu lepszych decyzji dotyczących wdrażania algorytmów w funkcjach związanych z obsługą klienta. Przeprowadziliśmy serię badań, które wskazują, że intuicja menedżerów w tej kwestii jest często błędna.
Jak reagują klienci na wieść, że o ich życiu czasami decydują bezduszne algorytmy?
Aby dowiedzieć się więcej o tym, co myślą menedżerowie o skutkach wykorzystania algorytmów w podejmowaniu decyzji dotyczących klientów, przeprowadziliśmy najpierw serię pogłębionych wywiadów oraz ankietę z udziałem menedżerów reprezentujących różne gałęzie przemysłu. Zapytaliśmy ich, jak ich zdaniem klienci reagują na fakt, że ich wniosek został zaakceptowany lub odrzucony przez algorytm, a nie przez człowieka. Większość menedżerów spodziewała się, że klientom nie spodoba się fakt, że o odrzuceniu wniosku zdecydował algorytm, ale za to spodoba im się to, że to człowiek podjął pozytywną dla nich decyzję. Tymczasem zebrane przez nas dane dotyczące reakcji klientów świadczą o czymś zupełnie innym.
W rzeczywistości nasze badania ujawniły schemat, który jest zupełnie niezgodny z tym, co intuicja podpowiadała menedżerom. Badaliśmy reakcje klientów na korzystne i niekorzystne decyzje podejmowane przez algorytmy w porównaniu z reakcjami na decyzje podejmowane przez ludzi w różnych kontekstach, takich jak wnioski o pożyczkę albo członkostwo w jakiejś organizacji.
Przygotowaliśmy eksperyment, w ramach którego informowaliśmy klientów, że ich wniosek został przyjęty lub odrzucony albo przez algorytm, albo, w drugiej wersji, przez człowieka. Następnie prosiliśmy ich o ocenę firmy, do której złożyli wniosek.
POLECAMY
Algorytm wie więcej
O korzyściach biznesowych i zagrożeniach związanych z profilowaniem w internecie, o informacjach, które można wyczytać ze śladów cyfrowych, mówi nam Michał Kosiński, psycholog społeczny pracujący na Stanford University, gość II Kongresu MIT Sloan Management Review Polska Digital Leadership & Technology, który odbędzie się 21–22 kwietnia w Warszawie. Rozmawia Paweł Górecki
Oto co stwierdziliśmy...
Gdy wniosek został zaakceptowany, klienci reagują bardziej pozytywnie, kiedy okazuje się, że ostateczną decyzję podjął człowieka, a nie algorytm. Samą firmę oceniają wówczas korzystniej i są bardziej skłonni polecić ją innym, o ile właśnie decydował człowiek. Dzieje się tak, ponieważ klient postrzega pozytywną decyzję jako po części jego własną zasługę („mój wniosek został przyjęty, ponieważ jestem wyjątkowy i na to zasługuję”). Algorytmy postrzegane są zaś jako narzędzia sprowadzające każdego klienta do zestawu danych.
A co się dzieje, gdy wnioski klientów są odrzucane? W naszych badaniach klienci podobnie oceniali firmę, niezależnie od tego, w jaki sposób została podjęta decyzja. By chronić poczucie własnej wartości, ludzie zmotywowani są do obwiniania innych za swoje niepowodzenia. Kiedy ich wnioski są odrzucane, klienci sprawiedliwie źle myślą zarówno o algorytmie, jak i o ludzkiej obsłudze. Ludziom zarzucają podejmowanie subiektywnych i tendencyjnych decyzji, a algorytmom ignorowanie ludzkich, unikalnych atutów. Innymi słowy, kiedy rzecz idzie nie po naszej myśli, winni są wszyscy wokół – bez znaczenia, czy będą to ludzie, czy algorytmy.
Jak poprawić reakcje klientów?
Nasze badania mogą posłużyć menedżerom chcącym jak najlepiej zaprojektować proces ocen klientów oraz metody informowania ich o tym, w jaki sposób podejmowane są decyzje algorytmiczne. W praktyce to ludzcy pracownicy często nadzorują decyzje podejmowane przez algorytmy, aby upewnić się, że działają one prawidłowo. Na przykład analitycy kredytowi mogą monitorować działania programów oceniających wnioski ewentualnych kredytobiorców. W związku z powyższym można oczekiwać, że wystarczyłoby poinformować o tym klientów, by złagodzić nieco rozczarowanie, co mogłoby się przełożyć na opinie o firmie.
Jednak nasze wyniki pokazały, że przypuszczenie takie jest błędne: dopóki algorytm podejmuje decyzję o akceptacji, fakt nadzorowania go przez człowieka w niewielkim stopniu wpływa na poprawę reakcji. Klienci w dalszym ciągu są mało przychylnie nastawieni do organizacji, do której składali wniosek.
Nasze badania sugerują rozsądne rozwiązanie pozwalające ograniczyć ryzyko mniej pozytywnych reakcji klientów: sprawić, aby algorytm był bardziej ludzki. W jednym z naszych badań klienci ocenili firmę przychylniej, gdy ich prośba została zaakceptowana przez algorytm bardziej podobny do człowieka (o imieniu Sam). Uczłowieczanie algorytmów staje się powszechną praktyką w interakcjach z klientami, w tym tych dotyczących obsługi klienta albo rekomendacji produktów. Aby uczynić swoje algorytmy bardziej akceptowalnymi, firmy mogą nadawać im np. imiona lub cechy, tworzyć dla nich ludzkie awatary. Stąd Alexa firmy Amazon czy Bill firmy ING oraz Anna, wirtualna asystentka firmy Ikea, mająca nie tylko ludzkie imię, ale i własnego awatara.
Jawność algorytmów
Co dzieje się, gdy firmy nie informują swoich klientów o tym, kto w rzeczywistości podejmuje decyzję? Czy klienci sądzą, że wniosek rozpatrzył program, czy raczej człowiek? I jak jest wówczas ich reakcja – rozczarowanie czy akceptacja, a może coś pomiędzy?
Otóż z naszych danych wynika, że klienci nie mając stosownych informacji, uznają, że wniosek był rozpatrywany przez człowieka i to on zdecydował.
Oczywiście to przekonanie może ulec zmianie, gdy konsumenci przekonają się na własnej skórze, że coraz więcej wniosków ocenianych jest przez algorytmy, ale na razie chęć uszczęśliwienia klientów w zestawieniu z chęcią zachowania przejrzystości stawia firmy przed dylematem etycznym.
Toczy się wiele dyskusji na temat jawności działania algorytmów oraz tego, co władze powinny zrobić, aby zagwarantować, że firmy będą ujawniać, w jaki sposób wykorzystują algorytmy do podejmowania decyzji. Na przykład Organizacja Współpracy Gospodarczej i Rozwoju, wraz z rządami Stanów Zjednoczonych i Wielkiej Brytanii, opublikowała niedawno listę zasad dotyczących algorytmicznego podejmowania decyzji oraz jawności wykorzystania algorytmów w procesach decyzyjnych.
Wyniki naszego badania okazują się sprzeczne z intuicją menedżerów i podkreślają znaczenie baczniejszego zwracania uwagi na to, co sądzą ludzie o automatyzacji decyzji podejmowanych względem nich. Przed wprowadzeniem algorytmu do zadań związanych z obsługą klienta, kadra kierownicza powinna ocenić jego potencjalny wpływ na postawy klientów wobec ich organizacji.
Chociaż menedżerowie zwykle bardziej martwią się o negatywne reakcje klientów na pracę algorytmów w przypadku niekorzystnych dla nich wieści, to prawda jest taka, że powinni raczej obawiać się nieprzyjemnych reakcji klientów na wiadomość, że algorytm zdecydował po myśli człowieka. Badania te sugerują zatem, że pomimo efektywności kosztowej i dokładności predykcyjnej algorytmów to ostatnie słowo, jeśli klienci mają być zadowoleni, powinni mieć pracownicy‑ludzie.
POLECAMY
Czy algorytmy dyskryminują ludzi pod względem płci i rasy?
Nawet jeśli reklamodawca ma jak najlepsze intencje, algorytmy, których zadaniem jest targetowanie reklam, mogą preferować pewne grupy ludzi i dyskryminować inne.
