Pułapki systemów rekomendacyjnych

Konsumenci oraz firmy powinni mieć świadomość potencjalnych błędów decyzyjnych związanych z korzystaniem z internetowych systemów rekomendacyjnych.

Systemy rekomendacyjne wpływają na wybory dokonywane każdego dnia – jaką kolejną książkę przeczytać, którą piosenkę pobrać, z kim iść na randkę. W najlepszym przypadku inteligentne systemy służą zarówno kupującym, jak i sprzedającym – konsumenci oszczędzają czas i wysiłek brodzenia przez ogromne możliwości rynku cyfrowego, a firmy budują lojalność i napędzają sprzedaż poprzez zróżnicowane doświadczenia. Jednak, podobnie jak w przypadku wielu innych nowych technologii, rekomendacje cyfrowe są również źródłem niezamierzonych konsekwencji. Nasze badania pokazują, że rekomendacje nie tylko odzwierciedlają preferencje konsumentów, ale faktycznie je kształtują. Być może brzmi to jak subtelne rozróżnienie, ale nim nie jest.

Systemy rekomendacji mogą potencjalnie wpływać na uprzedzenia, a także wpływać na proces sprzedaży w nieoczekiwany sposób. Nasze odkrycia mają ważne implikacje dla projektowania systemów rekomendacyjnych nie tylko w branży muzycznej – co jest podstawą naszych badań – ale w każdym otoczeniu, w którym detaliści stosują algorytmy rekomendacji w celu poprawy jakości obsługi klienta i napędzania sprzedaży.

Wybór konsumenta na zatłoczonym rynku

Handel elektroniczny radykalnie wpłynął na wybór konsumenta. Nie troszcząc się o fizyczne ograniczenia charakterystyczne dla sprzedaży tradycyjnej, firmy mogą zaoferować praktycznie nieograniczoną liczbę produktów online, dając konsumentom dostęp nie tylko do popularnych produktów, ale także do tych ukrytych, niszowych. Czyli jest więcej igieł i więcej stogów siana. Ponieważ konsumenci stoją przed radykalnie szerszym zestawem opcji, muszą zachować większą ostrożność przy ocenie potencjalnych produktów do zakupu lub konsumpcji. Kwestia towarów, w przypadku których najważniejsze jest doświadczenie (lub smak), takich jak muzyka, książki i filmy, jest szczególnie złożona: konsumenci muszą poświęcić czas na doświadczanie produktu, zanim dowiedzą się, czy im się podoba. Nawet jeśli oficjalne ceny towarów nie są wysokie lub produkty są uwzględnione w ramach subskrypcji, czas, który konsumenci muszą przeznaczyć na ocenę każdego z nich, jest cenny.

Co gorsza, jest niemożliwy do odzyskania: Konsumenci nie mogą „odprzesłuchać”, „odobejrzec” i „odprzeczytać” towarów, które okazują się kiepskie. W tym kontekście zaawansowane algorytmy zdolne do tworzenia spersonalizowanych zaleceń zapewniają spore korzyści. Skracają czas wyszukiwania i oceny, napędzają sprzedaż i wprowadzają nowe produkty dla konsumentów. Około 30% wyświetleń strony Amazona wynika z rekomendacji, ponad 80% treści oglądanych przez subskrybentów Netfliksa otrzymuje spersonalizowane rekomendacje, a więcej niż 40 milionów słuchaczy Spotify może teraz uzyskać dostęp do spersonalizowanych list odtwarzania generowanych przez moduł „Odkryj w tym tygodniu”, co prowadzi do ponad połowy miesięcznych odsłuchań ponad 8000 artystów.

Więcej niż zwykła rekomendacja

Dla konsumenta sposób, w jaki systemy generują osobiste zalecenia, jest stosunkowo łatwy do zrozumienia. Opierając się na wcześniejszych działaniach klienta i określonych preferencjach, systemy te oferują nowe opcje: kolejki potencjalnych przedmiotów, takie jak „Inne filmy, które lubisz:” i „Klienci, którzy kupili to, także kupili:”. Nasze badania pokazują jednak, że takie spersonalizowane rekomendacje nie tylko przedstawiają konsumentom nowe produkty; kształtują również ich przyszłe preferencje i zachowania w nieoczekiwany sposób. (Zobacz Powiązane badania). Przyjrzeliśmy się, w jaki sposób spersonalizowane rekomendacje wpływają na preferencje i chęć płacenia za wspólne, oparte na doświadczeniu dobro cyfrowe, jakim jest muzyka. Podobnie jak w innych branżach z udziałem towarów opartych na doświadczeniu nowe modele (takie jak Spotify i Apple Music) zakłócają przemysł muzyczny.

Cyfrowe kanały dystrybucji, w tym płatne subskrypcje, strumieniowanie na żądanie i pobieranie cyfrowe, stanowią obecnie około 80% amerykańskiego rynku muzycznego. Niezależnie od kanału dystrybucji algorytmy i systemy rekomendacyjne znacząco wpływają na cyfrową konsumpcję muzyki, ponieważ zalecenia stanowią wartość dodaną przy identyfikacji nieznanych utworów, które z większym prawdopodobieństwem wzbudzą zainteresowanie konsumenta. Co zaskakujące, systemy rekomendacji wpływają na to, ile konsumenci są skłonni zapłacić za produkt, którego właśnie słuchali. Konsumenci nie wybierają tylko tego, czego już doświadczyli i wiedzą, że lubią. Chcą też, by system powiedział im, co chcieliby lubić bądź doświadczyć. Jest to zaskakujące, ponieważ konsumenci nie potrzebują, jak się zdaje, systemu, który mówi, jak bardzo podobała im się piosenka, którą właśnie usłyszeli. Pojawienie się systemów rekomendacji może sprawić, że będziemy kwestionować nasz własny gust. Zamiast pytania „Czy lubię to?” zadajemy sobie pytanie „Czy powinienem/powinnam to lubić?”.

Badanie konsumentów muzyki

Nasze odkrycia opierają się na trzech doświadczeniach laboratoryjnych z udziałem 169 konsumentów muzyki – studentów. W pierwszym eksperymencie uczestnicy wysłuchali piosenek i powiedzieli, ile zapłacą za każdą piosenkę. Losowo przypisaliśmy oceny rekomendacji do wybranych utworów. Przedstawiliśmy te oceny (od 1 do 5 gwiazdek) jako przewidywania systemu rekomendacji dotyczące ich preferencji dla każdej piosenki. Jeśli sobie tego życzyli, uczestnicy mogli słuchać próbek piosenek, aby zmniejszyć swoją niepewność co do tego, jak bardzo lubili daną muzykę. Uczestnicy nie zdawali sobie sprawy, że losowo wygenerowaliśmy rekomendacje, i wierzyli, że oceny zostały obliczone na podstawie ich preferencji z wcześniejszych danych.

Rekomendacje znacząco zmieniły skłonność do płacenia, a wzrost rekomendacji o jedną gwiazdkę spowodował wzrost gotowości do płacenia o średnio od 12% do 17%. Wynik ten jest przekonujący, ponieważ losowe zalecenia nie były powiązane z rzeczywistymi preferencjami uczestników. Te same efekty osiągnęliśmy dla prawdziwych zaleceń, które zawierały błędy. W naszym drugim eksperymencie użyliśmy prawdziwych zaleceń piosenek pochodzących z powszechnie stosowanego, najnowocześniejszego algorytmu. Jednak celowo wprowadziliśmy przypadkowy błąd w przewidywanych ocenach, od –1,5 do +1,5 gwiazdki.

Ponownie uczestnicy nie byli świadomi manipulowania zaleceniami i mogli słuchać próbek utworów. Celowy wzrost realnej rekomendacji o jedną gwiazdkę zwiększył skłonność do płacenia średnio o 10% do 13%. W pierwszych dwóch eksperymentach uczestnicy mogli wysłuchać 30-sekundowych próbek utworów (ponieważ próbkowanie jest powszechną praktyką w internetowych sklepach muzycznych), ale słuchanie nie było obowiązkowe. Tak więc zmiany chęci płacenia mogą wynikać z tego, że uczestnicy używają ocen zamiast własnych upodobań, jednak nie wiemy do jakiego stopnia.

Znajomość produktu

Chociaż jest to ważna i przydatna wiedza, nie jest to zaskakujące, że rekomendacje wpływają na gotowość do zapłaty w momencie, gdy konsumenci wiedzą o produkcie mniej – taki jest przecież wyraźny cel systemów rekomendacji. W naszym trzecim eksperymencie jako sposób na zbadanie bardziej interesującego i potencjalnie problematycznego efektu, czyli takiego, kiedy konsumenci znają już produkt, wymagaliśmy od uczestników, aby wysłuchali wszystkich próbek utworów, zanim wyrazili gotowość do zapłaty. Ponownie losowo wygenerowane rekomendacje znacząco wpłynęły na gotowość konsumentów do płacenia.

Zaobserwowaliśmy około 8% do 12% wzrostu gotowości do zapłaty za każdy wzrost o jedną gwiazdkę w pokazywanych ratingach rekomendacji. Skutek rekomendacji dotyczących gotowości do zapłaty pozostaje silny nawet natychmiast po obowiązkowej konsumpcji zalecanego produktu, podczas gdy konsument powinien odczuwać znacznie mniejszą niepewność preferencji.

Konsekwencje dla konsumentów i sprzedawców detalicznych

Dla konsumentów ważne jest, że systemy rekomendacyjne mają potencjalnie ciemną stronę – mogą manipulować preferencjami w taki sposób, że konsumenci nie zdają sobie z tego sprawy. Wynika to stąd, że szczegóły leżące u podstaw algorytmów rekomendacji nie są wcale przejrzyste. Wadliwe systemy rekomendacyjne, które niedokładnie szacują rzeczywiste preferencje konsumentów, zmniejszają chęć zapłacenia za niektóre przedmioty u jednych konsumentów, a zwiększają ją u innych, niezależnie od prawdopodobieństwa rzeczywistego dopasowania.

Może to skłaniać mniej etyczne organizacje do sztucznego pompowania rekomendacji. Nawet poza naganną praktyką bezpośredniej manipulacji przypadkowy błąd jest prawdziwym problemem dla wszystkich systemów rekomendacji. Na przykład najlepsze systemy rekomendacji w konkursie Netflix Prize o wartości 1 miliona dolarów, wykorzystujące najnowsze w owym czasie algorytmy rekomendacji w zakresie uczenia maszynowego, pomyliły się w swoich prognozach ratingowych średnio o 20% w skali oceny (czyli jest to błąd około 0,8 w skali od 1 do 5 gwiazdek).

Szkodliwe błędy

Zarówno zbyt wysokie, jak i zbyt niskie oszacowania są problematyczne. Napompowane ratingi skłaniają konsumentów do kupowania produktów, których mogą nawet nie brać pod uwagę, a tym samym mogą rozczarować konsumentów z powodu niezaspokojonych oczekiwań. Obniżone oceny potencjalnie odpychają konsumentów od produktów, które w przeciwnym razie mogliby kupić. Błędy są dotkliwie odczuwalne w obu przypadkach. Niesmak i niezadowolenie po jednym zakupie utrzymują się długo, a z czasem się również nasilają.

Po tym, jak konsumenci doświadczą produktu, ich opinie (tak jak ratingi produktów lub zakupy) wpływają na przyszłe spersonalizowane prognozy. Stronnicza informacja zwrotna może zanieczyścić system i doprowadzić do błędnego koła uprzedzeń – internetowego odpowiednika piszczącej opinii audio. Projektanci mogą również uzyskać sztucznie zawyżony obraz dokładności przewidywania, ograniczający ich zdolność do ulepszania systemów. Co gorsza, pozbawieni skrupułów pośrednicy mogliby wykorzystać takie luki w celu manipulacji systemami rekomendacji.

Biorąc pod uwagę, że idealne przewidywania nie są możliwe, detaliści i menedżerowie muszą być świadomi potencjalnego dysonansu pomiędzy niezamierzonymi efektami ubocznymi swoich zaleceń. Nasze odkrycia podkreślają znaczenie zmniejszenia stronniczości w systemach rekomendacji, na przykład poprzez innowacje w algorytmach i projektowaniu interfejsu użytkownika oraz poprzez nadzór nad człowiekiem jako stały priorytet na przyszłość.

Zobacz też: 5 trendów technologicznych, które zdefiniują rynek

Polecane Materiały video