Czy algorytmy dyskryminują ludzi pod względem płci i rasy?

Nawet jeśli reklamodawca ma jak najlepsze intencje, algorytmy, których zadaniem jest targetowanie reklam, mogą preferować pewne grupy ludzi i dyskryminować inne.

Platformy reklamowe online osiągnęły imponujące sukcesy finansowe dzięki zaawansowanym zdolnościom targetowania reklam, pozwalającym na precyzyjne dotarcie do wybranych grup docelowych. Skuteczność platformowej komunikacji przyciąga reklamodawców, którzy mogą adresować reklamy do określonych grup użytkowników lub pewne grupy wykluczać. Jak się okazuje, proces może wypaczyć wyświetlanie reklam niezgodnie z intencjami reklamodawców, a algorytmy mogą zostać posądzone o rasizm.

Targetowanie reklam pod lupą

W ubiegłym tygodniu oskarżenie o podobne praktyki padło na Facebooka, jednego z głównych beneficjentów popularności reklamy platformowej. Departament ds. mieszkalnictwa i rozwoju miast zarzucił platformie, że podział użytkowników ze względu na rasę, płeć i religię nie jest zgodny z prawem amerykańskim.

W odpowiedzi firma już zapowiedziała, że zacznie przeciwdziałać procesom wywołującym kontrowersyjne targetowanie reklam. Jednak badania zespołu z Northeastern University pod kierownictwem Piotra Sapieżyńskiego i Muhammada Ali pokazały, że algorytm Facebooka jest sam w sobie dyskryminujący. Aplikacja decydująca o tym, na czyj komputer trafi reklama dokonuje wyboru spośród 2 miliardów użytkowników na podstawie ich danych demograficznych.

Naukowcy z Northeastern University przeanalizowali sposób wyświetlania serii identycznych reklam nieznacznie zróżnicowanych pod względem budżetu, nagłówka, tekstu oraz wizualizacji. Okazało się, że nawet subtelne ulepszenia miały znaczący wpływ na publiczność, do której trafiły reklamy. Różnice dotyczyły zwłaszcza ofert pracy oraz sprzedaży nieruchomości. Na przykład oferty pracy dla nauczycieli i wychowawców przedszkolnych trafiały na komputery należące do kobiet. Z kolei posty poszukujące do pracy dozorców i taksówkarzy oglądali głównie przedstawiciele mniejszości rasowych, podobnie jak reklamy mieszkań czynszowych. Tymczasem reklamy domów na sprzedaż były kierowane przede wszystkim do białych użytkowników.

Dyskryminacyjny charakter reklam

W ten sposób naukowcy wykazali, że pomimo neutralnych intencji reklamodawców, podejście do wyświetlania reklam na Facebooku może mieć charakter dyskryminacyjny. Wbrew najlepszym intencjom, budżet i treść kampanii może prowadzić do podziałów na tle płci, ras a nawet wyznania. Naukowcy podkreślają , że ujawnione przez nich mechanizmy powinny skłonić reklamodawców i właścicieli platform do wypracowania rozwiązań przeciwdziałających dyskryminacji cyfrowej.

Paweł Kubisiak, redaktor naczelny MIT Sloan Management Review Polska