Co to jest deepfake?

Słowo deepfake powstało dopiero pod koniec 2017 roku. Ale to zjawisko już zmienia świat – i biznes.

Samo słowo deepfake pochodzi od dwóch angielskich zwrotów: deep learning (głębokie uczenie) oraz fake (fałsz, podróbka). I już to dobrze tłumaczy, czym jest deepfake – obróbką dźwięku i obrazu, która ma na celu utworzenie fałszywych obrazów i dźwięków przy użyciu technik z zakresu sztucznej inteligencji. W założeniu pozwala to na stworzenie materiałów, które będą trudne lub niemożliwe do odróżnienia od filmów lub zdjęć, które zostały zrealizowane w tradycyjny sposób – z udziałem żywych osób.

Cechy charakterystyczne deepfake:

• w większości przypadków dotyczy obrazów lub filmów, na których występują ludzie;

• nie tworzy obrazów czy filmów, ale bazuje na wcześniej utworzonym materiale, który jest przerabiany;

• najczęściej przerabiane są materiały filmowe, ale do deepfake’ów zaliczamy także przeróbki głosu oraz zdjęć;

• to nowe zjawisko: sama nazwa pojawiła się pod koniec 2017 r., choć pierwsze rozwiązania wykorzystujące głębokie uczenie w obróbce obrazu pojawiły się już co najmniej 5 lat wcześniej.

Sposoby wykorzystania deepfake:

• rozrywka, zabawa – aplikacje, które w jakiś sposób przerabiają twarz, podmieniają ją we fragmentach znanych filmów itp.;

• wirtualne postacie – np. kreacjeprezenterów telewizyjnych, występujących w chińskiej telewizji (zjawisko z pogranicza deepfake’ów);

• fake news – tworzenie fałszywych materiałów z wypowiedziami polityków i osób publicznych;

• pornografia – podmiana twarzy osób występujących w filmach pornograficznych. Zagrożone są zwłaszcza kobiety – aktorki, celebrytki, ale także osoby prywatne (zjawisko revenge porn). Tak jak w przypadku wielu innych technologii to branża pornograficzna jest w tym momencie jednym z głównych motorów napędowych rozwoju technologii i popularyzacji zjawiska deepfake’ów;

• logowanie, autoryzacja – oszukiwanie systemów posługujących się twarzą użytkownika, ale zabezpieczających się poprzez konieczność wykonania ruchu głową, mrugnięcia okiem albo wypowiedzenia krótkiej kwestii;

• ataki finansowe – podszycie się pod menedżera wysokiego szczebla i wydawanie przez telefon lub podczas rozmowy wideo poleceń finansowych (np. wykonanie przelewu).

Bardziej szczegółowo na temat zagrożeń finansowych w biznesie związanych ze zjawiskiem deepfake, a także stosowanych obecnie sposobów obrony, piszemy w oddzielnym materiale.