Streszczenie: Deepfake to technika wykorzystująca sztuczną inteligencję, łącząca głębokie uczenie (deep learning) i fałszowanie (fake), umożliwiająca tworzenie realistycznych, ale fałszywych obrazów i dźwięków. Polega na obróbce istniejących materiałów wideo, audio lub zdjęć, aby stworzyć trudne do odróżnienia od oryginałów fałszywe treści. Charakterystyczne cechy deepfake to: Dotyczy głównie ludzi na obrazach lub filmach. Bazuje na wcześniej utworzonych materiałach, które są modyfikowane. Obejmuje przeróbki filmów, głosu oraz zdjęć. Jest stosunkowo nowym zjawiskiem; termin pojawił się pod koniec 2017 roku. Zastosowania deepfake obejmują: Rozrywkę, np. aplikacje modyfikujące twarze w znanych filmach. Tworzenie wirtualnych postaci, takich jak prezenterzy telewizyjni. Generowanie fake newsów poprzez fałszywe wypowiedzi polityków i osób publicznych. Pornografię, gdzie twarze są podmieniane w filmach dla dorosłych, co stanowi zagrożenie szczególnie dla kobiet, celebrytek oraz osób prywatnych (revenge porn). Oszukiwanie systemów uwierzytelniania opartych na rozpoznawaniu twarzy. Ataki finansowe, np. podszywanie się pod menedżerów w celu wydawania poleceń finansowych.
Słowo deepfake powstało dopiero pod koniec 2017 roku. Ale to zjawisko już zmienia świat – i biznes.
Samo słowo deepfake pochodzi od dwóch angielskich zwrotów: deep learning (głębokie uczenie) oraz fake (fałsz, podróbka). I już to dobrze tłumaczy, czym jest deepfake – obróbką dźwięku i obrazu, która ma na celu utworzenie fałszywych obrazów i dźwięków przy użyciu technik z zakresu sztucznej inteligencji. W założeniu pozwala to na stworzenie materiałów, które będą trudne lub niemożliwe do odróżnienia od filmów lub zdjęć, które zostały zrealizowane w tradycyjny sposób – z udziałem żywych osób.
Cechy charakterystyczne deepfake:
w większości przypadków dotyczy obrazów lub filmów, na których występują ludzie;
nie tworzy obrazów czy filmów, ale bazuje na wcześniej utworzonym materiale, który jest przerabiany;
najczęściej przerabiane są materiały filmowe, ale do deepfake’ów zaliczamy także przeróbki głosu oraz zdjęć;
to nowe zjawisko: sama nazwa pojawiła się pod koniec 2017 r., choć pierwsze rozwiązania wykorzystujące głębokie uczenie w obróbce obrazu pojawiły się już co najmniej 5 lat wcześniej.
Sposoby wykorzystania deepfake:
rozrywka, zabawa – aplikacje, które w jakiś sposób przerabiają twarz, podmieniają ją we fragmentach znanych filmów itp.;
wirtualne postacie – np. kreacjeprezenterów telewizyjnych, występujących w chińskiej telewizji (zjawisko z pogranicza deepfake’ów);
fake news – tworzenie fałszywych materiałów z wypowiedziami polityków i osób publicznych;
pornografia – podmiana twarzy osób występujących w filmach pornograficznych. Zagrożone są zwłaszcza kobiety – aktorki, celebrytki, ale także osoby prywatne (zjawisko revenge porn). Tak jak w przypadku wielu innych technologii to branża pornograficzna jest w tym momencie jednym z głównych motorów napędowych rozwoju technologii i popularyzacji zjawiska deepfake’ów;
logowanie, autoryzacja – oszukiwanie systemów posługujących się twarzą użytkownika, ale zabezpieczających się poprzez konieczność wykonania ruchu głową, mrugnięcia okiem albo wypowiedzenia krótkiej kwestii;
ataki finansowe – podszycie się pod menedżera wysokiego szczebla i wydawanie przez telefon lub podczas rozmowy wideo poleceń finansowych (np. wykonanie przelewu).
Bardziej szczegółowo na temat zagrożeń finansowych w biznesie związanych ze zjawiskiem deepfake, a także stosowanych obecnie sposobów obrony, piszemy w oddzielnym materiale.
