Dzisiejsza popkultura żywi się głównie samą sobą sprzed lat. Remiksuje się i remake'uje wszystko i wszystkich, a algorytmy sztucznej inteligencji są do tego świetnym narzędziem. Zabawnie jest oglądać Neo z twarzą Bruce'a Lee czy Scarface'a z twarzą Keanu Reevesa, ale nie wszystkim jest do śmiechu. Deepfake'i bywają wykorzystywane do tworzenia fake newsów czy ośmieszania osób prywatnych, np. poprzez wklejanie ich twarzy do filmów porno.
Aby przeciwdziałać tym scenariuszom, Microsoft, Facebook, Partnership on AI i naukowcy z kilku uniwersytetów rzucili wyzwanie, którego celem jest stworzenie podstawowego zestawu danych, który może być użyty do trenowania modeli zdolnych do rozpoznawania deepfake'ów i zgłaszania ich. O ile przeciętny widz nie powinien mieć trudności w wykryciu współczesnego fejka (w przyszłości będzie to trudniejsze), o tyle automatyczne systemy jeszcze niespecjalnie sobie z tym radzą. Deepfake Detection Challenge (DFDC) zostało ogłoszone na początku września, a dziś dołącza do niego Amazon. Wesprze on wysiłki badaczy zarówno kredytami w AWS (1 milion dolarów, do 10 tys. dla grup akademickich), jak i własną skalowalną infrastrukturą do hostowania złożonych zestawów danych. W dzisiejszym komunikacie firma pisze:
Aby wesprzeć uczestników tych dążeń, AWS zapewni też dostęp do ekspertów Amazon ML Solutions Lab i architektów rozwiązań, by zapewnić wsparcie techniczne i pomoc uczestnikom w rozpoczęciu wyzwania. Amazon ML Solutions Lab jest dedykowaną ofertą usług dla klientów AWS, która zapewnia dostęp do tego samego zbioru talentów, który stworzył wiele napędzanych przez machine learning produktów i usług Amazon. (...) Eksperci Amazon ML Solutions Lab będą towarzyszyć uczestnikom Wyzwania, zapewniając asystę podczas konkursu.
— Amazon
Technologia, dzięki której cieszymy się realistycznymi efektami animacji w filmach i grach, jest też wykorzystywana przez osoby o złych zamiarach, które zacierają granice między faktami a fikcjami. DeepFake'i to nie tylko wideo, ale też dźwięk. Naśladowanie czyjejś barwy głosu i dykcji przez syntezator mowy to jeszcze jedna warstwa iluzji, która uwiarygadnia fake newsy, ale też np. rozmowy telefoniczne prowadzone przez oszustów. Obawy przed takimi scenariuszami są więc całkowicie uzasadnione.
