Deepfakes a infokalypse

Na YouTube existuje video, na němž prezident Obama sedí v mahagonovém křesle v Oválné pracovně. Dívá se přímo do kamery a jeho projev je vážný: „Jak se posuneme vpřed v době informací, bude rozdíl mezi tím, zda přežijeme, nebo se staneme nějakou zvrácenou dystopií.“ Jenže Obama tohle ve skutečnosti nikdy neřekl. Co se tedy děje?

Toto video je šokujícím způsobem sofistikovaný deepfake. Jeho autoři využili umělou inteligenci k manipulaci reality a vytvořili naprosto uvěřitelný – a přitom zcela nepravý – nový svět. Bohužel, varování, které falešný Obama přináší, může přijít příliš pozdě a být příliš slabé.

Už dnes žijeme v tom, čemu autor říká „infokalypse“ – v ekosystému nebezpečných a nedůvěryhodných informací. Deepfaky tento problém jen prohloubí. Je nezbytné, abychom se před hrozbami, které deepfaky a infokalypse představují, dokázali chránit – dřív než bude pozdě.

V tomto shrnutí se mimo jiné dozvíte,

• jak deepfaky vznikly na Redditu,
• jak byla deepfake pornografie použita k umlčení novinářky,
• a jak se malý pobaltský stát bránil kybernetické válce.

V devatenáctém století lidé vynalezli fotografii. Poprvé jsme mohli zachytit věrný, zdánlivě nezpochybnitelný výsek reality. Velmi brzy se ale ukázalo, že „realitu“ lze nejen zaznamenat, ale také upravovat.

Zpočátku bylo retušování fotografií zdlouhavé a náročné. Postupem času se však stalo mnohem jednodušším. Dnes to zvládne prakticky každý – stačí si stáhnout bezplatnou aplikaci. Zvykli jsme si proto na představu, že fotografie mohou být upravené, a víme, na co si dávat pozor, pokud jde o retuš či editaci.

Ale není zvuk a video něco jiného? Přeci jen je nelze přesvědčivě zfalšovat… nebo ano? Nejnovější pokroky v oblasti umělé inteligence dokazují pravý opak.

Klíčové poselství zní: Manipulace s fotografiemi, videem a zvukem se díky umělé inteligenci stala snadnou.

Umělá inteligence (AI) je software, který zpracovává informace pomocí tzv. hlubokého učení. Umožňuje systému samostatně se rozhodovat na základě toho, co se „naučil“ při zpracování obrovského množství dat. Termín „deepfake“ vychází právě z tohoto „deep learningu“ – hlubokého učení – a samozřejmě také ze slova „fake“, tedy padělek.

První deepfaky ukázaly, jak může AI vyměnit obličej jedné osoby za obličej jiné ve stávajícím videu. Objevily se na webu Reddit, kde je zveřejnil anonymní uživatel. Brzy začaly přitahovat znepokojivou pozornost.

Na konci roku 2017 publikovala novinářka Samantha Cole článek s názvem „AI-Assisted Fake Porn is Here, and We’re All Fucked“. Upozorňovala v něm na redditové fórum plné deepfake pornografie. Zakladatel fóra používal AI k tomu, aby nasazoval tváře hollywoodských celebrit na těla pornohereček a pornoherců.

Deepfake pornografie je nedobrovolná, hluboce trapná a ponižující. A nezáleží na tom, jak jste bohatí – prakticky neexistuje způsob, jak ji z internetu úplně odstranit. Ani Scarlett Johansson, nejlépe placená herečka v Hollywoodu, nedokázala své jméno před tímto zneužitím ochránit.

Reddit nakonec fórum s falešným pornem zrušil. Jeho tvůrce však zveřejnil kód, který k vytváření deepfaků používal. Dnes existuje celá řada bezplatných nástrojů a programů, které má k dispozici každý, kdo si chce vytvářet vlastní deepfaky.

Zní to děsivě? A přesto je to jen špička ledovce. Technologie deepfake se neustále zdokonaluje. Brzy může být prakticky nemožné poznat, kdy je obrázek, video nebo zvukový záznam falešný. Tato technologie nás už nyní vede po temné cestě dezinformací a lživých obsahů.

Lidé mají tendenci zaměňovat pojmy „misinformace“ a „dezinformace“. Mezi těmito dvěma typy nepravdivých informací je však důležitý rozdíl. Misinformace jsou prostě nesprávné informace – omyl, chyba. Dezinformace jsou naopak záměrně vytvářené a šířené tak, aby někoho uvedly v omyl.

Různé státy se zapojují do dezinformačních kampaní, ale nesporným mistrem tohoto typu války je Rusko.

Jedna z nejškodlivějších sovětských dezinformačních kampaní proběhla v 80. letech, na vrcholu epidemie AIDS. Byla známá jako „Operace Infekce“ a začala článkem v obskurních indických novinách Patriot, které sponzoroval Sovětský svaz. Text obvinil americkou armádu z toho, že virus AIDS vypustila jako biologickou zbraň. Podle Patriotu chtěli Američané zabíjet černochy a homosexuály.

Klíčové poselství zní: Rusko je mistrem informační války.

V ruské dezinformaci se objevovala drobná zrnka pravdy – Spojené státy skutečně měly v minulosti program biologických zbraní. Ten však už v 60. letech utichal a v 70. letech se Pentagon soustředil spíše na obranu proti biologickým zbraním než na jejich vývoj. Tato fakta ale nezabránila tomu, aby se tvrzení o AIDS stalo virálním.

Po rozšíření v Asii a Africe se příběh dostal do novin po celém světě – ve více než 80 zemích. Poškodil globální pověst Spojených států a zároveň zemi vnitřně rozděloval. Sověti se snažili využít rasové napětí, a proto své úsilí cíleně zaměřili na afroamerickou komunitu. Vzhledem k historii USA bylo pro mnoho lidí snadné uvěřit, že je jejich vlastní vláda chce zabít.

Další velká dezinformační kampaň Kremlu přišla v roce 2016. Jejím cílem bylo rozštěpit americkou společnost a obrátit voliče proti Hillary Clintonové. Krycí název operace zněl „Projekt Lakhta“.

Operace zahrnovala Rusy, kteří se na sociálních sítích vydávali za Američany. Tito falešní „občané“ vytvářeli komunity založené na politických a identitárních tématech. Tyto skupiny byly pečlivě řízené a měly jasný účel – polarizovat Američany a učinit je zranitelnějšími vůči ruské útočné strategii.

Vše nasvědčuje tomu, že tento přístup fungoval. Ruské zásahy do americké politiky se staly stranickým tématem: jedna část politického spektra hrozbu možná přeceňuje, druhá ji naopak zcela popírá.

Do budoucna mohou deepfake videa učinit ruské taktiky ještě účinnějšími, rozdělujícími a nebezpečnějšími. Sovětskému svazu trvalo roky, než dokázal „Operaci Infekce“ protlačit do světových médií. V digitálním věku se však vysoce věrohodné dezinformace v podobě deepfake videí mohou šířit během okamžiku.