Ohromují, manipulují, ale konspirátorům nevoní. Deepfake videa mají problém

Mluvilo se o nové éře konspirací, kdy známé osobnosti s určitým postavením a vlivem půjde do úst vložit téměř cokoli a dramaticky tak ovlivnit veřejné mínění. Třeba v krátkém časovém úseku těsně před volbami, než se společnost dokáže shodnout, že video byl podvrh.

Zatím se tak nestalo, a to ani ve vyhrocených prezidentských volbách 2020 v USA, kdy se obecně takové video očekávalo. Neznamená to ale, že deepfake videa jsou odepsanou záležitostí. Zatím jen zkrátka nepřišel jejich čas.

Ostatně, už v roce 2018 Josef Šlerka v rozhovoru pro Finmag trefně shrnuje jejich hlavní problém: „Naklíčované video dlouhodobě neobstojí a neobstojí v celkovém obrazu a jednání člověka. Krátkodobě ovšem natropí zle.“

Možnost, že se do médií dostane důkaz, jak si ten který volební tým objednával špínu na oponenta, může zatím působit jako dostatečně odrazující.

Hnojomety fungují

I když by konspirátorům krátkodobé tropení škod mohlo bohatě stačit, využití deepfake videí se (zatím) vyhýbají. Když se podíváme na zmíněné americké prezidentské volby, důvody jsou veskrze tři:

1) Současné prostředky pro metání špíny (lidově nazývané hnojomety) na oponenta postačovaly. Sestříhat manipululativní video, kdy se Joe Biden objímal s brečícími dětmi a vyvolat tak dojem, že je to pedofilní satan, jak hlásá hnutí QAnon, je levné a působí důvěryhodně. Video mělo na sítích velký dosah i mimo USA.

2) Technika je opravdu hodně daleko, ale mimika ani v roce 2021 stále nepůsobí vždy zcela přirozeně. Ideální cestou je namíchat několik reálných záběrů s upravenými, aby byl mozek zahlcen a neuměl rozpoznat konkrétní úpravy. Na to však při výrobě nějaké očerňující kampaně nemusí být vždycky dostatek natočeného materiálu. V budoucnu se tak nejspíše budeme setkávat s upravenými záběry z na míru umístěné skryté kamery, která všemu dodá punc realičnosti.

3) Neumí to každý a hrozí tak, že se podvrh provalí ještě před publikací nebo krátce po ní. Při výrobě je nutné ovlivnit nejen mimiku tváře (to je dokonce menší procento práce, o kterou se většinou postará pokročilý algoritmus či chcete-li umělá inteligence), ale i sepsat důvěryhodný text s typickými slovy pro daného člověka. A samozřejmě vyrobit opravdu neprůstřelnou audiostopu, přičemž i na imitování hlasu už máme velmi pokročilé algoritmy. Furt to ale v určitých chvílích není ono a lepší práci odvádějí imitátoři, kteří pracují i s dikcí a dechem. Zmíněné video s prezidentem (viz níže) tak například namluvil Petr Jablonský. Na tvorbě se tedy podílí celý tým lidí – externistů. No a pak všechny uhlídejte...

Možnost, že se do médií dostane důkaz, jak si ten který volební tým objednával u šikovného freelancera špínu na oponenta, může zatím působit jako dostatečně odrazující překážka. Až se ale algoritmy posunou ještě dál a všechno zvládne jeden snaživý člověk během hodiny klikání na nějaké „zábavné“ online službě, můžeme se dočkat celé série deepfake videí. A minimálně na chvíli nám to pak řádně zamotá hlavy.

Obecná důvěra v autority neustále klesá, přičemž za posledních deset let dosahuje historických minim.

Anatomie manipulace

Přes všechnu vynaloženou námahu s výrobou nejde ve výsledku o nic světoborného. Těm, kterým deepfake videa jednou poslouží, jde jen o to udělat na chvíli zmatek. Snahou všech manipulací a konspirací je vyvolat dojem, že se ničemu nedá věřit. Podkopávat základy.

Člověk vystupující v nějakém zmanipulovaném deepfake videu následně ztratí čas vysvětlováním nesmyslu a zabředne do emocí, které mu vezmou část sil. I když se nakonec očistí, původce videa, nejčastěji skrytý za hrází poradců a PR agentur, pak vždy může v debatě jednoduše říct, že informaci z videa daná osobnost možná neřekla, ale stejně si to myslí. A budeme zase na začátku.

Už nyní je část společnosti tak daleko, že i přímé důkazy dokáže ignorovat a hájit si nadále svou „pravdu“. Taková skupina je zpravidla navíc hodně slyšet, bývá agresivní a velmi přesvědčivá, čímž ovlivňuje další část nerozhodnuté populace. Lež se pak pomocí tvrdého jádra šíří mezi další lidi, často již vzdělanější, kteří do problematiky ale tolik nevidí a nechají se unést emocemi.

Obecná důvěra v autority navrch neustále klesá, přičemž za posledních deset let dosahuje historických minim. Vidět je to třeba na tomto zajímavém grafu vývoje důvěry ve vládu USA a u nás to bylo dobře viditelné při zpochybňování doporučení epidemiologů během pandemie.

Jak ukazuje následující tabulka, stabilně zároveň platí, že ať už vymyslíte jakýkoli nesmysl, v průměru devět až patnáct procent populace mu uvěří a do tvrdého jádra se zařadí. Může to znít překvapivě, ale s ohledem na fakt, že dodnes existují lidé stále dokola jezdící na předváděcí akce, které je už několikrát přivedly do dluhů, nebo takoví, co posílají úspory do Nigérie s vidinou zisku pohádkového jmění ve smyšleném dědictví, začíná toto pravidlo dávat smysl.

 Zdroje: France24.com, Statista.com, Pewresearch.org, ČTK, UNICEF

Každá očerňující kampaň přitom nemíří na přesvědčení nějaké menší skupinky z tvrdého jádra, ti slouží jen jako přestupní stanice. Není jich zas tak mnoho a často je okolí ani nebere vážně. Jen velmi těžko to také může ovlivnit už rozhodnuté lidi z opačného tábora, kteří mají o problému dostatek informací a lež dokážou snadno prokouknout.

Aby i jinak racionálně uvažující lidé uvěřili vyložené pitomosti a nechali se na určitou dobu ovlivnit, je postupná, dlouhodobá záležitost. Aktivně k tomu dopomáhají samotné elity...

Rozdělená společnost

Cílem takové kampaně je ve skutečnosti ovlivnit nerozhodnuté lidi, kteří se vlastně ani o dění moc nezajímají, a jediné, co dokáže přitáhnout jejich pozornost a vrýt se jim do paměti, je nějaká opravdu silná, negativní emoce. Například k volebním urnám se pak dostávají nikoli aby volili pro něco, ale proti něčemu, co v nich zanechalo hlubokou emoční stopu.

V Česku to tak byla například prezidentská volební kampaň v roce 2013, kdy již přímo v průběhu voleb vyšel burcující inzerát v Blesku obviňující Karla Schwarzenbergera z „připravování půdy pro navrácení majetku potomkům válečných zločinců“, tedy prolomení takzvaných Benešových dekretů. Emoce to byla natolik silná, že dostala na poslední chvíli k urnám i občany, kteří by jinak druhé kolo voleb zcela ignorovali.

Aby i jinak racionálně uvažující lidé uvěřili vyložené pitomosti a nechali se na určitou dobu ovlivnit špatným směrem, je postupná, dlouhodobá záležitost. Aktivně k tomu dopomáhají samotné elity, především politické špičky. Postupně veřejnosti dávkují občas až neuvěřitelné excesy, při jejichž sledování si klademe otázku, jestli se to opravdu stalo.

Pokud ano a společnost jako celek nechá toto chování bez odezvy, posune se hranice tolerance zas o kousek dál k extrémnějšímu chování. A zatímco na exces zapomeneme, posunuté hranice zůstávají; společnost si zkrátka zvykne.

Na grafu výše ze serveru Visualcapitalist.com je ostatně krásně vidět, jak k sobě měli republikáni a demokráté v USA ještě v roce 1994 blízko. Od té doby se názorový průnik snižuje a medián obou politických stran míří stále k větším extrémům. U nás to dost dobře ilustruje zase třeba zkušenost z pandemie – příznivci a odpůrci vakcinace se nedokážou shodnout prakticky na ničem.

Obří přísun šokujících informací z posledních let způsobuje, že nás šokuje čím dál tím méně věcí.

Máme se bát deepfakes?

Ale zpět k podvrženým videím. Je dost možné, že šikovně načasované deepfake video urychlí nějakou revoluci, způsobí vojenský konflikt či dostane k moci zlé lidi. To všechno ale doposud lidstvo zvládlo i bez takto pokročilých technologií. Z dlouhodobé perspektivy se tedy nic moc neděje.

Horší důsledky to může mít pro jednotlivce, jak se už přesvědčily známé celebrity po vlně deepfake pornovideí v roce 2017. O pár let později, přesněji letos, pak tento fenomén překročil další linii se zrodem on-line služeb, kam stačí nahrát fotku něčí tváře a algoritmus ji už sám implementuje do nějakého toho pornovidea. A lze dohledat i „služby“, kam nahrajete oblečenou postavu a algoritmus ji svlékne – doplní z databáze obrázků vhodné nahé části těla. Obrana proti něčemu takovému téměř neexistuje a může to způsobit opravdu řadu traumat.

Odolnost společnosti vůči konspiracím, hoaxům a časem i deepfake videím ale jinak postupně stoupá a bude stoupat. Nejen, že se o tématu čím dál víc mluví v médiích a vznikají edukační programy na školách, zasáhnou také kontrolní mechanismy, kdy deepfake videa budou moci odhalovat algoritmy a podvrhnuté informace budou buď označovány, nebo zcela mazány. Pro EU už pravidla řeší Evropská komise.

A co víc, obří přísun šokujících informací z posledních let způsobuje, že nás šokuje čím dál tím méně věcí. Vytvořit negativní emoci tak bude pro konspirátory s každou novou generací čím dál těžší.

Jedinou opravdovou systémovou obranou by ale bylo postavit lhaní mimo zákon. Konspirátoři toho jinak jen tak nenechají – protože zatím ani nic neriskují.