Předplatné časopisu
Finmag do schránkyPředplatit časopis

Ohromují, manipulují, ale konspirátorům nevoní. Deepfake videa mají problém

Jiří Zahrádka
Jiří Zahrádka | 27. 9. 2021 | 3 114
deepfakefake newskonspiracekonspirační teorietechnologieumělá inteligence

V roce 2019 ohromil Česko krátký spot, ve kterém Miloš Zeman mluvil téměř dvě minuty pravdu. Bez jakékoli ironie šokující video vygradovalo dalším zvratem, kdy se tvář prezidenta změnila v herce Jana Vlasáka. Deepfake videa tím oficiálně dorazila do ČR, od té doby ale o nich není slyšet. Proč?

Ohromují, manipulují, ale konspirátorům nevoní. Deepfake videa mají problém

Rozpoznat deepfake video je čím dál složitější, jejich vývoj ovšem kopírují i nástroje, které je odhalit pomohou (ilustrační foto)

Zdroj: Shutterstock

Mluvilo se o nové éře konspirací, kdy známé osobnosti s určitým postavením a vlivem půjde do úst vložit téměř cokoli a dramaticky tak ovlivnit veřejné mínění. Třeba v krátkém časovém úseku těsně před volbami, než se společnost dokáže shodnout, že video byl podvrh.

Zatím se tak nestalo, a to ani ve vyhrocených prezidentských volbách 2020 v USA, kdy se obecně takové video očekávalo. Neznamená to ale, že deepfake videa jsou odepsanou záležitostí. Zatím jen zkrátka nepřišel jejich čas.

Ostatně, už v roce 2018 Josef Šlerka v rozhovoru pro Finmag trefně shrnuje jejich hlavní problém: „Naklíčované video dlouhodobě neobstojí a neobstojí v celkovém obrazu a jednání člověka. Krátkodobě ovšem natropí zle.“

Možnost, že se do médií dostane důkaz, jak si ten který volební tým objednával špínu na oponenta, může zatím působit jako dostatečně odrazující.

Hnojomety fungují

I když by konspirátorům krátkodobé tropení škod mohlo bohatě stačit, využití deepfake videí se (zatím) vyhýbají. Když se podíváme na zmíněné americké prezidentské volby, důvody jsou veskrze tři:

Fenomén jménem Deepfakes

Deepfake technologie je založená na souboru algoritmů, které nastudují mimiku daného člověka a následně je reprodukují na jiných záběrech. Učí se na základě nově dodaných dat a své výstupy mohou korelovat s původními záběry, čímž se postupně snaží dosáhnout maximální věrnosti. V současnosti si vývojáři hrají se skenem celé postavy, tedy napodobení i stylu chůze a gest rukou.

 

Kromě konspirací mohou mít i užitečné využití, byť zatím v rozpačitých oborech. Jihokorejská televize MBN například nahradila „živou“ moderátorku zpráv její deepfake verzí, do budoucna se pak přemýšlí nad úsporou nákladů vytvořením virtuálních moderátorů. Důvěryhodnost zpráv od umělé bytosti je ale celkem sporná. Populární je také změna obličeje na různých erotických live streamech – lidé si můžou změnit svůj obličej v reálném čase a okolí se pak nemusí dozvědět, čím si přivydělávají.

1) Současné prostředky pro metání špíny (lidově nazývané hnojomety) na oponenta postačovaly. Sestříhat manipululativní video, kdy se Joe Biden objímal s brečícími dětmi a vyvolat tak dojem, že je to pedofilní satan, jak hlásá hnutí QAnon, je levné a působí důvěryhodně. Video mělo na sítích velký dosah i mimo USA.

2) Technika je opravdu hodně daleko, ale mimika ani v roce 2021 stále nepůsobí vždy zcela přirozeně. Ideální cestou je namíchat několik reálných záběrů s upravenými, aby byl mozek zahlcen a neuměl rozpoznat konkrétní úpravy. Na to však při výrobě nějaké očerňující kampaně nemusí být vždycky dostatek natočeného materiálu. V budoucnu se tak nejspíše budeme setkávat s upravenými záběry z na míru umístěné skryté kamery, která všemu dodá punc realičnosti.

3) Neumí to každý a hrozí tak, že se podvrh provalí ještě před publikací nebo krátce po ní. Při výrobě je nutné ovlivnit nejen mimiku tváře (to je dokonce menší procento práce, o kterou se většinou postará pokročilý algoritmus či chcete-li umělá inteligence), ale i sepsat důvěryhodný text s typickými slovy pro daného člověka. A samozřejmě vyrobit opravdu neprůstřelnou audiostopu, přičemž i na imitování hlasu už máme velmi pokročilé algoritmy. Furt to ale v určitých chvílích není ono a lepší práci odvádějí imitátoři, kteří pracují i s dikcí a dechem. Zmíněné video s prezidentem (viz níže) tak například namluvil Petr Jablonský. Na tvorbě se tedy podílí celý tým lidí – externistů. No a pak všechny uhlídejte...

Slušný Zeman? Jde to...

Video vzniklo jako upoutávka na velmi dobře hodnocený seriál Bez vědomí z dílny HBO.

Možnost, že se do médií dostane důkaz, jak si ten který volební tým objednával u šikovného freelancera špínu na oponenta, může zatím působit jako dostatečně odrazující překážka. Až se ale algoritmy posunou ještě dál a všechno zvládne jeden snaživý člověk během hodiny klikání na nějaké „zábavné“ online službě, můžeme se dočkat celé série deepfake videí. A minimálně na chvíli nám to pak řádně zamotá hlavy.

Obecná důvěra v autority neustále klesá, přičemž za posledních deset let dosahuje historických minim.

Anatomie manipulace

Přes všechnu vynaloženou námahu s výrobou nejde ve výsledku o nic světoborného. Těm, kterým deepfake videa jednou poslouží, jde jen o to udělat na chvíli zmatek. Snahou všech manipulací a konspirací je vyvolat dojem, že se ničemu nedá věřit. Podkopávat základy.

Dá se na tom vydělat?

Pro běžné uživatele jsou dostupné desítky deepfake aplikací s různými funkcemi. Nejznámnější jsou například Wombo, Reface, Zao nebo Ventriloquism pro změnu hlasu. Jsou zpravidla zdarma, nebo s velmi malým poplatkem. Zatím tak slouží hlavně jako testovací platforma pro vývoj a nejspíše i ke sběru uživatelských dat. Vzhledem k ohromné popularitě mají velký potenciál pro budoucí monetizaci služby nebo odprodej velkým firmám; například Wombo generovalo v prvních dvou týdnech neuvěřitelných sto milionů klipů.

S tím, jak se vyvíjejí služby pro tvorbu deepfakes, se zároveň vyvíjejí i služby pro jejich odhalování. Tento obor bude možná ještě atraktivnější, protože mediální domy nebo provozovatelé sociálních sítí budou postupně tlačeni do blokování podvrhnutého obsahu. Spolehlivé strojové odhalování deepfakes tak může být do budoucna ten pravý zlatý důl s miliardovými obraty. Pravda, trošku paradox, ale slovy odborníka: Proti deepfake videům pomůže jen umělá inteligence.

Člověk vystupující v nějakém zmanipulovaném deepfake videu následně ztratí čas vysvětlováním nesmyslu a zabředne do emocí, které mu vezmou část sil. I když se nakonec očistí, původce videa, nejčastěji skrytý za hrází poradců a PR agentur, pak vždy může v debatě jednoduše říct, že informaci z videa daná osobnost možná neřekla, ale stejně si to myslí. A budeme zase na začátku.

Už nyní je část společnosti tak daleko, že i přímé důkazy dokáže ignorovat a hájit si nadále svou „pravdu“. Taková skupina je zpravidla navíc hodně slyšet, bývá agresivní a velmi přesvědčivá, čímž ovlivňuje další část nerozhodnuté populace. Lež se pak pomocí tvrdého jádra šíří mezi další lidi, často již vzdělanější, kteří do problematiky ale tolik nevidí a nechají se unést emocemi.

Obecná důvěra v autority navrch neustále klesá, přičemž za posledních deset let dosahuje historických minim. Vidět je to třeba na tomto zajímavém grafu vývoje důvěry ve vládu USA a u nás to bylo dobře viditelné při zpochybňování doporučení epidemiologů během pandemie.

Jak ukazuje následující tabulka, stabilně zároveň platí, že ať už vymyslíte jakýkoli nesmysl, v průměru devět až patnáct procent populace mu uvěří a do tvrdého jádra se zařadí. Může to znít překvapivě, ale s ohledem na fakt, že dodnes existují lidé stále dokola jezdící na předváděcí akce, které je už několikrát přivedly do dluhů, nebo takoví, co posílají úspory do Nigérie s vidinou zisku pohádkového jmění ve smyšleném dědictví, začíná toto pravidlo dávat smysl.

Nejrozšířenější konspirační teorie

Konspirační tvrzení

Podpora v populaci

Planeta Země je placatá

7 % Brazilců, 9 % Francouzů

Přistání na Měsíci byla lež

11 % Američanů, 16 % Britů

Klimatická změna je lež

13 % Američanů, 23 % Britů

Víra v chemtrails

8 % Američanů, až 17 % Kanaďanů a Angličanů

Víra v deep state

16 % Američanů

Vakcíny jsou škodlivé a tají se to

20 % Britů, 18 % Američanů
(celosvětově se nechává očkovat jen 50–60 % populace)

Covid se šíří za pomocí 5G sítí

14 % Poláků, 16 % Čechů, 31 % obyvatel Černé Hory

 Zdroje: France24.com, Statista.com, Pewresearch.org, ČTK, UNICEF

Každá očerňující kampaň přitom nemíří na přesvědčení nějaké menší skupinky z tvrdého jádra, ti slouží jen jako přestupní stanice. Není jich zas tak mnoho a často je okolí ani nebere vážně. Jen velmi těžko to také může ovlivnit už rozhodnuté lidi z opačného tábora, kteří mají o problému dostatek informací a lež dokážou snadno prokouknout.

Aby i jinak racionálně uvažující lidé uvěřili vyložené pitomosti a nechali se na určitou dobu ovlivnit, je postupná, dlouhodobá záležitost. Aktivně k tomu dopomáhají samotné elity...

Rozdělená společnost

Cílem takové kampaně je ve skutečnosti ovlivnit nerozhodnuté lidi, kteří se vlastně ani o dění moc nezajímají, a jediné, co dokáže přitáhnout jejich pozornost a vrýt se jim do paměti, je nějaká opravdu silná, negativní emoce. Například k volebním urnám se pak dostávají nikoli aby volili pro něco, ale proti něčemu, co v nich zanechalo hlubokou emoční stopu.

V Česku to tak byla například prezidentská volební kampaň v roce 2013, kdy již přímo v průběhu voleb vyšel burcující inzerát v Blesku obviňující Karla Schwarzenbergera z „připravování půdy pro navrácení majetku potomkům válečných zločinců“, tedy prolomení takzvaných Benešových dekretů. Emoce to byla natolik silná, že dostala na poslední chvíli k urnám i občany, kteří by jinak druhé kolo voleb zcela ignorovali.

Ujely Obamovi nervy?

Toto video ještě není ukázkou deepfake práce algoritmů, můžeme ho ale považovat za pionýra v manipulaci se známou osobností. Vzniklo v roce 2010 pro The Tonight Show with Jay Leno a ukazuje Baracka Obamu, jak po tiskovce vykopne vztekle dveře. Technicky jde o šikovně sestřihaný záběr, kdy je reálný záznam doplněný postavou naklíčovanou za pomoci známé technologie zeleného plátna. Na dnešní dobu nic složitého.

I když to v show bylo doprovázeno smíchem a bylo jasné, že je to vtip, dodnes existuje mnoho lidí, kteří si myslí, že to prezident USA opravdu udělal. Video totiž znají například z němého GIFu na sociálních sítích a považují ho buď za reálný výbuch vzteku, nebo za nějaký žert od samotného Baracka Obamy, který je svým smyslem pro humor všeobecně znám.

Že ani takto jednoduchou manipulaci nedokážou mnozí pochopit, dokládá hned první komentář pod videem starý dva roky: „Jak se povedlo, že to Obama udělal?“ Dodnes je to nejoblíbenější příspěvek.

Aby i jinak racionálně uvažující lidé uvěřili vyložené pitomosti a nechali se na určitou dobu ovlivnit špatným směrem, je postupná, dlouhodobá záležitost. Aktivně k tomu dopomáhají samotné elity, především politické špičky. Postupně veřejnosti dávkují občas až neuvěřitelné excesy, při jejichž sledování si klademe otázku, jestli se to opravdu stalo.

Pokud ano a společnost jako celek nechá toto chování bez odezvy, posune se hranice tolerance zas o kousek dál k extrémnějšímu chování. A zatímco na exces zapomeneme, posunuté hranice zůstávají; společnost si zkrátka zvykne.

Na grafu výše ze serveru Visualcapitalist.com je ostatně krásně vidět, jak k sobě měli republikáni a demokráté v USA ještě v roce 1994 blízko. Od té doby se názorový průnik snižuje a medián obou politických stran míří stále k větším extrémům. U nás to dost dobře ilustruje zase třeba zkušenost z pandemie – příznivci a odpůrci vakcinace se nedokážou shodnout prakticky na ničem.

Obří přísun šokujících informací z posledních let způsobuje, že nás šokuje čím dál tím méně věcí.

Máme se bát deepfakes?

Ale zpět k podvrženým videím. Je dost možné, že šikovně načasované deepfake video urychlí nějakou revoluci, způsobí vojenský konflikt či dostane k moci zlé lidi. To všechno ale doposud lidstvo zvládlo i bez takto pokročilých technologií. Z dlouhodobé perspektivy se tedy nic moc neděje.

Anketa

Máte zkušenost s deepfake videem?

Horší důsledky to může mít pro jednotlivce, jak se už přesvědčily známé celebrity po vlně deepfake pornovideí v roce 2017. O pár let později, přesněji letos, pak tento fenomén překročil další linii se zrodem on-line služeb, kam stačí nahrát fotku něčí tváře a algoritmus ji už sám implementuje do nějakého toho pornovidea. A lze dohledat i „služby“, kam nahrajete oblečenou postavu a algoritmus ji svlékne – doplní z databáze obrázků vhodné nahé části těla. Obrana proti něčemu takovému téměř neexistuje a může to způsobit opravdu řadu traumat.

Odolnost společnosti vůči konspiracím, hoaxům a časem i deepfake videím ale jinak postupně stoupá a bude stoupat. Nejen, že se o tématu čím dál víc mluví v médiích a vznikají edukační programy na školách, zasáhnou také kontrolní mechanismy, kdy deepfake videa budou moci odhalovat algoritmy a podvrhnuté informace budou buď označovány, nebo zcela mazány. Pro EU už pravidla řeší Evropská komise.

A co víc, obří přísun šokujících informací z posledních let způsobuje, že nás šokuje čím dál tím méně věcí. Vytvořit negativní emoci tak bude pro konspirátory s každou novou generací čím dál těžší.

Jedinou opravdovou systémovou obranou by ale bylo postavit lhaní mimo zákon. Konspirátoři toho jinak jen tak nenechají – protože zatím ani nic neriskují.

160 STRAN FINMAGU

Finmag říjen 2021Zdroj: Finmag

Devadesátky zlatý, budoucnost nejistá. Rozhovor Petra Fischera s Radovanem Vávrou a Dominikem Stroukalem. Dva ekonomové. dvě generace, dva pohledy na devadesátá léta i roky budoucí

MAG. Téma čísla: knihy • Radim Kopáč a kniha za časů korony • Jak Knihobot recykluje miliony knížek • Metoda zettelkasten: jak nikdy nezapomenout, co jste četli • Mistr, Markétka a Audioteka: audioknižní jednička natáčí velké dramatizace • Jakub Žofčák a nerozumná investice – 20 let od zfilmování Pána prstenů • Tři hrsti tipů

FIN. Jiří Hovorka s šéfem pražské burzy: proč se na ni českým firmám nechce? • To se vám vrátí! Mockrát. Dominik Stroukal o magii ekonomických multiplikátorů • Kdo chce bitcoin bít Josef Tětek o lidech, co to neradi krypto

Autor článku

Jiří Zahrádka

Jiří Zahrádka

Čtyři roky působil jako technický redaktor na iDNES.cz, později se začal věnovat marketingu. Prošel korporáty Datart a Dr. Oetker, spolupracoval s několika digitálními agenturami na tvorbě kampaní, produkci fotek a natáčení videí. Dnes působí jako marketingový konzultant s největší zálibou v e-commerce.