Předplatné časopisu
Finmag do schránkyPředplatit časopis

Jak nám počítače pomáhají zničit svět

Karolína Kašparová
Karolína Kašparová | 17. 9. 2020 | 57 komentářů | 7 429

Zemědělství kolabuje, letecká neštěstí jsou stále častější, sledují vás na každém kroku, věda upadá, volby se falšují a nechtějte vědět, co vaše děti najdou na YouTube. To všechno na nás James Bridle valí v knize Temné zítřky: Technologie a konec budoucnosti. Sýčkuje, nebo naopak nabízí přesný vhled do technologizované současnosti a budoucnosti?

Jak nám počítače pomáhají zničit svět

Zdroj: Shutterstock

James Bridle je z lidí, jakých by naše doba potřebovala víc. Umělec, člověk vybavený zvláštní citlivostí, zároveň ale vzdělaný v informatice a kognitivní vědě. Dokáže tedy svá pozorování konfrontovat se stavem poznání a podpořit odkazy na relevantní zdroje. I jeho dva roky stará třísetstránková knížka Temné zítřky, která letos vyšla v českém překladu, je faktograficky podložená – studie střídá studii, ať Bridle zabrousí do vědy, mezinárodní politiky, bezpečnosti nebo klimatologie. Nezapře ale ani svou uměleckou stránku a dílo protkává (především apokalyptickými) odkazy k umění i významným intelektuálům.

Bridle. Temné zítřkyZdroj Host

James Bridle: Temné zítřky. Technologie a konec budoucnosti. V překladu Petra Ondráčka vydal Host. Brno 2020. 336 stran, 297 Kč (cena u nakladatele)

Temné zítřky jsou převrácením a zároveň kritikou technoutopií, které v technologickém pokroku vidí příslib svobodnější a bohatší společnosti. Bridle se technologiím a jejich vlivu na kulturu a společnost věnuje dlouhodobě. Pravidelně o nich píše do britského Guardianu, amerického Atlanticu nebo do magazínu o vlivu technologií Wired.

V originále Temné zítřky vyšly v nakladatelství Verso, které už padesát let vydává radikální levicovou literaturu. Bridle se svými názory na současnou podobu kapitalismu do jeho ediční politiky dobře zapadl. Vadí mu především koncentrace bohatství, osobních dat, politické moci i utajeného technologického či finančnického know-how v rukou malé, privilegované skupiny lidí.

Bridle píše, že nechce být „technofob“. Jeho kniha ale určitě nepopisuje (především počítačové) technologie jako neutrální prostředek, jehož užitečnost závisí na tom, kdo jím zachází. Od počátku prý byly konstruované jako nástroje nerovnosti a militarismu, které pak dál posilovaly.

Luddita
Zdroj: Shutterstock

Luddita

Luddité bylo tajné hnutí anglických dělníků v první polovině 19. století. Ti se báli, že stroje je přímo připraví o práci nebo sníží její cenu, protože jejich kvalifikace a dovednosti jim budou k ničemu. Jejich obrana byla radikální… Za rozbíjení strojů mnohé čekala poprava a hnutí bylo během několika let poraženo.

Dnes se slovo luddita dá použít jako nálepka pro kohokoli, kdo je zdrženlivější vůči nějaké technologii. A používá se především hanlivě. S rostoucí automatizací a zároveň nerovností v přístupu k jejím výdobytkům se ale několik intelektuálů a vědců pokusilo (s nepříliš velkým úspěchem) hanlivého příznaku zbavit a hlásí se k němu s hrdostí. Bridle k nim nepatří, ovšem za ludditu je pochopitelně označován.

„Byla nám vštípena víra, že počítače dělají svět jasnějším a efektivnějším, že snižují složitost a usnadňují nacházení lepších řešení problémů, které nás sužují, a že rozšiřují pole naší působnosti při nakládání s rozrůstající se sférou zkušenosti. Co když to ale vůbec není pravda? Pozorné studium dějin počítačů odhaluje soustavný růst neprůzračnosti, napomáhající soustřeďování moci a jejímu ustupování do stále se zužujících sfér zkušenosti.“

Depresivní pocit technologického chaosu bohužel umocňuje český překlad. České věty jako by kopírovaly ty anglické až příliš věrně, slovosledem i přemírou jmenných konstrukcí, na místech, kde by v češtině dobře seděla vedlejší věta, takže se v textu čtenář často ztrácí.

Mít informace neznamená dobře jednat

Podle proslovů, jaké pronášejí šéfové technologických gigantů, byl rozvoj počítačových technologií motivovaný ideály celospolečenského pokroku. Bridle upozorňuje na rozdíly mezi skutečností a „oficiální verzí“ příběhu o informačních technologiích. Jejich rozmach prý byl především důsledkem snahy (hlavně americké během druhé světové války) vojensky dominovat světu. Proto také často probíhal v utajení.

Přesun moci od vlád ke korporacím (které ale s politiky samozřejmě spolupracují) rozhodně nepomohl. Bridle se vysměje vysoce postavenému zaměstnanci Googlu, který před pár lety veřejně tvrdil, že dnes by ke genocidě ve Rwandě nedošlo. Díky technologiím by prý politici i celý svět velmi brzy věděli, že se v zemi děje něco nekalého. Jako by americká i evropské vlády neměly od tajných služeb informace o zabijácké propagandě i násilných incidentech, ještě než zabíjení začalo ve velkém. Jen se je rozhodli nepouštět dál a především – nejednaly.

To je podle Bridla pro počítačovou dobu typické: informace můžou politici i veřejnost získat velmi snadno. Jenže mít informace o něčem nehumánním ještě zdaleka neznamená, že s tím něco budeme nebo vůbec dokážeme dělat. Nehledě na to, že jsme informacemi zahlceni natolik, že už nevíme, která je pravá a na co reagovat dřív.

A na druhou stranu: stejně snadno se dnes šíří pravda i jakékoli informace. Tato snadnost dobře slouží i autoritářským či na rasismu postaveným režimům rozšiřovat skrz sociální sítě cíleně nenávist a legitimizovat a dál vyvolávat masové násilí. Bridle se domnívá, že v autoritářském a netransparentním světě internetu a sociálních sítí mají vždy větší moc válkychtivé vlády než atomizovaní nezávislí aktivisté. To samozřejmě v ódách na technologický pokrok nikdo nezmiňuje.

Jarní Finmag

Finmag předplatnéZdroj: Finmag

Až nám technologie rozvážou ruce. Popularizátorka umělé inteligence Sara Polak o revolučních dobách, ve kterých žijeme.

Dobrou! Téma čísla – spaní. Pavel Jégl zkoumá, jak spali předkové. Lifehacker Tomáš Baránek líčí, jak zkoumá, jak spí on sám. Fyzioložka Zdeňka Bendová o biorytmech a světle.

Učit se, učit se atd. Tematický blok o vzdělávání a kariéře. Česko rekvalifikuje, i když o tom úřady práce, nevědí, píše Jiří Hovorka. Nevyužili jsme historickou šanci zničit maturity, lituje Vojtěch Dobeš. Robert Vlach o údělu celoživotního vzdělávání u volnonožců.

FIN. Ve finanční části magazínu Dominik Stroukal a investeens. Petr Kučera sleduje bankovní novinky. Balík textů o realitách a realitních fondech.


Rezignace na myšlení

Slepá důvěra, že řešení všech zásadních problémů dokáže jednoduše a mechanicky „vypočítat“ kompjútr, vede podle Bridla k tomu, že vypínáme vlastní mozek. Přestáváme používat byť jen základní instinkty a jsme manipulovatelnější. Extrém jsou případy lidí, kteří podle navigace klidně vjedou autem do moře. Jiný příklad jsou piloti, kteří slepě spoléhají na technologie a nedokážou si poradit, když selžou. Přitom dřív by hrozící problém, který systémy nedokážou správně detekovat, uměli najít a vyřešit sami.

„Degenerace“ se projevuje i ve vědě. Mechanické spoléhání na velká kvanta dat a omezené finanční zdroje, soustředěné navíc v rukou malé skupiny lidí, vedou v důsledku podle Bridla k tzv. Eroomovu zákonu. To je jakési obrácení Moorova (Moore → Eroom) zákona o exponenciálním růstu výpočetního výkonu obvodů v elektronice: máme sice mnohem víc dat, ale vynalézání nových léků (zvlášť těch skutečně převratných) přesto nepřichází. Eroomův princip funguje jako metafora skutečnosti, že dnes je většinou nákladnější, složitější a dražší dostat nový lék na trh než v minulosti. To ale ještě neznamená, jak Bridle apokalypticky naznačuje, že pokrok ve vývoji léků bude exponenciálně klesat.

Data k ničemu

Dat je sice čím dál víc, ale těch, která představují prakticky využitelné vědění, prý ve skutečnosti ubývá. Bridle cituje vědce, podle kterých kolaps ekosystémů povede k tomu, že budeme o světě a jeho fungování vědět méně než naši předci. To se týká např. předpovídání počasí, jak krátkodobě, tak i dlouhodobějších trendů, které potřebují ke svému živobytí zemědělci a přeneseně i jejich zákazníci – tedy všichni. Oteplování také způsobuje čím dál víc turbulencí nepředpověditelného typu, což podle Bridla může proti logice neustálého pokroku snížit bezpečnost letecké dopravy. A zhoršující se klima prý obecně ohrožuje „propojenost“ světa, údajně přinese i potíže se mobilním signálem.

Bridle zdůrazňuje, že bující technologické systémy často k problémům přispívají – ať už jde o vysokou spotřebu energie, nebo třeba všudypřítomné sledování – a že většinou slouží spíš ziskovým zájmům svých majitelů než „dobru lidstva“. Bylo by tedy hloupé a neslučitelné s dosavadními zkušenostmi spoléhat, že bez větší změny systému, ve kterém žijeme, výzvy jako globální oteplování vyřeší nějaká další nová technologie.

Programování vás nezachrání

Na složitost dnešního (internetového či počítačového) světa reagují technologičtí magnáti i nadšenci tím, že bychom se zkrátka všichni měli naučit programovat. To je ovšem podle Bridla naprosto naivní a pomýlený názor. Je totiž založený na falešné premise, že pokud dosáhneme určitých schopností, máme všichni jakž takž stejný přístup k datům a technologickým výdobytkům v chaotickém internetovém bazénu. Nemáme.

Fatální dopad nerovnosti v přístupu Bridle popisuje třeba na příkladu dnešních burz. Tam neuspějete díky tomu, že máte největší talent – na finančních operacích se dnes vydělává tak, že vlastníte technologie a draze a pod příslibem mlčenlivosti platíte lidi, kteří jim rozumějí. Ty za vás peníze „ze systému“ dostanou pomocí transakcí odehrávajících se během nanosekund, byť k tomu možná budete ještě muset podplatit pár politiků.

Ať už jde o hromadné sledování, cílené fake news nebo finanční transakce, nelze se v nich nijak zorientovat ani s patřičným základním vzděláním. Zdroje těchto operací jsou utajené, ať už se jedná o personalizovanou politickou reklamu nebo finanční transakce – nevíme, co vyvíjí vláda Spojených států, Číny a dalších států a nevíme, do jaké míry sociální sítě ovlivňují výsledky voleb, jelikož korporace, často spolupracující s vládami, tato data tají.

Heslo Naučte se programovat navíc přehazuje zodpovědnost na jednotlivce: „Technologické systémy by měly být pochopitelné, aniž by se člověk musel vůbec učit programovat, zrovna tak jako jeden nemusí být instalatérem, aby se mohl vykadit nebo žít bez obav, že mu kanalizační systém usiluje o život.“ Měli bychom prý – stejně jako třeba u podmínek bezpečnosti práce, nezávadnosti potravin nebo bezpečnostních standardů aut – bojovat za základní standardy i v oblasti technologií a internetu, abychom nemuseli být neustále na trní, co se nám stane.

Neustálé sledování, jehož míra nám je rovněž utajena, nám prezentovali jako daň za bezpečí. Podle samotných amerických zdrojů ale v boji proti terorismu nepomáhá – zločince pomáhají odhalit především tradiční vyšetřovací metody. Ocitáme se tak v naprosto krutém světě, kde vlády spolu s korporacemi pouze využívají „lidských zdrojů“ ke koncentraci moci na náš úkor.

Radši se v tom nešťourat

V Temných zítřcích je nejvýraznější předpověď, že pád je nevyhnutelný. Budou se líbit každému, kdo se chce velmi důkladně a bez otravných nadějí rochnit v tom, jak je všechno v hajzlu. To může být zároveň i slabinou knížky – Bridle vykreslí blížící se apokalypsu a pak v posledních dvou odstavcích řekne něco o zodpovědnosti a že bychom proti slepé víře v technologie a proti historickým nerovnostem měli bojovat. Neřekne ovšem jak. Téměř každému se ale tváří v tvář takovému zmaru chce spíš zapnout YouTube a koukat na videa s koťátky, dokud to ještě jde. Zkolabuje planeta, zemřeme v chudobě, protože nás nahradí stroje, všude nastane fašismus a přijdeme dokonce i o ten signál.

Velmi dobrá je Bridlova myšlenka, že současný stav světa nemůžeme připisovat pouze „Ruskem placeným hackerům“, „organizovaným alt-right trollům“ či „automatizovaným botům“. Bridle říká, že to všechno je spíš důsledek prostředí, které vždy stálo na netransparentnosti a nerovnosti. Pokud ale tvrdí, že nechce rozbíjet stroje nebo se propadnout do nihilismu, možná by nám měl trošku pomoct, aby se to po čtení jeho knihy nestalo nám.

Autor článku

Karolína Kašparová

Karolína Kašparová

Studuje moderní britskou a americkou literaturu na University College London. S novinařinou začala v roce 2016 v redakci The Student Times, které pak rok vedla jako šéfredaktorka. Snaží se vystupovat ze své názorové komfortní zóny.