Digitální technologie proměnily způsob naší komunikace, dojíždění, nakupování, učení a zábavy. Technologie jako umělá inteligence, velká data a internet věcí by už brzy mohly proměnit zdravotní péči, energetiku, dopravu, zemědělství, veřejný sektor, přírodní prostředí, ba dokonce naše myšlení a těla.
Ve jménu pokroku
Využití vědy při řešení sociálních problémů přinášelo v minulosti obrovské dividendy. Lékařské a technické inovace nám výrazně zpříjemňovaly a prodlužovaly život dávno před vynálezem křemíkového čipu. Síla vědy a zápal pro vylepšování podmínek, ve kterých lidstvo žije, ale přineslo – jak nás učí historie – i bezpočet pohrom.
Obrovsky se kupříkladu vymstily snahy využít vědu a technologie ke zvýšení zemědělských výnosů v rámci kolektivizace v Sovětském svazu či Tanzanii. Známe taky případy měst, která téměř zničily úmysly přetvořit je pomocí moderního územního plánování. Politolog James Scott takové snahy transformovat pomocí vědy životy druhých nazval „vrcholným modernismem“.
Vrcholný modernismus, ideologie stejně nebezpečná jako dogmaticky sebejistá, odmítá připustit, že leccos ze zvyků a chování lidí má svoji vlastní logiku, uzpůsobenou složitému prostředí, v němž se rozvíjely. Když se vrcholní modernisté snaží tyto zvyky a chování potlačit a nahradit vědečtějším a racionálnějším přístupem, skoro vždycky selžou.
Historicky záměry vrcholného modernismu nejvíc škodily v rukou autoritářského státu, který usiloval o transformaci vyčerpané, slabé společnosti. V případě sovětské kolektivizace vycházelo autoritářství státu z „vedoucí úlohy“, kterou si sama přisoudila tamější komunistická strana. Ta svoje plány prosazovala v prostředí, kde naprosto chyběly instituce, které by jim mohly účinně vzdorovat nebo chránit rolníky, které změny drtily.
FINMAG V NOVÉM DESIGNU JE TADY. CO SE V NĚM DOČTETE?
Zdroj: FinmagUMĚNÍ JE BYZNYS • „Toho Picassa jsem neměl prodávat,“ říká Patrik Šimon, majitel 20 tisíc artefaktů • Proč jde cena uměleckých děl nahoru? Jaké padají rekordy v aukcích • Dokáže AI malovat jako Monet nebo Mucha?
BYZNYS JE UMĚNÍ • Mléko jako od babičky vyrábí Radim Hrůza z Vysočiny • Pivní sen, ze kterého se zatím neprobudila spolumajitelka Rodinného pivovaru Švihov Anna van der Weerden
STYL JE HRA • Dům architekta Petra Stolína jako způsob poznání • Cestovní kancelář Ježíš Kristus funguje úspěšně už stovky let • Elegie za spalovací motor
HRY, SNY, RADOSTI • „Čekala jsem to horší,“ říká třetí Češka, která vystoupala na Mount Everest • Dunajská delta je zase planetou ptáků • Proč si Martin Vajda, spolumajitel vinařství Sonberk, čte knihy feministek?
Nevíra v člověka
Autoritářství ovšem není výhradní doménou států. Může se objevit kdykoli, kdy si někdo uzurpuje právo rozhodovat o jiných na základě toho, že má k dispozici nějaké „nadřazené“ znalosti či schopnosti. Vezměme si současné snahy korporací, podnikatelů a dalších, kteří chtějí zlepšit náš svět prostřednictvím digitálních technologií. Nedávné inovace nesmírně zvýšily produktivitu ve výrobě, zlepšily komunikace a obohatily životy miliard lidí. Snadno by se ale mohly proměnit v další fiasko vrcholného modernismu.
Hraniční technologie jako umělá inteligence, velká data a internet věcí se často prezentují jako všelék k optimalizaci práce, rekreace, komunikace i zdravotní péče. V pozadí je představa, že od obyčejných lidí a ze způsobů adaptace, které si v různých společenských souvislostech vyvinuli, se nelze mnoho naučit.
Problém tkví v tom, že bezpodmínečná víra, že „umělá inteligence dokáže všechno lépe“, abychom si vzali jeden příklad, vytváří mocenskou nerovnováhu mezi těmi, kdo technologie umělé inteligence vyvíjejí, a těmi, jejichž životy jimi budou transformovány. Ti druzí v zásadě nemůžou mluvit do toho, jak tyto aplikace budou konstruovány a nasazeny.
Trh není garance
Dokonalým příkladem toho, co se může stát, když se zavedou uniformní pravidla bez ohledu na sociální kontext a zažité způsoby chování, jsou problémy, které dnes sužují sociální média. Bohaté a pestré vzorce komunikace, které se vyskytují offline, byly na platformách jako Facebook a Twitter nahrazeny typizovanými a zúženými způsoby komunikace podle předem načrtnutých scénářů. Vyhlazeny jsou nuance přítomné v komunikaci tváří v tvář a ve zpravodajství důvěryhodných poskytovatelů. Ze snah „propojit svět“ pomocí technologie se zrodil močál propagandy, dezinformací, nenávistných projevů a šikany.
Toto charakteristicky vrcholně modernistické směřování ale není předurčené. Namísto ignorování společenských souvislostí by se ti, kdo vyvíjejí nové technologie, mohli opravdu poučit ze zkušeností a obav skutečných lidí. Samotné technologie nemusí být přezíravé, ale adaptivní, navržené tak, aby společnost neumlčovaly, nýbrž rozšiřovaly její možnosti.
Nové technologie budou tímto směrem patrně tlačit dvě síly. První je trh, který může působit jako bariéra proti pomýleným systémům přicházejícím shora. Když se sovětští plánovači rozhodli kolektivizovat zemědělství, ukrajinský venkov s tím mnoho nenadělal. Následoval hladomor. S dnešními digitálními technologiemi je to jinak, jejich úspěch bude záviset na rozhodnutích miliard spotřebitelů a milionů podniků po celém světě (snad s výjimkou Číny).
Síla této tržní zábrany by se ovšem neměla přeceňovat. Není zaručeno, že si trh vybere vhodné technologie ke všeobecnému zavedení ani že si neosvojí negativní účinky některých nových aplikací. Skutečnost, že Facebook existuje a informace o 2,5 miliardy svých aktivních uživatelů shromažďuje v tržním prostředí, neznamená, že můžeme důvěřovat tomu, jak tato data využije. Trh rozhodně není garancí, že obchodní model Facebooku ani technologie, o něž se opírá, nebudou mít nepředvídané důsledky.
Máme hlas
Aby tržní mantinel fungoval, musí se opírat o druhou, účinnější brzdu: demokratickou politiku. Každý stát má náležitou úlohu při regulaci hospodářských činností a používání a šíření nových technologií. Demokratická politika je často motorem poptávky po takové regulaci. Je též nejlepší obranou proti strategiím uchvácení státu firmami, vyhledávajícími renty, které se na trhu pokoušejí zvýšit svůj podíl nebo zisk.
Demokracie je také nejlepší mechanismus k tomu, aby se objevovaly a zveřejňovaly rozmanité názorů, případně organizoval odpor proti nákladným či nebezpečným vrcholně modernistickým plánům. Veřejným vyjádřením stanoviska můžeme zpomalit, nebo dokonce odvrátit nejzhoubnější uplatnění sledování, dohledu a digitální manipulace. Právě demokratický hlas scházel lidem, kteří se potýkali s kolektivizačními plány na ukrajinském a tanzanském venkově.
Abychom velkým technologickým firmám zabránili v uskutečnění vrcholně modernistické noční můry, nepostačí ale pravidelné volby. Jelikož nové technologie dokážou potlačovat svobodu projevu a politické kompromisy a prohlubovat koncentraci moci ve veřejné správě a soukromém sektoru, mají schopnost mařit fungování samotné demokratické politiky a tím vytvářet bludný kruh. Pokud si technologický svět zvolí vrcholně modernistické směřování, může nakonec narušit naši jedinou spolehlivou obranu proti jeho domýšlivosti: demokratický dohled nad tím, jak jsou nové technologie vyvíjeny a uváděny do praxe. My jako spotřebitelé, pracující a občané bychom si tuto hrozbu měli tím víc uvědomovat, neboť právě jen my ji můžeme zastavit.
Z angličtiny pro Finmag přeložil David Daduč Copyright: Project Syndicate, 2019
