Víme, co potřebuješ. Líp než ty

Digitální technologie proměnily způsob naší komunikace, dojíždění, nakupování, učení a zábavy. Technologie jako umělá inteligence, velká data a internet věcí by už brzy mohly proměnit zdravotní péči, energetiku, dopravu, zemědělství, veřejný sektor, přírodní prostředí, ba dokonce naše myšlení a těla.

Ve jménu pokroku

Využití vědy při řešení sociálních problémů přinášelo v minulosti obrovské dividendy. Lékařské a technické inovace nám výrazně zpříjemňovaly a prodlužovaly život dávno před vynálezem křemíkového čipu. Síla vědy a zápal pro vylepšování podmínek, ve kterých lidstvo žije, ale přineslo – jak nás učí historie – i bezpočet pohrom.

Obrovsky se kupříkladu vymstily snahy využít vědu a technologie ke zvýšení zemědělských výnosů v rámci kolektivizace v Sovětském svazu či Tanzanii. Známe taky případy měst, která téměř zničily úmysly přetvořit je pomocí moderního územního plánování. Politolog James Scott takové snahy transformovat pomocí vědy životy druhých nazval „vrcholným modernismem“.

Vrcholný modernismus, ideologie stejně nebezpečná jako dogmaticky sebejistá, odmítá připustit, že leccos ze zvyků a chování lidí má svoji vlastní logiku, uzpůsobenou složitému prostředí, v němž se rozvíjely. Když se vrcholní modernisté snaží tyto zvyky a chování potlačit a nahradit vědečtějším a racionálnějším přístupem, skoro vždycky selžou.

Historicky záměry vrcholného modernismu nejvíc škodily v rukou autoritářského státu, který usiloval o transformaci vyčerpané, slabé společnosti. V případě sovětské kolektivizace vycházelo autoritářství státu z „vedoucí úlohy“, kterou si sama přisoudila tamější komunistická strana. Ta svoje plány prosazovala v prostředí, kde naprosto chyběly instituce, které by jim mohly účinně vzdorovat nebo chránit rolníky, které změny drtily.

Jak jde dohromady byznys a medicína? Dočtete se v novém Finmagu

Zdroj: Finmag

MEDICÍNA A BYZNYS

Jak venkovští praktici nepřicházejí o iluze • Ženy mění medicínu • Nejstarší pražská nemocnice objektivem Alžběty Jungrové • Nejdražší léky na světě • Obézních přibývá, Česko dohání USA.

BYZNYS JE HRA

„Investice do umění se do tabulek nevtěsná,“ říká Pavlína Pudil z Kunsthalle • Nejdražší materiál roku 2023? Hrst štěrku z vesmíru za miliardu dolarů • Ekologie musí být podle Tomáš Nemravy, výrobce dřevěných domů, ekonomická.

---

Koupit Finmag

Nevíra v člověka

Autoritářství ovšem není výhradní doménou států. Může se objevit kdykoli, kdy si někdo uzurpuje právo rozhodovat o jiných na základě toho, že má k dispozici nějaké „nadřazené“ znalosti či schopnosti. Vezměme si současné snahy korporací, podnikatelů a dalších, kteří chtějí zlepšit náš svět prostřednictvím digitálních technologií. Nedávné inovace nesmírně zvýšily produktivitu ve výrobě, zlepšily komunikace a obohatily životy miliard lidí. Snadno by se ale mohly proměnit v další fiasko vrcholného modernismu.

Hraniční technologie jako umělá inteligence, velká data a internet věcí se často prezentují jako všelék k optimalizaci práce, rekreace, komunikace i zdravotní péče. V pozadí je představa, že od obyčejných lidí a ze způsobů adaptace, které si v různých společenských souvislostech vyvinuli, se nelze mnoho naučit.

Problém tkví v tom, že bezpodmínečná víra, že „umělá inteligence dokáže všechno lépe“, abychom si vzali jeden příklad, vytváří mocenskou nerovnováhu mezi těmi, kdo technologie umělé inteligence vyvíjejí, a těmi, jejichž životy jimi budou transformovány. Ti druzí v zásadě nemůžou mluvit do toho, jak tyto aplikace budou konstruovány a nasazeny.

Trh není garance

Dokonalým příkladem toho, co se může stát, když se zavedou uniformní pravidla bez ohledu na sociální kontext a zažité způsoby chování, jsou problémy, které dnes sužují sociální média. Bohaté a pestré vzorce komunikace, které se vyskytují offline, byly na platformách jako Facebook a Twitter nahrazeny typizovanými a zúženými způsoby komunikace podle předem načrtnutých scénářů. Vyhlazeny jsou nuance přítomné v komunikaci tváří v tvář a ve zpravodajství důvěryhodných poskytovatelů. Ze snah „propojit svět“ pomocí technologie se zrodil močál propagandy, dezinformací, nenávistných projevů a šikany.

Toto charakteristicky vrcholně modernistické směřování ale není předurčené. Namísto ignorování společenských souvislostí by se ti, kdo vyvíjejí nové technologie, mohli opravdu poučit ze zkušeností a obav skutečných lidí. Samotné technologie nemusí být přezíravé, ale adaptivní, navržené tak, aby společnost neumlčovaly, nýbrž rozšiřovaly její možnosti.

Nové technologie budou tímto směrem patrně tlačit dvě síly. První je trh, který může působit jako bariéra proti pomýleným systémům přicházejícím shora. Když se sovětští plánovači rozhodli kolektivizovat zemědělství, ukrajinský venkov s tím mnoho nenadělal. Následoval hladomor. S dnešními digitálními technologiemi je to jinak, jejich úspěch bude záviset na rozhodnutích miliard spotřebitelů a milionů podniků po celém světě (snad s výjimkou Číny).

Síla této tržní zábrany by se ovšem neměla přeceňovat. Není zaručeno, že si trh vybere vhodné technologie ke všeobecnému zavedení ani že si neosvojí negativní účinky některých nových aplikací. Skutečnost, že Facebook existuje a informace o 2,5 miliardy svých aktivních uživatelů shromažďuje v tržním prostředí, neznamená, že můžeme důvěřovat tomu, jak tato data využije. Trh rozhodně není garancí, že obchodní model Facebooku ani technologie, o něž se opírá, nebudou mít nepředvídané důsledky.

Máme hlas

Aby tržní mantinel fungoval, musí se opírat o druhou, účinnější brzdu: demokratickou politiku. Každý stát má náležitou úlohu při regulaci hospodářských činností a používání a šíření nových technologií. Demokratická politika je často motorem poptávky po takové regulaci. Je též nejlepší obranou proti strategiím uchvácení státu firmami, vyhledávajícími renty, které se na trhu pokoušejí zvýšit svůj podíl nebo zisk.

Demokracie je také nejlepší mechanismus k tomu, aby se objevovaly a zveřejňovaly rozmanité názorů, případně organizoval odpor proti nákladným či nebezpečným vrcholně modernistickým plánům. Veřejným vyjádřením stanoviska můžeme zpomalit, nebo dokonce odvrátit nejzhoubnější uplatnění sledování, dohledu a digitální manipulace. Právě demokratický hlas scházel lidem, kteří se potýkali s kolektivizačními plány na ukrajinském a tanzanském venkově.

Abychom velkým technologickým firmám zabránili v uskutečnění vrcholně modernistické noční můry, nepostačí ale pravidelné volby. Jelikož nové technologie dokážou potlačovat svobodu projevu a politické kompromisy a prohlubovat koncentraci moci ve veřejné správě a soukromém sektoru, mají schopnost mařit fungování samotné demokratické politiky a tím vytvářet bludný kruh. Pokud si technologický svět zvolí vrcholně modernistické směřování, může nakonec narušit naši jedinou spolehlivou obranu proti jeho domýšlivosti: demokratický dohled nad tím, jak jsou nové technologie vyvíjeny a uváděny do praxe. My jako spotřebitelé, pracující a občané bychom si tuto hrozbu měli tím víc uvědomovat, neboť právě jen my ji můžeme zastavit.

Z angličtiny pro Finmag přeložil David Daduč Copyright: Project Syndicate, 2019