Předplatné časopisu
Finmag do schránkyPředplatit časopis

Spíš než zlým robotům se poddáme hloupým toustovačům

Záviš Dobiašovský
Záviš Dobiašovský | 20. 6. 2020 | 3 komentáře | 3 649

Ovládne svět umělá inteligence, která bude mít své vlastní zlé Já? Větší hrozbou než nepovedený superinteligentní experiment, je podle italského filozofa Luciana Floridiho stará dobrá lidská povaha. Budoucí vztahy mezi člověkem a informačními technologiemi patří k otázkám, které nastínil ve své knize Čtvrtá revoluce.

Spíš než zlým robotům se poddáme hloupým toustovačům

Zdroj: Shutterstock

Luciano Floridi patří se svým pohledem na vývoj moderních technologií mezi ty spíše optimistické. Odmítá prvoplánové katastrofické představy a polemizuje i s kritikou starších generací vůči novému světu, v němž se mladí lidé už „rodí online“. „To, co mám na mysli, je spíše klidnější, méně senzační, a přece zásadnější a hlubší změna v našem pojetí toho, co znamená být člověkem,“ vysvětluje Floridi.

Z lidí se stali inforgové, tedy „informační organismy, vzájemně propojené a zapuštěné do informačního prostředí“, takzvané infosféry, o kterou se musíme dělit se stále „vychytralejší“ technologií. Kvůli nezastavitelnému prostupování informačních a komunikačních technologií do našich životů se podle něj nemění pouze svět kolem nás či způsoby, kterými komunikujeme, ale i náš pohled na nás samotné. A na naši výjimečnost.

Luciano Floridi

Luciano Floridi

Foto Francesco Pierantoni, licence CC BY 2.0

Luciano Floridi je profesorem filozofie a etiky informací na Oxfordské univerzitě. Ve výzkumu se primárně zabývá informační a počítačovou etikou. Mezi jeho další zájmy patří epistemologie, filozofie logiky, historie a filozofie skepticismu. Publikoval přes než 200 odborných článků, je překládán do celé řady světových jazyků. Je zakladatelem filozofie informace.

Čtvrtá revoluce: Nejsme zas tak chytří

Floridi navazuje na tři historické revoluce (otřesy) popsané v roce 1917 Sigmundem Freudem, okamžiky, ve kterých muselo lidstvo zcela přehodnotit pohled na svou nedotknutelnou a výjimečnou roli:

1.
Než se objevil vědecký „buřič“ Mikuláš Koperník, lidstvo věřilo, že Země je středobodem vesmíru a vše se takříkajíc točí kolem ní. První revoluce tak odsunula vyvolenou planetu do role pouhé oběžnice, kterou obklopuje širý vesmír.

2.
Lidstvu zůstalo aspoň výsadní postavení „pánů tvorstva“ na planetě Zemi. Do druhé revoluce, kterou odstartoval Charles Darwin s evoluční teorií. Ukázalo se, že jsme se stejně jako každá ještěrka vyvinuli ze svých předků prostřednictvím přirozeného výběru. To bylo pro mnoho lidí natolik nepříjemné, říká Floridi, že to někteří (především z náboženských důvodů) odmítají dodnes.

3.
Pořád tu ale ještě byla myšlenka, že člověk je svým vlastním pánem a vládcem. „Myslím, tedy jsem,“ cituje Floridi slavnou větu Reného Descarta, která má doložit, jak člověk věřil ve svou schopnost svrchovaně kontrolovat své myšlení a konání. V čele třetí revoluce tak je sám Freud, který popsal řadu jevů, které naše jednání posouvají poněkud mimo hranice naší kontroly.

K této trojici přidává Floridi revoluci čtvrtou, kterou prý právě na vlastní kůži zažíváme.

Institut komunikačních studií a žurnalistiky

Logo IKSŽ FSV UKZdroj: IKSŽ FSV UK

Článek je součástí série textů, které ve spolupráci s Finmagem připravili studenti Institutu komunikačních studií a žurnalistiky Fakulty sociálních věd Univerzity Karlovy v rámci kurzu Zpravodajství umělé inteligence. Aktuální dění na institutu a další studentské práce můžete sledovat na Facebooku nebo Instagramu.

Zatím vyšlo

Roboti a žurnalistika
Rozhovor Anny Mikolandové a Barbory Součkové s Václavem Moravcem

... a robot zábavně odpoví
Rozhovor Alžběty Holcové s programátorem chatbotů Janem Pichlem

Čas terminátorů
Umělá inteligence a smrtící zbraně v analýze Lukáše Skládala

Proti deepfake videu umělou inteligencí
Rozhovor Martiny Arltové o tom, proč nevěřit vlastním očím

Lidstvu po předchozích ztrátách zůstala poslední útěcha. Nebyl tu nikdo, kdo by se mu vyrovnal mimořádnou schopností myšlení. S nástupem moderní počítačové vědy prý přichází čtvrté pokoření lidstva. A to je právě ten důvod, proč se nás nástup umělé inteligence dotýká osobněji a niterněji, než by se mohlo zdát.

Stroje se nestaly inteligentními ve smyslu intelektu lidského, začaly ale dosavadní držitele privilegia na řešení problémů v mnoha ohledech překonávat. „[Informační a komunikační technologie] poskytovaly bezprecedentní vědecké vhledy do přírodních i umělých skutečností, stejně jako technické síly pro jejich ovládnutí. […] Stejně jako předchozí tři revoluce odstranila čtvrtá revoluce některé mylné představy o naší jedinečnosti a rovněž poskytla pojmové prostředky k revizi našeho sebeporozumění,“ uzavírá Floridi.

Informační technologie jako umíněná a pracovitá manželka

Představu o inteligenci informačních technologií a o vědomé umělé inteligenci, která by byla schopna myšlení v lidském měřítku, Floridi krotí vlastní zkušeností porotce při udělování Loebnerovy ceny v roce 2008.

V soutěži, která probíhá každoročně od roku 1990, se vývojáři poměřují, kdo vytvoří program, jehož reakce se budou víc podobat lidským. K hodnocení se používá takzvaný Turingův test: porotce simultánně konverzuje se strojem a člověkem a na základě jejich odpovědí má poznat, kdo je kdo. Floridimu stačilo k odhalení prvních pár vět. Mimochodem nejúspěšnější chatbot z posledních pěti ročníků Loebnerovy ceny jménem Mitsuku, si lze vyzkoušet online. Pokrok ve schopnostech Mitsuku pamětníky prvních chatbotů možná zprvu ohromí, ovšem po velmi krátké konverzaci doznají, že se zase tolik nezměnilo.

Mitsuku si povídá
Zdroj: Mtsuku

Ukázka konverzace s chatbotem Mitsuku

Umělé výrobky umějí být chytré, aniž by byly inteligentní. Tak Floridi popisuje většinu umělé inteligence, která nás obklopuje, tedy té, která v podstatě reprodukuje lidské chování (jako algoritmus, který vás dokáže porazit v šachu). Zatímco se snažíme neúspěšně vytvořit umělou inteligenci podobnou té lidské (silná), píše Floridi, začali jsme přizpůsobovat svět tak, aby v něm dobře prospívala ta „hloupější“ (lehká).

Mezi příklady, kdy se lidské chování začalo uzpůsobovat tomu, aby bylo srozumitelnější pro „hloupější“ ICT, uvádí Floridi kupříkladu popularitu sestavování internetových žebříčků na základě hodnocení uživatelů, používání tagů, snahu o co největší počet lidí „online“, a to nejlépe na víc zařízeních, víc internetových nástrojů, shromažďování čím dál většího množství dat apod.

Riziko s tím spojené vysvětluje na parodickém příkladu manželského páru. Zatímco manželka „doma dělá stále více práce, je neoblomná, umíněná, netoleruje chyby druhých a nemá ráda změnu“, manžel je pravým opakem, který je „čím dál víc líný a závislý“ na manželce. Výsledkem je situace, v níž manželka „nakonec tvaruje celý vztah a deformuje tak chování“ manžela, pokud ne úmyslně, pak přinejmenším prakticky, píše Floridi. „[…] lehká umělá inteligence je hloupá, ale pracovitá manželka, zatímco lidstvo je inteligentní, ale líný manžel, takže kdo se komu bude přizpůsobovat, jestliže rozvod nepřichází v úvahu?“ ptá se Floridi.

FINMAG NA PRÁZDNINY!

Finmag červen 2021Zdroj: Finmag

Na internetu naletíš hned, říká Mikýř. Jakub Jetmar se ptá, jak je Martinu Mikyskovi v dresu strážce webové morálky, který drtí internetové pokrytce i prodejce hrnců

Start me up! Pavel Jégl zkoumá, jak chystáme půdu startupům • Michal Hron s Andrejem Kiskou ml. na lovu jednorožce • Martin Vlnas se ptá šéfa CzechInvestu, co má pro startupery • Jak se stal z Izraelců startup nation?

Drogy vyhrály. Před 50 lety Richard Nixon vyhlásil válku drogám. Prohrály USA, prohrály země, které do vojny zatáhly. Ale zas to stálo hodně peněz

FIN. Bitcoin drž, utrácej špatné peníze. Dominik Stroukal představuje kryptomilionáře z chatrče • Josef Tětek ví, že bitcoin není bio. Ale zelená, neb se to vyplatí • Rádce Petra Kučery, šéfa Peníze.cz

Onlife

Generace narozená po roce 2000 už se narodila do světa, který byl bezdrátový. Spolu s nimi (anebo dokonce už chvíli před nimi) se zrodil svět „googlu“, sociálních sítí a wikipedie, už v roce 2006 si spolu boty Nike a iPod „povídaly“, udává příklady Floridi. „Řečeno dramaticky, generace Z si možná ani život vně infosféry nedovede představit, protože infosféra postupně absorbuje veškerou realitu. Generace Z se narodila online,“ píše Floridi.

Čím dál tím víc lidí tráví čím dál tím víc času „vysíláním sama sebe“. Skrze sociální sítě a interakci na internetu si tak (nejen) tato generace dotváří svou osobní identitu, své „společenské Já“. Floridi je popisuje jako generaci, která „v neustálém přívalu facebookuje, tweetuje a skypuje své subjektivní názory a osobní záliby, své detaily ze soukromého života, a dokonce i své intimní zkušenosti“.

Floridi pak polemizuje s kritikou, že tato „facebooková generace“ ztratila kontakt s realitou, žije ve virtuálních bublinách a nedokáže se nadchnout pro nic autentického. „Co považujeme za přirozené, je často výsledkem jen méně viditelné lidské manipulace,“ odmítá kritiku Floridi. „[…] sociální sítě také představují dosud nevídanou příležitost, jak být více zodpovědnými za naše společenská Já, jak si pružněji vybírat, kdo jsou ti ostatní lidé, jejichž myšlenky a náš kontakt s nimi […] utváří naši společenskou osobnost,“ dodává.

Informační technologie modifikují náš svět a „podporují informační interpretaci každého aspektu našeho světa a našeho života v něm“, píše Floridi. Digitální svět (online) se podle něj „přelévá“ do toho analogového (offline) a postupně s ním splývá. „Je to, nebo to brzy bude nové stadium ve vývoji informačního věku,“ dodává Floridi a označuje tento „nový způsob žití“ jako onlife.

Čtvrtá revoluceRepro obálky Karolinum

Kniha Čtvrtá revoluce. Jak infosféra mění tvář lidské reality (v originále The Fourth Revolution: How the Infosphere is Reshaping Human Reality) vyšla poprvé v roce 2014 v nakladatelství Oxford University Press. Jejím autorem je renomovaný filozof, zakladatel filozofie informace, Luciano Floridi. V roce 2019 ji v českém překladu vydalo nakladatelství Karolinum s doslovem Josefa Šlerky. Překlad Čestmír Pelikán. 274 stran, 320 Kč (cena u nakladatele).

Jak přežít revoluci

Čtvrtá revoluce není zrovna lehkým, populárně-naučným čtením, přesto se snaží být knihou pro neodborníky, která může sloužit jako uvedení do problematiky filozofie informace. Čtenáře může v řadě témat překvapit a poskytnout mu racionálnější vhled do světa opředeného řadou mýtů i opomíjených skutečností. Přece jenom ale jde o knihu filozofickou, čtenář tedy musí počítat s tím, že i přes snahu podat množství praktických příkladů a vysvětlení, jazyk knihy tomu v některých ohledech odpovídá.

Možná ale není od věci trochu se potrápit a pokusit se tenhle jazyk osvojit. Pokud totiž vezmeme za své, že kolem nás zuří revoluce, nasnadě je samozřejmě otázka, co dělat, aby nás nestrhla a nesemlela. Zásadní výbavou pro život v novém světě bude podle Floridiho vzdělání. Důraz klade právě na jazyky, které ale chápe podstatně šířeji než řeči a řadí mezi ně i jiné znakové systémy, „matematiku, programování, hudbu, grafiku a všechny ty přirozené i umělé jazyky“, které jsou potřeba ke kritickému porozumění dostupným informacím i schopnosti nové informace vytvářet, navrhovat a sdílet.

FINMAG NA PRÁZDNINY!

Finmag červen 2021Zdroj: Finmag

Na internetu naletíš hned, říká Mikýř. Jakub Jetmar se ptá, jak je Martinu Mikyskovi v dresu strážce webové morálky, který drtí internetové pokrytce i prodejce hrnců

Start me up! Pavel Jégl zkoumá, jak chystáme půdu startupům • Michal Hron s Andrejem Kiskou ml. na lovu jednorožce • Martin Vlnas se ptá šéfa CzechInvestu, co má pro startupery • Jak se stal z Izraelců startup nation?

Drogy vyhrály. Před 50 lety Richard Nixon vyhlásil válku drogám. Prohrály USA, prohrály země, které do vojny zatáhly. Ale zas to stálo hodně peněz

FIN. Bitcoin drž, utrácej špatné peníze. Dominik Stroukal představuje kryptomilionáře z chatrče • Josef Tětek ví, že bitcoin není bio. Ale zelená, neb se to vyplatí • Rádce Petra Kučery, šéfa Peníze.cz

Autor článku

Záviš Dobiašovský

Záviš Dobiašovský

Studuje žurnalistiku na Fakultě sociálních věd Univerzity Karlovy.