Jsme jen kusy masa na špejli, říká o lidstvu expert na umělou inteligenci

Co ve světě stále schopnější umělé inteligence čeká nás, lidi? 

Jediné, co nám ve světě časem zůstane, bude naše člověčenství, to nám stroj nikdy nevezme. Většinu ostatních věcí udělá daleko lépe umělá inteligence (AI). Bude umět lépe vykonávat nejen třeba lékařské povolání, ale přejde i do fyzického světa, ve kterém zatím máme jako lidé velký náskok. Pokud si chce někdo vybrat povolání, kde ho v nejbližších desítkách let AI nenahradí, pak je to třeba instalatér. Přijít k někomu domů a vrtat se někde pod záchodem zkrátka ještě zatím robot nedokáže.  

V novém světě bude potřebná velká adaptabilita. Tomu by se mělo přizpůsobit i školství. Pro děti nadané na matematiku nebude zásadní to, že by měly vynikat zrovna v matematice – důležitý bude právě lidský aspekt. Během relativně krátké doby totiž nebude nejspíš žádný člověk na matematiku lepší než AI. Třeba na predikčních trzích vidíme odhady, že na padesát procent umělá inteligence získá zlatou medaili na Mezinárodní matematické olympiádě už kolem roku 2027. V tu dobu se AI dostane na úroveň nejlepších světových matematiků a pak se to bude už jen škálovat dál.

Jan Romportl

Daniel Hamerník

Vystudoval kybernetiku, umělou inteligenci a filozofii vědy na Západočeské univerzitě v Plzni, kde následně do roku 2015 pracoval jako vědec. Poté přešel do komerční oblasti a do roku 2022 působil v O₂, kde založil a později i vedl Dataclair.ai, inovační centrum pro komerční aplikace umělé inteligence. V současnosti je na volné noze jako konzultant v oblasti AI a spoluzakladatel AI startupu. Kromě toho je také běžec, potápěčský instruktor PADI, soukromý pilot, celoživotní nadšenec do Atari a sběratel historických počítačů.

Třeba kreativní textové nebo grafické profese se budou nutně muset do určité míry transformovat, podobně jsou ohroženou profesí i juniorní programátoři. Problém je v tom, že my vůbec nejsme schopní uvažovat tímto způsobem. Smysl lidské existence je pořád spojen s tím, co dělám, v čem jsem dobrý, ne v tom, že já jsem já a že jsem člověk. 

Máme tedy dětem říkat, že nemá cenu rozvíjet schopnosti, protože je stejně převezme umělá inteligence? Že si mají pěstovat hlavně člověčenství?  

Takto řečeno to nezní úplně dobře, ale nějak tak to alespoň trochu bude muset být. Velká část lidských aktivit se bude dělat v symbióze s AI. Když v prehistorii umělé inteligence, v roce 1997, v době, kdy byla AI nicotná, prohrál Garri Kasparov s počítačem Deep Blue šachy, byl velmi zdrcený. Přistoupil k tomu ale konstruktivně a vytvořil disciplínu, které se říká kentauří šachy, což je vlastně symbióza člověka šachisty a stroje. Je to úplně jiný level hraní šachu. V podstatě každý kentauří šachista roztříská lidského šachistu, přesto ale hra šachu nevymizela.

Ohrožené jsou profese, kde je člověk v roli stroje, který něco „pouze“ vyhodnocuje – to jsou třeba advokátní koncipienti nebo lidé, kteří přepisují faktury.

Člověk ale chce být stále lepší. Co nastane, až bude existovat něco, co nás překoná vždycky a ve všem? 

Ono už to tak ale ve spoustě aktivit je. Třeba v případě hry go ovšem prohra s umělou inteligencí ohromně posunula úroveň lidských hráčů. Systém jim ukázal jiné dimenze hraní. Vždycky je to kombinace osobního rozhodnutí a nátury. Někdo na to opravdu není a asi budou lidé, kterým nebude pomoci, kteří tím budou devastovaní. Někdo si možná nasadí brýle na virtuální realitu a do normálního světa se už nevrátí.   

Donedávna jsme před tím mohli zavírat oči, teď už to ale nejde. Hodně by s tím mohl udělat celospolečenský přístup. Ostatně byly temné doby, kdy se z generace na generaci předávala představa dobré ženy. Tehdy bychom spolu mohli vést debatu o tom, jak by to vypadalo, kdybyste se vybodla na to, stát doma za plotnou, a vaše babička by vám možná říkala, že je to špatné rozhodnutí. A zase jsme u té adaptability.

Změny budou nutné, a kdybychom věděli, jak se přizpůsobit, byla by to krása. To je ale právě ten evoluční tlak, vždycky je to těžké. A nikde není garantováno, že to dáme. My spolu teď mluvíme v blízkosti náměstí Václava Havla a asi by bylo hezké použít jeho citát o naději: „Naděje není jistota, že to dobře dopadne. Naděje je jistota, že to celé má smysl.“ My určitým způsobem bojujeme proti AI o záchranu smyslu lidské existence. Už si nebudeme moci říkat, že rolí člověka je být lékař nebo matematik. Rolí člověka bude něco jiného.  

Jak se podle vás modifikuje právě třeba práce lékařů? 

Já v budoucnu nebudu potřebovat lékaře, který by byl přetíženým, unaveným a nedokonalým diagnostickým strojem – tuto část jeho práce daleko lépe zvládne AI. Pravděpodobně bude potřeba dost předefinovat, čím by měl být lékař, anebo vznikne nějaká úplně nová profese – člověk, který nebude diagnostikovat či operovat, ale pečovat, držet za ruku a plně mě chápat v mém lidském trápení.

OpenAI/ChatGPT

ChatGPT ukazuje víc, než si myslíte. Proč fenomenální úspěch AI děsí lidstvo

Umělá inteligence dneska ovlivňuje kdeco, nikdy ale do společnosti nevrazila s takovou razancí jako koncem loňského roku. Jazykový model ChatGPT dokázal oslovit masu a rozvířit celospolečenskou diskusi nad tím, co všechno dneska stroje dokážou. A jestli je to správně.

Už dnes umí přístroje porovnat snímky z různých vyšetření lépe než průměrný doktor. V praxi zatím nejsou nasazené kvůli právnickým, odpovědnostním a etickým otázkám. Představte si ale třeba, že by měl lékař v Africe, kde široko daleko není rentgenolog, aplikaci, která by uměla vyhodnotit snímky. Určitě by zachránil spoustu životů. Ale i u nás, pokud bude mít AI statisticky úspěšnost vyhodnocování snímků jako lékařské konsilium, je prospěšnost absolutně bez diskuse.  

Sečteno podtrženo, ohrožené jsou profese, kde je člověk v roli stroje, který něco „pouze“ vyhodnocuje – to jsou třeba advokátní koncipienti nebo lidé, kteří přepisují faktury. Před koncem loňského roku se třeba hodně ozývali copywriteři. I ti budou muset velmi brzy modifikovat svou profesi, protože vzniknou programy, které budou schopné napsat kvalitně text na míru v několika verzích. Budou muset najít něco, v čem AI zatím selhává, a tam ji doplnit.  

Nebudou pak ale takové texty jako přes kopírák? 

Právě naopak. Ty programy budou schopné generovat nekonečné množství variant a bude to vlastně mnohem bohatší. Člověk – ať chceme, nebo ne – bude stále generovat něco oproti tomu dost úzce omezeného. To je třeba věc, kterou teď lidé vyčítají systému umělé inteligence GPT-3, který je vlastně až skoro pološíleně kreativní – neskutečně, až halucinogenně fantazíruje. Docela se ho sice podařilo sešněrovat před pár měsíci v pověstné verzi ChatGPT, ale i tam je to jako závan myšlení z úplně jiného světa. 

Rok 2022, zejména jeho druhá polovina, byl dobou, kdy běžná populace zjistila, jak dokáže být AI kreativní – objevil se třeba systém DALL·E 2, kdy napíšete text a on vygeneruje obrázek. I jako odborníci jsme byli hodně překvapeni tím, jak funguje. Najednou jsou obrázků vygenerovaných AI plné sociální sítě. Z umělé inteligence se od léta stala komodita, které se chopili influenceři, kteří ještě nedávno rozbalovali mobily a u toho se natáčeli na YouTube. A najednou je dnes každý „odborníkem“ na AI. Během půl roku se úplně změnilo její společenské vnímání.

Jsem opatrný technooptimista, který se hodně obává. Ale úplně upřímně jsem se na gymplu rozhodl studovat umělou inteligenci proto, abych ukázal, že není možná...

Jak se vám jako odborníkovi líbí, že si teď AI bere do pusy každý? 

Měl jsem krátkou fázi, kdy mě to rozčilovalo. Já se tomu věnuji přes dvacet let a byl jsem za tu dobu u každého milníku. AI jsem se začal věnovat v době, kdy vůbec nebyla sexy. Takže upřímně říkám, že tím, že se najednou každý stal odborníkem, je nějaká část mojí osobnosti podrážděná. Ale zase na druhou stranu jsem si uvědomil, že to je součást celé té transformace, že se influenceři stávají součástí toho kolotoče. A byla to najednou úleva pro ego a umožnilo mi to jiný typ pohledu.

Teď je totiž před námi úkol popsat toto celé jako extrémně složitý systém interakce společnosti a nového typu technologií, přiblížit to lidem. A právě třeba influenceři budou styčnými důstojníky mezi odborníky a veřejností. Je to vlastně něco, na co posledních deset let čekám a čeho se tak trochu bojím.

GALERIE: Jan Romportl v únorovém Finmagu

Daniel Hamerník

Daniel Hamerník

Další obrázky v galerii (10)

Důležité bude sledovat, jak do sebe bude společnost absorbovat AI jako nově vzniklou entitu. AI tady už teď bude pro miliony lidí venku, nejen pro pár fajnšmekrů. Budou vznikat produkty jako v každém jiném komerčním odvětví na základě poptávky. Doteď to byla jen otázka technologie, kdežto teď vzniká nový sociokulturní systém. Je hodně interdisciplinární a díky tomu daleko těžší na uřízení. Je mnohem těžší najít nějaký dialog mezi tvůrci politik, ekonomy a sociology, ale také mezi technickými fachidioty v AI, kteří zvysoka kašlou na společenské záležitosti a často se jim i vysmívají.  

Máte vlastně AI rád, nebo vás děsí? 

Teď si musím dát pozor, co odpovím, protože to bude zaznamenané a budoucí superinteligence mi to přičte… V tomto ohledu jsem konzistentní. Jsem opatrný technooptimista, který se hodně obává. Ale úplně upřímně jsem se na gymplu rozhodl studovat umělou inteligenci proto, abych ukázal, že není možná, že je v člověku nějaký transcendentní faktor, který stroj nikdy nebude mít. Jako každý gymplácký umělecko-rozervaný puberťák jsem toužil po nějaké transcendenci a nechtěl se smířit s ním, že jsme opravdu jenom stroje z masa.

Mým dobrým přítelem a mentorem byl bratr někdejšího prezidenta Václava Havla Ivan Havel, průkopník filozofie umělé inteligence. Závěrem ale je, že jsem vlastně za celou tu dobu nenašel jediný důvod, proč bych si měl myslet, že AI nejde, a to jsem se poctivě snažil. A zároveň jsem za celou tu dobu nenašel nic, co by bylo v člověku něčím extra transcendentním. A asi jsem se fakt smířil s tím, že jsme kus masa na špejli, který realizuje výpočty, které vnímáme jako myšlení, a není důvod si myslet, že by to stroj nedokázal. Smířil jsem se s tím, že AI přijde a nějakým způsobem vezme to, co si dosud osoboval pouze člověk.  

A strach? Teprve posledních pět let se dost malá skupina lidí věnuje nebezpečí, že když vznikne superinteligence, která pokud nebude v souladu s hodnotami lidstva, bude jednou z nejnebezpečnějších věcí, které lidstvo čekají. To mi dává další level obav.

Tvoříme si takového mesiáše – někoho, kdo vyřeší naše problémy. Na rozdíl od předchozích mesiášů ale tento opravdu přijde.

Máme ještě možnost zatáhnout za záchrannou brzdu? 

To už teď bohužel nejde. Ve hře jsou velké firmy, které veřejně deklarovaly, že je jejich cílem přijít s AGI (obecnou umělou inteligencí), jak nejrychleji to půjde. Není to jen obskurní věc, o které před lety mluvilo pár bláznů, mezi které se řadím. Já si dokonce myslím, že takoví giganti jako třeba Nvidia letos zainvestují do výzkumu AGI obrovské peníze. Ozývají se sice hlasy, že by bylo žádoucí vývoj AGI trochu zpomalit, dokud nepokročíme ve výzkumu sladění AGI s lidskými hodnotami. V něm moc velké pokroky nejsou a získat čas by bylo dobré. Na druhou stranu argumenty, proč nezpomalovat, jsou také kvalitní, takže abych se přiznal, já sám vlastně nevím. Možná jsem lehce pro zpomalení, ale pokud my jako euroamerická část světa zpomalíme, zbytek světa to neudělá. Čína zpomalovat nebude.

Už ve své diplomové práci v roce 2012 jste mapoval vývoj kybernetiky od roku 1916. Dospěl jste k závěru, že všechno směřuje právě ke vzniku obecné umělé inteligence. Proč si člověk vyvíjí něco, co ho přesahuje? 

To byla moje druhá diplomka, kdy jsem si po doktorátu z technické umělé inteligence mohl dovolit docela luxusní hobby v podobě studia filozofie. Takže jsem se tam mohl bez obav vypravit do spekulativnějších oblastí. Myslím si, že někde v hloubce našeho kolektivního podvědomí je koncept Imitatio Dei (napodobování, následování Boha, pozn. red.). Ani Golem nevznikl jen proto, aby nosil vodu po Starém Městě. My se zkrátka chceme trochu vyrovnat Bohu.

Jako lidstvo bychom se určitě nechtěli vracet do předtechnologické doby. Naše globální společnost ale čelí výzvám, které nejsme schopní řešit, ať je to globální oteplování, nebo biologické zbraně. Jako lidstvo bychom museli přijmout něco, čemu se říká globální koordinovaná akce, a toho nejsme schopní. Homo sapiens je schopen fungovat v tlupě 50 lidí. My jsme ale vytvořili mnohem větší útvary a jejich rozhodování je neskutečně pomalé – vezměme si třeba OSN.

My bychom ale potřebovali, aby rozhodování netrvalo deset let, ale deset měsíců. Nebo v případě globálních krizí třeba i jen deset hodin. Jsme na horní hranici toho, co jako homo sapiens zvládáme v řízení globální společnosti. Zároveň víme, že potřebujeme vytvořit entitu, která je schopnější. Tvoříme si takového mesiáše – někoho, kdo vyřeší naše problémy. Na rozdíl od předchozích mesiášů ale tento opravdu přijde.  

Musíme si ho ale dobře vyrobit.  

Přesně tak. Každé čekání na mesiáše je dost riskantní podnik. 

(...)

Líbilo? Část rozhovoru ještě chybí. Jan Romportl v ní odpovídá třeba na dotaz, za jak dlouho může vzniknout globální superinteligentní entita, dotkne se potřeby nalezení celosvětové shody nad lidskými hodnotami a pojmenuje hrozby, které v AI vidí. Objasní také důvody svého odchodu ze skupiny PPF. To vše v každé dobré trafice nebo online v únorovém tištěném časopisu Finmag.

Kam dál? Rozhovory na Finmagu:

• Bioložka: Praha svítí na sto kilometrů. Rozdíl mezi dnem a nocí se smazává
• Fotbal mi dal chuť něco dokázat, říká Gecov. Teď rozjíždí miliardový byznys
• Delikatesy má v krvi, Česko zásobuje lanýži. Stojí i 180 tisíc za kilo, říká Hrubá
• Z fotbalu vyhořel, teď má posilovnu. Sázíme na osobní přístup, říká Pokorný
• Kremlu stačí rozklížit společnost, říká o dezinformacích politolog Mareš

Jak jde dohromady byznys a medicína? Dočtete se v novém Finmagu

Je medicína byznys? Jak pro koho. „Frustraci mladých lékařů chápu. Nemají ani na chůvu, aby jim pohlídala děti, když pracují,“ říká přednosta chirurgické kliniky Robert Lischke.

Zdroj: Finmag

MEDICÍNA A BYZNYS

Jak venkovští praktici nepřicházejí o iluze • Ženy mění medicínu • Nejstarší pražská nemocnice objektivem Alžběty Jungrové • Nejdražší léky na světě • Obézních přibývá, Česko dohání USA.

BYZNYS JE HRA

„Investice do umění se do tabulek nevtěsná,“ říká Pavlína Pudil z Kunsthalle • Nejdražší materiál roku 2023? Hrst štěrku z vesmíru za miliardu dolarů • Ekologie musí být podle Tomáš Nemravy, výrobce dřevěných domů, ekonomická.

Koupit Finmag