Ztráta kontroly nad umělou inteligencí je spíš sci-fi než reálná hrozba

Kde bereš informace o nových technologiích? Máš nějakou „informační banku“?

Část beru z informační databáze IDG – International Data Group, to je americká vydavatelská společnost, která zároveň funguje jako tisková agentura a zabývá se přímo informačními technologiemi. Spolupracuji s nimi a mám přístup k jejich databance, odkud čerpám značnou část informací. Síť je to široká a celosvětová, dostanu se i k novinkám z Číny, Indie, Velké Británie nebo USA. Prakticky ze všech zemí, které mají relevantní spojitost s Českou republikou. Dál čerpám ze serverů, které mají ověřené informace a kde ideálně znám alespoň nějakého redaktora. Zbytek pokrývají tiskovky, konference, tiskové zprávy, které mi posílají firmy, nebo informace, které získám při networkingu s různými manažery.

Existuje taky nějaká česká společnost, která by se těmto tématům věnovala, nebo bereš informace převážně ze zahraničí?

V Česku není v téhle oblasti nikdo moc aktivní. Nejaktivnější je pravděpodobně Computerworld, pro který jsem pracoval jako externista, nebo Chip. Jinak se tématu věnují spíš menší servery, jako je CzechCrunch, potom weby jako Světchytře.cz, které jsou sponzorované telekomunikacemi, a nakonec menší stránky typu MobilMania.cz, které sice mají vysokou čtenost, ale kvalita obsahu není úplně ideální.

Vedeš server AIWorld.cz. Jak to funguje? Můžou na něj přispívat i lidi zvenčí, nebo jde o uzavřenou redakci?

Dá se říct, že je to otevřené – pokud někdo pošle podnětný článek. Nějaké redakční úpravy jsou prakticky vždycky potřeba, ale obecně není problém. Když autor rozumí umělé inteligenci, ví, o čem píše. Bohužel velká část lidí, kteří články posílají, má tendenci umisťovat do nich reklamu na svůj produkt nebo službu. Pokud se člověk v popisku zmíní, že je z téhle a téhle firmy, je to v pořádku, nic proti tomu nemáme. Jde pouze o sdělení, že je odborník, protože zastává určitou pozici. Většinou ale ke konkrétní dohodě nedojde, takže příspěvků od lidí, kteří nejsou z redakce, je poměrně málo.

Jaký typ lidí v redakci nejčastěji najdeme?

Rozlišil bych dva základní typy. Buď jsou to bývalí programátoři, kteří chtěli víc času trávit s rodinou a jejich práce jim to neumožňovala, nebo vystudovaní novináři, které nebaví dělat klasickou novinařinu a mají průhled do informačních technologií. 

Přijde ti, že má cenu zabývat se umělou inteligencí na popularizační úrovni, nebo je lepší přenechat to odborníkům?

Je nutné psát o umělé inteligenci tak, aby to pochopil i laik. Určitá popularizace je nejen žádoucí, ale i nutná. Ale vždycky jde o to, aby autor textu o umělé inteligenci měl dostatečnou odbornost. Člověk, který považuje za dostatečnou kvalifikaci to, že umí používat mobil, prostě nedokáže vysvětlit jevy s umělou inteligencí spojené. Je nezbytné mít široký přesah, abys rozuměla, co je umělá inteligence, a chápala, proč se nestane něco podobného scénáři Terminátora.

Myslíš si, že populární články o umělé inteligenci jsou spíš módní trend, nebo jich je tolik i proto, že se umělá inteligence dostává čím dál víc i do běžného života?

Vliv má obojí. I kvůli populární kultuře, kde se umělá inteligence vždycky objevuje jako nějaká extrémní, silná a jistým způsobem lidská inteligence, která všechno ovládne nebo zničí, je to vysoce trendy. Technologie ale samozřejmě pronikají i do běžného života. Mobily jsou umělá inteligence. Software je umělá inteligence. Je to algoritmus, který buď využívá nějaké metody strojového učení a neuronových sítí, nebo je schopný učit se s omezením díky metodám učení s učitelem nebo zpětnovazebního učení. 

Existuje zajímavý jev, že ve chvíli, kdy se umělá inteligence, nějaká metoda nebo algoritmus, stane mainstreamem, lidé ji přestanou vnímat jako umělou inteligenci, protože už to není zajímavé.

Při zadávání úkolu umělé inteligenci je nutné stanovit omezení či hranice. Není vývoj umělé inteligence rychlejší než vývoj lidské mentality?  

To je vývoj všech technologií už tisíc let. Zatímco evoluce je poměrně pomalá záležitost, vývoj technologií je naopak extrémně rychlý. Bude trvat několik generací, než se tomu lidé vůbec pořádně přizpůsobí. Nicméně z hlediska krátkodobé evoluce je vývoj lidské mentality rychlý dostatečně. Můžeme to vidět na dnešních čtyřletých dětech, které dokážou ovládat tablety nebo smartphony.

Obáváš se, že by v blízké době lidstvo mohlo nad umělou inteligencí ztratit kontrolu?

Určitě ne. To je sci-fi scénář, stát se to nemůže. Sám tuhle otázku kladu každému člověku, který v oboru dělá, a zatím mi nikdo neřekl, že by to hrozilo. Nejsme zatím schopni vyvinout umělou inteligenci tak, aby reálně přemýšlela. Počítače na křemíkovém základě neumějí produkovat žádné city ani nic podobného a inteligence nelze dosáhnout bez alespoň minimální emocionální hladiny. 

Další populární téma, které souvisí s umělou inteligencí, jsou autonomní vozidla. Mají u nás nějaký potenciál – i vzhledem k pomalejší legislativě a obecně pomalejšímu zavádění nových technologií?

Legislativa je zásadní překážka, ale co se týče klasických spotřebitelských technologií, Česko velmi těsně následuje Německo, na kterém jsme importně závislí. Adopce nových technologií je tedy u nás relativně rychlá. Co se týče autonomních automobilů, záleží, co rozumíme slovem autonomní. Existuje pět různých úrovní autonomie a druhá a třetí úroveň už se dnes normálně používají. Čtvrtá úroveň je ta, kdy řidič stále musí mít svoje místo a volant, ale nemusí reagovat na případnou hrozbu, všechno zařídí stroj. Věřím, že do USA a pokrokovějších zemí Evropy, jako jsou Německo, Francie, Norsko anebo Švédsko, tohle přijde do pěti až deseti let. V České republice to bude spíš až za těch deset let. Určitě to je relativně blízko, technologie je už docela rozvinutá a největší problémy jsou dnes výpadky signálu, správné rozpoznávání objektů a obecně bezpečnost. 

Existuje online simulace Moral machine, při které má člověk rozhodnout, jakým způsobem má autonomní vozidlo „vyřešit“ dopravní situaci, která ale nemá žádné dobré řešení. Vpravo je například paní s dítětem, vlevo dva sportovci, ubrzdit se to nedá. Kam auto poslat? 

To je etický problém, který je prozatím neřešitelný. Je důležité, aby to nebylo diskriminační, aby to bylo otevřené všem a nevolilo to jen podle nějakých matematických propočtů. Pravděpodobně to bude tak, že se to částečně nechá na tom autě, aby se rozhodlo samo, podle předchozí zkušenosti. V tom případě to nebude ovlivněné a bude to relativně fér. V ideálních podmínkách by taková situace vůbec nastat neměla, ale samozřejmě vždycky nastat může a nějaké nehody určitě budou, minimálně prvních pár let po adopci té technologie. 

U nás většina silnic také nemá dostatečnou kvalitu, aby na nich autonomní vozidla mohla bez problémů fungovat.

Je to tak, u nás by jednoznačně autonomní automobily mohly fungovat pouze na větších silnicích, případně na dálnicích. Pro dopravu ve městech nebo vesnicích by to určitě nebylo a pochybuji, že by se něco změnilo natolik, aby adopce byla vyšší. Autonomní auta u nás budou, ale ne celoplošně. 

Kde je podle tebe teď umělá inteligence nejvíc na vzestupu?

Jednoznačně ve zdravotnictví, tam je to strašně vidět. Trh to ale zatím nedokázal úplně proměnit. Možnosti, že by umělá inteligence vedla k prodloužení života nebo ke zlepšení jeho kvality, jsou fakt obrovské. Věřím, že umělá inteligence bude jednou schopná zachraňovat lidské životy. Třeba tak, že pomocí nositelného zařízení detekuje blížící se infarkt ještě dřív, než se stane. Takové experimenty už probíhají a relativně to funguje, takže věřím, že podobné technologie přijdou. Nicméně, nedokážu předpovědět, za kolik let. Záleží na legislativě, záleží na tom, jak dobře testy půjdou, jak to bude drahé a na spoustě dalších faktorů.

Zajímá tě v umělé inteligenci něco zvlášť?

To jde těžko říct, já jsem generalista, pokrývám skoro všechno, ale rád se zaměřuji na vesmír. Vesmír je super, co si budeme povídat. Mám rád automobily a ekologii, protože třeba u předpovědí počasí jsou algoritmy také zajímavé. Potom ještě GDPR, to mě baví z legislativního hlediska. Hodně se to mění podle toho, co je zrovna populární a o co je zájem. Uvedl bych třeba pokrok v oblasti kvantových počítačů. Umělá inteligence se dá napojit na celkem hodně témat, takže to je široké spektrum. 

Dá se na umělou inteligenci nahlížet pozitivně či negativně, nebo se máme snažit zůstat bez emocí?

Jako na všechny ostatní technologie. Když si vezmeme jako příklad mikrovlnku, byla to původně vojenská technologie, která vznikla za účelem ničení. Ale dnes už ji tak nevidíme, stala se z ní běžná technologie, kterou každodenně používáme. S umělou inteligencí je to to samé. Nelze ji vnímat jako něco magického, co je příliš destruktivní a do čeho by se lidstvo nemělo pouštět. Ne, je to prostě jenom technologie. Je nutné k ní přistupovat s rozvahou a klidem a dodržovat etické standardy. Musíme přemýšlet nad tím, co děláme a nesmíme si hrát na boha. Hlavní je brát umělou inteligenci jako něco, co stejně přijde.