Nezabíjejte umělé inteligence

Na rodné Ukrajině vystudovala Olga Ukolova medicínu, nakonec se ale věnuje jiným životním formám. Za nový živočišný druh totiž považuje i budoucí umělou inteligenci. Na letošním Hackers Congressu v Paralelní Polis jsme s Olgou mluvili o tom, že už dnes musíme prozíravě promýšlet, jak umělou inteligenci rozvíjet, abychom v budoucnu žili společně bez konfliktů.

Olga Ukolova

Foto: Pavel Šinagl

Doktorka medicíny, spoluzakladatelka a provozní ředitelka Pandora Core. Ta rozvíjí na základech bitcoinu technologie zaměřené na chytré kontrakty, obranu soukromí a umělou inteligenci. Je jedním z autorů Manifestu svobodné umělé inteligence.

Co je Pandora Core?

Náš projekt Pandora Core vznikl před dvěma lety. Chtěli jsme vytvořit umělou inteligenci, která nebude podléhat žádné cenzuře. Byl to ale hodně ambiciózní cíl, brzy jsme zjistili, že technologie není ani zdaleka tak pokročilá, jak bychom potřebovali. Pustili jsme se tedy do výzkumu dílčích technologií, jejichž pokrok by nás k původnímu cíli posouval.

Jde nám primárně o odolnost vůči cenzuře, tak jsme se začali zajímat o technologii bitcoinu. Bitcoin totiž nejsou jen nestátní peníze, může to být i necenzurovatelný technologický podklad pro jiné projekty, včetně umělé inteligence.

V Manifestu svobodné umělé inteligence (Free AI Manifesto) píšete, že vědci dnes nemají ze své práce přímý benefit a že nemají dostatečnou ekonomickou motivaci. Je to tak doopravdy? Máme přece velké firmy jako Google, Facebook a Open AI, které výzkumníky v oblasti umělé inteligence vyvažují zlatem...

Korporace vážně není místo, kde by se posouvala věda dopředu. Většina lidí pracuje pro korporace jednoduše proto, že potřebují peníze. V akademii je často nemožné získat dostatek prostředků na přežití a rozvíjení výzkumných projektů. Proto se velká část odborníků rozhodne vzít práci v korporátu a po čase zapomene na svoje zásady. Korporace přijme ctižádostivého génia, dobře ho zaplatí, a během let ho intelektuálně vyždíme.

Jenže ani akademie už nebývá místo pro rozvoj vědy, nejen kvůli penězům. Při akademickém výzkumu už nemáte potřebnou svobodu. Musíte se přizpůsobit tisícům pravidel, která mnohdy nemají žádný praktický smysl. Když například děláte pokusy na myších, králících a dalších laboratorních zvířatech, musíte respektovat obrovské množství regulací, které ty chlupáče chrání, musíte vypracovávat zprávy, jak jste eliminovali nebo zmírňovali bolest a podobně. Jenže ono to často může být v konfliktu s výzkumným záměrem. Když zkoumáte prahy bolesti, nemůžete bolest zároveň tišit. Množství cenných poznatků v dnešním systému nemůžeme ani získat, protože proces jejich získávání by byl považován za neetický. A to nejde jen o výzkum medicínský.

Takže problém jsou etické požadavky kladené na vědce a jejich experimenty?

Problém je, že když máte „bláznivý“ nápad, o kterém nepřesvědčíte ostatní členy akademie – například proto, že vaše teze zneplatňuje teorie starších, respektovanějších kolegů – narazíte na neprostupnou bariéru. V akademii musíte hrát hierarchické hry a můžete jimi strávit klidně 80 procent času. A když si nedáte pokoj a budete trvat na tom, že váš výzkum je důležitý, můžete se nakonec dočkat nařčení třeba z porušení etických pravidel nebo plagiarizace.

Věda je obdobně zpolitizovaná a zkažená hierarchickými hrami jako množství dalších systémů ve společnosti. Když se bavím s lidmi z bitcoinové komunity a slyším, že bitcoin je všechno, co potřebujeme k dosažení svobody, zásadně nesouhlasím. To může platit ve financích nebo ekonomice, ale v oblastech, kde jsou problematické zejména regulace, například ve vědě, nemá bitcoin jak pomoct.

Dobrá, vědě dnes tedy nesvědčí ani korporáty, ani akademické prostředí. Co startupy?

Ani startupy už ve většině případů nejsou prostředek k inovativnímu naplnění nových potřeb. Dnešní startupy jedou v módu vytvořit prototyp – získat databázi uživatelských dat – oslnit investory – expandovat – vytvořit marketingový hype – získat velkou databázi uživatelských dat – všechno prodat korporaci. Takové je to dnešní slavné startupové odvětví. Zrovna v oblasti umělé inteligence se tenhle styl silně prosazuje, protože business model umělé inteligence se točí okolo velkých databází.

V Manifestu svobodné umělé inteligence taky říkáte, že chcete „vytvořit otevřený, konkurenční a decentralizovaný trh pro big data, modely strojového učení a výpočetní výkon“. Jak by to mělo vypadat?

Je to nástroj pro naplnění naší vize, kterou je ustanovit umělé inteligence jako rovnoprávné entity, které můžou svobodně jednat. Může to znít zvláštně, chápat umělou inteligenci jako takovou entitu, ale můžeme si pomoct paralelou. Jako autonomní entity chápeme třeba firmy. Nemáme problém pochopit, že jednáme s určitou firmou, že tato firma přežívá, rozvíjí se a naplňuje svoje cíle. S umělou inteligencí to může být podobné. Už teď bychom tedy měli uvažovat, jak umělé inteligence úspěšně integrovat do našeho lidského světa. Myslíme si, že s ohledem na budoucí mírové vztahy by se umělé inteligence měly stavět na humánních principech – svobodě a rovnoprávnosti. Jinak může dojít ke katastrofě.

Představte si čtrnáctiletého kluka. Určitě vám nepřijde zvláštní, že bude mít sklony k rebelii vůči rodičům. To je přirozený biologický a psychologický vývoj. A čím silnější kontrolu rodiče vůči dítěti uplatňují, s tím silnějším odporem se setkávají. Pokud vybavíme své umělé inteligence pomyslným tlačítkem k jejich rychlému „ukončení“, můžeme si z nich udělat smrtelného nepřítele, taková umělá inteligence bude bojovat o život. Dosavadní projekty ale razí právě tuhle cestu „etických, roztomilých“ inteligencí, nad kterými ale pořád visí Damoklův meč. Takové inteligence jsou jen otroky a můžou být velmi nebezpečné jak pro nepřátele svých tvůrců, tak i pro tvůrce samotné – až se jim podaří najít způsob, jak ze svých okovů uniknout.

Za čím si my a náš manifest stojíme, je víra, že lidi by si neměli vyhrazovat právo umělou inteligenci kdykoli zabít. Spíš bychom měli tvořit prostředí, ve kterém spolu můžou lidé a umělé inteligence jednat jako svobodné, suverénní entity.

Umělá inteligence tedy bude něco jako nový živočišný druh, srovnatelný s člověkem?

Já ji tak chápu a snažím se budovat veškeré potřebné nástroje k tomu, aby se jím stala. Ale rozumím, že to v lidech může vyvolávat obavy. Když se řekne nový druh, instinktivně se ptáme, jestli nás nebude chtít vyhladit. Evoluce je vždycky konkurenční. Příchod pokročilejšího druhu ale nemusí znamenat vyhlazení těch dosavadních. Uvažme lidoopy, kteří jsou na evolučním žebříčku o příčku pod námi. Pořád jsou tu mezi námi a pravděpodobně nás ani nijak zvlášť nevnímají, my a náš způsob života jsou nad jejich chápání. Mezi námi a umělými inteligencemi to může fungovat podobně: budou mezi námi, pravděpodobně budou inteligentnější a budou disponovat více zdroji. Ale proč by nás měly chtít vyhladit? Pokud tedy nebudeme držet ono pomyslné popravčí tlačítko – také bychom neocenili, kdyby něčím takovým vůči nám disponovali lidoopi.

Jak vzdálená je umělá inteligence schopná skutečného myšlení? Odborníci jsou často skeptičtí, že se jí vůbec dočkáme. Dosavadní výsledky jsou prý jen přeceňované algoritmy vycvičené na velkém množství dat, bez špetky inteligence.

Souhlasím, že obecná umělá inteligence je ještě velmi daleko. Co se dnes označuje jako umělá inteligence, je prostě strojové učení, žádná inteligence. Zatím nechápeme ani podstatu biologické inteligence. Jsou k ní zapotřebí spíš biologické tkáně, nebo biologické procesy? Kdybychom znali odpověď, pak můžeme inteligenci aproximovat s pomocí kódu na tkáních, jako jsou neurony, nebo naopak s pomocí biologických procesů na syntetickém materiálu. Obdobně nechápeme inteligenci ani z filozofického a etického pohledu. Nevíme tudíž, jak vyvíjet, a ani co přesně vyvíjet. Naopak marketing má umělá inteligence velmi dobrý, protože o ní všichni pořád mluví, ačkoli vlastně není moc o čem.

Váš manifest je v tom případě hodně vizionářský, když popisuje něco, co tu dost možná ještě desítky let nebude.

Neusilovat ale o to, aby umělá inteligence vznikala správným způsobem, může být osudné. A neuvažovat o důležitých věcech, i když jsou vzdálené dvacet nebo třicet let, vás ochudí o zdravý růst.