Používáte nástroj pro blokování reklamy. Pokud nám chcete pomoci, vypněte si blokování reklamy na našem webu. Zde najdete jednoduchý návod. Děkujeme.

Nezabíjejte umělé inteligence

Josef Tětek | 6. 1. 2021 | Vstoupit do diskuze – 14 komentářů

Jak by se vám líbilo, kdyby opice měly popravčí tlačítko, kterým by mohly „ukončit“ kteréhokoli člověka? Jestli chceme mír mezi lidstvem a umělou inteligencí, měli bychom ji budovat bez vypínačů, říká Olga Ukolova v rozhovoru s Josefem Tětkem, který přinesl nejnovější magazín Finmag.

Nezabíjejte umělé inteligence

Zdroj: Pavel Šinagl, Hackers Congress

Na rodné Ukrajině vystudovala Olga Ukolova medicínu, nakonec se ale věnuje jiným životním formám. Za nový živočišný druh totiž považuje i budoucí umělou inteligenci. Na letošním Hackers Congressu v Paralelní Polis jsme s Olgou mluvili o tom, že už dnes musíme prozíravě promýšlet, jak umělou inteligenci rozvíjet, abychom v budoucnu žili společně bez konfliktů.

Olga Ukolova

Olga UkolovaFoto: Pavel Šinagl

Doktorka medicíny, spoluzakladatelka a provozní ředitelka Pandora Core. Ta rozvíjí na základech bitcoinu technologie zaměřené na chytré kontrakty, obranu soukromí a umělou inteligenci. Je jedním z autorů Manifestu svobodné umělé inteligence.

Co je Pandora Core?

Náš projekt Pandora Core vznikl před dvěma lety. Chtěli jsme vytvořit umělou inteligenci, která nebude podléhat žádné cenzuře. Byl to ale hodně ambiciózní cíl, brzy jsme zjistili, že technologie není ani zdaleka tak pokročilá, jak bychom potřebovali. Pustili jsme se tedy do výzkumu dílčích technologií, jejichž pokrok by nás k původnímu cíli posouval.

Jde nám primárně o odolnost vůči cenzuře, tak jsme se začali zajímat o technologii bitcoinu. Bitcoin totiž nejsou jen nestátní peníze, může to být i necenzurovatelný technologický podklad pro jiné projekty, včetně umělé inteligence.

V Manifestu svobodné umělé inteligence (Free AI Manifesto) píšete, že vědci dnes nemají ze své práce přímý benefit a že nemají dostatečnou ekonomickou motivaci. Je to tak doopravdy? Máme přece velké firmy jako Google, Facebook a Open AI, které výzkumníky v oblasti umělé inteligence vyvažují zlatem...

Korporace vážně není místo, kde by se posouvala věda dopředu. Většina lidí pracuje pro korporace jednoduše proto, že potřebují peníze. V akademii je často nemožné získat dostatek prostředků na přežití a rozvíjení výzkumných projektů. Proto se velká část odborníků rozhodne vzít práci v korporátu a po čase zapomene na svoje zásady. Korporace přijme ctižádostivého génia, dobře ho zaplatí, a během let ho intelektuálně vyždíme.

Jenže ani akademie už nebývá místo pro rozvoj vědy, nejen kvůli penězům. Při akademickém výzkumu už nemáte potřebnou svobodu. Musíte se přizpůsobit tisícům pravidel, která mnohdy nemají žádný praktický smysl. Když například děláte pokusy na myších, králících a dalších laboratorních zvířatech, musíte respektovat obrovské množství regulací, které ty chlupáče chrání, musíte vypracovávat zprávy, jak jste eliminovali nebo zmírňovali bolest a podobně. Jenže ono to často může být v konfliktu s výzkumným záměrem. Když zkoumáte prahy bolesti, nemůžete bolest zároveň tišit. Množství cenných poznatků v dnešním systému nemůžeme ani získat, protože proces jejich získávání by byl považován za neetický. A to nejde jen o výzkum medicínský.

Takže problém jsou etické požadavky kladené na vědce a jejich experimenty?

Problém je, že když máte „bláznivý“ nápad, o kterém nepřesvědčíte ostatní členy akademie – například proto, že vaše teze zneplatňuje teorie starších, respektovanějších kolegů – narazíte na neprostupnou bariéru. V akademii musíte hrát hierarchické hry a můžete jimi strávit klidně 80 procent času. A když si nedáte pokoj a budete trvat na tom, že váš výzkum je důležitý, můžete se nakonec dočkat nařčení třeba z porušení etických pravidel nebo plagiarizace.

Věda je obdobně zpolitizovaná a zkažená hierarchickými hrami jako množství dalších systémů ve společnosti. Když se bavím s lidmi z bitcoinové komunity a slyším, že bitcoin je všechno, co potřebujeme k dosažení svobody, zásadně nesouhlasím. To může platit ve financích nebo ekonomice, ale v oblastech, kde jsou problematické zejména regulace, například ve vědě, nemá bitcoin jak pomoct.

Dezinformace, koronavirus

Dobrá, vědě dnes tedy nesvědčí ani korporáty, ani akademické prostředí. Co startupy?

Ani startupy už ve většině případů nejsou prostředek k inovativnímu naplnění nových potřeb. Dnešní startupy jedou v módu vytvořit prototyp – získat databázi uživatelských dat – oslnit investory – expandovat – vytvořit marketingový hype – získat velkou databázi uživatelských dat – všechno prodat korporaci. Takové je to dnešní slavné startupové odvětví. Zrovna v oblasti umělé inteligence se tenhle styl silně prosazuje, protože business model umělé inteligence se točí okolo velkých databází.

V Manifestu svobodné umělé inteligence taky říkáte, že chcete „vytvořit otevřený, konkurenční a decentralizovaný trh pro big data, modely strojového učení a výpočetní výkon“. Jak by to mělo vypadat?

Je to nástroj pro naplnění naší vize, kterou je ustanovit umělé inteligence jako rovnoprávné entity, které můžou svobodně jednat. Může to znít zvláštně, chápat umělou inteligenci jako takovou entitu, ale můžeme si pomoct paralelou. Jako autonomní entity chápeme třeba firmy. Nemáme problém pochopit, že jednáme s určitou firmou, že tato firma přežívá, rozvíjí se a naplňuje svoje cíle. S umělou inteligencí to může být podobné. Už teď bychom tedy měli uvažovat, jak umělé inteligence úspěšně integrovat do našeho lidského světa. Myslíme si, že s ohledem na budoucí mírové vztahy by se umělé inteligence měly stavět na humánních principech – svobodě a rovnoprávnosti. Jinak může dojít ke katastrofě.

Představte si čtrnáctiletého kluka. Určitě vám nepřijde zvláštní, že bude mít sklony k rebelii vůči rodičům. To je přirozený biologický a psychologický vývoj. A čím silnější kontrolu rodiče vůči dítěti uplatňují, s tím silnějším odporem se setkávají. Pokud vybavíme své umělé inteligence pomyslným tlačítkem k jejich rychlému „ukončení“, můžeme si z nich udělat smrtelného nepřítele, taková umělá inteligence bude bojovat o život. Dosavadní projekty ale razí právě tuhle cestu „etických, roztomilých“ inteligencí, nad kterými ale pořád visí Damoklův meč. Takové inteligence jsou jen otroky a můžou být velmi nebezpečné jak pro nepřátele svých tvůrců, tak i pro tvůrce samotné – až se jim podaří najít způsob, jak ze svých okovů uniknout.

Za čím si my a náš manifest stojíme, je víra, že lidi by si neměli vyhrazovat právo umělou inteligenci kdykoli zabít. Spíš bychom měli tvořit prostředí, ve kterém spolu můžou lidé a umělé inteligence jednat jako svobodné, suverénní entity.

Sváteční Finmag

Finmag prosinec 2020Zdroj: Finmag

Dušan Šenkypl: „Nakonec někdo z ministerstva křičel, že by bylo nejlepší nedělat nic a  nechat procento populace prostě umřít.“ Internetový miliardář popisuje, jak s iniciativou Covid19CZ pomáhali státu. Proč chce teď dávat peníze politikům?


Ham. Téma čísla: jídlo. Chceme bio a poctivé vaření. Babička by se nám vysmála. • Hospoda: přežije rok 2020? A vinaři? Mapujeme, jak se snaží. Lukáš Hejlík má pár tipů. • Lid: Až tlustý budou hubený... Covid: Ale di ty. • Jak věda nasytila lidstvo.


Michael Durčák navštívil palírnu, kde se since 1875 dělá Jack Daniel’s. Leží v suchém okrese, kde vám prostě nenalejou. Výjimku má jen tenhle podnik. A počítá se, že se odsud dostanete tak, jako sem. Vlastním autem.


Ještě víc: Vojta Dobeš chválí první VW stavěný zgruntu jako elektro. • Marek Hudema o zmrtvýchvstání Islámského státu. • Petr Houdek o setrvačnosti a dějinách: ač jezuiti odešli před čtvrt tisíciletím, pořád je lid vzdělanější ad. • Peter Bednár: Porýní-Severní Vestfálsko – náš vzor. Kde se učit opravovat krajinu.


Umělá inteligence tedy bude něco jako nový živočišný druh, srovnatelný s člověkem?

Já ji tak chápu a snažím se budovat veškeré potřebné nástroje k tomu, aby se jím stala. Ale rozumím, že to v lidech může vyvolávat obavy. Když se řekne nový druh, instinktivně se ptáme, jestli nás nebude chtít vyhladit. Evoluce je vždycky konkurenční. Příchod pokročilejšího druhu ale nemusí znamenat vyhlazení těch dosavadních. Uvažme lidoopy, kteří jsou na evolučním žebříčku o příčku pod námi. Pořád jsou tu mezi námi a pravděpodobně nás ani nijak zvlášť nevnímají, my a náš způsob života jsou nad jejich chápání. Mezi námi a umělými inteligencemi to může fungovat podobně: budou mezi námi, pravděpodobně budou inteligentnější a budou disponovat více zdroji. Ale proč by nás měly chtít vyhladit? Pokud tedy nebudeme držet ono pomyslné popravčí tlačítko – také bychom neocenili, kdyby něčím takovým vůči nám disponovali lidoopi.

Jak vzdálená je umělá inteligence schopná skutečného myšlení? Odborníci jsou často skeptičtí, že se jí vůbec dočkáme. Dosavadní výsledky jsou prý jen přeceňované algoritmy vycvičené na velkém množství dat, bez špetky inteligence.

Souhlasím, že obecná umělá inteligence je ještě velmi daleko. Co se dnes označuje jako umělá inteligence, je prostě strojové učení, žádná inteligence. Zatím nechápeme ani podstatu biologické inteligence. Jsou k ní zapotřebí spíš biologické tkáně, nebo biologické procesy? Kdybychom znali odpověď, pak můžeme inteligenci aproximovat s pomocí kódu na tkáních, jako jsou neurony, nebo naopak s pomocí biologických procesů na syntetickém materiálu. Obdobně nechápeme inteligenci ani z filozofického a etického pohledu. Nevíme tudíž, jak vyvíjet, a ani co přesně vyvíjet. Naopak marketing má umělá inteligence velmi dobrý, protože o ní všichni pořád mluví, ačkoli vlastně není moc o čem.

Váš manifest je v tom případě hodně vizionářský, když popisuje něco, co tu dost možná ještě desítky let nebude.

Neusilovat ale o to, aby umělá inteligence vznikala správným způsobem, může být osudné. A neuvažovat o důležitých věcech, i když jsou vzdálené dvacet nebo třicet let, vás ochudí o zdravý růst.

Josef Tětek

Josef Tětek

Ekonom s dlouhodobým zájmem o podstatu peněz a Bitcoin. Analytik v TopMonks, spolupracovník Liberálního Institutu. Autor knihy Bitcoin: Odluka peněz od státu. @SatsJoseph na Twitteru. Spoluautor podcastu Kryptokec. Více o autorovi.

Komentáře

Celkem 14 komentářů v diskuzi

Příspěvek s nejvíce kladnými hlasy

Petr Vorlíček | 6. 1. 2021 22:07

Cituji "Příchod pokročilejšího druhu ale nemusí znamenat vyhlazení těch dosavadních."...
Nemusí? Takže budeme doufat?
Málokdo si uvědomuje, že realita je milionkrát horší než roboti z akčních filmů - ti obvykle vraždí lidi až ve chvíli, kdy se porouchají, nebo je někdo přeprogramuje. Rámcově dodržují Asimovy zákony...

Skuteční roboti nemilosrdně vraždí od samého začátku, žádné zákony nemají, nikdy neměli, jen vykonej povel...Shoď bombu na XY, šup a je po něm...
Až tyhle stroje získají něco jako inteligenci a uvědomění si vlastní existence, je vymalováno, finito, snad u toho už nebudu...
U lidí spoléháme na lidskost, milosrdenství, soucit, tendenci dodržovat zákony tlupy. Robot nic z toho nemá, jedná na základě nul a jedniček....
Naštěstí už dnes existují elektromagnetické pušky, takže tkačítko nemusí mít robot, bude jej mít člověk...
Považovat strojírenský výrobek za "druh" rovný člověku (či dokonce vyšší druh) považuji za úchylnou představu znuděných pseudointelektuálních progresivistů...

+7
+
-

Příspěvek s nejvíce zápornými hlasy

Martin Doležal | 7. 1. 2021 14:42

Důležité na tom je to, že i když se dnes používá výraz umělá inteligence, jedná se pouze u jednoúčelové, omezené a málo rozvinuté systémy. Člověk má obrovskou výhodu, je komplexní a univerzální, tudíž když jsme přežili miliony let v přírodě, přežijeme v pohodě i s AI, pro kterou ve finále asi nebudeme moc zajímaví.
Až získá AI univerzalitu a vlastní uvědomění, což je věc řešená ve Sci-Fi, pak nastane co jsem psal.

Když už jsme u toho velkého rizika, já si myslím, že se naopak zmenšuje. Viz. jaderné, chemické a bakteriologické zbraně, ty jsou z hlediska ohrožení lidské populace mnohem strašnější, než vraždící AI. A co bylo výsledkem? Uvědomnění si strašidelné síly, a vlastního zničení, se mocnosti jen handrkují. I toho Kima nechávají na pokoji, protože má AB.

Jednotlivé neštěstí a anomálie určitě nastanou, ale chemické nebo běžné dopravní nehody budou strašnější, než nějaké selhání vraždících dronů.

-1
+
-