Diskuze: Stroj versus lidské zvíře. Proč se nemusíme bát umělé inteligence

Jan Zoidberg|10. 4. 2023 00:05| reakce na Jiří Sedláček - 9. 4. 2023 20:58

Souhlasím. A dodal bych, že pokud jednou umělá inteligence získá vědomí a nějakou vlastní motivaci a tím pádem autonomní rozhodování, tak si toho především my lidé ani nevšimneme. Jsou naivní představy "přece to kdykoliv půjde vypnout". No co by to bylo za superinteligenci, že by se nechala vypnout? :) Nebude to žádná otevřená válka. Lidstvo bude nepozorovaně vmanipulováno do role ochočených domácích mazlíčků, kteří dělají, co se po nich chce, a ani o tom neví. Buď pak najednou vymřeme, až nás nebude AI potřebovat, nebo to naopak bude oboustranně fajn, kdo ví. :-)

Jiří Sedláček|9. 4. 2023 20:58

Proč jsme se dosud nebáli počítačů? Protože zatím byly počítače idioti! Proč idioti? Protože dokázaly udělat každou hloupost, kterou jim programátor poručil, a přitom nepoznaly, že to hloupost (rozuměj chyba programátora) je. Dosud počítače fungovaly podle algoritmů, jejichž kód jim zkonstruoval člověk a jiný člověk mohl ten kód prostudovat a pak přesně říci, jak na který podnět, jak na kterou situaci, bude daný systém (program) reagovat.
S AI nastala dramatická změna — člověk už neví, co je „uvnitř“ a nemá šanci to poznat, a tedy ani pochopit a predikovat chování AI. Člověk už nemá šanci přesně a do puntíku předpovědět, jak takový systém bude na to či ono reagovat. Proč? Protože už nejde o program, jehož fungování je dáno finitním kódem — jde o neuronovou síť. Jistě, není postavená na biologických komponentách, ale je to neuronová síť, a to je rozhodující!
Neuronové síti její tvůrce na začátku zadá jen obecné základní podmínky a pak ji krmí daty, obrovským množstvím dat. Krmí ji daty, která představují podněty pro probíhající proces učení. Tento proces učení je principiálně stejný, jako proces učení lidského mozku. Mozek právě narozeného dítěte je stejně „prázdný“ jako neuronová síť právě spuštěné AI. Osobnost dítěte i osobnost AI se v průběhu učení teprve vytvoří a tento proces na jedné ani druhé straně nelze vést tak, aby při opakování vedl k totožnému výsledku. Jsme sžití s tím, že proces učení mozku dítěte není finitní. Skutečnost, že finitní není ani proces učení AI, zatím děsí jen úzký okruh těch, kteří tomu rozumějí. Jednou porozumí celé lidstvo …
Nikdo nemáme problém s tím, že nevíme, jak se přesně zachová ten, či onen člověk. Člověk přece není naprogramovaný stroj. Nemyslím ale, že lidé nebudou mít problém s tím, že nedokáží ani odhadnout, jak se zachová AI, která bude oproti člověku nepředstavitelně výkonnější ať už jde o rychlost fungování nebo o objem znalostí. Je zřejmé, že schopnosti i geniálního člověka jednou budou vedle schopností AI zcela nicotné.
Nikdo neví, jak a kdy v procesu učení, který probíhá v učícím se mozku dítěte, nastává přerod kvantity v kvalitu — tedy ke vzniku toho, co chápeme jako svobodnou vůli a tvůrčí inteligenci. Stejně jsme na tom i pokud jde o AI — nikdo dnes netuší, zda vůbec, a pokud ano, tak jak a kdy k obdobné změně dojde v neuronové síti AI. Možná nikdy, možná je to běh na dlouhou trať, možná nás to překvapí a zaskočí docela brzy.
Na otázku, zda lidskému druhu hrozí nebezpečí od samotné AI — tedy od její svobodné vůle, kterou jednou může projevit — dnes nikdo z jejích tvůrců nedokáže odpovědět. Jiné nebezpečí, které může mít velmi vážné dopady, však hrozí už dnes nebo v blízké budoucnosti. Tím nebezpečím je zneužití AI člověkem.
Historie nás učí, že každý sebeužitečnější nástroj, který kdy člověk ovládl, byl současně přetvořen ve zbraň. Nejinak tomu bude i s AI …
A tak jediné, co o AI dnes můžeme s jistotou říci je, že tohoto džina už zpět do láhve nikdo nedostane …