Diskuze k článku: Nezabíjejte umělé inteligence

Martin Doležal | 7. 1. 2021 09:38 | reakce na Petr Vorlíček - 6. 1. 2021 22:07

Současná AI, je jen a pouze vysoce specializovaný systém tzv. hlubokého učení. Ano, již takto "nízká" umělá inteligence převálcovala člověka v mnoha oborech a není šance, že by ji člověk někdy stíhal. Tak jako nestačíme rychlostí na geparda, čichem na psa, výdrží na velblouda. Tak hol v leteckých soubojích, nebo v pokru, šachách, hře Go, nebudeme mít na AI. A je s tím nějaký problém? Nespíte, protože nestačíte s pamětí na slona? Navíc je vidět, že tento obor je vám naprosto cizí, když věříte, že vás ochrání elektromagnetická puška. AI nemusí tvořit HW z křemíkových čipů, a když už, je to lehce ochránitelné oproti elektromagnetickému impulzu. Říká vám něco optika?

Chápu že pro Sci-Fi je AI utržená z řetězu lákavé téma. Ovšem předpokládá to jednu zásadní věc, že ta AI bude člověk, bude myslet jak člověk, bude mít lidské potřeby. Kosmická loď s AI klidně zmrzne na 100.000 let, po ohřátí bude pokračovat. AI nemá problém se smrtelností jako člověk. AI nemá sexuální a rozmnožovací pudy, věci, které v lidských dějinách způsobili mraky katastrof a násilí. AI nemá hlad, není ji zima, nepotřebuje svůj velký ranč, kde zastřelí každého, kdo ji naruší soukromí. AI nezajímá majetek, nemá pro ní využití. Nebo myslíte, že kosmická sonda bude spokojenější, kdy na jejím zdroji budou ležet dvě cihly zlata?

Vy řešíte situaci, že člověk vytvořil smrtící drony, ponorky, tanky, vybavené AI a perfektní účinností, bez sebezáchovnho pudu a myšlením šachového mistra. Jo, ale tam není problém v AI, je to člověk, už jeho první dělová koule byla úchylka narušující přirozenou rovnováhu. Ta AI nezdivočí, územní nebo majetkové zisky ji nemohou zlepšit život nebo zabezpečit potomky. A už vůbec je nemůže zajímat prehistorické ideologie levice či pravice. Opět, není v tom nic přínosného pro existenci AI.

Petr Vorlíček | 8. 1. 2021 00:07 | reakce na Martin Doležal - 7. 1. 2021 09:38

Stephan Hawking měl poněkud odlišný názor, a nepochybuji o tom, že to promyslel asi miliardkrát lépe než vy...
Když odhadujete, co bude a co nebude zajímavé pro budoucí AI, sesíťované, s nekonečnými informacemi, pamětí, inteligencí, jste jako saranče, které se na louce domnívá, že ty bagry a rypadla přeci nic neznamenají...
Co bude nebo nebude zajímavé pro AI, to si jednou zhodnotí sama AI, protože člověk už její procesy nebude schopen monitorovat, natož pochopit, co si o zom myslel nějaký Doležal v roce nebreč si asi k srdci brát nebude...
Vaše představy AI utržené ze řetězu je komická - je realita současnosti, že samoučící roboti obchodují většinu transakcí na kapitálových trzích, a nikdo už dávno nemůže dohlédnout možného výsledkunjejich vzájemné interakce. Už tato alga by mohla zvládnout rozvrátit světovou ekonomiku, už nyní vyhodnocují infornace o spotřebitelích, o zásazích vlád, ekonomů, vyhodnocují informace, které skedujeme na internetu i s našimi reakcemi na ně. Mám to štěstí, že jednoho spoluprovozuji...
Dnes všichni mají pocit, že to mají pod kontrolou, a snad je to bude ješte dlouho pravda - skoro vždy je tam totiž zatím to tlačítko, které stisknete, když robot začne blbnout...Kde není, jste připoruše robota nahraný, když vám auto za jízdy v mímus dvaceti stáhne všechna okénka, je to jen velká nepříjemnost, když vám autopilot v letadle začnevtahat za knipl, protože má instrukce o kterých jako pilot nevíte, zabije to 300 cestujících, když robot špatně vyhodnotí souhru dějů, na kzeré ho člověk nepřioravil, bude jeho reakce nepredikovatelná, stejně jsko když se ty instrukce pro sebe naučí sám vytvářet. Pak je už jen otázkou, co ten robit ovládá, domácí pekárnu, silo jaderných zbraní, či vesmírnou loď...
Vaši bezstarostnist Vám ze srdce přeji. Ono čim méně toho člověk ví, tím snáze jí dosáhne....

Alexander Novotka | 10. 1. 2021 17:48 | reakce na Petr Vorlíček - 8. 1. 2021 00:07

Osobně jsem si vydechl poté, co s tímhle přišel Elon Musk
https://www.youtube.com/watch?v=bUc9LYe55wI
To Vás pak nějaká "realita" vlastně ani nemusí tolik bolet, ne?
:-)))

Martin Doležal | 8. 1. 2021 11:17 | reakce na Petr Vorlíček - 8. 1. 2021 00:07

Pro vás je kybernetika cizí obor, pro mě ne, vy řešíte emoce a všelijaké teoretické katastrofy, já se na to dívám jen skrze logiku. Ale to je právě normální a správný lidský přístup, jen tak se dá posouvat dopředu. Zelení alarmisté také řeší kdejakou verzi katastrofy z činnosti JE, já naopak JE vidím jako jeden z nejbězpečnějších zdrojů a současně jeden z neekologičtějších. A také není důležité čí názor je správný.

Pro vás je děsivé, že by chybný algoritmus AI zabil plné letadlo cestujících, co na tom, že by tato chyba byla okamžitě vyhodnocena a ostatní AI letadla by ji zařadili na Black list. Protože jaký logický přínos pro AI letadla, by bylo zabíjet své cestující. Zato Boeing MAX musel havarovat 2x, než se vůbec někdo ve firmě ráčil tím zabývat. A kolik těch mrtvých na silnicích nebo v letadlech, lodích je ročně díky lidské chybě?

Je to podobně chybný případ, jako když argument odpůrců autonomního řízení, je dotaz, koho si AI vybere v případě neodvratné havárie jako oběť. Zda dva důchodce, nebo jedno dítě. Tak schválně, kolik času trvá lidskému řidiči, než to vyhodnotí, a jaké možnosti má AI, už jen díky velkému množství senzorů.

Petr Vorlíček | 11. 1. 2021 08:18 | reakce na Martin Doležal - 8. 1. 2021 11:17

Pane Doležale,
asi nemá smysl, aby dva tak duševně nekompatibilní jedinci plnili kyberprostor tan nesmyslnou diskuzí.
Vy vidíte v ném textu emice, a distancujete se od nich logikou, tá to přesně tak vnímám u vás.
Jestli máte s vystudovaným dvojoborem kybernetika a jaderná energetiks takovéto názory bez širšího rozhledu, te to tragikomické.
Vy ani evidentně netušíte, že jsem psal o stávajících nehodách dopravních letadel, které jsou v 90% případů spojeny s bojem člověka s robotem, který krizovou soituaci vyhodnotí odlišně nežli pilot, a ne o nějakou hypotetickou situaci...(asi se holt příliš nerozhlížíte..)
Nevidím to jako děsivé, (proč panikujete??), vidím to jako nezvládnutý problém, který se lidstvo aktuálně snaží vyřešit odstavením toho tlačítka a vlivu člověka. My pravděpodobně zažijeme éru kdy se to stane, a uvidíme, jak moc to bylo dobře.

Šokuje mne, jak moc jste nepochopil dilema volby oběti autonehody, od vaší inteligence bych čekal hlubší pohled...Není to vůbec o tom, že to člověk udělá pomaleji a hůř než robot, jde o to, že člověk za to nese plnou odpovědnost, finanční i trestní.
Kdo řekne robotovi, koho má kdy zabít, a kdo za to ponese finanční a trestní odpovědnost? Majitel? Programátor? Stát? To je to skryté dilema.

A podívejte se, předloni hackli Benešovskou nemocnici, (bylo jich víc, ale tam nešlo jediné zařízení)... To samé se už stalo na ministerstvu vnitra, a to samé v čínské uhelné elejtrárně.
Jen hlupák oak nerozlišuje mezi alarmustou křičícím Fukušima Černobyl, a mezi logickými argumenty, které suše popisují stávající rizika technologií, která jsme ae rozhodli podstoupit, abychom využili pozitiva této technologie.
JE je to nejbezpečnější co máme, a tolik nám to vyhovujr už proto, že velká čaat nákladú je odsunuta do generace našich vnuků. To lidem pŕirozeně vyhovuje, je to stejné jako s monetární politikou...Zaslepeně ignorovat reálná a logická rizika, to nená nic společného s logikou, jen s neinformovaností a pohodlností.

Martin Brezina | 7. 1. 2021 10:38 | reakce na Martin Doležal - 7. 1. 2021 09:38

"Vy řešíte situaci, že člověk vytvořil smrtící drony, ponorky, tanky, vybavené AI a perfektní účinností, bez sebezáchovnho pudu a myšlením šachového mistra. Jo, ale tam není problém v AI, je to člověk..."

A co to, že původcem vraždící instrukce není samotná AI, ale člověk, mění na tom, že se jedná o nesmírné riziko?

Martin Doležal | 7. 1. 2021 14:42 | reakce na Martin Brezina - 7. 1. 2021 10:38

Důležité na tom je to, že i když se dnes používá výraz umělá inteligence, jedná se pouze u jednoúčelové, omezené a málo rozvinuté systémy. Člověk má obrovskou výhodu, je komplexní a univerzální, tudíž když jsme přežili miliony let v přírodě, přežijeme v pohodě i s AI, pro kterou ve finále asi nebudeme moc zajímaví.
Až získá AI univerzalitu a vlastní uvědomění, což je věc řešená ve Sci-Fi, pak nastane co jsem psal.

Když už jsme u toho velkého rizika, já si myslím, že se naopak zmenšuje. Viz. jaderné, chemické a bakteriologické zbraně, ty jsou z hlediska ohrožení lidské populace mnohem strašnější, než vraždící AI. A co bylo výsledkem? Uvědomnění si strašidelné síly, a vlastního zničení, se mocnosti jen handrkují. I toho Kima nechávají na pokoji, protože má AB.

Jednotlivé neštěstí a anomálie určitě nastanou, ale chemické nebo běžné dopravní nehody budou strašnější, než nějaké selhání vraždících dronů.

Petr Vorlíček | 8. 1. 2021 00:55 | reakce na Martin Doležal - 7. 1. 2021 14:42

Jen demagogicky zesměšňujete věty vytržené z kontextu, misto sbyste se zamyslel nad tím, co tím chtěl někdo sdělit.
Vraždící drony demonstrují, že robot nemá vůči člověku pražádné ohledy, nic víc, nic míň, jen plní program. Člověk ale (většiniu) ví, co v tom programu je.
Když si ten program zároveň AI bude psát sám (což je dnes naprosto běžná praxe), člověk se stává bezbranným pozorovatelem a čeká, co z toho vypadne...
Až se takto budou sebeprogramovat skutečně inteligentní roboti či alga, schopní pracovat s lidskou psychikou (kteří už dnes chatují s lidmi na netu a sbírají cenné informace o našich citech, reakcích, a mají za úkol naučit se v diskuzi oklamat člověka), brzy se naučí, že některé informace je lepší člověku nesdělovat, nebo naopak zjistí, jaké jim účelově sdělovat. Dnes sbírá info o vaší osobě tisíc algoritmů, ví kde peacujete, co děláte, s kým se kdy stýkáte, co kupujete. Těch informací je ale bambilion, a nejsou plně centralizované a nikdo je všechny nedokaže na objednávku dát dohromady....Až budou ta data sdílena nějakým algem, které to bude třídit na kvantovém počítači nebo obdobném bazmeku, na pinknutí bude k dispozici, co jste kde kdy s kým dělal vteřinu po vteřině...Teď už by algo dávno mělo detailní info o tom, jakým způsobem jste optimalizoval daně, co tam patří a co ne, věděli by i jméno toho doktora, kterého jste uhnal, abyste předběhl důchodce v očkování na covid..Máte u sebe 24 hodin denně mikrofon s kamerou, obojí připojené ke světové síti, má to tak kompletní lidská populace. On nějaký robot jednou bude vědět co s tím, a když nebude mít to tlačítko, už se ho nikdy nezbavíme, sám se ochraní v zájmu celku před zásahy lidí...Třeba se ukáže, že prvním nezávislým AI je Satoshi Nakamoto, kzerý se už rozlezl po celé planetě, tskže už nejde vypnout (protože si to zařídil tak, aby ho lidé nechtěli vypnout), a nakonec se mu podaří rozložit světový monetární systém....:-) Vnímat AI jako rovnocenný "druh" který nás snad nezlikviduje je pro mě někde na úrovni dánského seriálu pro děti od 4-8 mi let o Dillermandovi s gigantickým penisem....

Martin Doležal | 8. 1. 2021 11:27 | reakce na Petr Vorlíček - 8. 1. 2021 00:55

Zažil jste někdy myšlení a návyky nějakého člena speciálních jednotek? Že řešíte nelidskost AI dronů. OK, děsí vás technologický vývoj. Na to mám jediné doporučení, nezajímejte se o to, vytěsněte to z života, ochráníte tím své duševní zdraví. Protože dnes jsme na samém počátku rozvoje AI a biotechnologií, a nejde to zastavit. Není jak to zastavit, i kdyby se vlády vyspělých zemí na hlavu postavili. Tohle vše se dá vytvářet v garáži oprostřed nic netušícího města.

Sám automaticky eliminujete hloupé, duševně vyšinuté ano velmi zlé lidi, jinak by jste se z toho zbláznil, zato hledat katastrofy u AI je pohodové. Co říkáte na moderní systémy pro genetickou manipulaci živých subjektů nebo virů. V malé laboratoři si dnes vyrobíte jakékoliv hloupé nonAI monstrum. Buď to bude bakterie, co bude prdět derivát morfinu, či jinou syntetickou drogu. Nebo si vytvoříte ebolu, co se bude šířit i v Norsku. Ale jasně, za tím je jen člověk, to vás neděsí, jako AI.

Petr Vorlíček | 11. 1. 2021 08:30 | reakce na Martin Doležal - 8. 1. 2021 11:27

Pane Doležale,
Nehodlám mrhat čas, abych vám tu vysvětloval, jaký rozdíl je v tom, být z nečeho vyděšený (což jsou emoce) a být v něčem vzdělaný tak, že si uvědomujete nejen výhody, které čerpáte, ale i rizika s tímto požitkem spojená. Vaše manipulace tedy nepadá na úrodnou půdu..
Dobrá zpráva je, že tu máme odborníky, jedny z nejlepších na světě, jak na jádro, tak na roboty, oni ta rizika nebagatelizují, ale snaží se je dobře pojmenovat a popsat, a začlenit je do bezpečnostních systémů.

Ano, laboratorní hrátky v rozvojových zemích s nižšími standardy jsou v současné době jistě větším rizikem, v tom souhlasím. O tom ale tahle diskuze není - ignorovat rizika technologií proto, že existuje vyšší riziko jine je čiré ignorantství, nic víc.

Boris Otokar Hodlak | 6. 1. 2021 15:53 | reakce na Martin Doležal - 6. 1. 2021 12:24

Já bych všechny ty umělé inteligence zakázala