Používáte nástroj pro blokování reklamy. Pokud nám chcete pomoci, vypněte si blokování reklamy na našem webu. Zde najdete jednoduchý návod. Děkujeme.

Diskuze k článku: Nezabíjejte umělé inteligence

Josef Tětek | 6. 1. 2021 | Celkem 14 komentářů v diskuzi

Vložit komentář

Příspěvek s nejvíce kladnými hlasy

Petr Vorlíček | 6. 1. 2021 22:07

Cituji "Příchod pokročilejšího druhu ale nemusí znamenat vyhlazení těch dosavadních."...
Nemusí? Takže budeme doufat?
Málokdo si uvědomuje, že realita je milionkrát horší než roboti z akčních filmů - ti obvykle vraždí lidi až ve chvíli, kdy se porouchají, nebo je někdo přeprogramuje. Rámcově dodržují Asimovy zákony...

Skuteční roboti nemilosrdně vraždí od samého začátku, žádné zákony nemají, nikdy neměli, jen vykonej povel...Shoď bombu na XY, šup a je po něm...
Až tyhle stroje získají něco jako inteligenci a uvědomění si vlastní existence, je vymalováno, finito, snad u toho už nebudu...
U lidí spoléháme na lidskost, milosrdenství, soucit, tendenci dodržovat zákony tlupy. Robot nic z toho nemá, jedná na základě nul a jedniček....
Naštěstí už dnes existují elektromagnetické pušky, takže tkačítko nemusí mít robot, bude jej mít člověk...
Považovat strojírenský výrobek za "druh" rovný člověku (či dokonce vyšší druh) považuji za úchylnou představu znuděných pseudointelektuálních progresivistů...

+7
+
-

Příspěvek s nejvíce zápornými hlasy

Martin Doležal | 7. 1. 2021 14:42

Důležité na tom je to, že i když se dnes používá výraz umělá inteligence, jedná se pouze u jednoúčelové, omezené a málo rozvinuté systémy. Člověk má obrovskou výhodu, je komplexní a univerzální, tudíž když jsme přežili miliony let v přírodě, přežijeme v pohodě i s AI, pro kterou ve finále asi nebudeme moc zajímaví.
Až získá AI univerzalitu a vlastní uvědomění, což je věc řešená ve Sci-Fi, pak nastane co jsem psal.

Když už jsme u toho velkého rizika, já si myslím, že se naopak zmenšuje. Viz. jaderné, chemické a bakteriologické zbraně, ty jsou z hlediska ohrožení lidské populace mnohem strašnější, než vraždící AI. A co bylo výsledkem? Uvědomnění si strašidelné síly, a vlastního zničení, se mocnosti jen handrkují. I toho Kima nechávají na pokoji, protože má AB.

Jednotlivé neštěstí a anomálie určitě nastanou, ale chemické nebo běžné dopravní nehody budou strašnější, než nějaké selhání vraždících dronů.

-1
+
-

Všech 14 komentářů v diskuzi.

Honza _ | 7. 1. 2021 09:42

"Představte si čtrnáctiletého kluka. Určitě vám nepřijde zvláštní, že bude mít sklony k rebelii vůči rodičům. To je přirozený biologický a psychologický vývoj. A čím silnější kontrolu rodiče vůči dítěti uplatňují, s tím silnějším odporem se setkávají."
Zkušenosti rodičů praktikujících svobodnou výchovu (viz třeba škola Summerhill) je taková, že k žádné rebelii nedojde :-)

A pěkné info o AI jsou k poslechu na Youtube Paralelní Polis:
https://www.youtube.com/watch?v=w7lseCD4OUg&list=PLGJQS0h-wqLQqR5wdpL2tG68ArKjoIMpK

Nahlásit

0
+
-

Petr Vorlíček | 6. 1. 2021 22:07

Cituji "Příchod pokročilejšího druhu ale nemusí znamenat vyhlazení těch dosavadních."...
Nemusí? Takže budeme doufat?
Málokdo si uvědomuje, že realita je milionkrát horší než roboti z akčních filmů - ti obvykle vraždí lidi až ve chvíli, kdy se porouchají, nebo je někdo přeprogramuje. Rámcově dodržují Asimovy zákony...

Skuteční roboti nemilosrdně vraždí od samého začátku, žádné zákony nemají, nikdy neměli, jen vykonej povel...Shoď bombu na XY, šup a je po něm...
Až tyhle stroje získají něco jako inteligenci a uvědomění si vlastní existence, je vymalováno, finito, snad u toho už nebudu...
U lidí spoléháme na lidskost, milosrdenství, soucit, tendenci dodržovat zákony tlupy. Robot nic z toho nemá, jedná na základě nul a jedniček....
Naštěstí už dnes existují elektromagnetické pušky, takže tkačítko nemusí mít robot, bude jej mít člověk...
Považovat strojírenský výrobek za "druh" rovný člověku (či dokonce vyšší druh) považuji za úchylnou představu znuděných pseudointelektuálních progresivistů...

Nahlásit

+7
+
-

Martin Doležal | 7. 1. 2021 09:38 | reakce na Petr Vorlíček - 6. 1. 2021 22:07

Současná AI, je jen a pouze vysoce specializovaný systém tzv. hlubokého učení. Ano, již takto "nízká" umělá inteligence převálcovala člověka v mnoha oborech a není šance, že by ji člověk někdy stíhal. Tak jako nestačíme rychlostí na geparda, čichem na psa, výdrží na velblouda. Tak hol v leteckých soubojích, nebo v pokru, šachách, hře Go, nebudeme mít na AI. A je s tím nějaký problém? Nespíte, protože nestačíte s pamětí na slona? Navíc je vidět, že tento obor je vám naprosto cizí, když věříte, že vás ochrání elektromagnetická puška. AI nemusí tvořit HW z křemíkových čipů, a když už, je to lehce ochránitelné oproti elektromagnetickému impulzu. Říká vám něco optika?

Chápu že pro Sci-Fi je AI utržená z řetězu lákavé téma. Ovšem předpokládá to jednu zásadní věc, že ta AI bude člověk, bude myslet jak člověk, bude mít lidské potřeby. Kosmická loď s AI klidně zmrzne na 100.000 let, po ohřátí bude pokračovat. AI nemá problém se smrtelností jako člověk. AI nemá sexuální a rozmnožovací pudy, věci, které v lidských dějinách způsobili mraky katastrof a násilí. AI nemá hlad, není ji zima, nepotřebuje svůj velký ranč, kde zastřelí každého, kdo ji naruší soukromí. AI nezajímá majetek, nemá pro ní využití. Nebo myslíte, že kosmická sonda bude spokojenější, kdy na jejím zdroji budou ležet dvě cihly zlata?

Vy řešíte situaci, že člověk vytvořil smrtící drony, ponorky, tanky, vybavené AI a perfektní účinností, bez sebezáchovnho pudu a myšlením šachového mistra. Jo, ale tam není problém v AI, je to člověk, už jeho první dělová koule byla úchylka narušující přirozenou rovnováhu. Ta AI nezdivočí, územní nebo majetkové zisky ji nemohou zlepšit život nebo zabezpečit potomky. A už vůbec je nemůže zajímat prehistorické ideologie levice či pravice. Opět, není v tom nic přínosného pro existenci AI.

Nahlásit | Zobrazit komentovanou zprávu

+1
+
-

Petr Vorlíček | 8. 1. 2021 00:07 | reakce na Martin Doležal - 7. 1. 2021 09:38

Stephan Hawking měl poněkud odlišný názor, a nepochybuji o tom, že to promyslel asi miliardkrát lépe než vy...
Když odhadujete, co bude a co nebude zajímavé pro budoucí AI, sesíťované, s nekonečnými informacemi, pamětí, inteligencí, jste jako saranče, které se na louce domnívá, že ty bagry a rypadla přeci nic neznamenají...
Co bude nebo nebude zajímavé pro AI, to si jednou zhodnotí sama AI, protože člověk už její procesy nebude schopen monitorovat, natož pochopit, co si o zom myslel nějaký Doležal v roce nebreč si asi k srdci brát nebude...
Vaše představy AI utržené ze řetězu je komická - je realita současnosti, že samoučící roboti obchodují většinu transakcí na kapitálových trzích, a nikdo už dávno nemůže dohlédnout možného výsledkunjejich vzájemné interakce. Už tato alga by mohla zvládnout rozvrátit světovou ekonomiku, už nyní vyhodnocují infornace o spotřebitelích, o zásazích vlád, ekonomů, vyhodnocují informace, které skedujeme na internetu i s našimi reakcemi na ně. Mám to štěstí, že jednoho spoluprovozuji...
Dnes všichni mají pocit, že to mají pod kontrolou, a snad je to bude ješte dlouho pravda - skoro vždy je tam totiž zatím to tlačítko, které stisknete, když robot začne blbnout...Kde není, jste připoruše robota nahraný, když vám auto za jízdy v mímus dvaceti stáhne všechna okénka, je to jen velká nepříjemnost, když vám autopilot v letadle začnevtahat za knipl, protože má instrukce o kterých jako pilot nevíte, zabije to 300 cestujících, když robot špatně vyhodnotí souhru dějů, na kzeré ho člověk nepřioravil, bude jeho reakce nepredikovatelná, stejně jsko když se ty instrukce pro sebe naučí sám vytvářet. Pak je už jen otázkou, co ten robit ovládá, domácí pekárnu, silo jaderných zbraní, či vesmírnou loď...
Vaši bezstarostnist Vám ze srdce přeji. Ono čim méně toho člověk ví, tím snáze jí dosáhne....

Nahlásit | Zobrazit komentovanou zprávu

+2
+
-

Alexander Novotka | 10. 1. 2021 17:48 | reakce na Petr Vorlíček - 8. 1. 2021 00:07

Osobně jsem si vydechl poté, co s tímhle přišel Elon Musk
https://www.youtube.com/watch?v=bUc9LYe55wI
To Vás pak nějaká "realita" vlastně ani nemusí tolik bolet, ne?
:-)))

Nahlásit | Zobrazit komentovanou zprávu

0
+
-

Martin Doležal | 8. 1. 2021 11:17 | reakce na Petr Vorlíček - 8. 1. 2021 00:07

Pro vás je kybernetika cizí obor, pro mě ne, vy řešíte emoce a všelijaké teoretické katastrofy, já se na to dívám jen skrze logiku. Ale to je právě normální a správný lidský přístup, jen tak se dá posouvat dopředu. Zelení alarmisté také řeší kdejakou verzi katastrofy z činnosti JE, já naopak JE vidím jako jeden z nejbězpečnějších zdrojů a současně jeden z neekologičtějších. A také není důležité čí názor je správný.

Pro vás je děsivé, že by chybný algoritmus AI zabil plné letadlo cestujících, co na tom, že by tato chyba byla okamžitě vyhodnocena a ostatní AI letadla by ji zařadili na Black list. Protože jaký logický přínos pro AI letadla, by bylo zabíjet své cestující. Zato Boeing MAX musel havarovat 2x, než se vůbec někdo ve firmě ráčil tím zabývat. A kolik těch mrtvých na silnicích nebo v letadlech, lodích je ročně díky lidské chybě?

Je to podobně chybný případ, jako když argument odpůrců autonomního řízení, je dotaz, koho si AI vybere v případě neodvratné havárie jako oběť. Zda dva důchodce, nebo jedno dítě. Tak schválně, kolik času trvá lidskému řidiči, než to vyhodnotí, a jaké možnosti má AI, už jen díky velkému množství senzorů.

Nahlásit | Zobrazit komentovanou zprávu

+1
+
-

Petr Vorlíček | 11. 1. 2021 08:18 | reakce na Martin Doležal - 8. 1. 2021 11:17

Pane Doležale,
asi nemá smysl, aby dva tak duševně nekompatibilní jedinci plnili kyberprostor tan nesmyslnou diskuzí.
Vy vidíte v ném textu emice, a distancujete se od nich logikou, tá to přesně tak vnímám u vás.
Jestli máte s vystudovaným dvojoborem kybernetika a jaderná energetiks takovéto názory bez širšího rozhledu, te to tragikomické.
Vy ani evidentně netušíte, že jsem psal o stávajících nehodách dopravních letadel, které jsou v 90% případů spojeny s bojem člověka s robotem, který krizovou soituaci vyhodnotí odlišně nežli pilot, a ne o nějakou hypotetickou situaci...(asi se holt příliš nerozhlížíte..)
Nevidím to jako děsivé, (proč panikujete??), vidím to jako nezvládnutý problém, který se lidstvo aktuálně snaží vyřešit odstavením toho tlačítka a vlivu člověka. My pravděpodobně zažijeme éru kdy se to stane, a uvidíme, jak moc to bylo dobře.

Šokuje mne, jak moc jste nepochopil dilema volby oběti autonehody, od vaší inteligence bych čekal hlubší pohled...Není to vůbec o tom, že to člověk udělá pomaleji a hůř než robot, jde o to, že člověk za to nese plnou odpovědnost, finanční i trestní.
Kdo řekne robotovi, koho má kdy zabít, a kdo za to ponese finanční a trestní odpovědnost? Majitel? Programátor? Stát? To je to skryté dilema.

A podívejte se, předloni hackli Benešovskou nemocnici, (bylo jich víc, ale tam nešlo jediné zařízení)... To samé se už stalo na ministerstvu vnitra, a to samé v čínské uhelné elejtrárně.
Jen hlupák oak nerozlišuje mezi alarmustou křičícím Fukušima Černobyl, a mezi logickými argumenty, které suše popisují stávající rizika technologií, která jsme ae rozhodli podstoupit, abychom využili pozitiva této technologie.
JE je to nejbezpečnější co máme, a tolik nám to vyhovujr už proto, že velká čaat nákladú je odsunuta do generace našich vnuků. To lidem pŕirozeně vyhovuje, je to stejné jako s monetární politikou...Zaslepeně ignorovat reálná a logická rizika, to nená nic společného s logikou, jen s neinformovaností a pohodlností.

Nahlásit | Zobrazit komentovanou zprávu

+2
+
-

Martin Brezina | 7. 1. 2021 10:38 | reakce na Martin Doležal - 7. 1. 2021 09:38

"Vy řešíte situaci, že člověk vytvořil smrtící drony, ponorky, tanky, vybavené AI a perfektní účinností, bez sebezáchovnho pudu a myšlením šachového mistra. Jo, ale tam není problém v AI, je to člověk..."

A co to, že původcem vraždící instrukce není samotná AI, ale člověk, mění na tom, že se jedná o nesmírné riziko?

Nahlásit | Zobrazit komentovanou zprávu

+1
+
-

Martin Doležal | 7. 1. 2021 14:42 | reakce na Martin Brezina - 7. 1. 2021 10:38

Důležité na tom je to, že i když se dnes používá výraz umělá inteligence, jedná se pouze u jednoúčelové, omezené a málo rozvinuté systémy. Člověk má obrovskou výhodu, je komplexní a univerzální, tudíž když jsme přežili miliony let v přírodě, přežijeme v pohodě i s AI, pro kterou ve finále asi nebudeme moc zajímaví.
Až získá AI univerzalitu a vlastní uvědomění, což je věc řešená ve Sci-Fi, pak nastane co jsem psal.

Když už jsme u toho velkého rizika, já si myslím, že se naopak zmenšuje. Viz. jaderné, chemické a bakteriologické zbraně, ty jsou z hlediska ohrožení lidské populace mnohem strašnější, než vraždící AI. A co bylo výsledkem? Uvědomnění si strašidelné síly, a vlastního zničení, se mocnosti jen handrkují. I toho Kima nechávají na pokoji, protože má AB.

Jednotlivé neštěstí a anomálie určitě nastanou, ale chemické nebo běžné dopravní nehody budou strašnější, než nějaké selhání vraždících dronů.

Nahlásit | Zobrazit komentovanou zprávu

-1
+
-

Petr Vorlíček | 8. 1. 2021 00:55 | reakce na Martin Doležal - 7. 1. 2021 14:42

Jen demagogicky zesměšňujete věty vytržené z kontextu, misto sbyste se zamyslel nad tím, co tím chtěl někdo sdělit.
Vraždící drony demonstrují, že robot nemá vůči člověku pražádné ohledy, nic víc, nic míň, jen plní program. Člověk ale (většiniu) ví, co v tom programu je.
Když si ten program zároveň AI bude psát sám (což je dnes naprosto běžná praxe), člověk se stává bezbranným pozorovatelem a čeká, co z toho vypadne...
Až se takto budou sebeprogramovat skutečně inteligentní roboti či alga, schopní pracovat s lidskou psychikou (kteří už dnes chatují s lidmi na netu a sbírají cenné informace o našich citech, reakcích, a mají za úkol naučit se v diskuzi oklamat člověka), brzy se naučí, že některé informace je lepší člověku nesdělovat, nebo naopak zjistí, jaké jim účelově sdělovat. Dnes sbírá info o vaší osobě tisíc algoritmů, ví kde peacujete, co děláte, s kým se kdy stýkáte, co kupujete. Těch informací je ale bambilion, a nejsou plně centralizované a nikdo je všechny nedokaže na objednávku dát dohromady....Až budou ta data sdílena nějakým algem, které to bude třídit na kvantovém počítači nebo obdobném bazmeku, na pinknutí bude k dispozici, co jste kde kdy s kým dělal vteřinu po vteřině...Teď už by algo dávno mělo detailní info o tom, jakým způsobem jste optimalizoval daně, co tam patří a co ne, věděli by i jméno toho doktora, kterého jste uhnal, abyste předběhl důchodce v očkování na covid..Máte u sebe 24 hodin denně mikrofon s kamerou, obojí připojené ke světové síti, má to tak kompletní lidská populace. On nějaký robot jednou bude vědět co s tím, a když nebude mít to tlačítko, už se ho nikdy nezbavíme, sám se ochraní v zájmu celku před zásahy lidí...Třeba se ukáže, že prvním nezávislým AI je Satoshi Nakamoto, kzerý se už rozlezl po celé planetě, tskže už nejde vypnout (protože si to zařídil tak, aby ho lidé nechtěli vypnout), a nakonec se mu podaří rozložit světový monetární systém....:-) Vnímat AI jako rovnocenný "druh" který nás snad nezlikviduje je pro mě někde na úrovni dánského seriálu pro děti od 4-8 mi let o Dillermandovi s gigantickým penisem....

Nahlásit | Zobrazit komentovanou zprávu

0
+
-

Martin Doležal | 8. 1. 2021 11:27 | reakce na Petr Vorlíček - 8. 1. 2021 00:55

Zažil jste někdy myšlení a návyky nějakého člena speciálních jednotek? Že řešíte nelidskost AI dronů. OK, děsí vás technologický vývoj. Na to mám jediné doporučení, nezajímejte se o to, vytěsněte to z života, ochráníte tím své duševní zdraví. Protože dnes jsme na samém počátku rozvoje AI a biotechnologií, a nejde to zastavit. Není jak to zastavit, i kdyby se vlády vyspělých zemí na hlavu postavili. Tohle vše se dá vytvářet v garáži oprostřed nic netušícího města.

Sám automaticky eliminujete hloupé, duševně vyšinuté ano velmi zlé lidi, jinak by jste se z toho zbláznil, zato hledat katastrofy u AI je pohodové. Co říkáte na moderní systémy pro genetickou manipulaci živých subjektů nebo virů. V malé laboratoři si dnes vyrobíte jakékoliv hloupé nonAI monstrum. Buď to bude bakterie, co bude prdět derivát morfinu, či jinou syntetickou drogu. Nebo si vytvoříte ebolu, co se bude šířit i v Norsku. Ale jasně, za tím je jen člověk, to vás neděsí, jako AI.

Nahlásit | Zobrazit komentovanou zprávu

+1
+
-

Petr Vorlíček | 11. 1. 2021 08:30 | reakce na Martin Doležal - 8. 1. 2021 11:27

Pane Doležale,
Nehodlám mrhat čas, abych vám tu vysvětloval, jaký rozdíl je v tom, být z nečeho vyděšený (což jsou emoce) a být v něčem vzdělaný tak, že si uvědomujete nejen výhody, které čerpáte, ale i rizika s tímto požitkem spojená. Vaše manipulace tedy nepadá na úrodnou půdu..
Dobrá zpráva je, že tu máme odborníky, jedny z nejlepších na světě, jak na jádro, tak na roboty, oni ta rizika nebagatelizují, ale snaží se je dobře pojmenovat a popsat, a začlenit je do bezpečnostních systémů.

Ano, laboratorní hrátky v rozvojových zemích s nižšími standardy jsou v současné době jistě větším rizikem, v tom souhlasím. O tom ale tahle diskuze není - ignorovat rizika technologií proto, že existuje vyšší riziko jine je čiré ignorantství, nic víc.

Nahlásit | Zobrazit komentovanou zprávu

0
+
-

Martin Doležal | 6. 1. 2021 12:24

Co se týká umělé inteligence, tak je zbytečné řešit nějaké destrukční tlačítka, nebo způsoby regulace. To je prostě jako jakýkoliv důležitý, lidský vynález co se dostal na světlo Boží. Zpět už to nelze vzít, regulovat to nejde, zastavit to nejde. Jediné co můžeme, naučit se s tím žít a využívat pozitivních přínosů a najít způsoby, jak alespoň identifikovat ty negativní.

Ti co se toho děsí, by si prvně měli vyzkoušet sebrat všem lidem telefony a internet, schválně jak by uspěli.

Nahlásit

-1
+
-

Boris Otokar Hodlak | 6. 1. 2021 15:53 | reakce na Martin Doležal - 6. 1. 2021 12:24

Já bych všechny ty umělé inteligence zakázala

Nahlásit | Zobrazit komentovanou zprávu

+7
+
-