Diskuze: Paradox aut budoucnosti: čím lepší autopilot, tím spíš vás zabije

Daniel Bowman|14. 9. 2022 15:12

Důležité je, že je to AI je schopné "poučit" se z chyb.Porodní bolesti se dají předpokládat a holt lidé ovlivnitelní marketingem a "Trust the Science, bro" se holt vyřadí z evolučního boje.
Zahynout chybou stroje zamrzí, zvlášť pokud je to chyba, kterou by člověk sám nejspíš neudělal. ALe lze předpokládat, že takových chyb bude ubývat, čím víc se bude jezdit.

Možná to dojde tak daleko, že budem muset zavést souboje, aby se populace opět zbavovala slabých kusů.

Očekávám, že první přijde na řadu dálková kamiónová doprava. Tam si řidiči čumí na TV i bez autopilota.
Jinak černá skříňka to samozřejmě je. Ale logiku bych v tom nehledal. Je to spíš statistická matematika. A navíc lidský rozhodovací proces u řízení je taky blackbox. Většina logiky je dodaná ex-post.

Michal Kováčik|30. 8. 2022 22:50

Pravdu povediac, keď som mal robiť "four-eyes" v IT oblasti, dohľad nad tým, čo kolega robí na servri (t.j. sledovanie terminálu v Linuxe) - veľká nemecká banka, pre ktorú sme dodávali nejaké služby, mala proste také šialené procesy a zvnútra sa zožierala vlastnou byrokraciou - tak som strácal pozornosť cca. po troch minútach.

Tam to bolo na pozornosť ešte horšie než v Tesle, lebo jednak dianie na ceste človek vníma do istej miery aj periférne, bez toho, aby sa fixoval pohľadom a pozornosťou na jeden konkrétny bod, ale aj tým, že kolega vždy vedel, čo robí (a tie operácie sa stále opakovali), tak psychologicky nebol ani pocit dôvodu ho sledovať (pri zvyšných desiatkach zákazníkov sa totožné činnosti nikdy nikým druhým nesledovali)...

Ja si myslím, že najväčším problémom nasadenia samoriadenia nižšej úrovne než 5 bude aj tak právny problém, kto bude na vine, keď to niekoho zrakví. Ak by to mal byť vodič, tak väčšina ľudí si to dosť rozmyslí, či ísť do takého rizika v situácii, keď to človek prakticky nebude vedieť ovplyvniť (akokoľvek by to vychádzalo na kilometre dobre, na niekoho Čierny Peter, pardon Afroamerický Peter, predsa len padne). Dnešní early adopteri to asi toľko neriešia, ale stačí pár drásavých reportáží v médiách...

Petr Novak|30. 8. 2022 17:56

Od autonomie chci jednou věc - schopnost auta se dojet několik kilometrů samo zaparkovat a pak zase zpět. Vlastní řízení nevadí, ale tohle řeší dnešní zásadní problém s nedostatkem parkovacích míst.

Vojtěch Dobeš|30. 8. 2022 17:01| reakce na Martin M - 29. 8. 2022 19:15

Teď je to na úrovni, že udělá chybu třeba co pár kilometrů. Tím udrží pozornost řidiče, kterého nenapadne si třeba číst.

Problém bude, až bude dělat chybu třeba jednou za stovky nebo tisíce kilometrů. To už ukolébá pozornost řidiče a až chyba přijde, tak jí řidič nezvládne napravit.

Martin M|29. 8. 2022 19:22

Podle mě jde spíš o psychologický problém - člověku dělá mnohem menší problém, že se (nebo ho někdo jiný) zabije vlastní neschopností, než to, že ho nějakou závadu zabije stroj.

Na stroje prostě klademe daleko vyšší nároky než na lidi.
A to je správně.
Lidé jsou ve schopnostech omezení a nejspíš se nikdy nezlepší (jedině snad implantáty?)
Stroje zlepšovat můžeme, a proto je i zlepšovat chceme.

Martin M|29. 8. 2022 19:16| reakce na Martin M - 29. 8. 2022 19:15

chyba - MTBF samozřejmě

Martin M|29. 8. 2022 19:15| reakce na Vojtěch Dobeš - 29. 8. 2022 17:30

To je čistě otázka toho, jak často ten stroj udělá chybu.

Dnes ji dělá často, tak pokud by člověk nedával pozor, tak bude samozřejmě nehody Tesly každých 300 metrů.

Pokud bude ten stroj výrazně lepší (třeba za 10, 20 let), tak pokud udělá chybu třeba jednou za 200 000 km (nebo můžeme počítat hodiny - MTFB), a člověk POKAŽDÉ selže v jejím napravení, tak stejně bude nehod výrazně míň než dnes.

To záleží čistě jen na té hodnotě MTFB člověka vs. stroje.
Která je dnes výrazně ve prospěch člověka, ale nemusí to tak být navždy.

Vojtěch Dobeš|29. 8. 2022 17:30| reakce na Martin M - 29. 8. 2022 12:04

Problém s tím, že systém "neví že neví", je ten, že všechno kromě plnohodnotného Level 5 systému (schopnost řídit kdekoliv, kdykoliv, bez toho že by kdy potřeboval zásah člověka) je postavené tak, že když neví, tak předá řízení.

Jenomže on neví, že neví, takže řidič místo aby řídil, musí hlídat, jestli systém neudělá chybu, což je ve výsledku na pozornost výrazně náročnější a mnohem spíš to skončí průšvihem.

Martin M|29. 8. 2022 12:04

O AI a samořiditelných autech se tooh dá jistě napsat hodně, pro i proti, a já nejsem žádný expert.

Co mě fascinuje je, když se strojům vyčítají chyby, které mají lidé taky (a ještě v daleko horší podobě), ale u lidí se to jaksi "toleruje"
V tomto článku například: "Když umělá inteligence neví, tak obvykle také neví, že neví."

To ovšem pro lidi platí v drtivé většině taky. To že jako člověk "víte že nevíte" je zcela vzácná situace, v drtivé většině případů taktéž "nevíte že nevíte".
Stroj stejně jako člověk nikdy nepozná okamžit, kdy ztratí nad situací kontrolu - pozná jedině to, že už ji před nějakou chvílí ztratil, což je mu dost k ničemu.

On vlastně celý ten myšlenkový spor je v tom, jestli když tvoříme stroj, tak požadujeme aby byl "dokonalý", nebo nám stačí, aby byl "pouze lepší než člověk".

Dokonalý stroj, který nikdy neudělá žádnou chybu, nikdy neselže a nikdy nikoho nezabije obecně vytvořit NEJDE.
To co ale vytvořit JDE je stroj (tedy i samořiditelné auto), který udělá méně chyb, selže méně častěji a zabije přitom méně lidí, než lidé (a to lidé při řízení auta zabijou a zmrzačí _fakt hodně_ lidí - jen pro nás je tohle zabíjení už tak všední a fádní, že nám to ani nepřijde zajímavé)