Diskuze: Machruje, ale pak lže. A ještě se hloupě vymlouvá, ukázal pokus s ChatGPT

Antonín Thurnwald|4. 5. 2023 19:00

Zdravím všechny,
dle většiny reakcí se zdá, že jsem měl na počátku uvést, že se jedná o pokus z hlediska "běžného spotřebitele" a článek není mířen na odbornou komunitu. Analýzu rozhodovacího procesu ChatGPT nicméně udělat nemohu, neboť dosud se mi nepodařilo zjistit ani jaký druh aktivační funkce je v neuronech ChatGPT používán (pokud to někdo ví, nechť se podělí, ideálně s odkazem).
Ad Martin M:
Jedná se o starší verzi ChatGPT 3,5. Článek byl napsán již v březnu, u média jako Finmag chvíli trvá, než se dostane na řadu.
Rád bych rovněž podotkl, že jsem se nijak - Vašimi slovy - "nesnažil o stěr". Pouze jsem byl překvapen přístupem, který ChatGPT zvolil, neboť mi přišel jednak zcela zbytečný, jednak potenciálně nebezpečný.
S Vaší úvahou, že neříkat pravdu není totéž jako říkat lež nesouhlasím. Např. Wikipedie definuje lež jako typ klamu mající formu nepravdivého výroku. Můžete sice namítnout, že úmysl je charakteristickým znakem lži, nicméně jednání se neposuzuje podle záměru, nýbrž podle realizace. Nadto jsem přesvědčen, že ChatGPT lhát "chtěl".
Ad Jiří Sedláček:
S Vašimi vývody se nemohu zcela ztotožnit. Podle dostupných informací probíhalo u ChatGPT i strojové učení ("s učitelem") , byť jsem nezjistil, zda předcházelo učení bez učitele, či probíhalo s ním současně, předpokládám nicméně to první. V jeho rámci je bezesporu možné nastavit rozhodovací procesy tak aby dávaly odpovídající výstupy. Rovněž v biologickém mozku je většina synapsí chemických, čili učení AI je učení dítěte podobné jen částečně. Ani si nejsem jist, zda bych vytrénovanou AI nazval "osobností".
Jsem dále toho názoru, že AI "přeprogramovat" lze, samozřejmě ne v klasickém smyslu toho slova, ale např. změnou aktivační funkce a ostatních určujících komponent neuronové sítě. Jak jsem již uvedl, tyto parametry mi zatím nejsou známé a proto se nemohu vyjádřit konkrétněji.
AD shadow aya:
Děkuji za Vaše laskavé vyjádření. Zdá se, že mám velké štěstí, že nejsem žurnalista.

Martin M|4. 5. 2023 13:37

Ještě bych chtěl dodat - pro autora - poslední věc:

Ten obsah článku je vcelku užitečný, lidé by měli vědět a mělo by jim být připomínáno jaké úskalí má používání ChatGPT - i když teď, půl roku po otevření bety je tak pozdě, že kdo to používá už si to dávno přečetl jinde.

Nicméně ta forma je naprosto nešťastná (ale možná si zde GPT příliš personalizuju, protože když si představím, že by se takto psalo o člověku, tak je to úplně novinářské dno, článěk jehož cílem není nic jiného než někoho/něco zesměšnit).

shadow aya|3. 5. 2023 16:34

Nevzdělaný žurnalista nechápající, jak fungují jazykové modely. Tomu bych se možná nedivil, ale že někdo během prvního promptu neporozumí odpovědi a ještě poruší to nejzákladnější pravidlo jak ho psát... dobrá práce. Zkuste si tento článek napsat, až vás umělá inteligence nahradí... jo počkat, to už nebude potřeba. Připomínám, že jste jeden z prvních na radaru, když umělá inteligence dokáže kanibalizovat i kreativní práce, nahradit celkem nepodstatného a neschopného žurnalistu nebude problém. Zkuste svoji práci dělat dobře aspoň dokud existuje a prosím, nedivte se, až se za pár měsíců zase posuneme někam dál, kde to znovu nebudete pobírat. Dnes se o inovaci mluví v řádu týdnů, což vás ve škole nikdo nenaučil.

Martin M|3. 5. 2023 12:40| reakce na Petr Ruza - 3. 5. 2023 10:18

"GPT správně napsalo, že přístup k článkům a internetovým stránkám opravdu nemá"

Ne to taky není pravda - hned v první odpovědi GPT napsalo, že online přístup ke zdrojům má - což by každý běžně inteligentní člověk pochopil tak, že "umí hledat na Internetu".

Ono je tam víc problémů - GPT se obecně až příliš moc "snaží vyhovět" (říká že neví mnohem méně často, než by měla).
Další věc je, že občas "neříká pravdu" (to není to stejné jako že "lže") jen proto, že volí nevhodná slova - a to platí speciálně pro Češtinu a jiné minoritní jazyky, kde prostě nemá "načteno" dost, aby vždy zvolila nejlepší vhodné slovo dle žádaného výnamu.

V angličině funguej GPT mnohem lépe - s tím se asi musíme navždy smířit.

M M|3. 5. 2023 11:52| reakce na Michal Hron - 3. 5. 2023 11:28

Ďakujem, vážim si reakciu. Práve z tohto titulu by som čakal trochu vysvetlenia k čomu vlastne tá AI slúži, na čo sa hodí a na čo nie, a následne to napr. demonštrovať tým že AI využijem na oboje a porovnám ten výsledok. Je to skvelý nástroj na generovanie nových textov, reportov, článkov... proste coprywriting tool ako vyšitý. Je to tiež výborný nástroj na vysvetľovanie bežných javov a vecí, je to súkromný učiteľ aj pre najchudobnejšie, ale stále zvedavé deti. Na fact-checking alebo vyhľadávanie presných údajov je z princípu fungovania k ničomu (zdravíme do Microsoftu). Presne v tomto štýle by som čakal článok od odborného média za ktoré vás stále mám. Že to nie je "inteligencia" ale štatistický jazykový model ktorý postupuje podľa pravdepodobností výskytu slov, to by bol príjemný bonus. Z textu je patrné že autor si nedal prácu s pochopením toho o čom píše a je to škoda. Určite by si téma zaslúžila skúsiť to znovu a lepšie.

Michal Hron|3. 5. 2023 11:28| reakce na M M - 3. 5. 2023 10:01

Dobrý den, rozumím této připomínce, hrála roli v rozhodování, zda text využít, či nikoli. Nakonec převládl pohled běžného uživatele, kterému cosi jako "promtování" zní spíš jako nadávka. A jako pokus, který si ani nehraje na nějakou odbornost, mi to přišlo ve výsledku zajímavé. Drtivá většina lidí takhle k ChatGPT (či jiným modelům) dnes přistupuje, edukaci na téma, že by to mělo být jinak, ponechme ryze odborným webům. A budoucnosti. Všichni se AI musíme nejdřív naučit pracovat a tohle je dobrý odrazový můstek...

Jiří Sedláček|3. 5. 2023 10:48

Dosud počítače fungovaly podle algoritmů, jejichž kód jim zkonstruoval člověk a jiný člověk mohl ten kód prostudovat a pak přesně říci, jak na který podnět, jak na kterou situaci, bude daný systém (program) reagovat.
S AI nastala dramatická změna — člověk už neví, co je „uvnitř“ a nemá šanci to poznat, a tedy ani pochopit a predikovat chování AI. Člověk už nemá šanci přesně a do puntíku předpovědět, jak takový systém bude na to či ono reagovat. Proč? Protože už nejde o program, jehož fungování je dáno finitním kódem — jde o neuronovou síť. Jistě, není postavená na biologických komponentách, ale je to neuronová síť, a to je rozhodující!
Neuronové síti její tvůrce na začátku zadá jen obecné základní podmínky a pak ji krmí daty, obrovským množstvím dat. Krmí ji daty, která představují podněty pro probíhající proces učení. Tento proces učení je principiálně stejný, jako proces učení lidského mozku. Mozek právě narozeného dítěte je stejně „prázdný“ jako neuronová síť právě spuštěné AI. Osobnost dítěte i osobnost AI se v průběhu učení teprve vytvoří a tento proces na jedné ani druhé straně nelze vést tak, aby při opakování vedl k totožnému, a tedy ani predikovatelnému výsledku.
AI se zatím chová jako malé dítě, které také nedokáže rozlišit, co je pravda, co je pohádka a co lež. Ale hlavně — AI není možné přeprogramovat, jak navrhuje Antonín Thurnwald. Lze ji jen vychovat … … nebo zabít a porodit jinou …

Petr Ruza|3. 5. 2023 10:18

Trochu mi to přijde, jakoby se bavil blbý s blbějším, což mi přijde dost smutné. GPT třeba správně řeklo, že nelže, protože lhaní je úmyslné a tak, jak GPT funguje, tak není možné, aby lhalo. Dále jsme u připojení k internetu. GPT správně napsalo, že přístup k článkům a internetovým stránkám opravdu nemá a nabídlo autorovi alternativy, které místo toho dokáže. To si zase autor interpretoval po svém... Autor bohužel nepochopil funkci nástroje a jeho používání. Je vidět, že práce s ním vyžaduje opravdu inteligenci i na straně uživatele.

Martin M|3. 5. 2023 10:13

Od lidského novináře (když už se snaží o "stěr") bych očekával, že napíše o jaké verzi GPT se tu bavíme.

O staré "zadarmové" 3.5 nebo o novější placené 4 ?

Podle odpovědí bych to tipoval na starou 3.5 - ale můžu se mýlit.

M M|3. 5. 2023 10:01

Pozrite, neviem používať kladivo a buchol som sa s ním do prsta. Kladivá sú k ničomu! S pozdravom, Váš autor na Finmagu. Tak nejak na mňa toto pôsobí. Skúste prosím nájsť niekoho kto tomu trochu rozumie ak sa chcete zaoberať touto témou.