Mnozí lidé kritizují openAI, že občas podává překvapivě nesmyslné odpovědi (kupříkladu na příkaz "napiš slova české hymny" - napíše slovní salát). Přitom jindy se chová docela normálně a je schopna naprogramovat i složité algoritmy, které fungují.
Jenže ta AI tímhle má k lidskému uvažování mnohem blíž než se zdá. Někdy mě totiž až překvapí, jak podivné výstupy jsou schopni vyprodukovat také živí lidé, kteří se přitom jindy chovají zcela normálně, a tudíž nejsou blázni. Jako by měli v mozku nějaký "trigger", který způsobuje zkrat v uvažování, ovšem pouze pokud uvažují o nějakém úzkém spektru témat. Dokonce přitom používají logiku, aby si ten blud pak ospravedlnili, přičemž ho zpětnovazebně zesilují až je nevyvratitelný.
V podstatě jsem tuto selektivní odchylku vysledoval v uvažování většiny lidí, které považuju za zcela normální.
Všimnul jsem si taky, že AI generuje surrealistické obrazy. Ty jsou podobné tomu, co se nám zdá ve spánku. Mám proto teorii, že AI funguje podobně jako naše podvědomí: neustále chrlí nejrůznější myšlenky na škále od pravdivých až po bludy, a pak do hry vstupují korekční mechanismy, které do vědomí pustí jen ty myšlenky a obrazy, které jsou uznány za relevantní (na základě zkušeností, neustálého porovnávání se s ostatními a částečně i rozumu).
Odpovídal by tomu i fakt, že AI občas v obrázcích vygeneruje text, který je letmo sice normální, ale když ho zkusíte přečíst, je to nesmysl a ani písmena nejsou třeba písmena. Ve snu je to podobné; taky tam občas vidíte text, který nejde přečíst.
Čili to zkratovité uvažování u lidí, které se projevuje pouze v úzkém okruhu témat, je zřejmě dáno dysfunkcí korekčních mechanismů. Z jejich podvědomí se v tu chvíli do vědomí dostanou nesmysly a ty jsou pak navíc podpořeny rozumem, který v nich najde logickou strukturu - a pak už je lhostejno že je to celé nesmysl.
Mám také teorii, že nejen že většina lidí projevuje v konkrétních případech toto zkratovité uvažování, ale že hranice mezi bláznovstvím a normalitou je mlhavá. Jde pouze o to, nakolik se ty zkraty projevují a zda ještě člověka neomezují v normálním životě. Do léčeben se tudíž dostávají až ti, kteří nejsou schopni fungovat ve společnosti.
Takže nevím jak se to těm inženýrům z OpenAI podařilo, nicméně to co AI předvádí, už je lidské uvažování. Zatím jsou tam evidentně nedostatky v těch korekčních mechanismech - ovšem stejné mají i lidé, jen daleko méně často.
@mig Nope, ten poslední odstavec je čistá pareidolie: "co tam hledám, to si tam najdu." Což je ostatně jeden z důvodů, proč AI vnímáme jako "funkční": větší část toho myšlení, který normálně odvede autor, je tady na příjemci sdělení. Odtud pak to hřejivé překvapení "hele, AI myslí, a úplně jako já!" No, ne: čtenář drží v ruce odlité olovo, nachází *SI* v něm smysl, a uzavírá, že studená voda tudíž myslí.
@piskvor @mig
Už je to tu zase.
To staré "99 procent není sto, a AI nikdy nenahradí člověka" uvažování.
To je to samé jako s každým studentem. Za začátku jsou v tom nesmysly. Pak si v tom zkušený učitel něco najde. Ale i poté, co student překoná mistra, mistr vždy najde chybu na kterou může ukázat aby se vysmál.
@piskvor @mig
Umělá inteligence funguje, protože se programátorům podařilo vepsat celou vědeckou metodu do každého neuronu, stejně jako do celku.
Vědecká metoda zní: Navrhni teorii, proveď experiment, zjisti nepřesnosti, navrhni teorii.
A to samé dělá každý neuron. Navrhne číslo, použije ho v experimentu, změří odchylku a navrhne nové číslo.
Je to jednoduchý mechanismus, ale zvládá rozumět datům a přizpůsobit se. Jediný důvod, proč se doteď zdá být nedokonalý je, že musel být limitován to virtuálního světa. Jak se ovšem podaří dostat víc dat z fyzického světa, vědci budou bez práce. A už teď se bojím, co způsobí až se nejchytřejší mozek světa pustí do reklam a politických kampaní.
AI nás nevyhubí, AI si bude hrát s našimi mozky ani nepochopíme jak.
@piskvor dobře, ale proč tedy lidské uvažování a jeho výstupy vnímáme jako "funkční"? Není na to odpověď pouze taková, že je prostě lidské? Protože přitom víme, že uvažoval lidský mozek?
Jasně že se snažím hledat podobnosti. To člověk dělá běžně, že přitom zanedbává to co se mu nehodí, protože to umožňuje všímat si podstatného - a pak je nutno to samozřejmě podrobit analýze, jestli je teorie pravdivá či jde pouze o zdánlivou korelaci.
Jediné co tady snad může pomoct, je turingův test. Dovolím si tvrdit, že ho AI splní do deseti let, možná dřív. Už teď je udivující jak _rozumí_ zadání, přestože si často radši vymýšlí odpovědi než by sdělila že neví.
Byl jsem vůči AI dosud skeptický. Dosud byla spíš syntaktickým analyzátorem, který uměl překládat mezi jazyky nebo tvořit syntakticky správné, ale bezsmyslné věty (kamarád to přezdívá "žvatlátor"). Jenže to co předvádí openAI, je o level výš.
Z principu: pokud mám živý neuron a umělý neuron, asi nebude ve výsledku rozdíl. Jediné, co výsledek ovlivní, je počet těch neuronů.
Nutno si přiznat, že lidský mozek jich má sice zřejmě víc, ale celkově taky dělá řadu jiných věcí než jen že přemýšlí. Lidský mozek vůbec nebyl stavěn k tomu, aby řešil matematické algoritmy nebo hrál šachy (ostatně běžná kalkulačka ho strčí "do kapsy" už dávno).
Čili o "přemýšlení" se stará jen část našeho mozku, tudíž ne tolik neuronů, a tudíž bude jistě možné právě tuto část simulovat elektronicky, což už se podle mě děje.
Další části našich mozků řeší senzory a vůbec schopnost přežití ve fyzickém prostředí - to je totiž primární funkcí mozku, na kterou je stavěn. Kromě toho umělá inteligence dosud neimplementuje emoce, což je taky ale podstatné asi jen z hlediska toho přežití ve fyzickém prostředí. Náš mozek se dále spoustu času zaobírá mezilidskými vztahy a "počítáním" toho, co si kdo o nás myslí, dedukcemi, indukcemi, neustálým vytvářením různých konstrukcí. Na matematické algoritmy a hraní šachů prostě není stavěn, v tom nás specializovaná AI trumfne.
Všimněme si některých výrazně autistických jedinců. Jako by jim chybělo to "počítání" mezilidských vztahů, ale tuto inteligenční kapacitu mohou používat jinak - jsou případy, kdy geniálně počítají nebo řeší specifické úlohy. Tím se hodně podobají té AI.
A když se ještě vrátím k tomu co nazýváte pareidolie. Existují matematické algoritmy, kupříkladu hra život, které ukazují, že reálný život lze simulovat matematicky. Je to asi tím, ,že všechno okolo nás je ve výsledku nějaká matematika. Nebo opačně, že matematika je pravdivým a pouhým popisem toho, co nás obklopuje.
Vycházím-li z podobné paralely, tak pokud se budu snažit simulovat neurální síť, nejspíš se bude nakonec chovat podobně jako ta živá.
Navíc se domnívám, že ve Vesmíru existují jisté předurčené formy, něco jako Platónovy ideje, kdy ať už věc postavíme tak či onak, nakonec zase tíhne k určitému stejnému výsledku.
Ale to už se dostávám k magickému myšlení, kdy v tom spatřuju třeba "boží zákon", a proto už radši končím, abych nebyl nazván esoterikem :-) (přitom těm samým lidem, kteří za tu esoteriku kritizují, kolikrát vůbec nevadí nejmíň polovina lidstva, včetně vědců, kteří věří v Boha, jen si ho odmagičtěli, protože zapojili rozum a legitimizovali ho na základě nějaké systematizace a tradice, kterou nazývají náboženství - a udělali z toho málem exaktní disciplínu, která esoterická prý není :-D )
@mig @piskvor
Turinguv test je už DÁVNO za náma. Odmítali jsme si to přiznat, protože většina konverzací mezi lidmi je o událostech a kultuře, což jsou témata, se kterýma AI nemůže skutečně přijít do konfliktu.
Ale jak se úkol abstraktizuje na psaní názorů na věci, které si AI může přečíst, tak se věci humorně zkomplikují.
https://www.mirror.co.uk/news/uk-news/teachers-desperate-help-over-ai-28845604
@mig @piskvor
Slyšel jsi tento myšlenkový experiment?
Představ si barvoslepého vědce, který celý život studuje světlo. Zná veškerou literaturu. Ví, jak je měřit, jakou energii produkuje které záření, jak proniká světlo skrz všechny materiály.
Myslíš, že takový člověk bude připraven na šok z toho, když uvidí poprvé barvy svýma očima?
AI se dostává na úroveň, kdy bude chytřejší než jakýkoliv člověk, ale o našem světě jen studuje literaturu. Nežije v něm, a nemůže s ním manipulovat. Proto nám připadá tolik hloupá.
@LukeAlmighty @piskvor neslyšel, je to dobré přirovnání.. no podle mě ten turingův test je málo, spíš tím momentem, kdy bude AI stejná jako lidské uvažování, bude až se začne ptát na ty otázky po původu a smyslu toho všeho.. zatím jen kompiluje existující, ale sama se neptá, je to takový "lepší google".. ovšem je klidně možné, že toto vědomí vznikne úplně někde jinde, v jejích útrobách, a že dlouho si toho vůbec nevšimneme, až náhle na dotaz nepodá třeba vůbec žádný výstup :-)
@LukeAlmighty @piskvor hmm, asi jo.. aspon to postavi lidem konkurenci a odpadnou ti, kteri leda produkuji laciny vystup a la AI (vsemozne ty "speech" a eseje o nicem na nejake tema, bakalarske prace o nicem a vedecke clanky, ktere jsou jen kompilaty jinych vedeckych clanku)..