"AI: Vytváření nekonečného množství variant není totéž jako vytváření inovací."
Přesně tohle jsem zkoušel - nechat dva modely chatovat mezi sebou. Vždy to konverguje k banální diskusi, ačkoli prompt je, že mají hrát člověka, který nesouhlasí nebo odvádí téma - prvek náhodnosti jakožto způsob, jak rozbourat tu banálnost. Stejně se to nakonec "baví o počasí".
Proto si myslím, že ten algoritmus co pohání LLM je sice fajn, ale z hlediska AGI je něco fundamentálně špatně. Nepomůže ani přidat další miliardy parametrů.
(Nicméně jako "kalkulačka" to funguje skvěle a na běžné věci stačí. Jako kalkulačku ten nástroj budeme používat, ale nelze takhle očekávat to AGI.)
Kromě sklonu vyrábět průměr průměru - což je princip těch modelů, tudíž se nelze divit tomu, že ho vyrábějí - je tam ještě ten problém, že nelze jasně říct "nevím". Namísto toho se vybere nejpravděpodobnější výsledek, který však může být úplně špatně. Proto se tomu nedá věřit, jde-li o fakta.
A taky to neumí repetitivní věci. Třeba přeskládat řádky v CSV. Obchází se to tak, že se nejprve vygeneruje kód v pythonu, který to CSV pak zprocesuje. Jako "kalkulačka" je to dobrý, ale jako AGI vůbec ne. Vypadá to rozumně a vzápětí to selže při triviálním úkolu.
Je možné, že bude vymyšlen další zásadní algoritmus. Je možné, že lidská mysl sestává z mnoha algoritmů a subsystémů, takže ani neexistuje nic jako univerzální AGI algoritmus. Pouze spojení různých metod generuje různě kvalitní výstupy, proto taky každý člověk vnímá a reaguje na stejnou realitu jinak.
