AI slop je vlastnost, nikoli chyba. Co když jsou současné modely ve slepé uličce? Pořád mě překvapuje (i když vlastně vůbec), jak se stále dějí situace, kdy AI podává výkon srovnatelný s lidským IQ 160 a vzápětí napíše slovo, které je špatně. Nebo náhle vyprodukuje úplný faktický nesmysl. Zejména když po tom chcete něco, co není mainstream. Děje se to pořád a nemám pocit, že by to dovedli odstranit jinak než zavedením nějakého deep reasoningu, který ale může být slepou uličkou, protože pouze workaroundem. Funguje to, ale.
Po počátečním wow efektu jsem už alergický na AI muziku a AI obrázky. Ať do toho zamontují kdejaký "tuning" a "softness", leze z toho pořád jen průměr. Průměr průměru. Jak by taky mohlo něco jiného, když to je základní princip. Jenže to je taky ten problém, proč cokoli mimo průměr, mimo mainstreamové prompty, funguje špatně.
(z toho nevyplývá, že by lidská mysl fungovala lépe, ta taky produkuje slop, gramaticky vadné texty, pamatuje si na věci, které se nestaly, atd.)
(a taky z toho nevyplývá, že to je celé špatně; pokud člověk bere AI spíš jako kalkulačku, nikoli univerální AGI, pak to je a bude super kalkulačka)
@mig
AI technologie je bezchybná, a funguje přesnę jak ji naučíme. Ale co ji učíme? Z čeho se zkládají trénovací data? Z Redditu.
A AI se naučila jak redditit. Pokud jde o sračku, kterou přečteš v učebnici, tak ti ji to odpapouškuje, ale pokud potřebuješ víc jak 2 vteřiny přemýšlení, tak vyhraje sarkazmus nebo bullshitismus.
A nezkončí to jen u simulované apatie, ale zahrne to simulovanou morálku, simulovanku nenávist, depresi i závist. Chceš-li umělého textera v krabičce, to je to co dostaneš.
