Jak nás AI učí chápat lidskou moudrost

Anotace

Tony Fish je londýnský expert, autor a firemní poradce zaměřený na rozhodování, etiku, správu a tvorbu hodnot v nejistotě. V minulosti založil a prodal řadu společností, působil v desítkách správních rad a spolupracoval s investory a globálními organizacemi. Vede Open Governance Project, který zkoumá, jak technologie a transparentnost mohou podpořit lepší sdílené rozhodování v podnikání a společnosti. V současnosti se ve zvýšené míře věnuje umělé inteligenci. Jeho nejnovější kniha má název Decision Making in Uncertain Times (Rozhodování v nejistých dobách). Celá kniha a podpůrné materiály jsou k dispozici na webu Peak Paradox. Tony je známý tím, že upozorňuje na otázky, kterým se lidé vyhýbají, a nabízí praktické cesty vpřed.

Mě zaujal jeho blogový příspěvek vysvětlující, jak mohou být velké jazykové modely využity k lepšímu pochopení lidského poznávání [1]. Tony v něm tvrdí, že současná debata o umělé inteligenci je příliš povrchní. Optimisté předpokládají, že stroje vyřeší vše za nás. Pesimisté, že nás zničí. Oběma postojům uniká hlubší smysl. Proto je dobré se zamyslet nad tím, jak se liší výstupy generované AI od těch vytvářených lidmi, i když všechny mohou působit dojmem moudrosti.

V první řadě je třeba si připomenout zažitý model lidského budování schopností v podobě pyramidy (Bloomova či Maslowova taxonomie). Na začátku jsou informace, ty je třeba si zapamatovat, a pak je propojovat s již dříve zaznamenanými. Vznikají tak synapse a shluky odpovídající souvislostem (mentální modely). Moudrost je vrcholná schopnost aktivovat pro daný případ nejvhodnější znalost.

AI funguje docela jinak. Pracuje vždy s kompletně všemi daty (tokeny), které má k dispozici. Na jejich základě porovnává vzory a stanovuje statistickou pravděpodobnost určitého výstupu (vhodné reakce). V rámci tohoto procesu je schopná rozpoznat příslušný kontext a generovat alternativní postupy. Zásadní proto je si uvědomit, že u AI neexistuje nic, co by mohlo připomínat pyramidu poznání, na jejímž vrcholu je moudrost. Mezi tokeny neexistuje hierarchie.

Pokud se stroj může jevit moudrý, aniž by šplhal po naší milované pyramidě, je docela možné, že moudrost ve skutečnosti není vrcholem, na který se snažíme dostat, ale jen zpětnou vazbou pro konkrétní situaci.

Tony vysvětluje podstatu na pověsti o biblickém králi Šalamounovi, který je považován za mimořádně moudrého díky tomu, že zjistil pravou matku dítěte tak, že ho nenechala zabít. Jenže to mohlo fungovat jen tehdy, když ta nepravá matka žádající dítě neměla informaci o tom, že se jedná jen o zkoušku. Jakmile by ji měla, též by dítě nenechala rozpůlit. „Moudrost“ je ztracena hned po prvním použití, jestliže existují nová data pro rozhodování. Šalamoun musí v dalších podobných případech hledat nový způsob, jak zjistit, kdo je matkou.

Milujeme tvar trojúhelníku, vrcholu nebo pyramidy. Rádi si představujeme, že moudrost má větší hodnotu než data, že je nějakým způsobem ušlechtilejší a hodnotnější, protože jen málokdo získá skutečnou moudrost. Otázka zní – pokud ji získám, budu sedět na vrcholu pyramidy?

Rozsáhlé jazykové modely (LLM) nerozlišují mezi daty, informacemi, znalostmi a moudrostí. Pro LLM jsou vše tokeny se statistickými vztahy. Hluboký filozofický vhled a nákupní seznam jsou zpracovávány pomocí stejných mechanismů. Model „neví“, co je důležitější, jednoduše reaguje na vzorce. Z toho vidíme, že lidé a stroje zpracovávají informace velmi odlišně:

Tony porovnává lidské myšlení se strojovým pomocí principů zpracování dat:

Když člověk při rozhodování používá informace, znalosti nebo moudrost, vždy musí vyvažovat city, intuici a fakta. Větší množství dat samo o sobě nevede k lepším výsledkům či lepším rozhodnutím. V tom mají lidé určitou výhodu oproti strojům. Velké jazykové modely dokáží brilantně zpracovávat datové vzory, ale nemají city, intuici ani schopnost porovnávat fakta s životní zkušeností. Nedokážou být zvědaví, nejistí ani intuitivní tváří v tvář neúplným informacím (zatím).

Nejúspěšnější implementace umělé inteligence budou možná ty, které dávají lidem prostor pro uplatnění vlastní zvědavosti, odvahy a trpělivosti, tedy vlastností, které odolávají optimalizaci, ale vyžadují kultivaci. Jsou to zřetelně čistě lidské schopnosti, které vycházejí z našich biologických vlastností a sociálních kontextů.

Závěr

AI nás učí nově chápat samotnou podstatu moudrosti. Možná za ní není nic víc než nová data, která aplikujeme a měříme jejich účinnost. Přitom proces generování vhodných reakcí na složité situace vůbec nevyžaduje postup v hierarchii.

Pokud tento koncept přijmeme, umožní nám to soustředit se na lepší rozhodování a úsudky, aniž bychom museli těžce šplhat na vrchol, který neexistuje. Místo hromadění obsahu znalostí jako pokladů v trezoru si můžeme vyvinout schopnost v reálném čase reagovat na nově vzniklou situaci. Rozsáhlé jazykové modely nám ukázaly, že inteligence může být méně o tom, co víme, a více o tom, jak efektivně dokážeme generovat vhodné reakce. Ukázaly, že k vytvoření něčeho, co se pozoruhodně podobá moudrosti, nepotřebujete vědomí, paměť ani zkušenosti.

Otázka, kterou to vyvolává, je závažná. Pokud se stroje mohou jevit jako moudré, aniž by skutečně moudré byly, co to prozrazuje o povaze moudrosti samotné? Možná její hodnota nespočívá v akumulaci znalostí, ale v jejím okamžitém vytváření – ne v dosažení vrcholu, ale v rozvoji schopnosti promyšleně reagovat na jakýkoli terén, s nímž se setkáme.

Budoucnost nemusí patřit těm, kteří zdolali nejvyšší vrcholy poznání, ale těm, kteří dokážou nejobratněji tančit mezi lidskou intuicí a strojovým rozpoznáváním datových vzorců a generovat moudrost v reálném čase, místo aby ji vytahovali z nějakého imaginárního trezoru.

Nejde o nahrazení lidské moudrosti umělou inteligencí. Jde o pochopení, že moudrost, ať už lidská, nebo strojová, může být méně o tom, co ukládáme, a více o tom, co vytváříme v reakci na nekonečnou složitost existence.

Can We Master The Art of Questioning in an Age of Instant Answers? – Tony Fish