AI jako voda, v níž plaveme

Anotace

Carlo Iacono je vedoucím univerzitní knihovny na australské Charles Sturt University. Nedávno jsme referovali o jeho doporučení vývojářům AI zjednodušit přístup běžných uživatelů k AI (Krize vnímání AI podle Carla Iacona). Vypadá to, že na splnění nemusel moc dlouho čekat. Jsme svědky integrace AI do běžného digitálního prostředí tak, že si běžný uživatel téměř neuvědomuje, že s ní přichází do styku. Carlo pro současný vývoj použil přiléhavé podobenství. Umělá inteligence se stává vodou, v níž plaveme [1].

Nejhlubší technologické posuny nejsou ty, které vidíme. Jsou to ty, které se do našich životů vkrádají tak nenápadně, že zapomínáme, že před nimi kdysi existovala jiná doba. Na počátku při spuštění ChatGPT v roce 2022 bylo nutné odezvu AI získávat pomocí promptů a chvíli to vypadalo, že se nikdo bez schopnosti jejich vhodné formulace neobejde. Komplikace s tím spojené Carlo přirovnával k ovládání PC pomocí příkazového řádku operačního systému DOS v 80. letech minulého století. AI se však vyvíjí zatraceně rychle. Nejprve vznikaly služby na pomoc s tvorbou promptů, pak se objevili chatboti specializovaní na určitou oblast (třeba vzdělávání). V této fázi vývoje jsme jako uživatelé měli pod kontrolou, zda a jak schopnosti AI využijeme. Dnes jsme ale svědky pronikání AI do běžného prostředí, v němž se prostřednictvím svých přístrojů pohybujeme – třeba i do internetových prohlížečů. Umělá inteligence se stává čočkou, skrze kterou vidíme digitální svět. Je v něm tak hluboce integrovaná, že už nedokážeme rozlišit, kde končí lidské konání a začíná to umělé. AI začíná být neviditelnou.

Jakmile se umělá inteligence stane všudypřítomnou, bude naši činnost transformovat z něčeho, co ovládáme, na něco, co nás formuje. Stejný efekt jsme již viděli u algoritmů sociálních médií, ale ty se uplatňují jen na základě našich voleb. Asistenti a prohlížeče s umělou inteligencí však pracují na základě našich myšlenek, zachycují je v okamžiku jejich vzniku a navrhují jejich uplatnění dříve, než dokončíme formulování vlastních nápadů.

Nová gramotnost

Krize školství nespočívá v tom, že studenti používají AI k psaní svých esejů. Jde o to, že samotná esej jako forma výstupu vzdělávacího procesu předpokládá model individuálního poznávání, který již neodpovídá realitě. Jestliže AI dokáže sledovat displej, předvídat potřeby a doplňovat myšlenky, jak potom máme zjišťovat individuální schopnosti?

Výzkumníci popisují současný stav jako „nerovnoměrnou integraci“, kdy se zásah AI objevuje nepředvídatelně napříč různými nástroji a platformami. Tato nerovnoměrnost není chybou, je to obvyklá vlastnost rozvoje digitálních technologií. Vyvíjejí se rychleji než naše schopnost jim porozumět a využít je.

I nejnovější vzdělávací strategie stále vnímají umělou inteligenci jako nástroj, nikoli jako prostředí. Představují si, že studenti vědomě volí, kdy umělou inteligenci aktivovat, jako by to byla kalkulačka, kterou můžete vytáhnout a zase odložit. Současný vývoj AI tuto fikci boří. Když AI pracuje nepřetržitě na pozadí a je přítomna v samotné struktuře digitálního prostředí, otázkou není, zda ji používat, ale jak s ní existovat.

Znamená to disponovat novou formou gramotnosti. Jenže tady jde o trochu jiný typ gramotnosti, než jaké známe. Díky tomu, že technologie, kterým se snažíme porozumět, současně ovlivňují naši schopnost učit se, není to jen jako poznávat nový jazyk, který popisuje nám již známé prostředí. Musíme se učit myslet v rámci nové kognitivní architektury.

Připravenost na budoucnost

Diskuse o umělé inteligenci ve vzdělávání je obvykle rámována volbou mezi odporem a připraveností. Musíme buď bojovat za zachování učení zaměřeného na člověka, nebo připravit studenty na budoucnost integrovanou s umělou inteligencí.

Vzdělávací instituce se neustále snaží lidskou inteligenci od umělé oddělit, aby udržely jasné hranice mezi autentickou a asistovanou prací. Toto úsilí je však odsouzeno k neúspěchu ne proto, že by technologie byla příliš sofistikovaná na to, aby ji bylo možné detekovat, ale proto, že samotné oddělení se stává nemožným. AI funguje pod prahem vědomé volby, v prostoru, kde se myšlenky formují a krystalizují.

Otázkou tedy není, zda nástup AI dokážeme přijmout, nebo zda se mu bránit. Jde o to, zda si dokážeme udržet dostatečné vědomí, abychom si pamatovali, co ztrácíme, když přijímáme to, čím se stáváme. Můžeme si udržet vědomí vody, když v ní plaveme?

Již se nepřipravujeme na budoucnost, kde lidé a umělá inteligence spolupracují. Vstupujeme do éry, v níž toto rozlišení přestává dávat smysl. Neviditelná revoluce nepřichází, je tady, tiše běží v pozadí, formuje každé vyhledávání, doplňuje každou myšlenku. Otázkou není, zda ji přijmout, ale zda si dokážeme zachovat prostor pro nezprostředkované myšlení, i když se zprostředkování stane všudypřítomným.

K pochopení podstaty by možná mohlo přispět podobenství Davida Fostera Wallace, jež vypráví o starší zkušené rybě, která narazí na dvě mladé ryby. „Dobré ráno, chlapci, jak je ve vodě?“ ptá se starší ryba. Mladé ryby plavou dál, a pak se jedna otočí k druhé: „Co je to sakra ta voda?“

The many faces of AI

Chce se mi dodat jen to, že dokud plaveme ve vodě, je to ještě dobré. To si jsme schopni uvědomit. Jenže co až AI pronikne i do vzduchu?