Potlačování nejednoznačnosti v éře AI

Anotace

Na portálu Unesco se objevil zajímavý článek [1] o vlivu AI na kompetence, potažmo i na výuku, který dokonale doplňuje to, co Spomocník zjišťuje opakovaně. AI mění vzdělávání a přináší nová rizika. Autory jsou dva vědci – Victoria Livingstone z Johns Hopkins University a Jeppe Klitgaard Stricker z Aalborg University. Jedná se o další potvrzení skutečnosti, že využití nástrojů generativní AI může omezovat vlastní přemýšlení žáků. Je proto třeba je používat s rozmyslem.

Atraktivita generativní AI je zřejmá – a pokud je používána záměrně, ve správných situacích a pro správné účely, může se stát mocným nástrojem pro učení a výuku. Je tu však háček – je třeba začít „optimalizovat“ postupy, jak od generativní AI získat užitečnou odezvu.

Dříve musel žák sám vyhledávat a studovat zdroje. To sice zabíralo spousty času, ale nutilo ho to zdroje vyhodnocovat a o věcech více přemýšlet. Dnes velké jazykové modely nabízejí přímější cesty. Poskytují okamžitě výsledky za cenu toho, že odstraní nepříjemný a často pomalý proces, který vyžaduje, aby žáci kriticky hodnotili zdroje, poznávali souvislosti a zdokonalovali nápady.

Vlastně se jedná o obrácený přístup (též viz Jak AI převrací Blooma). K rychle získanému výsledku je teď třeba dodatečně dohledat potvrzující zdroje. Jenže to je proces, při němž skoro není třeba otázky klást. Jde často jen o to, přimět stroj, aby generoval právě takový výsledek, jaký potřebujeme (vložit vhodný prompt). A to není totéž, jako když pokládáme výzkumné otázky a postupně se, třeba metodou pokusů a omylů, dopracováváme k cíli.

Žák během tradičního procesu musí být ochoten přehodnotit a revidovat své výchozí postoje. Právě v tomto nepohodlí (autoři ho nazývají „kognitivním třením“) dochází ke skutečnému učení. Žáci se navíc často naučí více ze špatně formulovaných výzkumných otázek než z těch dobrých. Otázky s očividnými odpověďmi, témata s příliš širokým záběrem a intelektuální slepé uličky mohou rozvíjet kritické myšlení a budovat intelektuální výdrž.

Nic z toho se však neděje při použití generativní AI. Tato technologie odměňuje iluzi přesnosti a jasnosti a logiku řízenou výstupy. Žák nebo učitel, který dokáže vytvořit nejoptimálnější, nejomezenější a se systémem kompatibilní prompt, dosáhne rychle nejlepšího výsledku. To není chyba, ale záměr vývojářů snažících se lidem hlavně usnadnit práci. AI nás postrkuje k určitému druhu kognitivního chování – takovému, které upřednostňuje instrumentální jasnost před hloubkou. A toto postrčení, jemné a nepřiznané, vede žáky i pedagogy ke změně chování.

V krátkodobém horizontu se to může jevit jako výhra. Postupem času ale riskujeme, že budeme „lepší prompty“ spojovat s „lepším myšlením“. Můžeme začít připisovat hodnotu nikoli tomu, co chceme vědět, ale tomu, na co stroj nejlépe reaguje. Ve výkonově orientovaném vzdělávacím systému optimalizovaném pro konzistentní výstupy, kde jsou klíčové známky a čas, se efektivita stává přirozeným cílem. Lépe jsou hodnoceny externí indikátory poháněné tlakem na produkci, ne interní, jako zvědavost či relevance.

Generativní AI pomáhá žákům dosahovat výsledků, aniž by nutně budovala skutečné porozumění. Nebezpečí nespočívá primárně v tom, že se zbavíme učení, ale spíše v tom, že se naše intelektuální priority mění bez diskuse nebo reflexe. Implicitně se učíme klást otázky, které pro AI fungují dobře – a přestáváme klást ty, které nefungují. A tím riskujeme ztrátu schopnosti klást otázky, které nepřinášejí okamžité nebo uspokojivé odpovědi. V mnoha oblastech studia (kromě exaktních věd) je však nejednoznačnost nutnou počáteční fází chápání libovolného problému. Je zdrojem pro neustálé kritické myšlení, opětovné projednávání argumentů a reflexi.

To vytváří nenápadnou, ale silnou překážku pro nejednoznačnost. Žáci se mohou začít vyhýbat nejasným otázkám, ne proto, že by neměly smysl, ale proto, že postrádají užitečnost v pracovním postupu. Nejasná otázka se stává symbolem neefektivity ve světě, kde je cesta nejmenšího odporu stále více upřednostňována před složitostí a hlubokým učením.

Ve výuce je však možné se tomuto vývoji přizpůsobit. Je možné nevnímat otázky optimalizované pro umělou inteligenci a hlubší intelektuální zkoumání jako vzájemně se vylučující cesty. Můžeme zvážit, jak bychom je mohli propojit a využít postupně. Žáci mohou začít s otázkami optimalizovanými pro umělou inteligenci, aby si vytvořili základ, a poté mohou do řešeného problému záměrně zavádět složitost a nejednoznačnost, které hlubší učení vyžaduje.

Mnoho žáků má s formulováním výzkumných otázek potíže. Používání rozsáhlých jazykových modelů jako partnerů v konverzaci jim dovoluje rychleji dospět k vymezení zkoumaného tématu v přijatelném rozsahu. Jakmile si však téma vymezí, měli by se začít dívat na zdroje (články v časopisech, primární dokumenty atd.) spíše než se spoléhat pouze na výstupy umělé inteligence, která se sice zlepšuje, ale stále je nespolehlivá z hlediska přesnosti a atribuce zdrojů.

Zadání požadující shrnutí zprávy nebo parafrázování pasáží často odhaluje limity chápání žáků. Pozorné čtení se schopností propojit různé myšlenky, identifikovat nesrovnalosti a vyhodnotit metodologii je pomalá a nepohodlná práce, jež se neobejde bez kognitivního tření. Je však zcela nezbytné tento proces ve výuce vyvolat. Učitelé mohou žákům pomoci tím, že budou výstupy anotovat společně, nebo je rozdělí do skupin, aby o výzkumu diskutovali mezi sebou. Žáci pak mohou tyto diskuse použít jako základ pro modifikaci svých výsledků.

Tento dvoufázový přístup uznává užitečnost AI a zároveň učí žáky rozpoznávat její omezení. Počáteční fáze s pomocí umělé inteligence poskytuje oporu, zatímco následné osobní bádání buduje intelektuální svaly, které lze rozvinout pouze vlastní prací. Klíčem je naučit žáky vnímat obsah generovaný AI nikoli jako koncový bod, ale jako surový materiál pro sofistikovanější kladení otázek.

Generativní umělá inteligence se tak nestává náhradou tradičního kladení otázek, ale novým nástrojem v rámci širšího procesu bádání – za předpokladu, že explicitně učíme rozdíl mezi optimalizací zadání pro AI a prohloubením získaných zjištění prostřednictvím nejednoznačných otázek.

Problém, kterému čelíme v souvislosti s otázkami ve vzdělávání, není primárně technologický. Je to pedagogický a filozofický problém. Jako pedagogové musíme zajistit, aby účel kladení otázek nezkolaboval do mechaniky promptů. Je klíčové, aby si žáci i nadále vážili otázek, nikoli pro jejich kompatibilitu s umělou inteligencí, ale pro jejich schopnost otevírat nové způsoby myšlení.

To znamená nějakým způsobem chránit ty druhy otázek, které nepřinášejí rychlé odpovědi. Otázky, které jsou pomalé, vrstvené a nevyřešené. Znamená to odolat nutkání přeformulovat každý problém do pojmů, které ho učiní čitelným pro stroj. A znamená to naučit žáky rozpoznat, kdy je dobrá otázka ta, na kterou algoritmus nedokáže nebo by neměl umět odpovědět.

Musíme znovu potvrdit hodnotu kognitivního tření. V době bezproblémových rozhraní si musí učení zachovat svou obtížnost. Úsilí o formulování otázky, prozkoumání problému bez jasného řešení, sledování myšlenkové linie, která nikam nevede – to nejsou neefektivity. Jsou to základní procesy, kterými lidské chápání roste.

A přesto to není výzva k odmítnutí generativní AI. Naopak, generativní modely mohou mít ve vzdělávání nesmírnou hodnotu. Mohou nám pomáhat, rozšiřovat, a dokonce inspirovat naše myšlení. Existuje však riziko, že něco zásadního ztratíme dříve, než se nadějeme.

Generativní umělá inteligence bude zjevně i nadále hrát stále důležitější roli. Ve světě s množstvím rychlých odpovědí je však důležitější než kdy jindy držet se samotné podstaty existence otázek, a tou je odhalování nejednoznačností prostřednictvím kognitivního tření.

AI in Higher Education | with Jeppe Stricker