Myšlenky o AI nejen ve vzdělávání

Anotace

AI není jen dalším z mnoha technologických trendů

• Mohlo by se zdát, že AI je vedle tabletů, 3D tiskáren či robotických stavebnic jen dalším z mnoha moderních technologických trendů a za to, že se stala globálním „hypem“ – tématem, které pobláznilo svět a všude se o něm píše – může marketing velkých IT firem. Tak tomu ale úplně není. Generativní AI sice díky chytrému marketingu a několika faktorům (viz níže) získala obrovskou pozornost veřejnosti, zároveň znamená (nejen) pro obor informatiky skutečný průlom. AI stojí nad všemi dalšími trendy digitálního světa, propojuje je, posiluje. V budoucnu se už patrně nebudeme setkávat s novými digitálními trendy, ve kterých by AI nehrála důležitou úlohu.

AI je tu s námi již dlouho, ale…

• Za osobnost stojící na počátku historie AI je považován Alan Turing. Samotný pojem umělá inteligence, se ale začal používat až později, kdy se vědci pokoušeli různými algoritmy vyhrát nad člověkem dámu, šachy či jiné společenské hry. Důležitým průlomem pro současný vývoj generativní AI byl rok 2017, kdy výzkumníci společnosti Google přišli s architekturou hlubokého učení, tzv. transformer. Dějiny tomu ale chtěly tak, že dosavadní největší mediální zájem způsobila společnost OpenAI zainvestovaná konkurenčním Microsoftem, která 30. listopadu 2022 spustila a zdarma veřejnosti nabídla ChatGPT.

Proč se AI stalo hypem právě teď

• K masovému rozšíření a získání prvního milionu uživatelů chatbotu ChatGPT během bezprecedentních pěti dní vedlo několik faktorů. Především se jedná o rostoucí výpočetní sílu, která je dostatečná až díky soudobým grafickým kartám umožňujícím paralelní zpracování úloh strojového učení, jako je trénování a provozování velkých jazykových modelů. K učení potřebují jazykové modely obrovské množství trénovacích dat v elektronické podobě, ze kterých se učí: knihy, články, webové stránky, wikipedii, sociální sítě a další zdroje dostupné na internetu. S tím souvisí i významný pokrok v algoritmech strojového učení, které se učí samy. To vše by nebylo možné bez zajištění velkých finančních investic.
  
  Účinný koktejl těchto podmínek úspěchu pak doplnily důležité vlastnosti uživatelského rozhraní, kdy je komunikace s chatbotem pro lidi přirozená díky konverzačnímu stylu – člověk zadává dotaz a AI odpovídá, výstupem jsou pro člověka srozumitelné texty, obrázky, případně zvuky. Důležitým impulzem pro masové rozšíření je skutečnost, že uživatelům jsou ChatGPT i některá jeho konkurence (Google Bard, Microsoft Bing, …) dostupné zdarma. Je ovšem otázka, jak dlouho budou poskytovatelé tyto služby dotovat z jiných příjmů a kdy současný neudržitelný byznys model opustí a přejdou na placené služby. To se už ostatně děje, viz zpoplatněný ChatGPT-4.

Opravdu inteligence?

• Pojem inteligence není příliš odpovídající tomu, co AI dnes představuje. V lidech toto slovo může vzbuzovat různé emoce. O inteligenci jsme si totiž zvykli přemýšlet v souvislosti s živými tvory, nejčastěji (sebestředně, pardon, antropocentricky) s lidmi. A je pravda, že současná AI rozhodně nepřemýšlí jako lidé. Jazykové modely jsou nejprve trénovány na velkém množství textových dat, aby pochopily jazyk, strukturu vět, slovní zásobu a další jazykové aspekty. Během tohoto procesu model získává schopnost predikovat následující slovo ve větě, což mu umožňuje generovat koherentní a relevantní texty. Generativní AI je založena na spojení těchto statistických metod s neuronovými sítěmi a technikami hlubokého učení. Proto by vhodnější nežli pojem umělá inteligence byl například pojem kyberinteligence nebo slovní spojení strojová inteligence. Jenže džin byl z lahve již vypuštěn a patrně není cesta, jak ho vrátiti zpět.

Obrázek vytvořený AI generátorem DALL-E 3 zobrazující černobílou skicu „masomlejnku na informace“, který pohání chatbot AI. Vytvořeno 3. 12. 2023

K AI se chovejme slušně, jako k člověku

• Ačkoli AI není lidské stvoření, mnozí lidé si myslí, že se vyplatí k chatbotům chovat slušně. Někteří uživatelé, kteří se systémy AI experimentují, docházejí k přesvědčení, že lidé, kteří se k AI chovají slušně, nešetří slovíčkem prosím a občas ji pochválí či jí poděkují, dostávají o trochu lepší výsledky nežli lidé, kteří jsou k ní hrubí. Výzkumně podloženou jsem tuto hypotézu neviděl, ale ani bych se nedivil. Chovat se slušně k robotovi se ale rozhodně vyplatí. Hrubé chování k robotům totiž může destruovat naše chování ke svému dalšímu nerobotickému okolí, bránit se přenášení obhroublostí i do komunikace s lidmi je pak obtížnější. Buďme tedy k AI slušní, jako by se jednalo o lidského partnera.

Jak na tohle AI přišla?

• Problémem se ukazuje být skutečnost, že současná AI není schopna vysvětlit, jak k poskytnutému výsledku došla. Proto je vyvíjen společenský tlak na oblast tzv. vysvětlitelné umělé inteligence (explainable AI), která se zaměřuje na vytváření AI modelů a systémů, které jsou schopny vysvětlit svá rozhodnutí a akce lidským uživatelům. Cílem je zvýšit transparentnost a pochopení toho, jak modely AI fungují, což je obzvláště důležité v oblastech, kde je potřeba důvěra a odpovědnost, jako jsou zdravotnictví, finance nebo právo. Tradiční modely AI bývají označovány jako černé skříňky, protože jejich vnitřní fungování a rozhodovací procesy jsou složité a pro uživatele nepochopitelné.
  
  Explainable AI se snaží tento problém řešit tím, že poskytuje nástroje a metody pro lepší pochopení a interpretaci výstupů AI. Snahy o vysvětlování svých výstupů (nikoli toho, jak na ně přišly) prokazují algoritmy AI již dnes. Zkuste si třeba nechat vyprávět nějaký vtip. Je možné, že chatbot bude mít potřebu vám jej vysvětlit i sám od sebe. Bývá to někdy ještě větší legrace nežli samotný vtip. Nedivil bych se, kdyby nám explainable AI časem vysvětlila, že pro inspiraci pro své kameňáky chodila k Zdeňku Troškovi.

Proč AI neříká pravdu?

• Generativní AI se vlastně v některých aspektech docela podobá člověku, často neříká pravdu, zato to, co říká, říká značně asertivně. Vymýšlení si je označováno jako halucinace, kdy AI generuje výstup, který obsahuje nesprávné nebo zavádějící informace prezentované jako fakta. Za halucinace mohou například předsudky v tréninkových datech, a tedy to, že AI vidí svět zkresleně. To může vést k tomu, že AI vytváří falešné vjemy, které odrážejí její předsudky.
  
  Halucinace může způsobovat ale i mnoho dalších příčin, například nízká kvalita tréninkových dat nebo jejich nedostatek, špatná interpretace informací, absence kontextu, chyba v algoritmech atp.
  
  Známý je případ newyorského advokáta, který při zastupování svého mandanta soudu předložil na podporu svého stanoviska spis opírající se mj. i o citace několika soudních precedentů. Jak ale konstatoval soudce, šest z nich bylo smyšlených. Ukázalo se, že advokát využil ChatGPT, ale výsledek si neověřil a neudělal to ani nikdo jiný z jeho advokátní kanceláře. Chatbot si je nejen vymyslel, ale dokonce tvrdil, že jsou k dispozici v hlavních právních databázích. Ve finále vyšlo použití fiktivního právního výzkumu advokátní kancelář na pokutu pět tisíc dolarů [1]. Obecně lze očekávat, že míra halucinace AI by se měla postupně snižovat, ověřování výstupů chatbotů je ale povinným základem práce s jejich výstupy.

Rizika AI: Odpovědi na otázky, které ještě ani nevíme, že máme

• Pokud současnou AI něco opravdu charakterizuje, pak je to obrovské množství otázek, které její používání otevírá. Mnoho otázek nemá v současné době dobré anebo jasné odpovědi. Také proto bude používání AI v Evropské unii upraveno takzvaným Aktem o umělé inteligenci (anglicky EU AI Act) [2]. Tato regulace posuzuje rizika v několika kategoriích, takže například přidělování sociálního kreditu na základě chování lidí nebo rozpoznávání obličeje v reálném čase je označeno za nepřijatelné riziko, za hrozbu pro člověka a je zakázáno. Příkladem kategorie vysokého rizika jsou systémy AI, které mají negativní dopad na bezpečnost nebo základní práva. Patří sem např. provoz kritické infrastruktury, jejíž nesprávné fungování by mohlo ohrozit životy lidí, nebo také systémy AI pro oblast vzdělání, kdy by nesprávné nastavení mohlo odepřít lidem přístup ke vzdělávání či je diskriminovat, příkladem je vyhodnocování výsledků zkoušek prostřednictvím AI.

AI proměňuje i vysoce kvalifikovaná povolání

• Dlouho jsme si mysleli, že ohrožené nástupem robotizace a automatizace budou především nízkokvalifikované pozice. Generativní umělá inteligence ale ohrožuje i pozice lidí, kteří kvalifikovaní jsou. Už dnes máme příklady oborů, které se zásadně proměňují. Pořád bude potřeba novinářů, kteří jsou schopni přinášet svědectví z konkrétních míst, třeba z válečného konfliktu, stýkat se s lidmi, kteří tam něco prožívají, vést s nimi rozhovory, dokumentovat dění na místě. Ale ty novináře, kteří především čerpají ze sekundárních zdrojů, jako je ČTK, dovede umělá inteligence velmi dobře nahradit. Překladatelé krásné literatury a zvučných jmen budou nejspíše poptáváni i nadále, protože jejich kreativita bývá unikátní. Běžné manuály, technické zprávy, směrnice nebo simultánní překlady už dnes vykonává umělá inteligence v kvalitě, která je na úrovni průměrného překladatele (nevěříte-li, vyzkoušejte například překladač deepl.com).
  
  AI ale nepromění práci jen lidem, kteří primárně pracují s texty. I nejlepší lékaři se nejsou schopni vyrovnat exaktnímu vedení skalpelu či laseru robotem nebo stanovení diagnózy založené na datech o stovkách milionů pacientů. Data z množství senzorů monitorující naše životní funkce – dnes například sports trackery, fitness náramky nebo chytré hodinky, časem další čidla internetu věcí – budou generovat obrovské množství dat. Málokdo ale bude chtít, aby mu diagnózu sděloval automat, prostor pro lidského lékaře jistě zůstane zachován.
  
  AI vlastně přehodnotila, co to je kreativita, posunula její laťku výše. Ukazuje se, že skutečnou tvořivostí a nápaditostí je nadáno jen relativně malé množství lidí. Jedinců, kteří vytvářejí skutečně nové hodnoty a koncepty. My ostatní jsme celkem jednoduše napodobitelní, a to již umělou inteligencí dnešní úrovně. O práci ale přijít nemusíme, jen se ta naše současná bude významně proměňovat. Zatím se zdá, že ten, kdo bude schopen se průběžně učit a adaptovat se, se obávat nemusí. Navíc inovace na trhu práce vytvářejí zcela nové pracovní příležitosti. Není tomu dávno, co například tyto pozice neexistovaly: datový vědec, kybernetický bezpečnostní analytik, designer uživatelského rozhraní (UX/UI), genetický inženýr, odborník na sociální média, specialista na obnovitelné zdroje energie, odborník na klimatickou adaptaci, work-life balance konzultant, …
  
  Co to vše znamená pro vzdělávání? Vlastně jde o oslabení počátečního vzdělávání ve prospěch celoživotního. Neznamená to ale, že bychom měli na vzdělávání od útlého věku rezignovat, je ale potřeba se zaměřit více na rozvoj dovedností a schopností, které přetrvají celý život. Ty v našem vzdělávacím systému označujeme jako klíčové kompetence, především jde o jednu – o kompetenci k učení, o učenlivost, schopnost se efektivně učit a rozvíjet a vnímat to nikoli jako nepříjemnou nezbytnost. Mnohá povolání, která budou dnešní žáci v budoucnu vykonávat, se totiž dnes nedají vystudovat.

Senioři budou moci těžit z moderních technologií

• Podle některých odborníků by AI mohla přinést lidem, kteří mají nízké nebo téměř žádné technologické kompetence, přístup k digitálním zařízením a umožnit jim využívat výhod světa digitálních technologií, které je nyní míjejí. Jak se postupně zvyšuje průměrný věk dožití, zvyšuje se i počet lidí, kteří se za svého produktivního života s novinkami na poli digitálních technologií nepotkali. Přívětivé uživatelské rozhraní AI, jako je konverzační charakter psaného či mluveného slova, by mohl i těmto lidem obdobné výdobytky zprostředkovávat. Poradenská agentura Gartner tvrdí, že aktuální vlna AI je především o posunu vztahu mezi lidmi a stroji.
  
  Podle Českého statistického úřadu používá například chytrý telefon v populaci 99,6 % mládeže ve věku 16–24 let, zatímco seniorů nad 75 let je to jen 24 %, většina seniorů (69 %) používá telefon tlačítkový, bez operačního systému [3]. Je to logické, boom smartphonů nastal přibližně mezi lety 2007 a 2012, po uvedení prvního iPhonu společností Apple v roce 2007. Lidé, kteří šli do důchodu před tímto obdobím, neměli možnost ve svém ekonomicky aktivním věku se smartphony pracovat. Vhodně navržený asistent AI by jim tuto novou zkušenost mohl zjednodušit.

Jak na AI reagují školy

• Umělá inteligence mění zaběhnuté postupy a posouvá a urychluje proces změny role učitele. Je velmi důležité, jak se k tomuto fenoménu školy postaví. Národní pedagogický institut uskutečnil na přelomu září a října 2023 dotazníkové šetření, ze kterého mj. plyne, že jen 1 % škol používat AI ve škole zakázalo, viz graf. Méně pozitivní je, že celá čtvrtina škol (28 %) využívání AI zatím nijak neřeší a ani to neplánuje. Přitom NPI ČR ve svých doporučeních školám jako první bod uvádí: Vezměte existenci AI v potaz. Nezakazujte ji ani ji neignorujte. Žáci ji i přes případný zákaz stejně budou využívat. Spíš než zákazy funguje otevřená komunikace a nastavení společných pravidel. Svoje špatné i dobré zkušenosti sdílejte s učiteli, s kolegy v asociacích, se vzdělavateli učitelů, ale také s IT specialisty, kteří na vývoji AI aplikací pracují.
  
  Skutečné masivní rozšíření AI a uvědomění si jejího potenciálu nastane, až budou asistenti AI (Copilot v Office 365 od Microsoftu a Duet ve Workspace od Google) integrováni do běžných kancelářských balíků, se kterými ve školách běžně pracujeme. Do té doby je to jen záležitost určité zvídavé části populace, do které, pokud jste dočetli až sem, patříte i vy.

   

Graf: Odpovědi 634 ředitelů škol na otázku Jaký přístup k umělé inteligenci používané ve škole nebo pro školní účely jste zvolili? Šetření NPI ČR ze začátku školního roku 2023/24

Původně publikováno:
NEUMAJER, O. Myšlenky o AI nejen ve vzdělávání. Řízení školy. Praha: Wolters Kluwer, 2024, roč. 21, č. 12, s. 5–8. ISSN 1214-8679