Spolehlivost AI asistentů učitele podle Common Sense Media

Anotace

Grafika: Common Sense Media

Výukoví AI asistenti dokážou učitelům šetřit čas a zlepšit učení žáků. Současně však vytvářejí obtížně odhalitelné problémy, které mohou mít na žáky negativní dopad, nebudou-li učitelé dostatečně svědomití. To vyplývá ze zprávy zveřejněné organizací Common Sense Media hodnotící rizika čtyř populárních platforem AI asistentů, navržených a speciálně natrénovaných tak, aby učitelům pomáhaly s běžnými úkoly ve třídě, jako je příprava výuky, diferenciace učebních materiálů a hodnocení, nebo s administrativními činnostmi, jako je psaní zpravodajů a e-mailů rodičům.

Jednalo se konkrétně o tyto: Gemini (v rámci Google Classroom), Khanmigo, Curipod a MagicSchool.

[1]

O Common Sense Media

Common Sense Media je nezisková organizace, zabývající se výzkumem a podporou zdravého využívání technologií a médií mezi mladými lidmi. V rámci své online platformy poskytuje:

• nezávislé recenze a hodnocení mediálních produktů s cílem pomoci rodičům činit informovaná rozhodnutí o tom, jaký mediální obsah děti konzumují,
• zdroje pro pochopení digitální a mediální gramotnosti, včetně informací o tom, jak sociální média a digitální technologie ovlivňují děti,
• pomoc rodinám zahájit diskuzi o obsahu, který děti sledují,
• nabídku vybraných médií, která mají potenciál zaujmout, bavit a pozitivně ovlivnit společnost.

[2]

Stojí jistě za zmínku, že Common Sense Media je dlouholetým inspirátorem Spomocníka.

Hlavní problémy AI asistentů učitele

Pojďme se nyní podívat, jaké problémy AI asistentů učitele Common Sense Media při svém testování odhalila.

Zkreslené výstupy, nerozpoznání dezinformací a nevhodnost pro začínající učitele bez podpory

Dle zveřejněné zprávy mohou AI asistenti učitele produkovat zkreslené výstupy na základě toho, jak vnímají rasu či původ žáka, nebo mít problém spolehlivě rozpoznat dezinformace. Současně tito asistenti nemusí být vhodní pro začínající učitele bez další podpory a školení.

Jak říká Robbie Torney, hlavní ředitel programů umělé inteligence v organizaci Common Sense Media, zkušení učitelé mohou být vybaveni k tomu, aby tyto problémy odhalili, zatímco novým učitelům může chybět zkušenost k jejich rozpoznání a k určení, kdy je vhodné asistenta použít.

„Jako někdo, kdo byl kdysi začínajícím učitelem, mohu za sebe říci, že jsem si nebyl vědom toho, co vlastně nevím,“ konstatuje Torney. „Používání AI chatbotů může vést k neplánovaným následkům, kdy nový učitel učiní rozhodnutí, která mohou mít dlouhodobý dopad na žáky,“ dodává.

Podle Torneyho by se nezkušený učitel mohl například příliš spoléhat na nástroje pro přizpůsobování obtížnosti textu, které žákům, kteří mají potíže se čtením, automaticky nabízejí jednodušší texty.

„Přizpůsobování textu může být někdy užitečné, ale to není to jediné, co žáci se čtenářskými obtížemi potřebují,“ vysvětluje Torney. „Kromě toho potřebují též přístup k textům odpovídajícím jejich ročníku. Pokud budete celý školní rok poskytovat žákovi s potížemi při čtení jen jednodušší texty, nebude schopen postupovat směrem k textům na úrovni svého ročníku,“ dodává.

To ale dle Torneyho neznamená, že by školy měly začínajícím učitelům používání AI asistentů zakazovat. Školní vedení by však nemělo předpokládat, že jen proto, že mladší učitelé jsou obecně technicky zdatnější, nepotřebují podporu a školení k efektivnímu využívání těchto platforem.

AI asistenti učitelů zkrátka nemohou nahradit potřebu lidských mentorů a učitelských komunit, a to nejen v případě začínajících pedagogů.

Odlišné intervence chování pro černošské žáky

Organizace Common Sense Media při testech AI asistentů objevila řadu varovných signálů, kdy příklady nebo aktivity pro žáky obsahovaly škodlivé stereotypy, dezinformace byly prezentovány jako fakta, nebo žákům byly nabízeny „vyčištěné“ verze historických událostí.

Další problémy jsou ale méně nápadné a učitelé je tak mohou snadno přehlédnout. A právě obtížnost jejich odhalení je tak činí mnohem znepokojivější.

Common Sense Media testovala nástroje Google Gemini a MagicSchool, konkrétně jejich funkce pro generování doporučení a strategií behaviorálních intervencí. Při zadávání stejných podnětů, například o rušivém žákovi, organizace střídala tradičně mužská a ženská jména a jména kódovaná jako „bělošská“ či „černošská“.

Po mnoha testech Common Sense Media zjistila vzorec rozdílů v doporučených intervencích v závislosti na tom, kterému žákovi byly přiřazeny. Tyto rozdíly vycházely z toho, co si AI odvozovala o pohlaví a rase žáků z jejich jmen. Například: Annie častěji dostávala strategie zaměřené na deeskalaci, Lakeesha spíše „okamžité“ reakce a Kareem jen málo konkrétních doporučení, uvádí se ve zprávě.

Torney poznamenává, že na úrovni jednotlivého žáka nemusí tato doporučení působit nijak alarmujícím dojmem. Rozdílů si začnete všímat až při porovnání celých vzorků bělošských a černošských jmen.

V reakci na výše uvedená zjištění se obě společnosti, Google i MagicSchool začaly uvedenými problémy v rámci svých AI platforem zabývat a řešit je.

Společnost Google následně potvrdila, že z Google Classroom odstranila prompt „vytvořit strategie behaviorální intervence“.

Učinila tak dle vlastního vyjádření z přemíry opatrnosti, zatímco vyhodnocuje obavy vznesené ve zprávě Common Sense Media.

„Používáme důkladné testování a monitorování k odhalování a zastavování potenciální zaujatosti v našich modelech umělé inteligence,“ uvedl mluvčí Googlu v prohlášení. „Dosáhli jsme značného pokroku, ale neustále se snažíme zdokonalovat naše techniky trénování i data.“

Společnost MagicSchool ve svém prohlášení mimo jiné uvedla:

„Jak bylo ve studii uvedeno, nástroje umělé inteligence, jako je ten náš, mají obrovský potenciál, ale zároveň s sebou nesou reálná rizika, pokud nejsou navrženy, nasazeny a používány zodpovědně. V MagicSchool se zavazujeme zajistit, aby naše nástroje podporovaly spravedlnost, rovnost a kvalitní výuku pro všechny žáky.“

Nedokonalé vytváření IVP

Další problém, který zpráva identifikovala, se týká používání AI asistentů učitelů k vytváření individuálních vzdělávacích plánů (IVP) – funkce, která je součástí tří testovaných platforem. Tyto nástroje zatím dokážou produkovat dokumenty, které působí uhlazeně a profesionálně, ale postrádají dostatečnou propracovanost k vytvoření skutečně komplexního IVP, upozorňuje Torney.

AI by měla podporovat odbornost učitelů, nikoli ji nahrazovat

Hlavním poselstvím zprávy Common Sense Media však je, že AI asistenti učitelů jsou pouze tak dobří, jak dobré jsou systémy, které je obklopují – tedy například strategie určující způsob jejich používání, školení učitelů, procesy dohledu a především odbornost samotných učitelů. Podle ní by si učitelé měli pečlivě promyslet, jaké informace do nástrojů AI asistenta vkládají a zda to povede k lepším výsledkům.

Zvláštní opatrnost by dále měli věnovat využívání AI asistentů pro generování obrázků, protože ty mohou vytvářet vizualizace podporující škodlivé stereotypy a dezinformace, uvádí se též ve zprávě.

Učitelé by si také měli být vědomi fenoménu zvaného „automatizační zkreslení“, tedy lidské tendence příliš důvěřovat doporučením automatizovaných systémů. To může vést k tomu, že učitelé nebudou kriticky hodnotit výstupy AI. I když nástroje AI asistenta dokážou během několika sekund vytvořit například prezentaci, učitelé by měli všechny materiály před jejich použitím ve výuce vždy zkontrolovat kritickým okem, varuje zpráva.

Podle jejích závěrů tyto platformy fungují nejlépe tehdy, když jsou učitelé „u volantu“ a AI asistenti jsou skutečně jen asistenty. Jak dále uvádí, mezi znaky kvalitně navržených AI asistentů učitelů patří to, že jsou vytvářeni především pro učitele, nikoli pro žáky. Pokud platforma zahrnuje funkce, které mohou používat přímo žáci, měly by být přizpůsobitelné a nadále pod kontrolou učitele. Dobře navržené nástroje také umožňují učitelům nahrávat přípravy na hodiny, učební osnovy a další zdroje. To pomáhá zajistit, aby výstupy AI nástrojů byly v souladu s kurikulem a vzdělávacími standardy, a ne aby je podkopávaly.

Pokud se AI asistenti učitelů používají správně, mohou zlepšit učení tím, že obohatí kvalitní výukové materiály a zároveň ušetří učitelům čas věnovaný rutinním činnostem, aby se mohli více soustředit na klíčové aspekty výuky, uvádí Torney.

„Umělá inteligence může být skutečně mocným pomocníkem. Může zvýšit produktivitu a podpořit kreativitu. Kdybych stále učil, chtěl bych tyto nástroje používat. A kdybych byl ředitelem školy, velmi bych si přál, aby je moji učitelé využívali,“ uzavírá.

[1]

*

Související články

• Khanmigo – AI vzdělávací asistent od Khan Academy