S novými technologiemi je to pokaždé stejné. Velmi rychle se je naučíme používat, ale málo přitom přemýšlíme o tom, zda je používáme efektivně a především bezpečně. A právě bezpečnost často podceňujeme nejvíc. Nastavujeme slabá, opakující se hesla, nepoužíváme správce hesel, nenastavujeme víceúrovňovou či bezheslovou autentizaci, neřešíme, jaká data o nás námi používané aplikace sbírají a poskytují třetím stranám, a tak bychom mohli pokračovat. A v případě generativní umělé inteligence tomu není jinak.
Za rok a půl od uvedení chatbota ChatGPT se postupně nástroje generativní AI rozšířily do mnoha stávajících platforem včetně těch edukativních. Učitelé je začali využívat v plánování, přípravách a personalizaci výuky, v procesu ověřování úrovně vzdělávání, při hodnocení a poskytování zpětné vazby, pro automatizaci procesů a v řadě dalších situací, kdy jim jejich práci usnadňují a zefektivňují. [1]
Umělá inteligence má významný potenciál ve zlepšování vzdělávání, současně však pro školy představuje obrovské riziko v oblasti kybernetické bezpečnosti, shrnuje americké konsorcium CoSN (ke kterému se vracíme opakovaně) ve výroční zprávě celostátního výzkumu oblastních lídrů vzdělávacích technologií z 30. dubna 2024, pro něž se kybernetická bezpečnost stala v tomto roce nejvyšší prioritou. [2]
Pojďme se nyní podívat na hlavní rizika spojená s AI podle této zprávy:
Přibližně dvě třetiny, konkrétně 63 % z téměř tisíce dotázaných oblastních EdTech lídrů (průzkum proběhl v průběhu ledna a února 2024) má velkou nebo extrémně velkou obavu, že nově se rozvíjející technologie umělé inteligence umožní vznik nových forem kyberútoků.
Z průzkumu též vyplynulo, že 49 % z nich současně trápí nedostatek kurzů pro učitele zaměřených na integraci AI do výuky. Výzkumné centrum EdWeek zjistilo, že velká většina učitelů doposud neabsolvovala jakýkoliv kurz na generativní AI.
Podle odborníků jsou tyto kurzy důležité nejen proto, aby učitelé dokázali generativní umělou inteligenci zodpovědně využívat ve své práci, ale také, aby byli schopni studentům ukázat její správné používání.
Kolem poloviny, 45–47 % EdTech lídrů se v souvislosti s AI dále obává nových forem kyberšikany, šíření lživých informací či ohrožení ochrany osobních údajů žáků. Čeho se naopak téměř vůbec neobávají, je, že by AI nahradila učitele, vedla k celkové ztrátě pracovních míst nebo lidstvo překonala.
[2]
Výše uvedená zpráva též odhalila, že pokud jde o jasně definovaný přístup k tomu, jak mohou zaměstnanci a žáci používat generativní umělou inteligenci, 4 z 10 EdTech lídrů školských okresů uvedlo, že v současnosti taková pravidla neexistují. Více jak polovina z nich, konkrétně 54 % poté sdělila, že školy v jejich regionu existující politiku používání AI nemají. Vytvoření AI strategie je však zároveň jednou z pěti jejich nejvyšších priorit. (2)
Podle Diane Doersch, předsedkyně správní rady CoSN a ředitelky informačních technologií neziskové organizace Digital Promise, mají obvody mnoho vzdělávacích nástrojů, které byly dříve prozkoumány a schváleny k používání pro zaměstnance a žáky, nyní se však zdá, že všechny tyto aplikace potřebují nové přezkoumání, protože do nich byla přidána umělá inteligence. [2]
„Nemůžeme pozastavit AI, abychom se na ni připravili,“ říká Sarah Radclife, tajemnice správní rady CoSN a ředitelka vzdělávání pro budoucnost školského okresu Altoona ve Wisconsinu.
„Není to o tom připravit se na umělou inteligenci, protože ta už tady je. Jde o to s ní pracovat a neustále zlepšovat zavedené systémy, abychom AI využili v produktivitě a učení, a zároveň ochránili informace o žácích a zajistili kybernetickou bezpečnost. A to je velmi náročné,“ doplňuje. [2]
Z výše uvedených rizik lze odvodit několik základní kroků, díky nimž bychom popsaným hrozbám mohli předcházet či je minimalizovat. Řada z nich již zazněla v jiných našich článcích o AI na Spomocníkovi, nyní jsou uvedeny v kontextu kybernetické bezpečnosti v kontextu publikované zprávy CoSN.
S novými technologiemi je to pokaždé stejné. Velmi rychle si je oblíbíme, a pak se z nás často stávají „ovce“ (syndrom housete), které tyto technologie slepě používají bez racionálních důvodů či hlubšího přemýšlení o jejich potřebě a smysluplnosti.
Zkuste to u AI změnit. Nebuďme AI ovcemi, nepoužívejme generativní AI všude a na všechno, aniž bychom předem zvážili všechny souvislosti. Zkusme být raději AI liškami. Integrujme nástroje AI chytře a především obezřetně. A nezapomínejme přitom na to, co je pro nás opravdu důležité a má vyšší prioritu.
*
Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.
Článek nebyl prozatím komentován.
Pro vložení komentáře je nutné se nejprve přihlásit.
Tento článek je zařazen do seriálu Umělá inteligence.
Ostatní články seriálu:
