Velká data byla nejdříve využívána ke komerčním účelům formou cílené reklamy. Ve školství se v poslední době často setkáváme se snahou analyzovat data vyprodukovaná žáky při práci s digitálními přístroji za účelem hodnocení výsledků jejich učení (learning analytics, personalizace). Že je to záležitost riskantní z pohledu ochrany osobních údajů, je nám, doufám, jasné. Demokratická společnost však má prostředky, jak nekalým praktikám čelit. Viděli jsme to na eliminaci snah firmy inBloom v USA získávat velká data od žáků, proti čemuž se postavili rodiče, a dosáhli soudního zákazu (viz Současný stav vývoje systémů adaptivního řízení výuky včetně diskuze pod článkem). Aktuálně zaváděné evropské GDPR je zřejmým důsledkem tohoto vývoje.
S demokracií však na tom je současný svět dost špatně. Jsme svědky toho, jak se o netransparentní zpracování velkých dat o občanech pokoušejí bezpečnostní agentury téměř všech zemí (viz Edward Snowden). Co se může stát, dostane-li se takový nástroj umožňující analyzovat činnost lidí na velkých datech do rukou totalitní moci, můžeme pozorovat v Číně [1]. Vláda zde zavádí reputační systém tzv. „sociálních kreditů“. Jedná se zjevně o způsob, jak ještě více posílit moc vládnoucí strany a eliminovat všechny známky opozice v samém zárodku. Informací je velmi málo. S jistotou lze říci, že v pozadí bude pracovat podobný algoritmus založený na umělé inteligenci, jaký používají nejrozšířenější komerční platformy, včetně naprosto stejné neprůhlednosti. Jen cíl je trochu jiný. Namísto maximalizace stráveného času se v tomto případě jedná o nástroj centralizovaného ovládání obyvatel.
Čína má v tomto dlouhou tradici již od té doby, kdy se komunisté v čele s Mao Ce-tungem chopili moci (1949). V současné době existuje větší množství lokálních kreditních systémů provozovaných místními úřady hodnotících chování občanů [2]. Též jsou vyvíjeny online zákaznické kreditní systémy založené na hodnocení chování uživatelů sociálních sítí a nákupních portálů (např. Sesame Credit). Do roku 2020 mají být všechny tyto aktivity propojeny v rámci jednoho národního systému. Ten se již začal experimentálně ověřovat.
Systém shromažďuje dostupná data o všech občanech ČLR. Kromě základních dat z registru obyvatel (adresa, fotka) ví, co čtou i co vkládají na sociální sítě (za pochvalu vlády přiděluje kladné body a naopak), sleduje, zda nejezdí načerno, platí včas účty, neruší noční klid, starají se o seniory apod. Jména občanů s nejvyšším sociálním kreditem jsou již dnes lokálně zveřejňována a mají všelijaké výhody. Pro ty, kteří se ocitnou na opačné straně tohoto „žebříčku“ to může mít i velmi nepříjemné důsledky. Zde je 5 příkladů již existující praxe [3]:
Jak vidno, tento systém má mnoho společných rysů s tím, co jsme my pamětníci zažívali v dobách budování socialismu i u nás. Dokáži si docela dobře představit, jaké důsledky bude mít, pokud budou existovat úředníci s právem skóre jednotlivých občanů upravovat.
Ale vraťme se ještě na skok do školství. Čína je, jak známo, na špici vývoje umělé inteligence. Jinou podobnou aplikací je potajmu zaváděné automatické hodnocení žákovských prací (Je současná umělá inteligence schopna hodnotit tvořený text?). Aktuální zpráva South China Morning Post [4] uvádí, že téměř čtvrtina tamních škol testuje systém, který automaticky hodnotí žáky tvořený text. Nejedná se jen o kontrolu pravopisu či plagiátorství. Umělá inteligence dokáže posoudit i styl a doporučit úpravy vedoucí ke zdokonalení. Navíc díky implementaci hlubokého učení povede každé další použití ke zdokonalování hodnocení.
Zatím je tento systém pouze experimentálně ověřován. Většinou žáci a rodiče ani nevědí, že jsou práce do systému načítány a automatické hodnocení je porovnáváno s hodnocením učitele (shoda údajně dosahuje 92 %). Na každé škole je zodpovědný koordinátor, který má tuto práci na starosti. O věci se nesmí mluvit.
Řekl bych, že ve skutečnosti je primárně cílem získat velká data o žácích. Je to vlastně totéž, o co se neúspěšně v USA pokoušel inBloom. Rozdíl je zásadní. V Číně se rodičů nikdo na souhlas ptát nebude. Nakonec se i tento systém nejspíše stane zdrojem dat pro generování sociálního kreditu občanů.
Není pochyb, Čína pro nás může být mimořádně inspirativním vzorem poučení, jak stabilizovat společnost.
Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.
Pro vložení komentáře je nutné se nejprve přihlásit.
Článek není zařazen do žádného seriálu.
