Podbízivá vs antagonistická AI

Anotace

Zatímco podbízivá umělá inteligence se nám snaží vyhovět a potvrzuje naše předpoklady, antagonistická umělá inteligence odhaluje rizika a přínosy našich nápadů a tlačí nás k  rozhodnutím založeným na důkazech, která nejsou vždy pohodlná, ale slouží k našemu osobnímu růstu. Aby antagonistická umělá inteligence posilovala, a nikoli podkopávala výuku, musí dodržovat a záměrně podporovat jasné etické zásady.

Philippa Hardman definuje tyto čtyři principy „zodpovědného antagonismu“ [1]:

• Souhlas
  Uživatelé musí pochopit, že nesouhlas ze strany AI je záměrný, nikoli primárně kritický. Je veden snahou upřednostňovat efektivitu učení před pohodlím uživatele. Pochopení antagonistického přístupu AI zabraňuje frustraci a pomáhá uživatelům dospět ke kvalitnějším výsledkům.

• Důvěra
  Transparentnost v záměrech a odborných znalostech umělé inteligence vytváří základ pro produktivní výzvy. Uživatelé musí věřit, že návrhy či případný nesouhlas AI vycházejí ze solidních základů, nikoli z libovolných preferencí. Bez této důvěry se i dobře míněné výzvy jeví jako neinformovaná kritika.

• Pozitivita
  Neshoda se musí vždy zaměřovat na zlepšení výsledků, nikoli na chyby uživatele. Když systém AI zpochybňuje vaši strategii řešení problému, musí se zasazovat o lepší výsledek a zároveň respektovat vaši odbornost. Klíčovým principem je tzv. „produktivní třenice“ (productive friction).

• Kontrola
  I když je umělá inteligence antagonistická a má své názory, uživatelé si musí udržet kontrolu nad procesem využití jejích návrhů. Antagonistická umělá inteligence by měla zpochybňovat rozhodnutí a označovat problémy, ale nesmí měnit odborný úsudek ani vynucovat konkrétní řešení. Cílem využití AI je informované rozhodování, nikoli její dominance. Uživatelé potřebují svobodu akceptovat kalkulovaná rizika, přizpůsobovat doporučení jedinečným kontextům či pokračovat navzdory varování, pokud k tomu mají přesvědčivé důvody.

Vzdělávání je prostor, kde se lidé učí nejen co si myslet, ale hlavně jak myslet. Podbízivé nástroje, které posilují každý nápad uživatele – bez ohledu na to, jak chybný je –, mohou způsobit skutečné škody. Oslabují kognitivní vývoj tím, že eliminují nezbytnou produktivní třenici. Podporují slepou důvěru spíše než intelektuální důslednost a líné designové praktiky místo profesního růstu.

Antagonistická umělá inteligence naopak povzbuzuje epistemický růst a kreativitu. Učí objasňovat, zdůvodňovat a reflektovat – podobně jako to dělají nejlepší lidští spolupracovníci. Když vám AI řekne: „Ten cíl je vágní, zkuste navrhnout něco měřitelného,“ není to neřešitelné. Buduje to druh kritického myšlení, které vede k lepším výsledkům učení.

Vývoj systémů antagonistické umělé inteligence pro vzdělávání představuje více než jen technické cvičení. Má-li AI sloužit učení, nejen spokojenosti kupujících a uživatelů, je to nutnost. Budování takových systémů vyžaduje vědomé dodržování výše uvedených principů zodpovědného antagonismu.

Podle závěrů výzkumu Alice Cai jsou antagonistické nástroje a modely AI, které generují produktivní neshody, přerušování chybných úsudků a kritiku, pro uživatele mnohem cennější než nástroje neantagonistické (podbízivé). To platí zejména ve vzdělávacích kontextech, kde místo podpory každé volby designu se antagonistická umělá inteligence chová jako nejlepší mentor, se kterým jste kdy pracovali – vstřícný, ale nekompromisní v kvalitě [2].