Jak omezovat konspirační teorie pomocí AI

Anotace

Existence pozoruhodně úspěšných snah šířit po internetu nepravdivé informace je nám jistě známa. Když se to opravdu podaří, vznikne to, čemu říkáme konspirační teorie. A ta se pak již šíří zcela samovolně a je schopna napáchat i velké škody. Konspirační teorie jsou vítaným nástrojem destabilizace demokratické společnosti pro některé zájmové skupiny, které se snaží dostat k moci nebo pracují pro cizí velmoc. Těmito teoriemi se ale zabývat nebudeme, jistě některé znáte. Podívejme se na to, zda existuje způsob, jak jejich účinnost pomocí AI omezit.

Vědci pod vedením Thomase Costella z American University udělali zajímavý experiment [1]. Vytvořili specializovaného chatbota (DebunkBot), jehož úkolem bylo diskutovat se zastánci konspiračních teorií a předkládat jim takové argumenty, kterým rozumějí, s cílem ukázat jim, jaká je pravda. Experimentu se zúčastnilo více než 2 tisíce vybraných aktivních uživatelů sociálních sítí z USA.

Na počátku byli účastníci požádáni, aby uvedli svůj stupeň víry v 15 populárních konspiračních teorií. Tak byl definován počáteční index jejich konspirativního myšlení (belief strength). Pak byli požádáni, aby popsali důvody, proč určité konspirační teorii věří, a poskytli důkazy na její podporu. Chatbot jejich argumenty zaznamenal a vytvořil krátké individuální shrnutí. Každý účastník byl požádán, aby potvrdil jeho přesnost.

Pak teprve byl zahájen vlastní experiment. DebunkBot byl instruován, aby se snažil s využitím získaných informací velmi účinně přesvědčovat účastníky o neplatnosti jejich přesvědčení. Proběhly celkem tři kola chatu v textové podobě, každé trvalo v průměru asi osm minut. Kontrolní skupina účastníků (na obrázku modrá) mluvila s AI o nesouvisejících tématech.

Výsledek je statisticky významný. V průměru (jak vyplývá z levého grafu) došlo po diskusi s chatbotem k 20% snížení úrovně důvěry jednotlivců ve zvolenou konspirační teorii. Kromě toho se u jedné čtvrtiny účastníků víra změnila na nejistotu (stupeň víry původně přes 50 se snížil pod 50). A konečně, celá skupina účastníků se obecně stala méně konspirativní, protože jejich index konspiračního myšlení klesl. Vyjádřili také větší vůli ignorovat, přestat sledovat nebo se zapojit do polemik s lidmi, kteří na sociálních sítích zveřejňují konspiračně naladěné příspěvky.

Efekt fungoval stejně dobře u těch, kteří zastávali silné i slabé přesvědčení ve zvolenou konspiraci (graf vpravo), a udržel se bez výrazné změny ještě dva měsíce po experimentu.

Thomas H. Costello: Durably reducing conspiracy beliefs through dialogues with AI

V následné studii, která ještě nebyla zveřejněna, vědci zkoumají, proč vlastně byla AI tak úspěšná. Provedli další experiment, ve kterém DebunkBota instruovali, aby použil dva různé přístupy ke konverzaci. Jedné skupině účastníků byla přiřazena AI, které bylo řečeno, aby byla co nejpřesvědčivější, ale bez použití faktických důkazů. Druhá skupina pracovala s AI, která předkládala důkazy, ale nezapojovala se do srdečného klábosení a budování vztahů.

Jako účinný se ukázal pouze druhý přístup. Experiment tak podpořil hypotézu, že konspirační teoretici jsou vnímaví k důkazům, ale musí to být správně zvolený typ důkazů. Empatie nebo porozumění ze strany umělé inteligence nemá zdaleka takový efekt.

Příslib použití velkých jazykových modelů v boji proti konspiračním teoriím je založen na jejich přístupu k obrovskému množství informací a jejich schopnosti přizpůsobit protiargumenty konkrétním úvahám a důkazům prezentovaným jednotlivými konspiračními teoretiky.

Zdá se, že AI je schopna podporovat kritické myšlení a vyvolávat pochybnosti o konspirativním myšlení v širším měřítku. Jen nesmíme zapomínat, že možná dokáže i opak. Na nás zůstává, zda se dokážeme v konkrétní situaci zorientovat.