Jak AI podkopává demokracii

Anotace

Zajímavou studii publikovala v časopise Science skupina 22 vědců ze špičkových pracovišť z celého světa [1]. Podívejme se na podstatu jejich sdělení prostřednictvím článku z blogu jednoho z autorů, kognitivního psychologa New York University Garyho Marcuse, jehož název říká: Roje AI botů hrozí podkopáním demokracie [2].

Demokracie je vytvářena a funguje díky existenci nezávislých odlišných hlasů. Dnes však čelíme vzestupu syntetického konsensu uměle vyvolávaného prostřednictvím technologií. Automatizovaní boti šířící dezinformace jsou problémem již od vzniku sociálních médií. Od té doby, kdy jsou k dispozici nástroje generativní AI, se však způsob automatizace tvorby dezinformací výrazně změnil k horšímu. Dnes existují roje AI botů (botnetů), které jednají ve společné shodě s cílem ovlivnit veřejné mínění.

Nebezpečí spočívá v tom, že se současné roje botů chovají méně jako megafon a více jako koordinovaný sociální organismus. Dřívější boti byli prostoduší, většinou jen kopírovali a vkládali tytéž zprávy ve velkém měřítku – a již tehdy bylo jejich přímé přesvědčovací účinky těžké odhalit. Dnešní roje dokážou koordinovat množství umělých uživatelů – často s uvěřitelnými dlouhodobě existujícími identitami – a fungovat tak, že je těžké je odlišit od skutečných komunit.

Nejde jen o hypotetický problém. Například v červenci 2024 americké ministerstvo spravedlnosti odhalilo s Ruskem propojenou, umělou inteligencí vylepšenou botovou farmu, která na síti X pracovala s 968 účty vydávajícími se za Američany.

Ve skutečnosti již boti tvoří významnou část veřejného online prostoru. Odhaduje se, že zhruba 1/5 všech konverzací na sociálních sítích je automatizovaná [3]. Botneti nejen šíří propagandu, mohou infiltrovat komunity napodobováním místního slangu a tónu, postupem času si budovat důvěryhodnost, a poté se v reálném čase přizpůsobovat reakcím publika – např. testovat varianty rychlostí stroje, aby byli přesvědčivější (příliš rychlé odezvy vedou k odhalení AI).

Lidé nejčastěji aktualizují své názory na základě sociálních kontaktů – zkoumají u vrstevníků a známých, co je „normální“. Vykonstruované dezinformace mohou způsobit, že okrajové názory vypadají jako názory většiny. Pokud roje zaplaví web duplicitním obsahem zaměřeným na ovlivnění všemi používaných AI nástrojů, mohou provádět tzv. „LLM grooming“, tj. snaží se ovlivnit trénovací data, na která se budoucí modely umělé inteligence (plošně používané) spoléhají. I ty nejlepší („myslící“) modely umělé inteligence jsou vůči tomu zranitelné.

Nedokážeme-li eliminovat vliv dezinformačních botnetů poháněných umělou inteligencí, musíme změnit způsob jejich využití. Gary má pět konkrétních návrhů:

1. Platformy sociálních médií se musí odklonit od přístupu v duchu hry „sejmi krtka“ (Whac-A-Mole), který používají. V současné době se tyto společnosti spoléhají na epizodické zastavování – čekají, až se dezinformační kampaň stane virální a napáchá škody, a pak v jedné vlně vymažou tisíce účtů. To je však většinou již pozdě. Místo toho potřebujeme neustálé monitorování, které hledá statisticky nepravděpodobnou koordinaci účtů. Protože umělá inteligence nyní dokáže generovat jedinečný text pro každý jednotlivý příspěvek, hledání zkopírovaného obsahu již nemá smysl. Musíme se místo toho zaměřit na chování. Tisíce uživatelů může publikovat různé věci. Jde o to, zda vykazují statisticky nepravděpodobné korelace ve svých sémantických trajektoriích nebo šíří narativy se synchronizovanou účinností, která se vzpírá organickému lidskému šíření.

2. Musíme přestat čekat, až útočníci vymyslí nové taktiky, než postavíme obranu. Obrana, která reaguje pouze na včerejší triky, je odsouzena k selhání. Místo toho bychom měli proaktivně testovat naši obranu zátěžovými testy simulacemi založenými na agentech. Představte si to jako digitální požární cvičení nebo testování vakcíny. Vědci mohou vytvořit „syntetickou“ sociální síť agentů umělé inteligence a poté do tohoto izolovaného prostředí vypustit jejich vlastní testovací roje. Sledováním, jak se tito testovací boti snaží manipulovat systém, můžeme zjistit, která ochranná opatření se hroutí a která obstojí, což nám umožňuje minimalizovat zranitelnost dříve, než ji útočníci v reálném světě zneužijí.

3. Musíme zdražit používání falešných účtů. Tvůrci politik musí motivovat ke kryptografickým atestacím a standardům reputace, aby se prokázal původ uživatelů. To neznamená nutit každého, aby ukazoval svůj občanský průkaz provozovateli sítě – to by bylo nebezpečné pro whistleblowery a disidenty žijící v autoritářských režimech. Místo toho potřebujeme ověřitelnou, ale anonymní autentizaci, která dokazuje, že se jedná o jedinečnou lidskou bytost bez odhalení její totožnosti. Pokud budeme tento druh „důkazu o lidské příslušnosti“ vyžadovat, ztížíme provozovatelům tajné vedení tisíců falešných účtů.

4. Vyžadujme povinnou transparentnost prostřednictvím bezplatného přístupu k datům pro výzkumníky. Nemůžeme bránit společnost, pokud je bojiště skryto za proprietárními zdmi. V současné době platformy omezují přístup k datům potřebným k detekci dezinformačních rojů a nechávají nezávislé odborníky slepými. Legislativa musí zaručit prověřeným akademickým a občanským výzkumníkům nezávislý přístup k datům platforem. Bez toho jsme nuceni důvěřovat vlastním hlášením samotných korporací, které z aktivit generovaných dezinformačními roji profitují.

5. Musíme ukončit éru pouhého odhalování vlivu umělé inteligence. Nemá smysl zřizovat vládou řízené „ministerstvo pravdy“. Místo toho musíme žádat vybudování distribuovaného ekosystému tématem se zabývajících nezávislých akademických skupin a nevládních organizací. Jejich mandátem nemá být hlídání obsahu ani rozhodování, kdo má pravdu, ale detekce existujících veřejných aktivit koordinovaně produkovaných botnety. Standardizací způsobu shromažďování důkazů o jejich existenci a publikováním ověřených zpráv by taková nezávislá hlídací síť mohla zabránit paralýze ve smyslu „nic nemůžeme dokázat“ a vytvořila by sdílený, faktický záznam o tom, kdy je náš veřejný diskurz manipulován.

Žádné z těchto opatření eliminaci dezinformací nezaručuje. Ale mění ekonomiku rozsáhlých manipulací a díky tomu jejich realizaci znesnadňuje. Musíme znovu vytvořit podmínky, kde je autentická lidská účast nezaměnitelná. Potřebujeme vybudovat prostředí, kde skutečné hlasy jasně vyčnívají ze syntetického šumu. „Moudrost davů“ funguje pouze tehdy, pokud je dav složen z odlišných jednotlivců. Když jeden operátor může mluvit skrze tisíce falešných agentů, tato nezávislost se hroutí. Proto čelíme vzestupu syntetického konsensu, kde roje botnetů šíří narativy napříč různorodými online bublinami a zesilují je, aby vytvořili iluzi shody.

Geoffrey Rockwell svou zprávu o téže publikaci uzavírá těmito slovy: „Studie navrhuje různá řešení, ale nezmiňuje to, které je nejvíce nasnadě – opusťte sociální média a čtěte zprávy jen z důvěryhodných zdrojů.“ [4]

Funkce dezinformačních rojů botnetů ohrožujících demokracii podle autorů studie [1]