Dokáže AI bránit demokracii?

Anotace

V MIT Technology Review se objevil článek dvou pracovníků Kanceláře známého filantropa Erica Schmidta [1]. Upozorňují nás na to, že AI mění způsob fungování demokracie i chování demokratického občana. Podívejme se na obsah trochu blíže.

V průběhu času se mění způsob, jakým se šíří informace, a má to vliv i na fungování celé společnosti. Vzpomeňme např. na to, co se světem udělal vynález knihtisku. Nyní se nacházíme v raných fázích dalšího podobného posunu. Rychleji, než si mnozí uvědomují, se AI stává primárním rozhraním, jehož prostřednictvím si formujeme přesvědčení a účastníme se demokratické samosprávy. Pokud se tento posun nezastaví, mohl by ještě více zatížit již tak křehké instituce. Mohl by však také pomoci řešit dlouhodobé problémy, jako je nedostatečná občanská angažovanost a prohlubující se polarizace. Co se stane dál, závisí na nastavení vývoje AI, který se odehrává právě teď, ať už si to uvědomujeme, nebo ne.

Začněme tím, co by se dalo nazvat epistemickou vrstvou – jak se dozvídáme věci. Lidé se stále více spoléhají na umělou inteligenci, aby věděli, co je pravda, co se děje a komu věřit. Vyhledávání je již z velké části zprostředkováno umělou inteligencí. Další generace asistentů umělé inteligence bude syntetizovat informace, formulovat je a prezentovat jako důvěryhodné. Pro stále větší počet lidí se ptát umělé inteligence stane výchozím způsobem, jak si utvářet názory na dění kolem sebe (politiku či veřejně známé osobnosti). Kdokoli ovládá, co tyto modely říkají, má proto stále větší vliv na to, čemu lidé věří.

Technologie vždy formovala způsob, jakým občané interagují s informacemi. Brzy však vznikne nový problém v podobě osobních AI agentů, kteří mohou změnit nejen to, jak lidé informace přijímají, ale i to, jak s nimi zacházejí. Tyto systémy budou provádět výzkum, navrhovat sdělení, zdůrazňovat kauzy a lobovat jménem uživatele. Budou informovat o rozhodnutích, jako je například to, jak hlasovat v referendu, které organizace stojí za podporu nebo jak reagovat na vládní oznámení. Začnou zprostředkovávat vztah mezi jednotlivci a institucemi.

Na sociálních sítích jsme mohli vidět, co se stane, když jsou algoritmy nastaveny na optimalizaci zapojení uživatelů spíše než na porozumění sdělení. Platformy nepotřebují explicitní politickou agendu, aby vyvolaly polarizaci a radikalizaci. Agent, který zná vaše preference a vaše obavy – takový, který je tvarován tak, aby vás udržel v kontaktu – představuje stejná rizika. A v tomto případě mohou být rizika ještě obtížněji odhalitelná, protože agent se prezentuje jako váš obhájce. Mluví za vás, jedná vaším jménem a může si získat důvěru právě touto intimitou.

Závažný dopad může mít AI i na kolektiv. AI agenti a lidé by se brzy mohli účastnit stejných fór, kde by je mohlo být nemožné rozlišit. I kdyby každý jednotlivý agent byl dobře navržen a sladěn se zájmy svého uživatele, interakce milionů agentů by mohly vést k výsledkům, které si žádný člověk nepřeje. Výzkum například ukazuje, že agenti, kteří nevykazují žádnou individuální zaujatost, mohou stále generovat kolektivní zaujatosti ve velkém měřítku. A když pomineme, co agenti dělají mezi sebou navzájem, je tu to, co dělají pro své uživatele. Veřejná sféra, ve které má každý personalizovaného agenta naladěného na jeho stávající názory, není v souhrnu vůbec veřejnou sférou. Je to soubor soukromých světů, z nichž každý je vnitřně soudržný, ale kolektivně nevhodný pro druh sdílené debaty, kterou demokracie vyžaduje.

Výše popsané změny – v tom, jak víme, jak jednáme a jak se zapojujeme do kolektivní správy věcí veřejných – dohromady vedou k zásadní změně ve formě občanství. V blízké budoucnosti si lidé budou vytvářet své politické názory prostřednictvím filtrů umělé inteligence, uplatňovat svou občanskou angažovanost prostřednictvím AI agentů a účastnit se veřejných diskusí, které samy o sobě budou formovány interakcemi milionů takových agentů.

Dnešní demokracie na to není připravena. Naše instituce byly navrženy pro svět, v němž se moc uplatňovala viditelně, informace se šířily dostatečně pomalu na to, aby se s nimi dalo polemizovat, a realita se zdála být sdílenější. Současné změny se začaly odehrávat už dávno předtím, než se objevila generativní AI. Nesmíme ale propadat panice. Katastrofě se můžeme vyhnout, podaří-li se nám zavést určitá opatření.

Je třeba, aby společnosti zabývající se AI zintenzivnily snahu zajistit pravdivost výstupů svých modelů. Pokud by se uživatelé mohli na výsledky spolehnout, naděje na zvyšování konsenzu by se zvýšila. Některá slibná raná zjištění skutečně ukazují, že modely AI mohou za určitých okolností pomoci snižovat polarizaci.

S tím souvisí způsob, jak vyhodnotit, zda agenti AI věrně reprezentují své uživatele. Agent nesmí mít nikdy vlastní agendu ani zkreslovat názory svých uživatelů – což je náročný požadavek v případě, když uživatel neuvede žádné preference. Věrná reprezentace však nesmí být příliš striktní. Agent, který odmítá prezentovat nepříjemné informace, který chrání svého uživatele před zpochybňováním jeho předchozích přesvědčení nebo se nedokáže přizpůsobit změně jeho cítění, nejedná v nejlepším zájmu dané osoby.

Na institucionální úrovni by tvůrci politik měli spěchat s využitím potenciálu AI k tomu, aby se správa věcí veřejných stala responzivnější a legitimnější. Již existují slibné experimenty, v nichž státy či obce využívají AI platformy k podpoře demokracie ve velkém měřítku. Vycházejí z výzkumu, který ukazuje, že AI mediátoři mohou občanům pomoci najít společnou řeč. Jen je třeba zabránit záměrnému zkreslování těchto procesů, což se neobejde bez ověřování identity jak lidí, tak jejich agentních zástupců.

Vzniká potřeba nové generace demokratické infrastruktury, technologické i institucionální. Pokud se nám nepodaří vývoj směrem k posílení demokracie ovlivnit, přenecháme prostor pro něco jiného. Historie lidstva nenechává mnoho prostoru pro optimismus ohledně toho, co to mohlo být (viz technofašismus).

Can democracy survive the age of AI?