Technofašismus v režii Palantir

Anotace

Palantir je softwarová společnost sídlící v Silicon Valley, která vyvíjí platformy pro integraci, analýzu a vizualizaci rozsáhlých datových souborů s využitím vlastních modelů AI. Své služby ale v duchu nejnovějších trendů nenabízí přímo veřejnosti, orientuje se na pomoc vládám a organizacím s propojením existujících dat a využitím AI k rychlejšímu rozhodování. Palantir patří k čelným představitelům vývoje nástrojů snažících se ovládat chování lidí v masovém měřítku. K nejdůležitějším oblastem jejího zaměření patří obrana a zpravodajské služby. Umožňuje vládním agenturám (nejen v USA) analyzovat bezpečnostní hrozby a plánovat logistiku nasazení sil v rámci vládních operací.

Co je Palantir ve skutečnosti zač, lze odhalit z jejího nedávného vnitropoliticky zaměřeného Manifestu. Jedná se o výňatek z aktuálního bestselleru vedoucích představitelů této společnosti Alexandra Karpa a Nicholase Zamisky s názvem Technologická republika: Tvrdá síla, měkká víra a budoucnost Západu. Vyberu pár ukázek:

• Silicon Valley má morální dluh vůči zemi, která umožnila jeho vzestup. Inženýrská elita má povinnost podílet se na obraně národa.

• Byly odhaleny limity měkké síly, pouhé vznešené rétoriky. Schopnost svobodných a demokratických společností vítězit vyžaduje něco víc než jen morální apel. Vyžaduje tvrdou sílu a tvrdá síla bude v tomto století postavena na softwaru.

• Otázkou není, zda budou zbraně s AI vyrobeny; jde o to, kdo je vyvine a za jakým účelem. Naši protivníci se nespokojí s teatrálními debatami o vhodnosti vývoje technologií s kritickými vojenskými a národně-bezpečnostními aplikacemi.

• Vojenská služba by měla být univerzální povinností. Jako společnost bychom měli zvážit odklon od čistě dobrovolnických sil a bojovat v příští válce pouze tehdy, pokud se všichni budou podílet na riziku a nákladech.

• Pokud americký mariňák požádá o lepší pušku, měli bychom ji vyrobit; a totéž platí pro software.

• Jeden věk odstrašování, atomový věk, končí a začíná nová éra odstrašování postavená na umělé inteligenci.

• Žádná jiná země v historii světa nerozvinula progresivní hodnoty více než tato. Spojené státy mají k dokonalosti daleko. Nesmíme však zapomenout, o kolik více příležitostí existuje v této zemi pro ty, kteří nepatří k dědičným elitám, než v kterékoli jiné zemi na planetě.

• Americká moc umožnila mimořádně dlouhý mír. Příliš mnoho lidí zapomnělo nebo možná považuje za samozřejmost, že téměř století jakési formy míru panovalo ve světě bez vojenského konfliktu velmocí.

• Poválečná neutralizace Německa a Japonska musí být zrušena. Demilitarizace Německa byla přehnanou korekcí, za kterou Evropa nyní platí vysokou cenu. Podobný je i velmi teatrální závazek k japonskému pacifismu. Pokud bude zachován, hrozí posun rovnováhy sil v Asii.

• Opatrnost ve veřejném životě, kterou nevědomky podporujeme, je ničivá. Ti, kdo neříkají nic špatného, často neříkají vůbec nic.

• Některé kultury přinesly zásadní pokrok, jiné zůstávají dysfunkční. Všechny kultury jsou si nyní rovny. Kritika a hodnotové soudy jsou zakázány. Toto dogma však zamlčuje skutečnost, že určité kultury přinesly zázraky a jiné se ukázaly jako průměrné, a co je horší, regresivní a škodlivé.

• Musíme odolat povrchnímu pokušení bezobsažného pluralismu. My, v Americe a obecněji na Západě, jsme se v posledním půlstoletí bránili definování národních kultur ve jménu inkluzivity. Ale inkluze do čeho?

Jak vidno, jedná se o dokument jasně naznačující podstatu nového nasměrování vývoje světa směrem ke konfrontaci – nové reality. Je očividně v souladu s politikou prezidenta Trumpa. Pro bližší pochopení souvislostí bychom se mohli podívat třeba na to, co si o tomto Manifestu myslí známý vídeňský profesor filozofie zabývající se etikou technologií Mark Coeckelbergh [1]:

„Je to bomba. Jedna věc je, když vláda nebo politická strana vyjadřuje svou politickou vizi, která je očekávaná, dokonce povinná. Něco jiného je, když to dělá soukromá společnost, zejména ta, která je hluboce zakořeněna ve státní bezpečnosti a dohledu. Není to jen reklama předního globálního obchodníka s technologickými zbraněmi. Pro každého přítele demokracie je čtení tohoto textu jako konzumace potraviny, o které jste tušili, že se zkazila, ale nevěděli jste, že je až tak špatná.“

Společnost Palantir, vedená Alexandrem Karpem a založená Peterem Thielem, není politický think tank. Není voleným orgánem. Není odpovědná veřejnosti. Je to dodavatel výkonné softwarové a datové infrastruktury používané armádou, zpravodajskými službami a orgány činnými v trestním řízení po celém světě. Když taková firma začne hovořit v obecných ideologických termínech o směru, kterým by se celá společnost měla ubírat, vyvolává to právem otázky.

Jedná se o politickou ideologii, která je otevřeně nepřátelská k liberální demokracii, odmítá pluralismus, inkluzi a empatii (tzv. La La Land), a místo toho přijímá „tvrdou sílu“ (násilí) a permanentní válku (ideální, pokud se jedná o obchodníka se zbraněmi), hovoří o obětech pro národ a o povolávání lidí do vojenské služby, tvrdě potlačuje zločin, vítá náboženství v oblasti moci, nevěří v rovnost kultur a propaguje západní nadřazenost a elitářství, podporuje spolupráci mezi velkými technologickými společnostmi a státem, pozitivně se staví k potlačování disentu pomocí systému sledování, který vždy ví, jak kohokoli najít, hovoří o přezbrojení Německa a Japonska a argumentuje pro technologickou dominanci nad nepřáteli státu. Není to obvyklý jazyk technologií, ani velkých technologických firem. Pokud vám to zní povědomě, mělo by. Oslava síly, válčení a národa, podřízenost občanů státu a propletení korporátní a státní moci, to jsou znaky fašismu. Silicon Valley se tímto směrem ubírá už nějakou dobu. Nyní se ale věci stávají nebezpečnějšími a závažnějšími.

Fúze rozsáhlého dohledu, prediktivní analytiky a státní moci je již nějaký čas díky růstu světového nesouladu a chaosu ospravedlňována ve jménu inovací, efektivity, stability nebo národní bezpečnosti. Tato ospravedlnění však maskují hlubší odklon od demokratické odpovědnosti a zřetelný krok směrem k totalitě. Z této perspektivy nezní Manifest jako provokace, ale spíše jako případová studie technofašismu.

Palantir nechce jen vydělávat peníze, chce víc. Díky svým vazbám na státní moc, a zejména na Trumpův režim, je jeho cílem akumulace moci. Technologické elity začínají fungovat jako kvazipolitické autority bez demokratické legitimity. Inženýři, datoví vědci, ale zejména výkonná moc a miliardáři jsou přetvořeni v arbitry společenského řádu a předvoj, který nás připravuje na budoucnost, v níž se předpokládá nezbytný válečný střet velmocí. Svoji úlohu ospravedlňují argumentem, že dokážou obnovit řád. Vzkaz pro jejich klienty zní: ujistěte se, že jste vítězem, dominujte, pak budete tím, kdo má vše pod kontrolou. Zapomeňte na multilateralismus; staňte se nejsilnějšími a vnutíte svůj řád všem ostatním (jejich verze inkluze). Technologie jsou pro to ideálním nástrojem: nemusíte s lidmi mluvit, snažit se je přesvědčit, hádat se s nimi apod.

Infrastruktura nové reality podporovaná AI se už nejen buduje, je již částečně hotová a její stavitelé ji ideologicky ospravedlňují. Technofašismus je nyní praktikován otevřeně a bezostyšně. Není třeba věci skrývat, když jsme si na ně všichni už zvykli. Čím více budou tyto systémy zakořeněny, tím obtížnější bude najít cestu zpět k demokracii.

Nesmíme se vzdát bez boje. Musíme se ptát, vzpírat se a (znovu) budovat. Můžeme a musíme bránit demokracii. Ve zdravé demokracii je směřování společnosti zpochybňováno veřejně, prostřednictvím institucí, které jsou – byť nedokonale – navrženy tak, aby odrážely vůli lidu. Soukromé technologické společnosti mají plné právo se této konverzace účastnit. Společnost také potřebuje jejich vstup, pokud jde o odborné znalosti v oblasti umělé inteligence. Ale když jejich účast nabývá podoby prosazování modelu, který koncentruje moc v systémech, které ovládají, skepticismus a odpor jsou nejen oprávněné, ale i nezbytné. Musíme s touto koncentrací moci a jejími autoritářskými a fašistickými rozměry něco udělat. To však vyžaduje, abychom tento problém identifikovali a lépe si uvědomili jeho naléhavost.

AI and democracy: Who actually controls us? | Mark Coeckelbergh (Zelený drát)

Moc bych si přál, aby výzva Marka Coeckelbergha nebyla marná. Zvláště proto, že v jeho pojetí má na obraně zásadní podíl vzdělávání.