Idea svobody v éře AI podle Audrey Watters

Anotace

Jak se zdá, lidstvo se nevyhne stále větší závislosti na technologiích. My, kdo dosud žijeme v demokratické společnosti, bychom si nejspíše chtěli zachovat svobodnou vůli rozhodovat, co se svým životem uděláme. Opakovaně však zjišťujeme, že existují vlivy zpochybňující její existenci. Právě raketový rozvoj AI tuto problematiku zviditelňuje. Podívejme se, jak se na ni dívá nám již dobře známá a milá první kurátorka EDTECH Audrey Watters [1].

Jejím oblíbeným tématem, ke kterému se opakovaně vrací, je behavioristický psycholog B. F. Skinner a jeho holubi, které najdete skoro všude na jejích stránkách (Co bylo špatně).

Skinner vydal v roce 1971 svou nejkontroverznější knihu s provokativním názvem Beyond Freedom and Dignity (Za hranicí svobody a důstojnosti). V ní tvrdí, že zakořeněná víra ve svobodnou vůli a morální autonomii jednotlivce brání vyhlídce na použití vědeckých metod k modifikaci chování za účelem budování šťastnější a lépe organizované společnosti. Touha po svobodě je podle něj jen psychologická „úniková cesta“, která vede lidi k přesvědčení, že jejich chování není kontrolované nebo kontrolovatelné, i když ve skutečnosti je.

Podle Skinnera literatura o svobodě a důstojnosti – jinými slovy velká část západní filozofie – „stojí v cestě budoucnosti lidských úspěchů“. Nezbytným prostředkem, abychom se vymanili z falešného smyslu pro autonomii a svobodu jednání, byla podle Skinnera věda a nástrojem technologie ovlivňování chování.

Je nutné si uvědomit, že kniha Beyond Freedom and Dignity byla publikována v době vrcholícího hnutí kontrakultury a války ve Vietnamu. Skinnerovy argumenty byly přijímány jako útok na základní principy demokracie. Přestože on sám byl již dlouho předtím považován za jednoho z nejvlivnějších psychologů té doby a jeho behavioristická teorie byla všeobecně známa, byl obsah této knihy vnímán jako nový a šokující. Proti se postavilo i nemalé množství Skinnerových kolegů včetně spolupracovníků na Harvardu.

Tehdy u většiny společnosti a zcela jistě i v akademické sféře převládal názor, že svoboda volby je pro člověka základní hodnotou a jakákoli manipulace s chováním druhých představuje porušení jejich lidských práv bez ohledu na přínos, kterému má taková manipulace sloužit. Navíc není jisté, zda se vždy podaří chování lidí ovlivňovat přínosným způsobem. Třeba Noam Chomsky reagoval takto: „Pokud jde o její sociální důsledky, Skinnerova věda o lidském chování, která je docela bezduchá, je stejně příjemná libertariánům jako fašistům.“ [2]

Důvodem toho, proč jsme nakonec behaviorismus zamítli, byla jeho koncentrace jen na vnější podněty ovlivňující chování a neochota zkoumat vnitřní stavy mysli člověka. Podle Chomského byl Skinnerův behaviorismus nebezpečný již v 70. letech minulého století. Buduje společnost, v níž jedni ovládají druhé. A tak v 80. letech kognitivní věda vytlačila behaviorismus jako dominantní přístup v této oblasti (Konektivismus – teorie vzdělávání v prostředí sociálních sítí). Není vyloučeno, že lze najít též souvislost s již výše zmíněnou kontrakulturou.

Behaviorismus je však určitým způsobem stále praktikován. Behaviorální inženýrství se uplatňuje zejména v rámci digitálních technologií, stále více prostřednictvím umělé inteligence. Jeho aplikaci v rámci současných sociálních sítí na začátku tohoto století zdokonalil stanfordský profesor Fogg (Foggův model ovládání lidí technologiemi), průlomový pohled pak přinesla v roce 2019 harvardská profesorka Shoshana Zuboff ve své knize The Age of Surveillance Capitalism (Shoshana Zuboff a kapitalismus dohledu).

Behavioristické metody se používají k formování našeho chování online – našich návyků, při aktualizaci naší digitální stopy, na co klikáme a co sledujeme. Na rozdíl od Skinnerových představ se však nejedná o budování lepšího světa, ale spíše o vytváření vysoce ziskového obchodního modelu založeného na datafikaci a manipulaci s našimi životy a rozhodnutími.

Zjevně to funguje, a navíc, jak se zdá, i při ovlivňování politických cílů (voleb). Je zajímavé, že si zatím málokdo (včetně Shoshany Zuboff či Noama Chomského) uvědomuje, že vědecky podložené odmítnutí behaviorismu pravděpodobně bude třeba přezkoumat. Je sice skoro jisté, že většina lidí by si to nepřála, ale není vyloučeno, že se může ukázat, že Skinner měl v něčem pravdu (Nová éra sociální kontroly). Pokud nebudeme schopni si toto riziko uvědomit, pak nám asi nezbude nic jiného než nést následky (Ovládej, abys nebyl ovládán!). Současný vývoj v USA je nejviditelnějším důkazem [3].