Jak mluvit o AI

Anotace

Emily M. Bender je profesorkou počítačové lingvistiky na University of Washington a Nanna Inie profesorkou edukačních technologií na University of Copenhagen. Společně se zabývají výzkumem problematiky využití AI ve vzdělávání. Upozorňují na to, že již jen to, jak o AI mluvíme, je chybné [1].

Mluvíme-li o umělé inteligenci, příliš často používáme antropomorfizující jazyk, tj. přisuzujeme jí vlastnosti, jako by byla živá či přímo lidská. Emily a Nanna doporučují místo toho o AI mluvit na základě funkcí. Je rozumnější hovořit o systémech AI z hlediska toho, k čemu je používáme. Nejlépe jednoduše specifikovat vstup a výstup. Spíše než říkat, že ten který model „je v něčem dobrý“ (naznačovat, že má vlastní dovednosti), bychom měli raději hovořit o tom, „k čemu je dobrý“. Kdo model používá a k čemu.

To by znamenalo např. místo toho, že AI umí překládat romány, říkat‚ že je dobrá v jejich překladu. Zdá se to malý rozdíl. Měli bychom si však uvědomit, že antropomorfizující jazyk používáme neustále, když mluvíme o domácích mazlíčcích, spotřebičích, počasí apod. Je otázkou, zda tak budujeme skutečný vztah nebo jen používáme slovní zásobu, která je nám známá a blízká.

AI ve skutečnosti není náš přítel. Není to ani opravdový inteligentní lektor, empatické ucho, ani pravý asistent. Nepřemýšlí a nedokáže si vymyslet zcela nová fakta. Ten, kdo odpovídá na vaše otázky, není člověk. Přesto dnes antropomorfizující jazyk prostupuje veřejnou diskusí.

Problém s antropomorfními popisy spočívá v tom, že maskují důležitá omezení pravděpodobnostních automatizačních AI systémů, která je zásadně odlišují od lidských forem myšlení. Ani nejbezchybnější provedení úkolu typicky spojovaného s inteligencí nedělá z AI „inteligentní“ systém a prezentování jeho vlastností jako lidských je minimálně zavádějící.

Aby bylo možné činit informovanější rozhodnutí, je užitečné rozlišovat různé formy antropomorfizujícího jazyka. Nejvýznamnější kategorií antropomorfizace jsou termíny, které popisují systémy z hlediska poznávání. Jsou to typicky slovesa popisující, co systém údajně dělá (myslet, rozpoznávat, rozumět), nebo podstatná jména popisující výsledek těchto akcí (myšlenky, úsudky, dovednosti). Patří sem i slova popisující kognitivní selhání, jako například „ignorovat“. Problematický může být dokonce i samotný termín „umělá inteligence“, protože si s ním lidé spojují vysokou strojovou kompetenci ve srovnání např. s expertními systémy nebo se sofistikovanými statistickými modely.

Jiným způsobem, jakým se antropomorfizace uplatňuje, je, když automatizovaný AI systém stavíme do role řidiče a je s ním zacházeno jako se samostatným agentem. To vede k zastírání odpovědnosti lidí, kteří tyto systémy vytvářejí a používají. Příkladem může být tvrzení, „AI agent pomáhá studentům…“, „model vytvořil realistické video“ nebo „systémy AI potřebují stále více elektrické energie“.

Další formou antropomorfizace je, když AI popisujeme jako aktivní prvek komunikace. Pokud řekneme, že jsme se systému „zeptali“, že nám něco „řekl“ nebo že „lhal“, přehnaně zveličujeme to, co se skutečně stalo. To jsou slova předpokládající komunikační schopnost a záměr, tedy porozumění komunikačním aktům a touhu komunikaci opětovat.

Přeformulování jazyka, který používáme k popisu interakcí s AI, bude skutečně velice obtížné, též kvůli tomu, že společnosti, které tyto systémy vyvíjejí a prodávají, je nejen popisují jako komunikátory, ale navíc se snaží tuto iluzi v rámci návrhu jejich vlastností podpořit. Samotné chatovací rozhraní a používání 1. osoby v reakcích záměrně vyvolává dojem konverzačního partnera. Za výsledek, kterým může být mylná iluze skutečného vztahu, jež může za určitých okolností mít i fatální následky, přitom nikdo nenese odpovědnost.

Je zřejmé, že bychom se měli v našich popisech systémů AI snažit o vyšší jazykovou přesnost nejen ve vědeckých a publicistických textech, ale i ve veřejných debatách a v každodenním používání. Vyžaduje to záměrné přeformulování a zpočátku to může být nezvyklé a nepříjemné. Musíme si ale uvědomit, že se vzory užívání jazyka učíme jeden od druhého – a včerejší zvláštnosti, pokud se používají dostatečně vytrvale, časem zevšední.

Antropomorfizující jazyk přispívá k nadhodnocování vlastností AI a je spoluzodpovědný za současnou extrémní vlnu zájmu o ni i za možná až přehnaně katastrofické předpovědi budoucnosti.

Chatbots Decoded Interview: Emily Bender