Krize vnímání AI podle Carla Iacona

Anotace

Knihovník australské Charles Sturt University Carlo Iacono mě zaujal zajímavou myšlenkou (The Blank Box Problem). Tvrdí, že dobře nechápeme, co je hlavním problémem spojeným s využitím AI ve vzdělávání. Formuluje ho takto: „I když systémy AI nyní mohou generovat videa, skládat hudbu a zapojit se do sofistikovaného uvažování, náš primární způsob přístupu k nim zůstává stále nezměněn – blikající kurzor čekající na vstup. Pro ty z nás, kteří jsou hluboce ponořeni do AI, se tento jednoduchý interface zdá elegantní. Pro všechny ostatní je to prázdný box nejistoty.“ [1]

Carlovi stávající systémy generativní AI připomněly, jak před 40 lety zkoumal, co s lidmi dělá nutnost pracovat s příkazovým řádkem operačního systému DOS. Pro mnohé se blikající kurzor stal spíše zdrojem paralýzy než možností. Bariéra přitom nebyla technologická – byla psychologická. Lidé postrádali jasná vodítka, co napsat a jak bude systém reagovat.

Současné AI systémy, ať už textové, hlasové, nebo multimodální, čelí na zcela jiné úrovni podobným problémům. Ten, kdo si osvojil jejich nepsaná pravidla, má možnost jejich schopnosti využít, ale pro mnohé blikající kurzor otevírá jen obrovský prostor nejistoty. Nevědí, na co se mají ptát, jak formulovat svou žádost, co daný systém vlastně umí, jak interpretovat výsledek, jak moc je odpověď spolehlivá, co dělat s výstupem. Každá taková otázka zvyšuje kognitivní zátěž ještě předtím, než může začít nějaká interakce. Nejde jen o to vědět, jak nástroj používat – jde o to mít schopnost si předem představit jeho možnosti.

Systém na vznikající problém reaguje tradičním způsobem. Vytváří množství školicích programů, lepší dokumentaci a ukazuje příklady použití. To dává smysl vývojářům a čelným uživatelům, ale ostatním to moc nepomáhá. Neučíme lidi jen používat nástroje – žádáme je, aby přijali nové formy myšlení prostřednictvím postupů, které zůstávají nedostatečně pochopené. Naším cílem není přenos znalostí – je to uznání hodnoty. Žádné školení nemůže překlenout tuto bariéru, pokud základní rozhraní vytváří překážky osobnímu objevování. A nepomůže ani to, když se snažíme vytvářet stále sofistikovanější systémy, které dokážou porozumět a generovat v různých modalitách, když očekáváme, že uživatelé budou každou interakci iniciovat a strukturovat prostřednictvím textu. Je to jako mít univerzálního překladatele, ale vyžadovat, aby každý psal formální dopisy v latině.

Cesta vpřed vyžaduje zásadně přehodnotit, jak se lidé poprvé setkávají s umělou inteligencí. Potřebujeme rozhraní, která mají tyto vlastnosti:

• Před zahájením interakce zviditelňují možnosti.

• Disponují průvodcem bez náročných odborných znalostí.

• Poskytují srozumitelnou zpětnou vazbu.

• Dovolují postupné objevování.

• Budují důvěru pomocí úspěchu.

• Umožňují rozpoznání hodnoty prostřednictvím přímé zkušenosti.

Nejde jen o lepší interface, jde o přehodnocení vztahu člověk–AI od počátku. Zatím vytváříme jen lepší příručky pro nástroj, který většina lidí nepoužívá. Budoucnost přijetí umělé inteligence nespočívá ve vysvětlování hodnoty, ale v tom, aby tato byla zjistitelná.

To vyžaduje posun v myšlení vývojářů AI od technických schopností k lidským zkušenostem. Blikající kurzory nebo prázdná textová pole už prostě nestačí. Ti z nás, kteří pracují na implementaci umělé inteligence ve školách, se musí místo výuky toho, co existuje, zaměřit na hledání nástrojů, které skutečně slouží lidským potřebám a umožňují přirozené objevování. Budoucnost patří těm, kteří si dokážou představit, jak se lidé a AI poprvé setkají. Zatím AI zůstává připomínkou toho, že nejsofistikovanější technologie je jen tak dobrá, jak dobrá je naše schopnost učinit její hodnotu dostupnou pro všechny.

Poznámka: Mnohem detailněji se Carlo danou problematikou zabývá v dalším článku na svém blogu – The Perception Crisis: How Educational Institutions Are Missing AI Reality [2].