Muskův Neuralink

Anotace

Minule jsme si v článku Technologie podporující myšlení ukázali, že výzkum a vývoj v oblasti technologiemi podporovaného sledování a stimulace mozku přináší naprosto převratné možnosti, které slibují umocnění schopností lidí. Mnoho investorů cítí velký potenciální zisk, což je vede k masivnímu financování tohoto oboru. Nejnovějším příkladem je světoznámý investor pokrokových vědeckých projektů (Tesla, SpaceX) Elon Musk a jeho nejnovější projekt Neuralink, který byl nedávno spuštěn a tuto již tak dost turbulentní oblast ještě více rozvířil.

O projektu Neuralink v dubnu 2017 podrobně informoval Muskův dvorní bloger Tim Urban ve svém mimořádně sledovaném blogu Wait But Why [1]. Vše nasvědčuje tomu, že v blízké budoucnosti bude vývoj akcelerovat ještě mnohem více než dosud. Díky Timu Urbanovi si dnes dokážeme představit, kam chce Elon Musk své snažení nasměrovat. Pokusím se to shrnout.

Budoucí vývoj předpokládá 4 fáze postupně aplikující vždy vyšší úroveň technologického rozhraní, které zajišťuje komunikaci mezi mozkem člověka a počítačem vybaveným umělou inteligencí připojeným do cloudu.

1. Potřebuji-li zjistit fakta, obrátím se na cloud a v mysli se mi zobrazí příslušná informace ve formě podobné současnému webu (text, zvuk, video). Akce je podobná stávajícímu googlování, podstatný rozdíl je ale v tom, že nepotřebuji žádné V/V zařízení (klávesnici, displej apod.). Vše je realizováno prostřednictvím typicky neinvazivní stimulace mozku pomocí čidel umístěných v tzv. „čarovné čapce“, kterou si stačí nasadit na hlavu. Zpracování informace a transformace do podoby znalostí není touto schopností ovlivněna. Bez pracného učení se nikdo neobejde.
2. Potřebuji-li znát fakta, obrátím se na cloud a během vteřiny se dozvím vše potřebné. Žádný proces čtení či sledování videa se nekoná. Získávám hotové znalosti velmi podobně, jako si je vybavuji, jsou-li již k dispozici v mé dlouhodobé paměti. Existence takových faktických znalosti stále ještě neznamená, že rozumím jejich podstatě. Jedná se jen o dokonalou encyklopedickou externí paměť.
3. Má paměť má přímý přístup k libovolným informacím a nejsem schopen vůbec rozeznat, zda jsou primárně uloženy v mé hlavě nebo v cloudu. To je jistě úžasné rozšíření schopností člověka, ale mozek stejně nedokáže najednou pracovat se všemi v cloudu se vyskytujícími daty. Jedná se o téměř nekonečnou paměť, která funguje jako interní. K pochopení souvislostí, které je nezbytné např. při řešení problémů, musí mozek nadále vyvíjet vlastní aktivitu. S největší pravděpodobností se člověk na této úrovni neobejde bez hlubokého mozkového implantátu schopného mnohakanálové cílené stimulace neuronů.
4. Vše, na co pomyslím, se nejen okamžitě dozvím, ale porozumím i podstatě daných fakt. Dokonce i ti nejoptimističtější odborníci si uvědomují, že tato úroveň je v dohledné době nedosažitelná a patří do oblasti science-fiction. Budeme s ní proto tak zacházet.

Je zjevné, že pokud by se tento vývoj uskutečnil, znamenalo by to značné rozšíření schopností člověka. Sám Elon Musk jako jeden z hlavních důvodů, proč se v něm angažuje, uvádí potřebu lidstva držet krok s rozvojem umělé inteligence, která jednou ve své třetí fázi (ASI) dospěje k superinteligenci (Co bychom měli vědět o botech). Pak by reálně hrozilo, že by se stroje mohly ujmout nadvlády nad světem.

Elon však má ještě více důvodů. Obává se, že je tato technologie zneužitelná k osobnímu prospěchu některých lidí (Tim je nazývá „špatnými hochy“). Tomu mohou zabránit jen „dobří hoši“, a to tak, že budou vývoj kontrolovat a směrovat ho ku prospěchu celého lidstva.

Podívejme se, jaká rizika tato technologie přináší:

• Zhroucení počítačové sítě (cloudu).
  To je ještě ta nejméně závažná situace, protože obvykle je možné počítač restartovat. Celé by to však mohlo dopadnout mnohem hůře, pokud by to zhroucení bylo způsobeno úmyslně nebo kdyby na rozšiřujících schopnostech člověka byl aktuálně závislý nějaký proces (třeba chirurg při operaci apod.). Samozřejmě je třeba možnost poruchy u každého zařízení předpokládat. Zvlášť závažné důsledky by taková porucha mohla mít, pokud by nastala u zařízení umístěného někde uvnitř hlavy člověka.
• Počítače mohou být zneužity hackery.
  Již dnes jsou cloudové technologie masivně využívány k získávání tzv. velkých dat vytvářených lidmi. Špatní hoši jsou schopni proniknout skoro všude a zcizit libovolná tajná či soukromá data. Snímání aktivit mozku umožňuje mnohem dokonalejší zjišťování, co si lidé myslí. Jsou to informace, které stojí za to získat a lze je zneužít.
• Lidé mohou být ovládnuti hackery.
  U vyšších forem stimulace mozku jsou rizika mnohem větší. Zásadní problém je v tom, že zde již nejde jen o snímání aktivit, ale mozek může být též přímo ovlivňován. To je jistě věc, která má obrovský potenciál možného zneužití. Do určité míry lze skutečně hovořit o tom, že podobná technologie výrazně zvýší možnost přímého řízení toho, co si lidé myslí.

Tim Urban mluví o rizicích v souvislosti s napadením cloudového prostředí, které bude využito pro umocňování myšlení lidí, hackery. Jenže Elon Musk si pravděpodobně uvědomuje i další a mnohem závažnější rizika. Mezi špatné hochy řadí i ty investory, kteří vidí v osobním vlastnictví budoucích inteligentních technologií prostředek generující zisk a hlavně moc.

Jsem přesvědčen, že právě tato rizika jsou ve skutečnosti nejzávažnější. Až dosud jsme žili v přesvědčení, že lidstvo nemá lepší nástroj pro správu věcí veřejných než demokracii a občanskou společnost, která dokáže rizikové jevy odhalovat a napravovat. Aktuální vývoj ale ukazuje, že se blíží okamžik, kdy nás nespokojenost většiny dovede až ke ztrátě demokracie, tj. k vítězství oligarchů, kteří svůj vliv odvozují již nejen od osobního vlastnictví, ale zneužívají i nástroje státní moci. Určitě není příliš povzbudivé, představíme-li si, že by měli k dispozici též zde popisované prostředky.

Co dělat? Musím přiznat, že nevím. Skoro to vypadá, že nás před nástupem soukromé superinteligence může zachránit jen skutečný superman. Pokud se nevzpamatujeme, asi nám nezbude než věřit, že jím může být třeba právě Elon Musk. Určitý náznak jeho dobrých úmyslů lze najít třeba v podpoře projektu otevřené umělé inteligence (Open AI). Bez existujících demokratických záchranných brzd nám ovšem skutečně zůstane jen víra v téměř nadpřirozené schopnosti vývojářů nových technologií.

Nevím, jak vy, ale já bych na zázraky raději nespoléhal.

Elon Musk’s Neuralink Can Now Experiment on Humans

Pro většinu našich učitelů jsou zde předložené vize budoucnosti asi zcela nepředstavitelné a neakceptovatelné. Docela je chápu. Přesto se musí stát základem toho, jak přemýšlíme o cílech naší výuky, která má žáky připravit na život v budoucnosti. Již dnes jsou rizika toho, že online svět ovlivňuje, co si myslíme, značná. Eliminovat to je možné jedině budováním kvalitní informační gramotnosti a porozuměním tomu, jak fungují technologie a umělá inteligence.

To není snadné. Je třeba získat mnoho znalostí, v problematice se orientovat a nenechat se zahltit přemírou rozporuplných informací. Umocňující stimulace mozkové činnosti se určitě může hodit. Čarodějnou čapku sice zatím k dispozici nemáme, něco přesto můžete udělat třeba hned, a navíc úplně bez rizika možného zneužití. Vsadím se, že nevíte, o čem mluvím? Je to prosté fyzické cvičení. Odborníci ho doporučují jako výborný katalyzátor paměti a myšlení. Britští vědci nedávno prokázali, že dopad cvičení lze umocnit nasazením specializovaných počítačových her využívajících snímač pohybu (exergames) [2].

Má rada tedy zní: Zkoumejte důkladně všechny zprávy (o budoucnosti umělé inteligence), vnímejte, od koho k vám přicházejí, budujte svou informační gramotnost. A občas si nezapomeňte zacvičit!