Domů > Spomocník > Základní vzdělávání > Jak by mohla vypadat regulace AI
Odborný článek

Jak by mohla vypadat regulace AI

28. 8. 2023 Základní vzdělávání Spomocník
Autor
Bořivoj Brdička
Tento článek je součastí seriálu: Umělá inteligence

Anotace

Přehled iniciativ na regulaci vývoje AI, o níž se hodně mluví, s odkazy.

V poslední době se hodně mluví o potřebě regulovat vývoj umělé inteligence, hlavně kvůli překotnému rozvoji její generativní verze, která pracuje s hlubokým učením – viz Regulovat, či neregulovat rozvoj AI?. Pojďme se spolu s MIT Technology Review podívat na přehled šesti aktivit mapující, jaké možnosti se v tomto směru nabízejí [1].

1. Právně závazná smlouva o umělé inteligenci Rady Evropy

Rada Evropy má 46 členských zemí. Lidská práva patří k důležitým tématům, jimiž se zabývá. Právě dokončuje právně závaznou smlouvu o umělé inteligenci, která vyžaduje, aby signatáři podnikli kroky k zajištění toho, aby umělá inteligence byla navržena, vyvinuta a aplikována způsobem, který chrání lidská práva, demokracii a právní stát. Smlouva by mohla potenciálně zahrnovat moratoria na technologie, které představují riziko (např. rozpoznávání obličeje). Pokud vše půjde podle plánu, mohl by být návrh připraven do listopadu.

Zřejmou nevýhodou je, že každá země musí smlouvu individuálně ratifikovat a poté ji implementovat do vnitrostátního práva, což může trvat roky. Existuje také možnost, že si země znění upraví tak, aby bylo lokálně přijatelné. Přísná pravidla tak mohou být oslabena.

Skóre účinku MIT: 3/5

2. Principy AI OECD

V roce 2019 se země, které patří do Organizace pro hospodářskou spolupráci a rozvoj (OECD), dohodly na přijetí souboru nezávazných zásad, které stanoví některé hodnoty, které by měly podporovat rozvoj umělé inteligence. Podle těchto zásad by systémy umělé inteligence měly být transparentní a vysvětlitelné, měly by fungovat robustním a bezpečným způsobem, měly by mít zabudované mechanizmy odpovědnosti a měly by respektovat právní stát, lidská práva, demokratické hodnoty a rozmanitost. Principy OECD také uvádějí, že umělá inteligence by měla přispívat k hospodářskému růstu.

Tyto principy, které tvoří jakousi ústavu pro západní politiku v oblasti AI, od té doby formovaly iniciativy po celém světě. Právní definice AI podle OECD bude pravděpodobně přijata například v zákonech EU. OECD také sleduje a monitoruje národní předpisy týkající se umělé inteligence a provádí výzkum jejího ekonomického dopadu. Má aktivní síť globálních odborníků, kteří provádějí výzkum a sdílejí osvědčené postupy.

Pozor ale, mandát OECD jako mezinárodní organizace není přicházet s regulací, ale stimulovat ekonomický růst. Integrace jejích principů na národní úrovni vyžaduje spoustu práce ze strany jednotlivých zemí, a navíc je nelze vymáhat.

Skóre účinku MIT: 4/5

3. Globální partnerství v oblasti umělé inteligence

Global Partnership on AI (GPAI), duchovní dítě kanadského premiéra Justina Trudeaua a francouzského prezidenta Emmanuela Macrona, byl založen v roce 2020 jako mezinárodní iniciativa na půdě G7. Jejím cílem je sdílet informace o AI, podporovat mezinárodní výzkumnou spolupráci kolem odpovědné AI a oslovovat politiky po celém světě. Organizace dnes zahrnuje 29 zemí (včetně ČR), některé v Africe, Jižní Americe a Asii. Hodnota GPAI je v jejím potenciálu podporovat mezinárodní výzkum a spolupráci.

Iniciativa GPAI měla na počátku ambici stát se podobným orgánem, jako je Mezivládní panel OSN pro změnu klimatu. K jeho zřízení pro oblast AI vyzývá celá řada odborníků. Zatím se však nezdá, že by mohlo být tohoto cíle dosaženo. V roce 2023 GPAI zatím nezveřejnila žádný výstup.

Skóre účinku MIT: 1/5

4. Zákon EU o umělé inteligenci

Evropská unie dokončuje zákon o umělé inteligenci, rozsáhlé nařízení, jehož cílem je regulovat „nejrizikovější“ použití systémů umělé inteligence. Zákon, který byl poprvé navržen v roce 2021, by reguloval umělou inteligenci v odvětvích, jako je zdravotnictví a vzdělávání.

Pokud bude přijat, mohl by pohnat špatné aktéry k odpovědnosti a zabránit nejhorším excesům škodlivé umělé inteligence udělováním vysokých pokut a zabráněním prodeji a používání nevyhovující technologie umělé inteligence v EU. Návrh také reguluje generativní umělou inteligenci a uvalí určitá omezení na systémy, u nichž se má za to, že vytvářejí „nepřijatelná“ rizika (např. rozpoznávání obličeje). Zatím se jedná o první komplexní nařízení o umělé inteligenci na světě. Je velká šance, že díky EU dojde ke světové regulaci AI, protože společnosti, které chtějí podnikat na globální úrovni, budou muset upravit své postupy tak, aby byly s tímto zákonem v souladu.

Již teď je zřejmé, že mnohá opatření tohoto zákona, týkající se hlavně generativní AI, budou čelit intenzivnímu lobbingu ze strany technologických společností. Než si prorazí cestu legislativním systémem EU a vstoupí v platnost, bude to trvat minimálně několik let. Na rozdíl od smlouvy Rady Evropy (bod 1) je však pro země EU povinné implementovat ho do své jurisdikce v plném znění.

Skóre účinku MIT: 5/5

5. Technické průmyslové normy

Technické normy od normalizačních orgánů hrají významnou roli při převádění přijatých zásad do srozumitelných pravidel, kterými se mohou vývojáři řídit. Jakmile například projde zákon EU o umělé inteligenci, společnosti, které splňují dané technické normy, budou muset tento zákon automaticky dodržovat. Mnoho standardů AI již existuje a další jsou na cestě. Mezinárodní organizace pro standardizaci (ISO) již vyvinula standardy pro to, jak by společnosti měly postupovat při řízení rizik a hodnocení dopadů při vývoji AI. Tyto normy pomáhají společnostem vytvářet produkty, které fungují v různých jurisdikcích.

Potíže bude způsobovat to, že většina standardů platí v různých odvětvích. Firmy tedy budou muset normy přizpůsobit svému specifickému sektoru. To by mohl být problém zvláště pro malé podniky. Jednou z nejasností je to, zda technickým odborníkům přísluší navrhovat pravidla týkající se etických rizik, která jsou často zdůrazňována politiky.

Skóre účinku MIT: 4/5

6. OSN AI

Organizace spojených národů, jejímiž členy je 193 zemí, chce být takovou mezinárodní organizací, která by mohla podporovat a usnadňovat globální koordinaci v oblasti umělé inteligence. Za tímto účelem zřídila OSN v roce 2021 v rámci úřadu generálního tajemníka nové oddělení zabývající se rozvojem technologií (Office of the Secretary-General's Envoy on Technology), jehož úkolem je naplnit plán definovaný dokumentem Roadmap for Digital Cooperation. V tomto roce přijala agentura OSN UNESCO a členské země také dobrovolný etický rámec umělé inteligence, ve kterém se členské země zavazují například zavést hodnocení etického dopadu AI, posuzovat dopad AI na životní prostředí a zajistit, aby umělá inteligence podporovala rovnost pohlaví a nebyla používána pro hromadné sledování.

OSN je jediným smysluplným místem na mezinárodní scéně, kde země globálního Jihu dokázaly ovlivnit politiku AI. Zatímco se Západ orientuje spíše na principy OECD, etický rámec AI UNESCO má velký vliv v rozvojových zemích, které se touto problematikou zabývají teprve krátce. Zásady byly podepsány též Čínou a Ruskem, které byly z velké části vyloučeny z debat o etice západní AI.

OSN však bohužel není schopna svá doporučení vynucovat. Je otázkou, nakolik upřímně země dobrovolné etické pokyny dodržují, protože mnoho zemí, včetně Číny a Ruska, AI ke sledování lidí používá. OSN má zatím v globální koordinaci politik zemí velmi nedostatečné výsledky, a to se týká i technologií. První pokus v oblasti AI skončil přímo fiaskem. Diplomat vybraný pro vedení oddělení technologického vyslance byl suspendován po pouhých pěti dnech kvůli skandálu s genderovým obtěžováním. Třeba pokusy OSN přijít s pravidly pro smrtící autonomní drony (také známé jako roboti zabijáci) už léta nepokročily.

Skóre účinku MIT: 2/5

Literatura a použité zdroje

[1] – HEIKKILÄ, Melissa. Our quick guide to the 6 ways we can regulate AI. 2023. [cit. 2023-7-19]. Dostupný z WWW: [https://www.technologyreview.com/2023/05/22/1073482/our-quick-guide-to-the-6-ways-we-can-regulate-ai/].

Licence

Všechny články jsou publikovány pod licencí Creative Commons BY-NC-ND.

Hodnocení od uživatelů

Článek nebyl prozatím komentován.

Váš komentář

Pro vložení komentáře je nutné se nejprve přihlásit.