The 2021 AI Index Report (CS)

From Systems analysis Wiki
Jump to navigation Jump to search

AI Index Report 2021 — čtvrté roční vydání zprávy AI Index, připravené Stanfordským institutem pro člověkem řízené umělé inteligence (Stanford HAI)[1]. Zpráva z roku 2021 výrazně rozšiřuje objem dat v porovnání s předchozími vydáními, zahrnuje spolupráci s širším okruhem externích partnerských organizací a prohlubuje vazby se Stanfordským institutem HAI. Vydání sleduje, systematizuje, shrnuje a vizualizuje data související s umělou inteligencí a poskytuje objektivní, pečlivě ověřené a globálně shromážděné informace pro politiky, výzkumníky, vedoucí pracovníky, novináře a širokou veřejnost. Zpráva pokrývá období do značné míry poznamenané pandemií COVID-19, která ovlivnila mnoho aspektů vývoje AI — od urychlení vývoje léků až po přechod konferencí do virtuálního formátu.

Kontext: vliv COVID-19

Pandemie COVID-19 měla znatelný, avšak nejednoznačný vliv na rozvoj AI v roce 2020[1]. V oblasti technické výkonnosti použil AI startup PostEra metody Machine Learning k urychlení objevování léků souvisejících s COVID-19[2]. Kapitola o ekonomice uvádí, že nábor specialistů v oblasti AI a soukromé investice nezaznamenaly výrazný negativní dopad pandemie — oba ukazatele v roce 2020 rostly. Přechod konferencí do virtuálního formátu vedl k výraznému nárůstu účasti: počet účastníků devíti velkých konferencí se téměř zdvojnásobil.

Struktura zprávy

Zpráva z roku 2021 se skládá ze sedmi tematických kapitol[1]:

  1. Výzkum a vývoj (Research and Development) — trendy v publikacích, patentech, konferencích a open source softwaru.
  2. Technická výkonnost (Technical Performance) — pokrok v počítačovém vidění, zpracování přirozeného jazyka, rozpoznávání řeči, uvažování, zdravotnictví a biologii.
  3. Ekonomika (The Economy) — trh práce, investice a korporátní aktivita v oblasti AI.
  4. Vzdělávání v oblasti AI (AI Education) — trendy v přípravě odborníků, kurzy a programy.
  5. Etické výzvy aplikací AI (Ethical Challenges of AI Applications) — principy, mediální pokrytí, etika na konferencích.
  6. Rozmanitost v AI (Diversity in AI) — genderová, rasová a etnická rozmanitost.
  7. Politika a národní strategie v oblasti AI (AI Policy and National Strategies) — legislativa, mezivládní spolupráce, státní investice.

Klíčová zjištění zprávy (Top 9)

Autoři zprávy vyzdvihli devět hlavních tezí roku 2021[1]:

1. Prudký nárůst investic do vývoje léků pomocí AI

Oblast „Léky, onkologie, molekuly, objev léků" (Drugs, Cancer, Molecular, Drug Discovery) získala největší objem soukromých investic do AI v roce 2020 — více než 13,8 miliard USD, což je 4,5násobek hodnoty roku 2019[1][3].

2. Pokračující přesun odborníků do průmyslu

V roce 2019 si 65 % absolventů doktorského studia v oblasti AI v Severní Americe zvolilo práci v průmyslu — v porovnání s 44,4 % v roce 2010, což zdůrazňuje rostoucí roli průmyslu v rozvoji AI[1][4].

3. Generativní modely — „generativní vše"

Systémy AI se naučily generovat text, zvuk a obrázky na takové úrovni kvality, že lidem je v řadě omezených aplikací technologie obtížné rozlišit syntetické výstupy od skutečných[1].

4. Problém rozmanitosti v AI

Mezi novými držiteli titulu PhD v oblasti AI v USA za rok 2019 bylo 45 % bílých, 2,4 % Afroameričanů a 3,2 % Hispánců[1][4].

5. Čína předstihuje USA v citovanosti časopiseckých článků o AI

Poté, co Čína předstihla USA v celkovém počtu časopiseckých publikací o AI o několik let dříve, v roce 2020 poprvé také vedla v počtu citací časopiseckých článků. USA však nadále stabilně a výrazně předstihují Čínu v počtu konferenčních článků o AI (které jsou také citovány častěji) v průběhu posledního desetiletí[1][5].

6. Většina doktorandů v oblasti AI v USA jsou cizinci a zůstávají

Podíl zahraničních studentů mezi novými doktorandy v oblasti AI v Severní Americe pokračoval v růstu v roce 2019, dosáhl 64,3 % — nárůst o 4,3 procentního bodu oproti roku 2018. Z zahraničních absolventů jich 81,8 % zůstalo v USA a 8,6 % nastoupilo do práce mimo Spojené státy[1][4].

7. Sledovací technologie — rychlé, levné a všudypřítomné

Technologie nezbytné pro rozsáhlý dohled se rychle zdokonalují: metody klasifikace obrázků, rozpoznávání tváří, analýzy videa a identifikace hlasu zaznamenaly v roce 2020 výrazný pokrok[1].

8. Etika AI nemá benchmarky ani konsenzus

Přestože řada organizací vydává kvalitativní a normativní dokumenty v oblasti etiky AI, v této oblasti obecně chybějí benchmarky, které by bylo možné použít k měření nebo hodnocení vztahu mezi veřejnými diskusemi o rozvoji technologií a samotným procesem vývoje[1].

9. AI přitáhla pozornost Kongresu USA

116. Kongres byl nejvíce zaměřen na AI v celé historii: počet zmínek o AI v jeho protokolech více než trojnásobně překročil hodnotu 115. Kongresu[1][6].

Kapitola 1. Výzkum a vývoj

Kapitola analyzuje trendy v publikacích (recenzovaných, časopiseckých, konferenčních, patentových), v aktivitě na arXiv, na konferencích a v open source softwaru[1].

Recenzované publikace

Celkový počet recenzovaných publikací o AI vzrostl téměř 12násobně mezi lety 2000 a 2019. Podíl publikací o AI mezi všemi recenzovanými publikacemi na světě se zvýšil z 0,82 % v roce 2000 na 3,8 % v roce 2019[1][7].

Regionální rozložení. Východní Asie a tichomořský region udržují nejvyšší podíl recenzovaných publikací o AI od roku 2004 (36,9 % v roce 2019), následují Evropa a Střední Asie (25,1 %) a Severní Amerika (17,0 %). Mezi lety 2009 a 2019 vykázaly Jižní Asie a subsaharská Afrika nejvyšší nárůst — osminásobný, resp. sedminásobný[1][5].

Srovnání podle geografických zón. Do roku 2019 zaujala Čína první místo v podílu recenzovaných publikací o AI na světě (22,4 %), přičemž v roce 2017 předstihla EU (16,4 %). USA jsou na třetím místě (14,6 %). Čína zveřejnila v roce 2019 o 3,5násobek více recenzovaných článků o AI než v roce 2014[1][7].

Institucionální příslušnost. V každém velkém regionu mají akademické instituce nejvyšší podíl recenzovaných publikací. Druhé nejvýznamnější zdroje se však liší: v USA tvoří korporátní výzkum 19,2 % z celkového počtu, zatímco v Číně a EU jsou na druhém místě státní instituce (15,6 %, resp. 17,2 %)[1][7].

Akademicko-korporátní spolupráce. Mezi lety 2015 a 2019 vyprodukovaly USA nejvyšší počet společných akademicko-korporátních recenzovaných publikací o AI — více než dvojnásobek EU, která se umístila na druhém místě, následované Čínou[1].

Časopisecké publikace

Počet časopiseckých publikací o AI byl v roce 2020 o 5,4násobek vyšší než v roce 2000. Nárůst činil 34,5 % z roku 2019 na rok 2020 — výrazně vyšší procentní nárůst než z roku 2018 na rok 2019 (19,6 %). Podíl časopiseckých publikací o AI mezi všemi časopiseckými publikacemi na světě dosáhl v roce 2020 hodnoty 2,2 %[1][5].

Citovanost. V roce 2020 Čína (20,7 %) poprvé předstihla USA (19,8 %) v podílu citací časopiseckých článků o AI na světě. EU nadále ztrácela celkový podíl (11,0 %)[1][5].

Konferenční publikace

Počet konferenčních publikací o AI se mezi lety 2000 a 2019 čtyřnásobně zvýšil. Čína předstihla USA v podílu konferenčních publikací o AI v roce 2019[1][5].

Citovanost. Na rozdíl od časopiseckých publikací si USA udržovaly stabilní a výrazné vedení v citovanosti konferenčních článků o AI v průběhu posledního desetiletí (40,1 % v roce 2020), výrazně předstihujíce Čínu (11,8 %) a EU (10,9 %)[1][5].

Publikace na arXiv

Během šesti let vzrostl počet publikací souvisejících s AI na arXiv více než šestinásobně: z 5 478 v roce 2015 na 34 736 v roce 2020[1][8]. Mezi výzkumnými oblastmi zaznamenaly největší nárůst za období 2015–2020 robotika (cs.RO, nárůst 11násobný) a Machine Learning (cs.LG, nárůst 10násobný). V roce 2020 vedla v počtu publikací cs.LG (32,0 %) a počítačové vidění cs.CV (31,7 %)[1].

Severní Amerika nadále vedla v podílu publikací na arXiv (36,3 % v roce 2020), avšak tento podíl klesal (z 41,6 % v roce 2017). Podíl Východní Asie a tichomořského regionu stabilně rostl: z 17,3 % v roce 2015 na 26,5 % v roce 2020[1].

Patenty

Data z Microsoft Academic Graph ukazují trvalý růst počtu patentů souvisejících s AI v průběhu dvou desetiletí[1][5].

Hluboké učení

Výzkumníci z Nesta použili algoritmy tematického modelování k identifikaci publikací o hlubokém učení na arXiv. Za posledních pět let vzrostl počet publikací o hlubokém učení na arXiv téměř šestinásobně[1][9].

Konference

V roce 2020 se většina velkých konferencí o AI konala ve virtuálním formátu v důsledku COVID-19, což vedlo k prudkému nárůstu účasti. Počet účastníků devíti konferencí se téměř zdvojnásobil[1]. Mezi velkými konferencemi: NeurIPS (22 011 účastníků), IROS (25 719 — virtuální formát s rozšířeným přístupem na tři měsíce), ICML (10 800), CVPR (7 500). Mezi menšími konferencemi jsou zaznamenány ICLR (5 600), ACL (3 972), AAMAS (3 726)[1].

Korporátní přítomnost. Výzkum ukázal, že velké technologické firmy zvyšují svou přítomnost na předních konferencích o AI. Všech 10 velkých konferencí vykázalo vzestupný trend korporátního zastoupení. Autoři článku „The De-Democratization of AI" uvádějí, že nerovnoměrné rozdělení výpočetních zdrojů mezi akademickou sférou a průmyslem — tzv. „výpočetní propast" (compute divide) — prohlubuje nerovnost v éře hlubokého učení[10].

Open source software

TensorFlow (vyvinutý společností Google, veřejně vydaný v roce 2017) zůstal nejpopulárnější AI knihovnou s otevřeným zdrojovým kódem na GitHubu (153 tis. hvězd do roku 2020). Druhou nejpopulárnější knihovnou se stal Keras (51 tis. hvězd), třetí byl PyTorch od Facebooku (46 tis. hvězd). Mezi dalšími knihovnami jsou patrné Scikit-learn (45 tis.), BVLC/Caffe (31 tis.), MXNet (19 tis.) a CNTK (17 tis.)[1][11].

Kapitola 2. Technická výkonnost

Kapitola zahrnuje pokrok v počítačovém vidění (obrázky a video), zpracování přirozeného jazyka, uvažování o jazyce a vidění, rozpoznávání řeči, symbolickém uvažování a také ve zdravotnictví a biologii[1].

Počítačové vidění — obrázky

ImageNet. Počítačové vidění zaznamenalo za poslední desetiletí obrovský pokrok. Výkonnost na řadě největších benchmarků se začala vyrovnávat, což naznačuje potřebu vytváření složitějších testů. Zpráva uvádí data o přesnosti Top-1 a Top-5 na ImageNet, jakož i o době a nákladech na trénování[1][12].

Nové náročné testy. Vzhledem k tomu, že pokrok na standardním ImageNet zpomaluje, zpráva představuje složitější benchmarky: ImageNet-Adversarial (obsahuje přirozené ztěžující faktory a systematicky nesprávně klasifikované obrázky), ImageNet-C (75 typů vizuálních zkreslení: změna jasu, kontrastu, pixelizace, efekty mlhy) a ImageNet-Rendition (30 000 ilustrací 200 tříd ImageNet testujících generalizaci)[1].

Generování obrázků. Pokrok je měřen ukazatelem Fréchet Inception Distance (FID) na datasetu STL-10 — do roku 2020 nejlepší hodnota dosáhla 25,4 (čím nižší, tím lepší). Kvalitativní příklady generování tváří ukazují rychlý pokrok GAN: do roku 2018 výkonnost dosáhla úrovně, při níž lidem bylo obtížné odhalit podvod[1][13].

Detekce deepfake. Deepfake Detection Challenge (DFDC), vytvořená Facebookem v září 2019, vykázala snížení hodnoty log loss přibližně o 0,5 za období od prosince 2019 do března 2020, na hodnotu 0,19[1][14].

Hodnocení pózy člověka. Na benchmarku COCO Keypoint Detection se přesnost algoritmů zlepšila přibližně o 33 % za čtyři roky, dosahujíc 80,8 % průměrné přesnosti (AP)[1].

Sémantická segmentace. Pokrok na benchmarku Cityscapes a dalších úlohách segmentace pokračoval[1].

Počítačové vidění — video

ActivityNet. Benchmark pro rozpoznávání akcí vykázal další zdokonalování algoritmů v úlohách časové lokalizace akcí[1].

YOLO (You Only Look Once). Systémy detekce objektů pro analýzu snímků z video streamů rychle dospívají, což naznačuje rozšíření možností pro nasazení AI[1].

Rozpoznávání tváří (NIST FRVT). Zpráva zahrnuje data Národního institutu pro standardy a technologie (NIST) o testování systémů rozpoznávání tváří. Technologie pro rozsáhlý dohled se rychle rozvíjejí[1][15].

Zpracování přirozeného jazyka (NLP)

SuperGLUE. Rychlý pokrok v NLP vedl k tomu, že systémy AI začaly dosahovat lidské úrovně na benchmarku SuperGLUE, který byl vyvinut v reakci na to, že dřívější benchmark GLUE byl překonán příliš rychle. Pokrok v NLP předbíhá metriky pro jeho hodnocení[1][16].

SQuAD. Benchmark Stanford Question Answering Dataset také vykázal trvalý nárůst výkonnosti modelů[1].

Komerční strojový překlad. Počet komerčně dostupných nezávislých cloudových systémů strojového překladu s předtrénovanými modely vzrostl z 8 v roce 2017 na 28 v roce 2020[1][17].

GPT-3. V červenci 2020 společnost OpenAI představila GPT-3 — v té době největší známý hustý jazykový model se 175 miliardami parametrů, trénovaný na 570 GB textu. Pro srovnání: jeho předchůdce GPT-2 byl více než 100krát menší (1,5 miliardy parametrů). Rozsah vedl k překvapivému chování: GPT-3 je schopen plnit úlohy, na nichž nebyl explicitně trénován, při nulovém nebo minimálním počtu tréninkových příkladů (zero-shot a few-shot learning). Při průměrování přes 42 benchmarků přesnosti: zero-shot — 42,6 %, one-shot — 51,0 %, few-shot — 57,4 %[1][18].

Navzdory působivým schopnostem má GPT-3 závažné nedostatky: může generovat rasistický, sexistický a jinak zaujatý text, produkovat fakticky nepřesná tvrzení a je také mimořádně nákladný na trénování. Výzkum v oblasti řízení a „usměrňování" takových výstupů je teprve v počátcích, ale je perspektivní[1][18].

Uvažování o jazyce a vidění

VQA. Na benchmarku Visual Question Answering vzrostla přesnost o téměř 40 % od jeho vzniku v roce 2015, dosahujíc 76,4 % v roce 2020 (lidská základní úroveň — 80,8 %)[1][19].

VCR. Na úloze Visual Commonsense Reasoning (vyžadující zdůvodnění odpovědi) nejlepší stroj zlepšil ukazatel Q→AR z 44 v roce 2018 na 70,5 v roce 2020 (nárůst o 60,2 %), při lidské úrovni 85[1].

Rozpoznávání řeči

LibriSpeech. Pokrok v automatickém rozpoznávání řeči pokračoval, z velké části díky flexibilitě a prediktivní síle hlubokých neuronových sítí[1].

VoxCeleb. Dataset sestávající z krátkých klipů lidské řeči extrahovaných z video rozhovorů na YouTube, zahrnující více než 7 000 mluvčích a více než milion výpovědí. Používá se k hodnocení identifikace mluvčího[1][20].

Rasová propast v rozpoznávání řeči. Zpráva konstatuje existenci výrazné rasové propasti v technologiích rozpoznávání řeči[1].

Symbolické uvažování

Úloha splnitelnosti booleovských formulí (SAT). Zpráva představuje novou analýzu s využitím temporální hodnoty Shapleyho (temporal Shapley value), která umožňuje přiřadit přínosy jednotlivých systémů k celkové výkonnosti. Vítěz roku 2020 — Kissat — vykázal nejvyšší temporální hodnotu Shapleyho ze všech řešičů (s výjimkou prvního roku), především díky efektivnějším datovým strukturám a algoritmům[1][21].

Automatické dokazování teorémů (ATP). Analýza knihovny TPTP (více než 23 000 úloh) ukazuje postupný nárůst podílu řešitelných úloh od roku 1997 do roku 2020. Výrazný pokrok byl zaznamenán v letech 2008–2013, od roku 2015 pokrok pokračoval, avšak zpomalil. Rostoucí využití Machine Learning (v systémech MaLARea, Enigma) je považováno za potenciální revoluční faktor pro ATP[1][22].

Zdravotnictví a biologie

Molekulární syntéza. Modely Machine Learning se používají k trénování reprezentací chemických molekul za účelem efektivnějšího plánování chemické syntézy[1].

COVID-19 a objev léků. Startup PostEra použil metody Machine Learning k urychlení procesu objevování léků souvisejících s COVID-19 v rámci projektu COVID Moonshot[1][2].

AlphaFold a skládání proteinů. Průlom DeepMind v oblasti predikce struktury proteinů se stal jedním z nejvýznamnějších úspěchů roku. AlphaFold 2 na soutěži CASP14 (2020) dosáhl mediánového ukazatele GDT_TS srovnatelného s experimentálními metodami pro úlohy volného modelování, výrazně překonávaje všechny předchozí výsledky. To má široké spektrum aplikací — od lepšího pochopení buněčných základů života až po urychlení vývoje léků[1][23].

Názory odborníků

Průzkum odborníků na AI provedený AI Index odhalil následující závěry[1]:

  • Za nejpůsobivější úspěchy roku 2020 byly uznány AlphaFold (DeepMind) a GPT-3 (OpenAI) — s výrazným odstupem od ostatních.
  • Klíčovým trendem roku 2021 je další rozvoj předtrénovaných modelů a jejich fine-tuning pro specifické úlohy.
  • Percy Liang (Stanford) poznamenal dominanci architektury Transformers, původně vytvořené pro strojový překlad, která se stala de facto standardní architekturou neuronových sítí.

Kapitola 3. Ekonomika

Kapitola zkoumá stále užší vzájemnou provázanost mezi AI a světovou ekonomikou prostřednictvím trhu práce, investic a korporátní aktivity[1].

Trh práce

Nábor specialistů v oblasti AI. Brazílie, Indie, Kanada, Singapur a Jihoafrická republika vykázaly největší nárůst náboru specialistů v oblasti AI v období 2016 až 2020. Navzdory pandemii nábor v roce 2020 nadále rostl ve všech zkoumaných zemích[1][24].

Poptávka po specialistech v oblasti AI v USA. Počet volných míst v oblasti AI v USA klesl o 8,2 % z roku 2019 na rok 2020 (z 325 724 na 300 999). Je to první pokles podílu pracovních míst v oblasti AI za šest let[1][25].

Pronikání AI dovedností. Mezi zkoumanými zeměmi má Indie nejvyšší relativní ukazatel pronikání AI dovedností (2,83 celosvětového průměru), následují USA (1,99), Čína (1,40), Německo (1,27) a Kanada (1,13). Podle odvětví vede Indie ve všech pěti předních sektorech: vzdělávání, finance, hardware a sítě, výroba, software a IT služby[1][24].

Investice

Korporátní investice. Celkový objem světových investic do AI (soukromé investice, IPO, fúze a akvizice, menšinové podíly) vzrostl v roce 2020 o 40 % oproti roku 2019, dosahujíc 67,9 miliard dolarů. Fúze a akvizice tvořily hlavní část, přičemž vzrostly o 121,7 %. Mezi velkými transakcemi jsou akvizice společnosti Mellanox Technologies firmou NVIDIA a společnosti Altran Technologies firmou Capgemini[1][3].

Startupy. Objem soukromých investic do AI nadále roste, ale koncentruje se v menším počtu startupů. V roce 2020 soukromé investice vzrostly o 9,3 % (rekordních 40+ miliard dolarů), nicméně počet financovaných společností klesal třetí rok za sebou[1][3].

Prioritní oblasti. Oblast „Léky, onkologie, molekuly, objev léků" získala největší objem soukromých investic — více než 13,8 miliard dolarů, což je 4,5násobek hodnoty roku 2019[1].

Korporátní aktivita

Zavádění AI (data McKinsey). Navzdory hospodářskému poklesu způsobenému pandemií polovina respondentů průzkumu McKinsey uvedla, že koronavirus neovlivnil jejich investice do AI, a 27 % je dokonce zvýšilo. Méně než čtvrtina společností investice snížila[1][26].

Etická rizika. Navzdory rostoucím výzvám k řešení etických problémů spojených s využíváním AI zůstávají snahy v průmyslu omezené. Otázkám, jako je spravedlnost a rovnost v AI, věnují společnosti relativně málo pozornosti. Méně společností v roce 2020 považuje rizika spojená s ochranou soukromí za aktuální ve srovnání s rokem 2019[1][26].

Průmysloví roboti. Kapitola zahrnuje data Mezinárodní federace robotiky (IFR) o globálních trendech instalace průmyslových robotů a regionálních srovnáních[1][27].

Zmínky o AI ve zprávách o výsledcích hospodaření. Analýza dat ukazuje nárůst počtu zmínek o AI ve zprávách o výsledcích hospodaření korporací[1].

Kapitola 4. Vzdělávání v oblasti AI

Kapitola zkoumá trendy v přípravě odborníků prostřednictvím vysokých škol a různých vzdělávacích platforem[1].

Vysokoškolské vzdělávání

Kurzy. Průzkum AI Index z roku 2020 ukázal, že přední světové univerzity za poslední čtyři roky zvýšily investice do vzdělávání v oblasti AI. Počet bakalářských kurzů vyučujících praktické dovednosti pro tvorbu a nasazení modelů AI vzrostl o 102,9 % (ze 102 v roce 2016–17 na 207 v roce 2019–20) a na magisterské úrovni o 41,7 % (ze 151 na 214). Počet studentů, kteří se zapsali nebo se pokusili zapsat na úvodní kurzy AI a ML, vzrostl za čtyři akademické roky téměř o 60 %[1].

V EU vzrostl počet zapsaných na úvodní kurzy o 165 %, zatímco v USA byl zaznamenán pokles v posledním akademickém roce, zčásti způsobený pandemií a strukturálními změnami v nabídce kurzů[1].

Doktorské studium. Za posledních 10 let vzrostl podíl PhD v oblasti AI mezi všemi PhD v informatice v USA z 14,2 % na přibližně 23 % do roku 2019. Jiné dříve oblíbené specializace (síťové technologie, softwarové inženýrství, programovací jazyky) přitom ztrácely na popularitě[1][4].

Odchod pedagogů do průmyslu. Po dvouletém nárůstu se počet odchodů pedagogů v oblasti AI z univerzit do průmyslu v Severní Americe snížil z 42 v roce 2018 na 33 v roce 2019. Carnegie Mellon měla nejvyšší počet odchodů za roky 2004–2019 (16), následuje Georgia Tech (14) a Washingtonská univerzita (12)[1].

Zahraniční doktorandi. Podíl zahraničních studentů mezi novými doktorandy v oblasti AI dosáhl v roce 2019 hodnoty 64,3 %. Z nich 81,8 % zůstalo v USA[1][4].

Vzdělávání v EU. V EU se drtivá většina specializovaných akademických nabídek v oblasti AI vyučuje na magisterské úrovni; robotika a automatizace jsou nejčastěji vyučovaným kurzem ve specializovaných bakalářských a magisterských programech, zatímco Machine Learning dominuje v krátkých specializovaných kurzech[1][28].

Kapitola 5. Etické výzvy aplikací AI

Kapitola se zabývá snahami o řešení etických problémů vznikajících s rozvojem AI[1].

Principy a rámce AI

Mezi lety 2015 a 2020 bylo zveřejněno 117 dokumentů věnovaných principům AI. Soukromé společnosti vydaly nejvyšší počet těchto dokumentů ze všech typů organizací. Evropa a Střední Asie vedou v počtu publikací (52), následují Severní Amerika (41) a Východní Asie a tichomořský region (14). Vrchol publikační aktivity nastal v roce 2018, zejména ze strany technologických společností — IBM, Google, Facebook — a státních struktur Velké Británie, EU a Austrálie[1][29].

Kritici poukazují na to, že zveřejňování etických principů není často doprovázeno institucionálními rámci a je dobrovolné. Vágní a abstraktní charakter mnoha principů neposkytuje jasné pokyny pro jejich implementaci[1].

Etika v médiích

Pět nejdiskutovanějších témat roku 2020 spojených s etickým využíváním AI: zveřejnění Bílé knihy Evropské komise o AI, propuštění výzkumnice etiky Timnit Gebru společností Google, výbor OSN pro etiku AI, plán Vatikánu pro etiku AI a odchod IBM z oboru rozpoznávání tváří[1].

Etika na konferencích

Počet článků s klíčovými slovy souvisejícími s etikou v názvech, předložených na konference o AI, od roku 2015 roste, ačkoli průměrný počet takových názvů na velkých konferencích zůstává nízký[1].

Etika ve vzdělávání

Data průzkumu AI Index ukázala, že kurzy etiky AI se stávají stále rozšířenějšími v informatických katedrách předních světových univerzit[1].

Kapitola 6. Rozmanitost v AI

Kapitola analyzuje genderovou, rasovou, etnickou rozmanitost a zastoupení LGBT+ v oblasti AI[1].

Genderová rozmanitost

Podle dat CRA tvoří ženy pouhých 16 % stálých pedagogů informatiky na několika předních světových univerzitách[1][4].

Rasová a etnická rozmanitost

Mezi novými držiteli PhD v oblasti AI v USA za rok 2019: 45 % — bílí, 22,4 % — Asiaté, 3,2 % — Hispánci, 2,4 % — Afroameričané. Podíl bílých (nehispánských) mezi novými PhD v informatice se za posledních 10 let prakticky nezměnil a v průměru dosahoval 62,7 %[1][4].

Rasové složení akademické obce. Mezi 15 univerzitami, které odpověděly na otázku o rasovém složení: 67,0 % stálých pedagogů jsou bílí, 14,3 % Asiaté, 0,8 % Hispánci, 0,6 % černoši nebo Afričané[1].

Black in AI. Organizace Black in AI, založená v roce 2017 Timnit Gebru a Rediet Abebe, měla do roku 2020 přibližně 3 000 členů. Účast na seminářích BAI při NeurIPS výrazně vzrostla: počty účastníků a předložených článků v roce 2019 byly 2,6násobkem hodnot z roku 2017[1].

Genderová identita a sexuální orientace

Podle dat průzkumu Queer in AI (QAI) z roku 2020 považuje téměř polovina respondentů nedostatečnou inkluzivitu v oblasti AI za překážku pro svou kariéru. Více než 40 % členů QAI uvedlo diskriminaci nebo obtěžování v práci nebo ve studiu. 81,4 % označilo absenci vzorů za hlavní překážku[1][30].

Kapitola 7. Politika a národní strategie v oblasti AI

Kapitola pokrývá krajinu regulace AI na lokální, národní a mezinárodní úrovni[1].

Národní strategie

Od doby, kdy Kanada v roce 2017 zveřejnila první světovou národní strategii pro AI, vydalo do prosince 2020 analogické dokumenty více než 30 zemí a regionů. Dalších 22 zemí bylo v procesu přípravy strategií[1].

Rok Strategie
2017 Kanada, Čína, Japonsko, Finsko, SAE
2018 EU, Francie, Německo, Jižní Korea, Velká Británie, Indie, Mexiko, Austrálie aj.
2019 USA (aktualizovaná), Rusko, Nizozemsko, Česká republika, Singapur aj.
2020 Španělsko, Brazílie, Polsko, Turecko aj.

Kanada (2017): Pan-Canadian AI Strategy, rozpočet 125 mil. CAD (97 mil. USD), důraz na přípravu odborníků a etické aspekty[1].

Čína (2017): jedna z nejkomplexnějších strategií, zahrnující výzkum a vývoj, vzdělávání, etické normy a národní bezpečnost. Cíle: dosáhnout světové úrovně do roku 2020, stát se světovým lídrem do roku 2025, hlavním centrem inovací do roku 2030[1].

EU (2018): Coordinated Plan on Artificial Intelligence, minimálně 1 miliarda EUR ročně na výzkum AI a 4,9 miliardy EUR na další aspekty strategie[1].

Francie (2018): AI for Humanity, rozpočet 1,5 miliardy EUR do roku 2022, strategické sektory: zdravotnictví, životní prostředí, doprava a obrana[1].

Mezinárodní spolupráce

Spuštění Globálního partnerství pro AI (GPAI) a Observatoře politiky v oblasti AI při OECD v roce 2020 zintenzivnilo mezivládní úsilí na podporu rozvoje AI[1][31][32].

Státní investice USA

Federální rozpočet. Zpráva analyzuje data o federálním rozpočtu USA na nevýzkumný výzkum a vývoj v oblasti AI[1].

Rozpočet Ministerstva obrany. Jsou zahrnuta data o žádosti o rozpočet Ministerstva obrany USA na AI[1].

Státní zakázky. Analýza celkových výdajů na zakázky a jejich rozdělení podle resortů[1][6].

Legislativní aktivita

Kongres USA. 116. Kongres byl nejvíce zaměřen na AI v celé historii. Počet zmínek o AI v legislativních aktech, zprávách výborů a zprávách Výzkumné služby Kongresu (CRS) se více než ztrojnásobil ve srovnání se 115. Kongresem[1][6].

Centrální banky. Zpráva zahrnuje data o zmínkách o AI a ML v materiálech centrálních bank[1].

Metodologie a datové zdroje

Zpráva se opírá o data z mnoha zdrojů[1]:

  • Publikace: Elsevier/Scopus (70 milionů recenzovaných výzkumných prací), Microsoft Academic Graph (MAG, 225+ milionů publikací), arXiv, Nesta.
  • Benchmarky: Papers With Code, SuperGLUE, VQA, VCR, COCO, ImageNet, NIST FRVT, LibriSpeech, VoxCeleb, TPTP, CASP aj.
  • Trh práce: LinkedIn Economic Graph, Burning Glass Technologies.
  • Investice: S&P Capital IQ (CapIQ), Crunchbase, NetBase Quid.
  • Korporátní aktivita: McKinsey & Company (Global Survey on AI), International Federation of Robotics (IFR), Prattle (earnings calls).
  • Vzdělávání: CRA Taulbee Survey, Joint Research Centre (European Commission), vlastní průzkum AI Index (18 univerzit z 9 zemí).
  • Etika: AI Ethics Lab (Boston), mediální analýza.
  • Rozmanitost: CRA, Black in AI, Queer in AI.
  • Politika: Bloomberg Government, OECD AI Policy Observatory.

V MAG je každý článek zahrnut jednou; v případě více autorů z různých zemí je kredit rovnoměrně rozdělen mezi jedinečné regiony[1][5].

Autorský kolektiv

Zpráva byla připravena pod vedením spolředitelů Raymonda Perraulta (Raymond Perrault, SRI International) a Jacka Clarka (Jack Clark, OECD/GPAI). Manažerem výzkumu a hlavním redaktorem byl Daniel Zhang (Daniel Zhang, Stanford University). Řídící výbor dále tvořili: Erik Brynjolfsson (Stanford), John Etchemendy (Stanford), Deep Ganguli (Stanford), Barbara Grosz (Harvard), Terah Lyons (Partnership on AI), James Manyika (McKinsey Global Institute), Juan Carlos Niebles (Stanford), Michael Sellitto (Stanford), Yoav Shoham (Stanford / AI21 Labs, zakládající ředitel)[1].

Nástroje a otevřená data

Zpráva je doprovázena následujícími zdroji[1]:

  • Nezpracovaná data a grafy: veřejná data a obrázky ve vysokém rozlišení jsou dostupné na Google Drive.
  • Global AI Vibrancy Tool: aktualizovaný nástroj pro interaktivní vizualizaci, umožňující porovnávat až 26 zemí podle 22 ukazatelů.
  • Publikace „Measurement in AI Policy: Opportunities and Challenges\" (podzim 2020): přehled problémů měření v politice AI.

Odkazy

Literatura

Poznámky

  1. ↑ 1.000 1.001 1.002 1.003 1.004 1.005 1.006 1.007 1.008 1.009 1.010 1.011 1.012 1.013 1.014 1.015 1.016 1.017 1.018 1.019 1.020 1.021 1.022 1.023 1.024 1.025 1.026 1.027 1.028 1.029 1.030 1.031 1.032 1.033 1.034 1.035 1.036 1.037 1.038 1.039 1.040 1.041 1.042 1.043 1.044 1.045 1.046 1.047 1.048 1.049 1.050 1.051 1.052 1.053 1.054 1.055 1.056 1.057 1.058 1.059 1.060 1.061 1.062 1.063 1.064 1.065 1.066 1.067 1.068 1.069 1.070 1.071 1.072 1.073 1.074 1.075 1.076 1.077 1.078 1.079 1.080 1.081 1.082 1.083 1.084 1.085 1.086 1.087 1.088 1.089 1.090 1.091 1.092 1.093 1.094 1.095 1.096 1.097 1.098 1.099 1.100 1.101 1.102 Zhang, D., Mishra, S., Brynjolfsson, E., Etchemendy, J., Ganguli, D., Grosz, B., Lyons, T., Manyika, J., Niebles, J.C., Sellitto, M., Shoham, Y., Clark, J., Perrault, R. (2021). The AI Index 2021 Annual Report. AI Index Steering Committee, Human-Centered AI Institute, Stanford University. https://aiindex.stanford.edu/report/
  2. ↑ 2.0 2.1 PostEra (2021). COVID Moonshot: AI-driven Drug Discovery. https://postera.ai/moonshot
  3. ↑ 3.0 3.1 3.2 NetBase Quid (2021). AI Investment Data (CapIQ, Crunchbase). https://quid.com/
  4. ↑ 4.0 4.1 4.2 4.3 4.4 4.5 4.6 Computing Research Association (2021). CRA Taulbee Survey. https://cra.org/resources/taulbee-survey/
  5. ↑ 5.0 5.1 5.2 5.3 5.4 5.5 5.6 5.7 Microsoft Academic Graph (2020). https://www.microsoft.com/en-us/research/project/microsoft-academic-graph/
  6. ↑ 6.0 6.1 6.2 Bloomberg Government (2021). AI Mentions in Congressional Record. https://about.bgov.com/
  7. ↑ 7.0 7.1 7.2 Elsevier/Scopus (2020). AI Publications Data. https://www.scopus.com/
  8. ↑ arXiv (2020). AI-Related Publications Data. https://arxiv.org/
  9. ↑ Nesta (2020). Deep Learning Papers Analysis. https://www.nesta.org.uk/
  10. ↑ Ahmed, N. & Wahed, M. (2020). The De-Democratization of AI: Deep Learning and the Compute Divide in Artificial Intelligence Research. https://arxiv.org/abs/2010.15581
  11. ↑ GitHub (2020). AI Library Stars Data. https://github.com/
  12. ↑ Beyer, L., Dosovitskiy, A., Houlsby, N. (Google). ImageNet analysis for AI Index 2021.
  13. ↑ Karras, T. et al. (2020). Analyzing and Improving the Image Quality of StyleGAN. https://arxiv.org/abs/1912.04958
  14. ↑ Dolhansky, B. et al. (2020). The DeepFake Detection Challenge (DFDC) Dataset. https://arxiv.org/abs/2006.07397
  15. ↑ Grother, P. et al. (2021). NIST Face Recognition Vendor Test (FRVT). https://www.nist.gov/programs-projects/face-recognition-vendor-test-frvt
  16. ↑ Wang, A. et al. (2019). SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding Systems. https://arxiv.org/abs/1905.00537
  17. ↑ Intento (2021). Machine Translation Report. https://inten.to/
  18. ↑ 18.0 18.1 Brown, T.B. et al. (2020). Language Models are Few-Shot Learners. https://arxiv.org/abs/2005.14165
  19. ↑ VQA Challenge (2020). https://visualqa.org/challenge.html
  20. ↑ VoxCeleb (2020). Audio-Visual Dataset. https://www.robots.ox.ac.uk/~vgg/data/voxceleb/
  21. ↑ Kotthoff, L. (2020). SAT Competition Analysis. University of Wyoming.
  22. ↑ Sutcliffe, G. & Suttner, C. (2020). TPTP Problem Library and ATP Evaluation. University of Miami.
  23. ↑ Jumper, J. et al. (2020). AlphaFold 2. DeepMind. https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology
  24. ↑ 24.0 24.1 LinkedIn (2020). Economic Graph: AI Hiring and Skills Data. https://economicgraph.linkedin.com/
  25. ↑ Burning Glass Technologies (2021). AI Labor Demand Data. https://www.burning-glass.com/
  26. ↑ 26.0 26.1 McKinsey & Company (2021). Global Survey on AI. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
  27. ↑ International Federation of Robotics (2021). World Robotics Report. https://ifr.org/
  28. ↑ Joint Research Centre, European Commission (2021). AI Education in Europe. https://ai-watch.ec.europa.eu/
  29. ↑ AI Ethics Lab (2021). AI Principles ToolBox. https://aiethicslab.com/
  30. ↑ Queer in AI (2020). Membership Survey. https://sites.google.com/view/queer-in-ai/
  31. ↑ Global Partnership on AI (2020). https://gpai.ai/
  32. ↑ OECD AI Policy Observatory (2020). https://oecd.ai/
Retrieved from "https://systems-analysis.info/int/index.php?title=The_2021_AI_Index_Report_(CS)&oldid=7972"