The 2021 AI Index Report (KO)

From Systems analysis Wiki
Jump to navigation Jump to search

AI Index Report 2021 — 스탠퍼드 인간 중심 인공지능 연구소(Stanford HAI)가 준비한 AI Index 보고서의 네 번째 연간 판[1]. 2021년 보고서는 이전 판에 비해 데이터 범위를 크게 확장하고, 더 많은 외부 파트너 기관과 협력하며, Stanford HAI와의 연계를 심화했다. 이 보고서는 인공지능과 관련된 데이터를 추적, 체계화, 요약, 시각화하여 정책 입안자, 연구자, 경영진, 언론인 및 일반 대중에게 객관적이고 철저히 검증된 글로벌 정보를 제공한다. 보고서는 주로 COVID-19 팬데믹으로 규정된 시기를 다루며, 팬데믹은 신약 개발 가속화부터 학술회의의 가상 형식 전환에 이르기까지 AI 발전의 여러 측면에 영향을 미쳤다.

COVID-19의 영향 - 배경

COVID-19 팬데믹은 2020년 AI 발전에 눈에 띄지만 복합적인 영향을 미쳤다[1]. 기술 성능 분야에서 AI 스타트업 PostEra는 기계학습(Machine Learning) 기법을 활용하여 COVID-19 관련 신약 발견을 가속화했다[2]. 경제 챕터에 따르면, AI 전문가 채용과 민간 투자는 팬데믹의 심각한 부정적 영향을 받지 않았으며, 두 지표 모두 2020년에 성장했다. 학술회의가 가상 형식으로 전환된 결과 참석자 수가 급격히 증가하여, 9개 주요 학술회의 참석자 수가 거의 두 배로 늘었다.

보고서 구성

2021년 보고서는 7개의 주제별 챕터로 구성된다[1]:

  1. Research and Development - 연구 및 개발 — 논문, 특허, 학술회의, 오픈소스 소프트웨어 트렌드.
  2. Technical Performance - 기술 성능 — 컴퓨터 비전, 자연어 처리(NLP), 음성 인식, 추론, 의료 및 생물학 분야의 발전.
  3. The Economy - 경제 — AI 분야의 노동 시장, 투자 및 기업 활동.
  4. AI Education - AI 교육 — 인재 양성 트렌드, 강좌 및 프로그램.
  5. Ethical Challenges of AI Applications - AI 응용의 윤리적 과제 — 원칙, 언론 보도, 학술회의 윤리.
  6. Diversity in AI - AI의 다양성 — 성별, 인종 및 민족 다양성.
  7. AI Policy and National Strategies - AI 정책 및 국가 전략 — 법률, 정부 간 협력, 공공 투자.

보고서의 주요 결론 (상위 9개)

보고서 저자들은 2021년의 아홉 가지 주요 테제를 선정했다[1]:

1. AI 신약 개발 투자의 급격한 증가

「의약품, 종양학, 분자, 신약 발견(Drugs, Cancer, Molecular, Drug Discovery)」 분야가 2020년 AI 민간 투자 규모 1위를 차지했으며, 그 규모는 138억 달러 이상으로 2019년 대비 4.5배에 달한다[1][3].

2. 인재의 산업계 이동 추세 지속

2019년 북미 AI 박사과정 졸업생의 65%가 산업계 취업을 선택했으며, 이는 2010년의 44.4%에서 증가한 수치로, AI 발전에서 산업계의 역할이 증대되고 있음을 강조한다[1][4].

3. 생성 모델 — '생성 무엇이든'

AI 시스템은 텍스트, 오디오, 이미지를 사람이 특정 제한된 응용 환경에서 합성 출력물과 실제 출력물을 구별하기 어려운 수준의 품질로 생성할 수 있게 되었다[1].

4. AI의 다양성 문제

2019년 미국 신규 AI 박사 취득자 중 45%는 백인이었으며, 2.4%는 아프리카계 미국인, 3.2%는 라틴계였다[1][4].

5. 중국, AI 학술지 논문 인용에서 미국 추월

수년 전 AI 관련 학술지 논문 총 수에서 미국을 앞지른 중국은 2020년 학술지 논문 인용 수에서도 처음으로 앞서 나갔다. 그러나 미국은 지난 10년간 AI 학술회의 논문 수(인용 빈도도 높음)에서 중국을 안정적으로 크게 앞서고 있다[1][5].

6. 미국 AI 박사과정생 대다수는 외국인이며, 그들은 남는다

북미 신규 AI 박사과정생 중 외국인 유학생 비율은 2019년에도 계속 증가하여 64.3%에 달했으며, 이는 2018년 대비 4.3%p 증가한 수치다. 외국인 졸업생 중 81.8%는 미국에 잔류했고, 8.6%는 미국 이외의 지역에 취업했다[1][4].

7. 감시 기술 — 빠르고, 저렴하며, 어디에나 있다

대규모 감시에 필요한 기술이 빠르게 발전하고 있다: 이미지 분류, 얼굴 인식, 영상 분석, 음성 식별 방법은 2020년에 상당한 진전을 이루었다[1].

8. AI 윤리에는 benchmark와 합의가 없다

일부 기관이 AI 윤리에 관한 질적·규범적 문서를 발표하고 있음에도 불구하고, 이 분야에는 전반적으로 기술 발전에 관한 공공 논의와 실제 개발 과정 간의 연관성을 측정하거나 평가하는 데 사용할 수 있는 benchmark가 부재하다[1].

9. AI, 미국 의회의 주목을 받다

116대 의회는 역사상 AI에 가장 많은 관심을 기울인 의회가 되었다: AI에 대한 언급 횟수가 115대 의회의 세 배를 넘어섰다[1][6].

챕터 1. 연구 및 개발

이 챕터는 논문(동료 심사, 학술지, 학술회의, 특허), arXiv 활동, 학술회의, 오픈소스 소프트웨어 트렌드를 분석한다[1].

동료 심사 논문

AI 관련 동료 심사 논문의 총 수는 2000년에서 2019년 사이에 거의 12배 증가했다. 전 세계 동료 심사 논문 중 AI 논문 비율은 2000년 0.82%에서 2019년 3.8%로 증가했다[1][7].

지역별 분포. 동아시아·태평양 지역은 2004년부터 동료 심사 AI 논문 점유율 1위를 유지하고 있으며(2019년 36.9%), 유럽·중앙아시아(25.1%)와 북미(17.0%)가 뒤를 잇는다. 2009년에서 2019년 사이 남아시아와 사하라 이남 아프리카가 각각 8배, 7배로 가장 큰 증가세를 보였다[1][5].

지리적 영역별 비교. 2019년까지 중국은 세계 동료 심사 AI 논문 점유율 1위(22.4%)를 차지했으며, 2017년에 EU(16.4%)를 앞질렀다. 미국은 3위(14.6%)다. 중국은 2019년 동료 심사 AI 논문을 2014년 대비 3.5배 발표했다[1][7].

기관 소속. 모든 주요 지역에서 학술 기관이 동료 심사 논문 점유율 1위를 차지한다. 그러나 2위 출처는 다양하다: 미국에서는 기업 연구가 전체의 19.2%를 차지하는 반면, 중국과 EU에서는 정부 기관이 2위(각각 15.6%, 17.2%)다[1][7].

산학 협력. 2015년에서 2019년 사이 미국은 가장 많은 산학 공동 동료 심사 AI 논문을 발표했으며, 2위인 EU의 두 배 이상을 기록했고, 중국이 그 뒤를 이었다[1].

학술지 논문

2020년 AI 학술지 논문 수는 2000년 대비 5.4배 증가했다. 2019년에서 2020년 사이의 증가율은 34.5%로, 2018년에서 2019년 사이(19.6%)보다 훨씬 높다. 2020년 전 세계 학술지 논문 중 AI 논문 비율은 2.2%였다[1][5].

인용. 2020년 중국(20.7%)이 전 세계 AI 학술지 논문 인용 점유율에서 처음으로 미국(19.8%)을 앞질렀다. EU는 전체 점유율(11.0%)이 계속 감소했다[1][5].

학술회의 논문

AI 학술회의 논문 수는 2000년에서 2019년 사이에 4배 증가했다. 중국은 2019년 AI 학술회의 논문 점유율에서 미국을 앞질렀다[1][5].

인용. 학술지 논문과 달리, 미국은 지난 10년간 AI 학술회의 논문 인용에서 안정적이고 상당한 우위를 유지했으며(2020년 40.1%), 중국(11.8%)과 EU(10.9%)를 크게 앞질렀다[1][5].

arXiv 논문

arXiv에서 AI 관련 논문 수는 6년 만에 6배 이상 증가했다: 2015년 5,478편에서 2020년 34,736편으로 증가했다[1][8]. 연구 분야 중 2015~2020년 사이 가장 큰 성장을 보인 것은 로봇공학(cs.RO, 11배 증가)과 기계학습(Machine Learning)(cs.LG, 10배 증가)이다. 2020년에는 cs.LG(32.0%)와 컴퓨터 비전 cs.CV(31.7%)가 논문 수 1, 2위를 차지했다[1].

북미는 여전히 arXiv 논문 점유율 1위를 유지했으나(2020년 36.3%), 그 비율은 감소하고 있다(2017년 41.6%). 동아시아·태평양 지역의 점유율은 2015년 17.3%에서 2020년 26.5%로 꾸준히 증가했다[1].

특허

Microsoft Academic Graph의 데이터는 AI 관련 특허 수가 20년에 걸쳐 꾸준히 증가했음을 보여준다[1][5].

딥러닝

Nesta의 연구자들은 토픽 모델링 알고리즘을 사용하여 arXiv에서 딥러닝 논문을 식별했다. 지난 5년간 arXiv의 딥러닝 논문 수는 거의 6배 증가했다[1][9].

학술회의

2020년 대부분의 주요 AI 학술회의는 COVID-19로 인해 가상 형식으로 진행되었으며, 참석자 수가 급증했다. 9개 학술회의의 참석자 수가 거의 두 배로 늘었다[1]. 주요 학술회의로는 NeurIPS(참석자 22,011명), IROS(25,719명 — 3개월 확장 접근이 제공된 가상 형식), ICML(10,800명), CVPR(7,500명)이 있으며, 소규모 학술회의로는 ICLR(5,600명), ACL(3,972명), AAMAS(3,726명)가 언급된다[1].

기업 참여. 연구에 따르면 대형 기술 기업들이 주요 AI 학술회의에서 입지를 넓히고 있다. 10개의 주요 학술회의 모두 기업 대표성의 상승 트렌드를 보였다. 「AI의 비민주화(The De-Democratization of AI)」 논문의 저자들은 학계와 산업계 간 컴퓨팅 자원의 불균등한 분배, 즉 이른바 '컴퓨팅 격차(compute divide)'가 딥러닝 시대의 불평등을 심화시킨다고 지적한다[10].

오픈소스 소프트웨어

TensorFlow(Google이 개발하여 2017년 공개 출시)는 GitHub에서 가장 인기 있는 오픈소스 AI 라이브러리로 남아 있었다(2020년 기준 별 153,000개). 두 번째로 인기 있는 라이브러리는 Keras(별 51,000개)였으며, 세 번째는 Facebook의 PyTorch(별 46,000개)였다. 다른 주목할 만한 라이브러리로는 Scikit-learn(45,000개), BVLC/Caffe(31,000개), MXNet(19,000개), CNTK(17,000개)가 있다[1][11].

챕터 2. 기술 성능

이 챕터는 컴퓨터 비전(이미지 및 영상), 자연어 처리(NLP), 언어 및 비전 추론, 음성 인식, 기호 추론, 의료 및 생물학 분야의 발전을 다룬다[1].

컴퓨터 비전 — 이미지

ImageNet. 컴퓨터 비전은 지난 10년간 엄청난 발전을 이루었다. 여러 주요 benchmark에서의 성능이 평준화되고 있으며, 이는 보다 어려운 테스트를 개발할 필요성을 나타낸다. 보고서는 ImageNet의 Top-1 및 Top-5 정확도, 훈련 시간 및 비용 데이터를 제시한다[1][12].

새로운 어려운 테스트. 표준 ImageNet에서의 진전이 둔화됨에 따라, 보고서는 더 어려운 benchmark를 제시한다: ImageNet-Adversarial(자연적인 교란 요소와 체계적으로 잘못 분류되는 이미지 포함), ImageNet-C(밝기, 대비 변화, 픽셀화, 안개 효과 등 75가지 시각적 왜곡), ImageNet-Rendition(일반화를 테스트하는 ImageNet 200개 클래스의 30,000개 이미지)[1].

이미지 생성. 진전은 STL-10 dataset의 Fréchet Inception Distance(FID) 지표로 측정되며, 2020년 최고 지표는 25.4였다(낮을수록 좋음). 얼굴 생성의 정성적 예시는 GAN의 빠른 발전을 보여주며, 2018년까지 성능이 사람이 위조를 식별하기 어려운 수준에 도달했다[1][13].

딥페이크 탐지. 2019년 9월 Facebook이 만든 Deepfake Detection Challenge(DFDC)는 2019년 12월부터 2020년 3월까지의 기간 동안 log loss가 약 0.5 감소하여 0.19에 도달했다[1][14].

인체 자세 추정. COCO Keypoint Detection benchmark에서 알고리즘의 정확도가 4년간 약 33% 향상되어 평균 정확도(AP) 80.8%에 도달했다[1].

의미론적 분할. Cityscapes benchmark 및 기타 분할 작업에서의 발전이 계속되었다[1].

컴퓨터 비전 — 영상

ActivityNet. 행동 인식 benchmark는 시간적 행동 위치 추정 작업에서 알고리즘의 지속적인 개선을 보여주었다[1].

YOLO (You Only Look Once). 비디오 스트림 프레임 분석을 위한 객체 탐지 시스템이 빠르게 성숙해지고 있으며, 이는 AI 배포 가능성의 확대를 나타낸다[1].

얼굴 인식 (NIST FRVT). 보고서는 국립표준기술연구소(NIST)의 얼굴 인식 시스템 테스트 데이터를 포함한다. 대규모 감시 기술이 빠르게 발전하고 있다[1][15].

자연어 처리 (NLP)

SuperGLUE. NLP의 빠른 발전으로 인해 AI 시스템이 SuperGLUE benchmark에서 인간 수준에 도달하기 시작했다. SuperGLUE는 이전 GLUE benchmark가 너무 빨리 극복된 것에 대응하여 개발되었다. NLP의 발전은 이를 평가하는 지표보다 빠르게 나아가고 있다[1][16].

SQuAD. Stanford Question Answering Dataset benchmark도 모델 성능의 꾸준한 향상을 보여주었다[1].

상업적 기계 번역. 사전 훈련된 모델을 갖춘 상업적으로 이용 가능한 독립 클라우드 기계 번역 시스템 수는 2017년 8개에서 2020년 28개로 증가했다[1][17].

GPT-3. 2020년 7월 OpenAI는 당시 가장 큰 것으로 알려진 밀집 언어 모델인 GPT-3를 발표했다. GPT-3는 570GB의 텍스트로 훈련된 1,750억 개의 매개변수를 가졌다. 비교하자면, 전작 GPT-2는 100배 이상 작았다(15억 개의 매개변수). 규모는 놀라운 동작을 이끌어냈다: GPT-3는 zero-shot 및 few-shot learning으로 명시적으로 훈련되지 않은 작업을 수행할 수 있다. 42개의 정확도 benchmark 평균: zero-shot — 42.6%, one-shot — 51.0%, few-shot — 57.4%[1][18].

인상적인 능력에도 불구하고, GPT-3는 심각한 단점이 있다: 인종차별적, 성차별적 및 기타 편향된 텍스트를 생성할 수 있고, 사실적으로 부정확한 진술을 만들어낼 수 있으며, 훈련 비용이 매우 많이 든다. 이러한 출력을 제어하고 '방향 지정'하는 연구는 초기 단계이지만 전망이 밝다[1][18].

언어 및 비전 추론

VQA. Visual Question Answering benchmark에서의 정확도는 2015년 생성 이후 거의 40% 향상되어 2020년 76.4%에 도달했다(인간 기준선 80.8%)[1][19].

VCR. Visual Commonsense Reasoning(답변 근거 제시 필요) 작업에서 최고 성능 머신은 Q→AR 지표를 2018년 44에서 2020년 70.5로 향상시켰다(60.2% 증가, 인간 수준 85)[1].

음성 인식

LibriSpeech. 자동 음성 인식의 발전은 계속되었으며, 이는 주로 심층 신경망(Neural Network)의 유연성과 예측 능력 덕분이다[1].

VoxCeleb. YouTube 비디오 인터뷰에서 추출한 짧은 인간 음성 클립으로 구성된 dataset으로, 7,000명 이상의 화자와 100만 개 이상의 발화를 포함한다. 화자 식별 평가에 사용된다[1][20].

음성 인식의 인종적 격차. 보고서는 음성 인식 기술에 상당한 인종적 격차가 존재함을 언급한다[1].

기호 추론

불리언 공식 충족 가능성 문제(SAT). 보고서는 개별 시스템의 전체 성능 기여도를 귀속시킬 수 있는 시간적 Shapley 값(temporal Shapley value)을 사용한 새로운 분석을 제시한다. 2020년 우승자인 Kissat는 (첫 해를 제외한) 모든 솔버 중 가장 높은 시간적 Shapley 값을 보여주었으며, 이는 주로 보다 효율적인 데이터 구조와 알고리즘 덕분이다[1][21].

자동 정리 증명(ATP). TPTP 라이브러리(23,000개 이상의 문제) 분석은 1997년부터 2020년까지 해결 가능한 문제 비율이 지속적으로 증가했음을 보여준다. 2008~2013년에 주목할 만한 발전이 있었으며, 2015년 이후에도 발전은 계속되었지만 속도가 느려졌다. Machine Learning의 사용 증가(MaLARea, Enigma 시스템)는 ATP의 잠재적 혁명적 요소로 여겨진다[1][22].

의료 및 생물학

분자 합성. Machine Learning 모델은 더 효율적인 화학 합성 계획을 위해 화학 분자의 표현을 학습하는 데 사용된다[1].

COVID-19와 신약 발견. 스타트업 PostEra는 COVID Moonshot 프로젝트의 일환으로 Machine Learning 기법을 활용하여 COVID-19 관련 신약 발견 과정을 가속화했다[1][2].

AlphaFold와 단백질 폴딩. 단백질 구조 예측 분야에서 DeepMind의 획기적 성과는 한 해의 가장 중요한 업적 중 하나가 되었다. AlphaFold 2는 CASP14 대회(2020)에서 자유 모델링 작업에 대해 실험적 방법에 필적하는 중앙값 GDT_TS 점수를 달성하며 이전의 모든 결과를 크게 능가했다. 이는 세포 생명의 기초 이해 향상부터 신약 개발 가속화에 이르기까지 광범위한 응용 가능성을 가진다[1][23].

전문가 의견

AI Index가 실시한 AI 전문가 설문조사에서 다음과 같은 결론이 도출되었다[1]:

  • 2020년의 가장 인상적인 성과로는 AlphaFold(DeepMind)와 GPT-3(OpenAI)가 압도적으로 선정되었다.
  • 2021년의 주요 트렌드는 사전 훈련된 모델의 지속적인 발전과 특정 작업을 위한 fine-tuning이다.
  • Percy Liang(스탠퍼드)은 원래 기계 번역을 위해 만들어졌지만 사실상 표준 신경망 아키텍처가 된 transformer 아키텍처의 지배를 언급했다.

챕터 3. 경제

이 챕터는 노동 시장, 투자 및 기업 활동의 관점에서 AI와 세계 경제 사이의 점점 더 긴밀해지는 상호 연관성을 다룬다[1].

노동 시장

AI 전문가 채용. 브라질, 인도, 캐나다, 싱가포르, 남아프리카는 2016년에서 2020년 사이 AI 전문가 채용 증가율이 가장 높은 국가들이다. 팬데믹에도 불구하고, 2020년 조사 대상 모든 국가에서 채용이 계속 증가했다[1][24].

미국의 AI 전문가 수요. 미국의 AI 관련 일자리 수는 2019년에서 2020년 사이 8.2% 감소했다(325,724개에서 300,999개로). 이는 6년 만에 처음으로 AI 일자리 점유율이 감소한 것이다[1][25].

AI 기술 보급률. 조사 대상 국가 중 인도는 AI 기술 보급의 상대적 지수가 가장 높으며(세계 평균의 2.83배), 미국(1.99), 중국(1.40), 독일(1.27), 캐나다(1.13)가 뒤를 잇는다. 산업별로는 인도가 5개 주요 분야 모두에서 1위를 차지한다: 교육, 금융, 하드웨어 및 네트워킹, 제조업, 소프트웨어 및 IT 서비스[1][24].

투자

기업 투자. 전 세계 AI 총 투자액(민간 투자, IPO, 인수합병, 소수 지분)은 2020년 2019년 대비 40% 증가하여 679억 달러에 달했다. 인수합병이 대부분을 차지하며 121.7% 증가했다. 주요 거래로는 NVIDIA의 Mellanox Technologies 인수와 Capgemini의 Altran Technologies 인수가 있다[1][3].

스타트업. AI에 대한 민간 투자액은 계속 증가하고 있지만 더 적은 수의 스타트업에 집중되고 있다. 2020년 민간 투자는 9.3% 증가했으며(400억 달러 이상으로 사상 최대), 그러나 자금을 지원받은 기업 수는 3년 연속 감소했다[1][3].

중점 분야. 「의약품, 종양학, 분자, 신약 발견」 분야가 민간 투자 규모 1위를 차지했으며, 138억 달러 이상으로 2019년 대비 4.5배에 달한다[1].

기업 활동

AI 도입 (McKinsey 데이터). 팬데믹으로 인한 경기 침체에도 불구하고, McKinsey 설문조사 응답자의 절반은 코로나바이러스가 AI 투자에 영향을 미치지 않았다고 답했으며, 27%는 실제로 투자를 늘렸다. 투자를 줄인 기업은 전체의 4분의 1 미만이었다[1][26].

윤리적 위험. AI 사용과 관련된 윤리적 문제 해결에 대한 요구가 높아지고 있음에도 불구하고, 산업계의 노력은 제한적이다. AI의 공정성과 형평성과 같은 문제는 기업으로부터 비교적 적은 관심을 받고 있다. 2020년에는 2019년에 비해 개인정보보호 관련 위험을 중요하게 여기는 기업이 줄었다[1][26].

산업용 로봇. 이 챕터는 국제로봇연맹(IFR)의 전 세계 산업용 로봇 설치 동향 및 지역 비교 데이터를 포함한다[1][27].

실적 보고에서의 AI 언급. 데이터 분석은 기업의 실적 발표 보고서에서 AI 언급 횟수가 증가하고 있음을 보여준다[1].

챕터 4. AI 교육

이 챕터는 고등 교육 기관과 다양한 교육 플랫폼을 통한 인재 양성 트렌드를 다룬다[1].

고등 교육

강좌. 2020년 AI Index 설문조사는 세계 주요 대학들이 지난 4년간 AI 교육에 대한 투자를 늘렸음을 보여주었다. AI 모델 구축 및 배포 실무 기술을 가르치는 학부 강좌 수는 102.9% 증가했으며(2016~17년 102개에서 2019~20년 207개로), 대학원 수준에서는 41.7% 증가했다(151개에서 214개로). AI 및 ML 입문 강좌에 수강 신청하거나 신청하려 한 학생 수는 4학년에 걸쳐 거의 60% 증가했다[1].

EU에서 입문 강좌 수강 신청 증가율은 165%였으며, 미국에서는 팬데믹과 강좌 제공 구조 변화로 인해 마지막 학년에 감소가 관찰되었다[1].

박사과정. 지난 10년간 미국에서 컴퓨터 과학 박사 중 AI 박사 비율은 14.2%에서 2019년 약 23%로 증가했다. 이와 동시에 이전에 인기 있던 다른 전공 분야(네트워킹, 소프트웨어 엔지니어링, 프로그래밍 언어)는 인기가 감소했다[1][4].

교수진의 산업계 이직. 2년간의 증가 이후, 북미에서 대학을 떠나 산업계로 이직한 AI 교수진 수는 2018년 42명에서 2019년 33명으로 감소했다. Carnegie Mellon은 2004~2019년 기간 동안 가장 많은 이직자(16명)를 배출했으며, Georgia Tech(14명)와 워싱턴대학교(12명)가 뒤를 이었다[1].

외국인 유학생 박사과정생. 신규 AI 박사과정생 중 외국인 유학생 비율은 2019년 64.3%에 달했다. 이 중 81.8%는 미국에 잔류했다[1][4].

EU의 교육. EU에서 AI 관련 전문 학술 과정의 압도적 다수는 대학원 수준에서 제공된다. 로봇공학 및 자동화는 전문 학부 및 대학원 프로그램에서 가장 자주 가르치는 강좌이며, Machine Learning은 단기 전문 강좌에서 지배적이다[1][28].

챕터 5. AI 응용의 윤리적 과제

이 챕터는 AI 발전으로 인해 발생하는 윤리적 문제를 해결하기 위한 노력을 다룬다[1].

AI 원칙 및 프레임워크

2015년에서 2020년 사이 AI 원칙에 관한 117개의 문서가 발표되었다. 민간 기업은 모든 유형의 기관 중 가장 많은 이러한 문서를 발표했다. 유럽과 중앙아시아가 발표 건수 1위(52건)를 차지했으며, 북미(41건)와 동아시아·태평양 지역(14건)이 뒤를 이었다. 발표 활동의 정점은 2018년이었으며, 특히 IBM, Google, Facebook 등 기술 기업과 영국, EU, 호주 정부 기관들의 발표가 많았다[1][29].

비평가들은 윤리 원칙의 발표가 종종 제도적 틀을 수반하지 않으며 자발적이라고 지적한다. 많은 원칙의 모호하고 추상적인 성격은 이행에 관한 명확한 지침을 제공하지 않는다[1].

언론 속의 윤리

2020년에 AI의 윤리적 사용과 관련하여 가장 많이 논의된 5가지 주제: 유럽위원회의 AI 백서 발표, Google의 윤리 연구자 Timnit Gebru 해고, AI 윤리에 관한 UN 위원회, 바티칸의 AI 윤리 계획, IBM의 얼굴 인식 사업 철수[1].

학술회의에서의 윤리

AI 학술회의에 제출된 논문 제목에서 윤리 관련 키워드를 포함한 논문 수는 2015년부터 증가했지만, 주요 학술회의에서 그러한 제목의 평균 수는 여전히 낮다[1].

교육 속의 윤리

AI Index 설문조사 데이터는 AI 윤리 강좌가 세계 주요 대학의 컴퓨터 과학 학과에서 점점 더 보편화되고 있음을 보여주었다[1].

챕터 6. AI의 다양성

이 챕터는 AI 분야에서의 성별, 인종, 민족 다양성과 LGBT+ 대표성을 분석한다[1].

성별 다양성

CRA 데이터에 따르면, 여성은 전 세계 주요 대학의 컴퓨터 과학 정규직 교수진 중 16%에 불과하다[1][4].

인종 및 민족 다양성

2019년 미국 신규 AI 박사 취득자 중: 45%는 백인, 22.4%는 아시아계, 3.2%는 라틴계, 2.4%는 아프리카계 미국인이었다. 신규 컴퓨터 과학 박사 중 백인(비히스패닉계)의 비율은 지난 10년간 거의 변하지 않았으며, 평균 62.7%였다[1][4].

교수진의 인종 구성. 인종 구성에 관한 질문에 답한 15개 대학 중: 정규직 교수의 67.0%는 백인, 14.3%는 아시아계, 0.8%는 라틴계, 0.6%는 흑인 또는 아프리카계였다[1].

Black in AI. 2017년 Timnit Gebru와 Rediet Abebe가 설립한 Black in AI 단체는 2020년까지 약 3,000명의 회원을 보유했다. NeurIPS에서의 BAI 워크숍 참여는 크게 증가했다: 2019년 참가자 수와 제출 논문 수가 2017년 대비 2.6배 증가했다[1].

성별 정체성 및 성적 지향

2020년 Queer in AI(QAI) 설문조사에 따르면, 응답자의 거의 절반이 AI 분야의 불충분한 포용성이 자신의 경력에 장애가 된다고 생각한다. QAI 회원의 40% 이상이 직장이나 학교에서 차별이나 괴롭힘을 경험했다고 보고했다. 81.4%는 롤모델의 부재가 주요 장애물이라고 답했다[1][30].

챕터 7. AI 정책 및 국가 전략

이 챕터는 지역, 국가, 국제 수준에서의 AI 규제 환경을 다룬다[1].

국가 전략

2017년 캐나다가 세계 최초의 국가 AI 전략을 발표한 이후, 2020년 12월까지 30개 이상의 국가와 지역이 유사한 문서를 발표했다. 또 다른 22개국은 전략 개발 과정에 있었다[1].

연도 전략
2017 캐나다, 중국, 일본, 핀란드, UAE
2018 EU, 프랑스, 독일, 대한민국, 영국, 인도, 멕시코, 호주 등
2019 미국(개정판), 러시아, 네덜란드, 체코, 싱가포르 등
2020 스페인, 브라질, 폴란드, 터키 등

캐나다 (2017): Pan-Canadian AI Strategy, 예산 1억 2,500만 캐나다 달러(9,700만 미국 달러), 인재 양성 및 윤리적 측면 강조[1].

중국 (2017): 연구개발, 교육, 윤리 기준, 국가 안보를 포괄하는 가장 포괄적인 전략 중 하나. 목표: 2020년까지 세계 수준 달성, 2025년까지 세계 선두국가, 2030년까지 주요 혁신 허브[1].

EU (2018): Coordinated Plan on Artificial Intelligence, AI 연구에 연간 최소 10억 유로, 전략의 다른 측면에 49억 유로 투자[1].

프랑스 (2018): AI for Humanity, 2022년까지 예산 15억 유로, 전략적 분야: 의료, 환경, 교통, 국방[1].

국제 협력

2020년 글로벌 AI 파트너십(GPAI)과 OECD AI 정책 관측소(Observatory) 출범으로 AI 발전 지원을 위한 정부 간 노력이 활성화되었다[1][31][32].

미국 공공 투자

연방 예산. 보고서는 미국 연방 정부의 비군사 AI 연구개발 예산 데이터를 분석한다[1].

국방부 예산. 미국 국방부의 AI 예산 요청 데이터가 포함된다[1].

정부 계약. 계약 총 지출 및 기관별 배분 분석[1][6].

입법 활동

미국 의회. 116대 의회는 역사상 AI에 가장 많은 관심을 기울인 의회가 되었다. 법률 문서, 위원회 보고서, 의회조사국(CRS) 보고서에서의 AI 언급 횟수가 115대 의회 대비 세 배 이상 증가했다[1][6].

중앙은행. 보고서는 중앙은행 자료에서 AI 및 ML 언급에 관한 데이터를 포함한다[1].

방법론 및 데이터 출처

보고서는 다양한 출처의 데이터를 기반으로 한다[1]:

  • 논문: Elsevier/Scopus(7,000만 편의 동료 심사 연구 논문), Microsoft Academic Graph(MAG, 2억 2,500만 편 이상의 논문), arXiv, Nesta.
  • Benchmark: Papers With Code, SuperGLUE, VQA, VCR, COCO, ImageNet, NIST FRVT, LibriSpeech, VoxCeleb, TPTP, CASP 등.
  • 노동 시장: LinkedIn Economic Graph, Burning Glass Technologies.
  • 투자: S&P Capital IQ(CapIQ), Crunchbase, NetBase Quid.
  • 기업 활동: McKinsey & Company(AI 글로벌 설문조사), 국제로봇연맹(IFR), Prattle(실적 발표).
  • 교육: CRA Taulbee Survey, Joint Research Centre(유럽위원회), AI Index 자체 설문조사(9개국 18개 대학).
  • 윤리: AI Ethics Lab(보스턴), 미디어 분석.
  • 다양성: CRA, Black in AI, Queer in AI.
  • 정책: Bloomberg Government, OECD AI Policy Observatory.

MAG에서 각 논문은 한 번만 계산되며, 여러 국가의 저자가 있는 경우 크레딧은 고유 지역 간에 균등하게 분배된다[1][5].

저자진

보고서는 공동 책임자인 Raymond Perrault(SRI International)와 Jack Clark(OECD/GPAI)의 지휘 하에 작성되었다. 연구 매니저 겸 편집장은 Daniel Zhang(Stanford University)이다. 운영 위원회에는 또한 Eric Brynjolfsson(스탠퍼드), John Etchemendy(스탠퍼드), Deep Ganguli(스탠퍼드), Barbara Grosz(하버드), Terah Lyons(Partnership on AI), James Manyika(McKinsey Global Institute), Juan Carlos Niebles(스탠퍼드), Michael Sellitto(스탠퍼드), Yoav Shoham(스탠퍼드 / AI21 Labs, 설립 이사)이 포함되었다[1].

도구 및 공개 데이터

보고서에는 다음 리소스가 수반된다[1]:

  • 원시 데이터 및 그래픽: 공개 데이터와 고해상도 이미지는 Google Drive에서 이용 가능.
  • Global AI Vibrancy Tool: 최대 26개국을 22개 지표로 비교할 수 있는 업데이트된 인터랙티브 시각화 도구.
  • 「AI 정책에서의 측정: 기회와 과제(Measurement in AI Policy: Opportunities and Challenges)」 출판물 (2020년 가을): AI 정책에서의 측정 문제 개요.

참고 링크

참고 문헌

주석

  1. ↑ 1.000 1.001 1.002 1.003 1.004 1.005 1.006 1.007 1.008 1.009 1.010 1.011 1.012 1.013 1.014 1.015 1.016 1.017 1.018 1.019 1.020 1.021 1.022 1.023 1.024 1.025 1.026 1.027 1.028 1.029 1.030 1.031 1.032 1.033 1.034 1.035 1.036 1.037 1.038 1.039 1.040 1.041 1.042 1.043 1.044 1.045 1.046 1.047 1.048 1.049 1.050 1.051 1.052 1.053 1.054 1.055 1.056 1.057 1.058 1.059 1.060 1.061 1.062 1.063 1.064 1.065 1.066 1.067 1.068 1.069 1.070 1.071 1.072 1.073 1.074 1.075 1.076 1.077 1.078 1.079 1.080 1.081 1.082 1.083 1.084 1.085 1.086 1.087 1.088 1.089 1.090 1.091 1.092 1.093 1.094 1.095 1.096 1.097 1.098 1.099 1.100 1.101 1.102 Zhang, D., Mishra, S., Brynjolfsson, E., Etchemendy, J., Ganguli, D., Grosz, B., Lyons, T., Manyika, J., Niebles, J.C., Sellitto, M., Shoham, Y., Clark, J., Perrault, R. (2021). The AI Index 2021 Annual Report. AI Index Steering Committee, Human-Centered AI Institute, Stanford University. https://aiindex.stanford.edu/report/
  2. ↑ 2.0 2.1 PostEra (2021). COVID Moonshot: AI-driven Drug Discovery. https://postera.ai/moonshot
  3. ↑ 3.0 3.1 3.2 NetBase Quid (2021). AI Investment Data (CapIQ, Crunchbase). https://quid.com/
  4. ↑ 4.0 4.1 4.2 4.3 4.4 4.5 4.6 Computing Research Association (2021). CRA Taulbee Survey. https://cra.org/resources/taulbee-survey/
  5. ↑ 5.0 5.1 5.2 5.3 5.4 5.5 5.6 5.7 Microsoft Academic Graph (2020). https://www.microsoft.com/en-us/research/project/microsoft-academic-graph/
  6. ↑ 6.0 6.1 6.2 Bloomberg Government (2021). AI Mentions in Congressional Record. https://about.bgov.com/
  7. ↑ 7.0 7.1 7.2 Elsevier/Scopus (2020). AI Publications Data. https://www.scopus.com/
  8. ↑ arXiv (2020). AI-Related Publications Data. https://arxiv.org/
  9. ↑ Nesta (2020). Deep Learning Papers Analysis. https://www.nesta.org.uk/
  10. ↑ Ahmed, N. & Wahed, M. (2020). The De-Democratization of AI: Deep Learning and the Compute Divide in Artificial Intelligence Research. https://arxiv.org/abs/2010.15581
  11. ↑ GitHub (2020). AI Library Stars Data. https://github.com/
  12. ↑ Beyer, L., Dosovitskiy, A., Houlsby, N. (Google). ImageNet analysis for AI Index 2021.
  13. ↑ Karras, T. et al. (2020). Analyzing and Improving the Image Quality of StyleGAN. https://arxiv.org/abs/1912.04958
  14. ↑ Dolhansky, B. et al. (2020). The DeepFake Detection Challenge (DFDC) Dataset. https://arxiv.org/abs/2006.07397
  15. ↑ Grother, P. et al. (2021). NIST Face Recognition Vendor Test (FRVT). https://www.nist.gov/programs-projects/face-recognition-vendor-test-frvt
  16. ↑ Wang, A. et al. (2019). SuperGLUE: A Stickier Benchmark for General-Purpose Language Understanding Systems. https://arxiv.org/abs/1905.00537
  17. ↑ Intento (2021). Machine Translation Report. https://inten.to/
  18. ↑ 18.0 18.1 Brown, T.B. et al. (2020). Language Models are Few-Shot Learners. https://arxiv.org/abs/2005.14165
  19. ↑ VQA Challenge (2020). https://visualqa.org/challenge.html
  20. ↑ VoxCeleb (2020). Audio-Visual Dataset. https://www.robots.ox.ac.uk/~vgg/data/voxceleb/
  21. ↑ Kotthoff, L. (2020). SAT Competition Analysis. University of Wyoming.
  22. ↑ Sutcliffe, G. & Suttner, C. (2020). TPTP Problem Library and ATP Evaluation. University of Miami.
  23. ↑ Jumper, J. et al. (2020). AlphaFold 2. DeepMind. https://deepmind.com/blog/article/alphafold-a-solution-to-a-50-year-old-grand-challenge-in-biology
  24. ↑ 24.0 24.1 LinkedIn (2020). Economic Graph: AI Hiring and Skills Data. https://economicgraph.linkedin.com/
  25. ↑ Burning Glass Technologies (2021). AI Labor Demand Data. https://www.burning-glass.com/
  26. ↑ 26.0 26.1 McKinsey & Company (2021). Global Survey on AI. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
  27. ↑ International Federation of Robotics (2021). World Robotics Report. https://ifr.org/
  28. ↑ Joint Research Centre, European Commission (2021). AI Education in Europe. https://ai-watch.ec.europa.eu/
  29. ↑ AI Ethics Lab (2021). AI Principles ToolBox. https://aiethicslab.com/
  30. ↑ Queer in AI (2020). Membership Survey. https://sites.google.com/view/queer-in-ai/
  31. ↑ Global Partnership on AI (2020). https://gpai.ai/
  32. ↑ OECD AI Policy Observatory (2020). https://oecd.ai/
Retrieved from "https://systems-analysis.info/int/index.php?title=The_2021_AI_Index_Report_(KO)&oldid=7980"