Few-Shot and Zero-Shot Learning — 소수 예시 학습과 무예시 학습

From Systems analysis Wiki
Jump to navigation Jump to search

소수 예시 학습 (Few-shot Learning, FSL) 과 무예시 학습 (Zero-shot Learning, ZSL) 은 레이블이 지정된 데이터 부족 문제를 해결하기 위한 Machine Learning 패러다임입니다. 이 패러다임들은 모델이 매우 제한된 정보를 바탕으로 학습하고 지식을 일반화할 수 있도록 하며, 대규모 데이터셋 수집이 불가능하거나 비실용적인 실제 시나리오에서 인공지능을 활용하는 데 핵심적인 역할을 합니다.

데이터 부족이라는 보편적 문제

현대의 딥러닝 모델은 인상적인 성과를 보여주지만, 그 효과는 일반적으로 방대한 양의 레이블 데이터에 직접적으로 의존합니다. 이러한 데이터를 수집하고 주석을 다는 작업은 비용이 많이 들고 노동집약적이며 종종 불가능하기도 합니다. 「정보 기근」이라고도 알려진 이 문제는 다음과 같은 분야에서 특히 심각합니다:

  • 희귀 질환 진단.
  • 전문화된 산업 제조.
  • 로봇공학 및 새로운 물체와의 상호작용.
  • 지속적으로 등장하는 새로운 제품이나 주제의 분류.

FSL과 ZSL은 「빅데이터」에서 「스마트 데이터」로 초점을 전환하여, 효율적인 지식 전이와 일반화에 집중함으로써 해결책을 제시합니다.

소수 예시 학습 (Few-shot Learning)

Few-shot Learning (FSL) 은 모델이 지원 집합(support set) 이라고 불리는 매우 적은 수의 레이블 예시(보통 1~5개)를 바탕으로 새로운 클래스를 인식하도록 학습하는 패러다임입니다.

핵심 아이디어

FSL의 핵심 아이디어는 특정 클래스의 특징을 단순히 학습하는 것이 아니라 학습하는 방법 자체를 학습(learning to learn) 하는 것입니다. 모델은 최소한의 예시를 활용하여 새롭고 이전에 접하지 못한 작업에 빠르게 적응할 수 있어야 합니다. 이는 사전 획득된 지식과 적응 전략을 활용함으로써 달성됩니다.

FSL의 주요 접근법

  • 메타학습(「학습의 학습」): FSL에서 지배적인 패러다임입니다. 모델은 다양한 작업들로 구성된 집합 위에서 학습하여 새로운 작업에 효과적으로 적응하는 방법을 익힙니다.
    • 메트릭 기반: 모델(예: 샴 네트워크 또는 프로토타입 네트워크)은 벡터 간 거리가 의미적 유사성을 반영하는 embedding 공간을 구축하도록 학습합니다. 새로운 예시의 분류는 해당 embedding을 지원 집합의 embedding과 비교하여 수행됩니다.
    • 최적화 기반: 모델(예: MAML)은 새로운 작업에 대해 몇 번의 경사 하강 단계만으로 빠르게 fine-tuning될 수 있는 파라미터 초기값을 찾도록 학습합니다.
  • In-Context Learning: 대형 언어 모델(LLM)의 등장과 함께, 지원 집합의 예시들을 모델의 prompt에 직접 제공하는 방식이 인기를 얻었습니다. 모델은 가중치 업데이트 없이 작업에 적응하면서 추론 과정에서 「암묵적인 메타학습」을 수행합니다.

FSL의 고급 접근법

  • One-shot Learning: 이는 각 클래스의 예시 수가 하나인 FSL의 특수한 경우입니다(「N-way K-shot」 표기법에서 K=1). 대표적인 아키텍처로는 Matching Networks와 Siamese Networks가 있습니다.
  • 생성 모델 기반 방법 및 데이터 증강: FSL은 생성 모델(GAN, VAE, 확산 모델)을 적극 활용하여 추가적인 데이터 예시를 합성합니다. 이를 통해 지원 집합을 인위적으로 확장하고 특히 희귀하거나 특이한 클래스에 대한 분류 품질을 향상시킵니다.
  • 전달적(Transductive) FSL: 표준(귀납적) 접근법과 달리, 이 방식에서는 모델이 적응 과정에서 레이블이 지정된 지원 집합뿐만 아니라 레이블이 없는 테스트 예시(쿼리) 전체를 함께 활용합니다. 이를 통해 레이블 전파(label propagation) 기법 등을 활용하여 쿼리 데이터의 구조를 파악하고 분류의 견고성을 높일 수 있습니다.

무예시 학습 (Zero-shot Learning)

Zero-shot Learning (ZSL) 은 모델이 학습 단계에서 단 하나의 예시도 보지 못한 클래스를 인식할 수 있는 패러다임입니다.

핵심 아이디어

이는 학습된 클래스와 학습되지 않은 클래스 모두를 설명하는 보조 의미 정보를 활용함으로써 달성됩니다. 모델은 입력 특징 공간(예: 이미지)에서 공통 의미 공간으로의 매핑을 학습합니다.

의미 정보의 메커니즘

  • 의미 속성(Semantic Attributes): 클래스는 인간이 정의한 속성들의 집합으로 설명됩니다(예: 「얼룩말」 클래스의 경우: [줄무늬_있음, 발굽_있음, 포유류임]).
  • 단어 벡터 표현(Word Embeddings): 클래스 이름 또는 텍스트 설명이 사전 학습된 언어 모델(예: Word2Vec, BERT)을 사용하여 embedding으로 변환됩니다.
  • LLM에서의 프롬프팅: CLIP과 같은 멀티모달 모델의 등장으로 ZSL은 이미지 embedding을 클래스 텍스트 설명의 embedding과 비교하는 방식(예: 「개 사진」, 「고양이 사진」)으로 수행될 수 있습니다.

ZSL의 유형: 전통적, 일반화, 귀납적, 전달적

  • 전통적 ZSL: 테스트 단계에서 모델은 학습하지 않은 클래스의 예시만 분류해야 합니다.
  • 일반화 ZSL (Generalized ZSL, GZSL): 보다 현실적이고 복잡한 시나리오로, 모델이 학습된 클래스와 학습되지 않은 클래스 모두의 예시를 분류해야 합니다. 이는 모델이 새로운 것을 인식할 뿐만 아니라 학습된 클래스 쪽으로의 편향을 극복하면서 이미 알고 있는 것과 구별할 수 있어야 함을 요구합니다.
  • 귀납적 ZSL: 표준적인 설정으로, 모델이 학습된 클래스의 데이터와 의미 설명만으로 훈련되며 학습되지 않은 클래스에 대한 정보에는 전혀 접근하지 않습니다.
  • 전달적 ZSL: 보다 발전된 방식으로, 모델이 학습 과정에서 학습되지 않은 클래스의 레이블 없는 예시를 활용할 수 있습니다. 이를 통해 의미 공간을 사전에 적응시켜 최종 품질을 향상시킬 수 있습니다.

ZSL의 생성 모델 기반 접근법

  • 학습되지 않은 클래스의 특징 생성: GZSL에서 편향 문제를 해결하기 위해 생성 모델(VAE, GAN)이 널리 사용됩니다. 이 모델들은 이미지 자체가 아니라 의미 설명을 바탕으로 학습되지 않은 클래스의 특징 벡터(embedding)를 합성합니다. 이를 통해 최종 분류기 학습을 위한 dataset을 균형 있게 구성할 수 있습니다.

비교 분석 및 시너지

제한된 데이터 환경에서의 학습 패러다임 비교
측면 소수 예시 학습 (FSL) 무예시 학습 (ZSL)
핵심 아이디어 몇 가지 예시를 바탕으로 새로운 클래스에 빠르게 적응하는 방법을 학습합니다. 의미 설명을 바탕으로 새로운 클래스를 인식하는 방법을 학습합니다.
새로운 작업/클래스에 대한 데이터 요구사항 각 새 클래스에 대해 소수의 레이블 예시(1~5개). 레이블 예시 없음; 의미 설명이 필요합니다.
지식 전이 절차적 지식(「어떻게 적응할 것인가」) 또는 우수한 특징 공간을 학습합니다. 의미 관계와 속성을 학습하고, 공통 의미 공간을 통해 지식을 전이합니다.
대표적 활용 사례 빠른 프로토타이핑, 개인화, 희귀 물체 인식, 로봇공학. 새로운 종 발견, 신규 주제 분류, 완전히 새로운 유형의 제품 처리.

주요 뉘앙스와 현대적 동향

  • Zero-shot Learning과 Zero-shot Prompting의 차이: 이 두 개념을 구별하는 것이 중요합니다. ZSL은 특수한 모델과 의미 정보를 필요로 하는 Machine Learning의 아키텍처적 패러다임입니다. Zero-shot Prompting은 대형 언어 모델(예: GPT-4)이 prompt 내 예시 없이 오로지 내부 지식에만 의존하여 작업을 수행하는 prompt engineering의 응용 기법입니다.
  • 대규모 사전 학습의 역할: 현대적인 FSL과 ZSL의 성공은 강력한 기반 모델(BERT, CLIP, GPT-4)에 힘입은 바가 큽니다. 방대한 데이터로의 사전 학습은 보편적이고 의미론적으로 풍부한 embedding 프론트엔드를 구축하여, 데이터가 부족한 환경에서의 빠른 적응과 의미 추론을 위한 훌륭한 기반이 됩니다.

FSL과 ZSL은 데이터 활용 효율성의 스펙트럼에서 서로 다른 지점을 나타내며 종종 함께 사용됩니다. 예를 들어, ZSL을 통해 표현을 초기화한 후, 새 클래스의 첫 번째 예시들이 등장하면 FSL을 사용하여 fine-tuning할 수 있습니다.

주요 연구 기관 및 참여자

FSL 및 ZSL 분야의 연구는 학계와 산업 연구소 모두에서 활발히 진행되고 있습니다.

  • 대학교: 스탠퍼드 대학교, 베이징 대학교, 싱가포르 국립 대학교.
  • 산업 연구소: Google AI, Meta AI, OpenAI.

강력한 기반 모델의 등장과 함께 연구의 초점은 FSL/ZSL을 위한 전문 아키텍처 개발에서 이러한 모델들을 효율적으로 적응시키는 방법으로 이동했습니다.

참고 문헌

  • Finn, C. et al. (2017). Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks. arXiv:1703.03400.
  • Koch, G. et al. (2015). Siamese Neural Networks for One-Shot Image Recognition. PDF.
  • Vinyals, O. et al. (2016). Matching Networks for One Shot Learning. arXiv:1606.04080.
  • Snell, J. et al. (2017). Prototypical Networks for Few-Shot Learning. arXiv:1703.05175.
  • Sung, F. et al. (2018). Learning to Compare: Relation Network for Few-Shot Learning. arXiv:1711.06025.
  • Chen, Y. et al. (2021). Meta-Baseline: Exploring Simple Meta-Learning for Few-Shot Learning. arXiv:2003.04390.
  • Wang, Y. et al. (2020). Generalizing from a Few Examples: A Survey on Few-Shot Learning. arXiv:1904.05046.
  • Xian, Y. et al. (2018). Zero-Shot Learning — A Comprehensive Evaluation of the State of the Art. arXiv:1707.00600.
  • Verma, V. K. et al. (2018). Generalized Zero-Shot Learning via Synthesized Examples. arXiv:1712.03878.
  • Radford, A. et al. (2021). Learning Transferable Visual Models from Natural Language Supervision. arXiv:2103.00020.
  • Xian, Y. et al. (2019). Zero-Shot Learning via Simultaneous Generating and Learning. arXiv:1910.09446.
  • Verma, V. K. et al. (2017). Zero-Shot Learning via Generative Adversarial Training of Class-Conditional Feature Vectors. arXiv:1712.00981.

같이 보기

  • 대형 언어 모델
Retrieved from "https://systems-analysis.info/int/index.php?title=Few-Shot_and_Zero-Shot_Learning_—_소수_예시_학습과_무예시_학습&oldid=2152"