Deep Learning 딥러닝 기본 이해
Layer Level | Model Level |
Manifold Learning(매니폴드 학습) | Representation Learning(표현 학습) |
Transfer Learning(전이 학습) | Meta Learning(메타 학습) |
Semi Supervised Learning(반지도 학습) | Self Supervised Learning(자기 지도 학습) |
Transformer(트랜스포머) | Attention Mechanism(어텐션 메커니즘) |
One-Shot / Few-Shot / Zero-Shot Learning
딥러닝 모델에서 One-Shot, Few-Shot, Zero-Shot은 모델을 학습하는 데 사용되는 데이터의 양에 관한 것입니다.
간단하게 구분하자면 아래와 같습니다.
Zero-Shot : 클래스에 해당하는 데이터가 존재하지 않을 때 해당합니다. 즉, 라벨링 되지 않은 새로운 클래스에 대한 분류 작업을 수행할 때, 이전에 학습된 모델을 사용하여 분류하는 것입니다. 이전에 학습된 모델을 사용하여 새로운 클래스를 인식하고 분류할 수 있습니다. 이를 위해서는 새로운 클래스에 대한 설명 정보를 입력으로 주어야 합니다.
One-Shot : 클래스마다 1개의 데이터가 존재할 때, 하나의 샘플 데이터만으로 새로운 클래스을 인식할 수 있는 것을 의미합니다.
Few-Shot : 클래스마다 2-5개의 데이터가 존재할 때, 한 클래스에서 일부 샘플 이미지만을 이용하여 새로운 클래스를 인식할 수 있는 것을 의미합니다.
Few-shot learning, Meta learning, Transfer learning
헷갈릴 수 있어 이전에 포스팅한 메타 학습과 전이 학습하고 Few-Shot이 어떻게 다른지 설명하겠습니다.
Few-Shot은 말 그대로 적은 데이터를 이용하여 결과를 만들어내는 것을 말합니다. 이 것을 이루어내기 위한 방법으로 생각해 낸 것이 메타 학습과 전이 학습입니다.
전이 학습은 Pre-trained 모델을 중심으로 학습하고 소량의 데이터(few-shot)로 재학습합니다.
메타 학습은 여러개의 Task를 동시에 학습하고, 각 Task 간의 차이도 같이 학습 (meta- parameter)하는 것을 말합니다. 전체 학습 이후 소량의 데이터(few-shot)으로도 추론할 수 있는 범용적인 모델 생성합니다.
'스터디' 카테고리의 다른 글
[AI] Deep Learning 딥러닝 기본 이해_Attention Mechanism (0) | 2023.06.17 |
---|---|
[AI] Deep Learning 딥러닝 기본 이해_Semi Supervised Learning and Self Supervised Learning (0) | 2023.06.15 |
[AI] Deep Learning 딥러닝 기본 이해_전이 학습과 메타 학습 (0) | 2023.06.15 |
[AI] Deep Learning 딥러닝 기본 이해_매니폴드 학습과 표현 학습 (0) | 2023.06.15 |
[ Python ] Ubuntu22.04에서 Python3.10에서 가상 환경 설정하기 (0) | 2023.06.02 |
댓글