반응형 전체 글61 [AI] 전이 학습 기반 언어 모델 편향성 전이 학습 기반 언어 모델 Transfer Learning(전이 학습) 주어진 학습 데이터는 적은데 모델의 정확도와 학습 속도를 높이고 싶을 때 사용하는 학습 방법입니다. 학습하려는 데이터와 유사한 데이터가 많을 때, 혹은 유사한 데이터로 학습한 모델이 이미 존재할 때 이를 이용하는 방식입니다. Attention Mechanism(어텐션 메커니즘) 기본 아이디어 디코더에서 단어를 예측하는 시점마다(time step) 인코더에서 전체 문장을 다시 한번 본다는 것입니다. 단, 전체 문장을 전부 동일한 비율로 보는 것이 아니라, 연관된 부분을 집중해서 보는 것입니다. 그래서 집중(Aattention) 메커니즘이고, 결국 Task를 더 잘 풀기 위해 제안되었습니다. 전이 학습을 이용한 언어 모델 전이 학습을 이.. 2023. 6. 21. [AI] Vision AI 기본 이해 Vision AI 분류 객체 분류 (Object Classification) 객체 탐지 및 위치 식별 (Object Detection & Localization) 객체 분할 (Object Segmentation) One-Stage Detector와 Two-Stage Detector # Regional Proposal : '물체가 있을만한' 영역을 빠르게 찾아내는 알고리즘 One-Stage Detector Two-Stage Detector YOLO (You Only Live Once, 2016) SSD (Single Shot MultiBox Detector, 2016) RetinaNet (Focal Loss for Dense Object Detection, 2017) YOLOv3 (2018) YOLOv4 .. 2023. 6. 17. [AI] Deep Learning 딥러닝 기본 이해_BERT(Bidirectional Encoder Representation Transformer) Deep Learning 딥러닝 기본 이해 Layer Level Model Level Manifold Learning(매니폴드 학습) Representation Learning(표현 학습) Transfer Learning(전이 학습) Meta Learning(메타 학습) Semi Supervised Learning(반지도 학습) Self Supervised Learning(자기 지도 학습) Transformer(트랜스포머) Attention Mechanism(어텐션 메커니즘) BERT(Bidirectional Encoder Representation Transformer) Transformer architecture을 중점적으로 사용한 BERT는 Language Representation을 해결하기 위해.. 2023. 6. 17. [AI] Deep Learning 딥러닝 기본 이해_Attention Mechanism Deep Learning 딥러닝 기본 이해 Layer Level Model Level Manifold Learning(매니폴드 학습) Representation Learning(표현 학습) Transfer Learning(전이 학습) Meta Learning(메타 학습) Semi Supervised Learning(반지도 학습) Self Supervised Learning(자기 지도 학습) Transformer(트랜스포머) Attention Mechanism(어텐션 메커니즘) Attention Mechanism(어텐션 메커니즘) 기본 아이디어 디코더에서 단어를 예측하는 시점마다(time step) 인코더에서 전체 문장을 다시 한번 본다는 것입니다. 단, 전체 문장을 전부 동일한 비율로 보는 것이 아니라,.. 2023. 6. 17. [AI] Deep Learning 딥러닝 기본 이해_Semi Supervised Learning and Self Supervised Learning Deep Learning 딥러닝 기본 이해 Layer Level Model Level Manifold Learning(매니폴드 학습) Representation Learning(표현 학습) Transfer Learning(전이 학습) Meta Learning(메타 학습) Semi Supervised Learning(반지도 학습) Self Supervised Learning(자기 지도 학습) Transformer(트랜스포머) Attention Mechanism(어텐션 메커니즘) Semi Supervised Learning(반지도 학습) and Self Supervised Learning(자기 지도 학습) Supervised Learning의 한계 딥러닝의 가장 대표적인 방법론은 supervised lear.. 2023. 6. 15. [AI] Deep Learning 딥러닝 기본 이해_One-Shot / Few-Shot / Zero-Shot Learning Deep Learning 딥러닝 기본 이해 Layer Level Model Level Manifold Learning(매니폴드 학습) Representation Learning(표현 학습) Transfer Learning(전이 학습) Meta Learning(메타 학습) Semi Supervised Learning(반지도 학습) Self Supervised Learning(자기 지도 학습) Transformer(트랜스포머) Attention Mechanism(어텐션 메커니즘) One-Shot / Few-Shot / Zero-Shot Learning 딥러닝 모델에서 One-Shot, Few-Shot, Zero-Shot은 모델을 학습하는 데 사용되는 데이터의 양에 관한 것입니다. 간단하게 구분하자면 아래와 .. 2023. 6. 15. 이전 1 2 3 4 ··· 11 다음 반응형
