[MIT AI Lecture: Deep Learning 12] 구글도 놀란 '정답 없이 똑똑해지는 AI'의 비밀: 대조 학습이 그리는 지ᄂ

00:00 유사성 기반 표현 학습 및 지능의 기하학에 대한 개요 소개
01:40 표현 학습의 세 가지 핵심 목적: 효율성, 일반화, 기하학적 유사성
02:40 좋은 표현 공간을 형성하는 3가지 물리 법칙: 집중(Alignment), 분리(Uni...
03:59 비교의 심리학: 인간의 대조 및 차이 인식을 모방한 머신러닝 직관
04:36 메트릭 러닝: 마할라노비스 거리를 활용한 의미론적 공간 왜곡 및 변환
05:32 학습 엔진으로서의 트리플렛 손실(Triplet Loss)과 하드 네거티브 마이닝 기법
06:51 수동 레이블링의 한계 극복을 위한 자기지도 학습(Self-Supervised Lear...
08:00 대조 학습의 표준 모델인 SimCLR 아키텍처의 4단계 프로세스 설명
09:01 초구(Hypersphere) 공간에서의 정규화, 정렬 및 균일성 유지의 기하학
09:59 성공적인 대조 학습을 위한 4가지 핵심 재료: 증강, 배치 크기, 프로젝션 헤드, 학...
10:35 프로젝션 헤드의 마법: 불변성 강제와 세부 정보 보존 사이의 전략적 선택
11:53 iNaturalist 생물 분류 사례를 통해 본 세밀한 분류(Fine-grained)...
12:28 문맥의 함정(Context Trap): 모델이 잘못된 배경 정보를 학습하는 원인 분석
13:11 결론: 데이터 증강 전략을 통한 모델의 불변성 통제 및 세계관 형성