[MIT AI Lecture: Deep Learning 3] 지능의 설계도:근사 이론의 우주 | 딥러닝이 넓이 대신 깊이를 선택한 이유

00:00 지능의 설계도: 근사 이론의 우주 소개 및 인공지능의 근본적 질문 제기
00:35 머신러닝의 세 가지 핵심 퍼즐: 근사(Approximation), 최적화(Optimi...
02:29 보편 근사 정리(Universal Approximation Theorem)의 개념과 ...
04:00 ReLU 함수 두 개를 결합하여 복잡한 곡선의 기초인 '직사각형 벽돌'을 만드는 원리
05:12 1차원 공간에서의 리만 합(Riemann Sum)을 이용한 함수 근사와 얕은 신경망의 한계
06:44 고차원 공간으로의 확장과 초입방체(Hyper-rectangle)를 이용한 근사 방식
07:54 차원의 저주(The Curse of Dimensionality): 차원 증가에 따른 ...
08:52 너비와 깊이의 비교: 함수 합성(Composition)을 통한 깊은 신경망의 표현력 폭발
09:53 톱니바퀴 구조(Sawtooth Construction)를 통한 층 추가에 따른 패턴 ...
11:02 깊이의 분리(Depth Separation): 깊은 네트워크와 얕은 네트워크의 압도적...
12:13 이론과 현실의 괴리: 스케일링 법칙(Scaling Law)과 최적화 난제 및 해결 기술
14:43 결론: 데이터의 구조(CNN, Transformer)에 맞는 최적의 아키텍처 설계와 ...