[MIT AI Lecture: Deep Learning 13] 신경망을 무한히 넓히면 벌어지는 일: NNGP와 딥러닝의 수학적 본질 | AI의 '견해'는 어디서

00:00 딥러닝과 가우시안 프로세스의 연결고리 및 NNGP 대응성에 대한 개요 설명
01:38 딥러닝의 목표인 데이터 얽힘 해소와 네트워크의 고유한 '견해' 형성 과정 설명
03:36 딥러닝 이전의 함수 근사 전략인 커널 방법론과 가우시안 프로세스 소개
03:56 커널 함수(윤기)를 데이터 포인트에 배치하여 함수를 근사하는 'Bump' 이론 설명
05:29 단일 정답 함수 대신 함수들에 대한 확률 분포인 '무작위 함수'를 다루는 가우시안 프...
06:55 다변량 정규분포의 벡터가 입력 공간의 모든 점에 대해 정의되면서 무한 차원의 가우시안...
07:50 두 입력 지점의 상관관계를 통해 데이터 유사성을 수학적으로 정의하는 공분산 함수의 역...
08:50 관측된 데이터를 바탕으로 조건부 확률 연산을 통해 새로운 지점의 예측과 불확실성을 도...
09:41 신경망의 은닉층 너비를 무한대로 늘리고 가중치를 무작위로 초기화했을 때 발생하는 현상 소개
10:11 무한 너비 신경망의 출력이 가우시안 프로세스와 수학적으로 완벽히 동일해진다는 NNGP...
10:49 수많은 독립적인 확률 변수의 합이 정규분포로 수렴한다는 중심극한정리를 통해 NNGP ...
12:23 무작위 신경망 앙상블을 이용한 트럭 이미지 상관관계 실험을 통해 데이터 구조 보존을 ...
14:00 신경망의 구조적 설계가 가우시안 프로세스의 공분산 함수를 정의하며 데이터에 대한 선험...
15:17 커널 방법론의 계산 복잡도 문제와 신경망의 특징 학습 능력을 비교하여 유한한 신경망을...
18:55 아키텍처가 선험적 견해를 내포한다는 결론과 함께 이론과 실제 사이의 연결고리에 대한 ...