[MIT AI Lecture: Deep Learning 23 End] 이제 AI는 추론하며 스스로 생각한다: 왜 추론 혁신이 중요한가?

00:00 2024년 AI의 새로운 패러다임과 딥러닝 추론 혁신 소개
00:46 추론(Inference)의 정의: 예측과 추론 수행 과정
01:14 모델의 두 가지 생애 주기: 학습(공장) vs 추론(현실) 비교
01:50 뼈아픈 교훈(The Bitter Lesson)과 학습 및 탐색의 두 가지 길
02:26 새로운 스케일링 법칙: 테스트 타임 연산의 중요성
02:56 자기회귀 탐욕 샘플링의 함정과 통찰력의 부재
03:36 탐색 알고리즘: Best-of-N 및 빔 서치(Beam Search) 설명
04:51 사고의 사슬(Chain of Thought)을 통한 창발적 탐색 능력
05:31 생성보다 쉬운 검증의 원리와 P vs NP 문제 비유
06:26 인간의 선호도 최적화(RLHF)와 주관적 목표 달성
07:05 문맥 내 학습(ICL)의 수학적 본질과 경사 하강법 효과
07:44 테스트 타임 학습(TTT)을 통한 실시간 가중치 최적화
09:00 ARC 챌린지에서 증명된 TTT의 성능과 일반 지능 측정
09:18 자기 개선 플라이휠(STaR 방법론)과 탐색-검증-학습의 순환
10:11 OpenAI o1 모델의 비밀과 딥 싱킹(Deep Thinking)의 미래