[MIT AI Lecture: Deep Learning 17] 우리가 몰랐던 AI의 치명적인 약점 2가지: AI가 현실에서 무너지는 이유

00:00 완벽해 보이는 AI가 현실 세계에서 한계를 드러내는 이유와 '벼락치기 학생' 비유 소개
01:25 인간의 안전망이 없는 자율주행 및 의료 분야에서 AI 실수가 치명적인 이유
02:35 로봇 청소기 룸바의 사례를 통해 본 AI의 예측 불가능한 오작동 문제
04:09 훈련 데이터와 실제 환경이 동일할 것이라고 믿는 머신러닝의 치명적 약점(i.i.d. 가정)
05:28 AI가 현실에서 무너지는 두 가지 주요 원인: 적대적 공격과 분포 이동
05:46 미세한 노이즈나 스티커 하나로 AI의 시각 인지 능력을 마비시키는 적대적 공격 사례
06:55 본질을 이해하지 않고 가장 쉬운 통계적 패턴(꼼수)만 학습하는 AI의 인지 방식
08:58 데이터의 꼼수 학습이 초래하는 의료 오진 및 사회적 차별(성별, 인종) 문제
11:30 환경 변화에 적응하지 못하는 '온실 속 화초' AI와 자율주행차의 눈길 멈춤 사례
12:53 배경 데이터에 의존하여 대낮의 너구리를 알아보지 못하는 '너구리 딜레마' 현상
14:01 함정 문제와 최악의 환경 데이터를 활용해 AI의 내성을 기르는 기술적 해결책
15:00 가장 확실한 해결책인 '데이터 다양성 확보'와 현실을 반영한 데이터 수집의 중요성
15:39 AI는 현실을 비추는 거울임을 강조하며 올바른 데이터 생산을 위한 고찰과 마무리