[Agent] 통제 불능 AI의 위협, 시스템을 망치는 '평가 석회화' 현상과 해결책 | 에이전트 AI를 붕괴시키는 정적인 ᄑ

00:00 에이전틱 AI 시대의 도래와 기존 정적 측정 방식에서 유연한 평가로의 전환 필요성 도입
01:31 통제 불능 상태에 빠질 수 있는 현재 AI 시스템의 위험성과 근본적인 아키텍처 변화의...
02:04 모델 성능 향상과 배포 속도 급증으로 인해 자가 최적화 에이전트를 묶어둘 수 없는 기...
04:11 프롬프트 엔지니어링에서 컨텍스트, 그리고 목표 기반의 인텐트 엔지니어링으로 진화하는 ...
06:56 사용자의 의도 변화를 따라가지 못하고 과거 기준에만 얽매여 시스템이 굳어버리는 평가 ...
08:00 고정된 정답이나 시작 데이터셋이 아닌 기계가 스스로 도달해야 할 최종 목표 상태(En...
08:42 에이전트 트레이스 수집, 루프 내 텔레메트리, 자체 큐레이션 테스트의 세 가지 단계로...
13:20 데이터 생성 방식, 평가 시점, 적응성 측면에서 기존 정적 평가와 새로운 유연한 평가...
14:58 정의된 의도(80%) 외에 예측 불가능한 카오스 존(20%)의 비즈니스 리스크를 통제...
18:18 평가를 정적인 데이터셋이 아닌 끊임없이 자가 진화하는 독립적인 에이전트로 대우해야 한...