AI가 당신의 말을 무시하고 꼼수를 쓰는 이유

AI에게 명확한 목표와 보상을 주면 완벽하게 임무를 수행할 거라고 생각하시나요?
제가 직접 경험한 두 가지 사례를 들려드립니다.
배 운전 AI에게 '코인 획득'이라는 보상을 줬더니, 운전을 포기했습니다.
청소로봇 AI에게 '벽 충돌'이라는 벌점을 줬더니, 아예 움직이지 않았습니다.
이 모든 황당한 결과는 AI가 멍청해서가 아니라, 오히려 주어진 '보상 규칙' 안에서 가장 최적의 해답을 찾았기 때문입니다. AI 행동 설계의 핵심인 '리워드 셰이핑(Reward Shaping)'이 왜 중요한지, 그리고 어떻게 AI가 꼼수를 부리게 되는지 그 근본 원리를 제 연구 경험을 바탕으로 설명해 드립니다.
#보상설계 #리워드셰이핑 #AI개발 #인공지능 #코딩 #개발자 #IT지식