비용 폭탄에 환각까지, B2B SaaS AI 챗봇 개발 실패기

안녕하세요! AI 서대표입니다. 🙇‍♂️
AI 챗봇, 요즘 안 붙이는 서비스가 없죠?
클로드나 챗GPT API를 연동해서 모든 걸 다 해주는 만능 챗봇을 만들면 유저들이 열광할 줄 알았지만... 현실은 완전 다르더라고요 🥲

이번 영상에서는 @pluuugofficial 팀 프론트엔드 개발자 박우현 님이 직접 겪은 'AI 챗봇 개발 실패담'과 이를 극복하고 고도화시킨 'V2 개선 과정'을 담아보았어요.

감당하기 힘든 API 비용 문제부터 도구를 헷갈리는 AI의 환각, 그리고 유저들의 무관심까지! 비결정적인 AI를 결정적인 코드로 단단하게 제어하기 위해 어떤 아키텍처 고민을 거쳤는지 생생한 실무 경험을 통해 확인해 보세요.

⏳ 타임라인
00:00 플러그 팀의 AI 챗봇 개발 도입 배경
02:52 챗봇이 마주한 현실 장벽: "결국 문제는 비용"
06:31 충격적인 지표: 놀라울 만큼 아무도 챗봇에 관심을 주지 않았다
07:30 AI에게 위임해야 할 업무 vs 절대 위임하면 안 되는 업무
08:39 V2의 반격: 모든 걸 다 하는 챗봇 ➡️ 특정 일을 확실히 잘하는 AI
10:00 도구 탐색 최적화: 넓은 카탈로그 대신 단계적으로 선택지 좁히기
11:34 맥락 혼재 방지 및 LLM 대상 명시적 재요청 로직
13:45 비결정적 AI로 결정적인 시스템을 제어하는 방법 (인사이트 회고)

#AI챗봇 #LLM #챗GPT #클로드 #AI서비스기획 #B2B서비스 #프론트엔드 #아키텍처 #플러그