로컬 생성형 AI의 시대 | RTX PC로 구축하는 나만의 로컬 AI 에이전트

00:00 로컬 생성형 AI의 시대 개요 및 서론
01:00 클라우드 AI의 한계와 로컬 AI의 장점 비교
01:46 개인화된 AI 에이전트의 세 가지 역할과 활용
04:02 NVIDIA RTX 환경의 압도적 성능과 생태계 소개
04:15 하드웨어 규모별 맞춤형 AI 워크스테이션 추천
06:14 모델 압축과 양자화를 통한 하드웨어 한계 극복
08:03 모델 특성에 맞춘 PTQ 및 QAT 압축 전략 기술
11:15 프로젝트 목표에 적합한 최적의 모델 선정 프로세스
11:42 Ollama를 이용한 단일 명령어 기반 파이프라인 구축
12:05 자율형 AI 에이전트의 6단계 내부 추론 루프
13:36 로컬 시스템 제어권 부여 및 도구 실행 방식
15:09 VRAM 용량 제약 속 지능 유지를 위한 딜레마
16:30 효율적인 기억 관리를 위한 세 가지 데이터 압축 전략
18:12 구조화된 출력(Structured Outputs)과 로짓 제어 기술
21:18 궁극의 로컬 AI 샌드박스 완성 및 향후 가치