Up next

[Kimi K2.5] 100만 토큰의 벽을 넘다: Kimi K2.5가 제안하는 지능의 민주화 | 오픈소스 한계를 박살 낸 키미 K2.5

0 Views· 25 May 2026
글로벌비전
글로벌비전
5 subscribers
1
In

00:00 Kimi K2.5 소개 및 마법의 AI 공방으로의 초대
00:50 위대한 지능의 민주화를 향한 여정과 모델의 성능 한계 돌파
01:25 지능을 완성하는 세 가지 차원의 마법(토큰, 컨텍스트, 에이전트) 개요
02:24 제1마법: Muon Optimizer를 통한 토큰 효율성 및 지능의 한계 돌파
03:40 QK Clip 기술을 이용한 대규모 훈련 에너지의 안정적 제어
04:58 제2마법: 트랜스포머 아키텍처를 활용한 무한한 기억의 다리 건설
05:40 Kimi Linear: 선택적 망각 기술을 활용한 100만 토큰 이상의 긴 작업 처리
07:18 제3마법: 에이전트 군단(Agent Swarms)의 협업과 병렬 작업 수행
08:15 군단 훈련을 위한 3단계 보상 마법(RL Objectives) 시스템
08:31 세 가지 마법의 결정체인 Kimi K2.5 모델의 공식 탄생
09:05 30조 개의 토큰 학습을 통한 안정적이고 평온한 모델 훈련 곡선
09:44 시각과 언어의 조기 결합(Early Fusion)을 통한 멀티모달 지능 구현
10:55 교차 양상 강화(Cross-Modal Enhancement)를 통한 시각과 텍스트의 시너지
12:09 차세대 기술 Attention Residue를 통한 토큰 효율성 추가 향상
13:27 오픈소스 AI의 황금기 선언 및 진정한 지혜와 망각의 의미

Show less

 0 Comments sort   Sort By


Up next