키워드：LLM 인지 코어, 엣지 AI, 소형 모델, 퍼스널 컴퓨팅, 멀티모달, 디바이스 온디바이스 파인튜닝, 클라우드 협업, Gemma 3n 모델, 수십억 파라미터 모델, AI 능력 조절, 도구 사용 능력, 상시 가동 AI
🔥 포커스
Karpathy, ‘LLM 인지 코어’ 개념 제시, 온디바이스 AI 경쟁 심화: Andrej Karpathy는 AI 경쟁의 다음 격전지가 ‘LLM 인지 코어’가 될 것이라고 예측했습니다. 이는 백과사전식 지식을 희생하여 극한의 능력을 확보한 수십억 파라미터의 소형 모델입니다. 이 모델은 개인 컴퓨팅의 커널로서 항상 온라인 상태를 유지하며 모든 기기에서 기본으로 실행될 것입니다. 특징으로는 네이티브 멀티모달, 조절 가능한 능력, 강력한 도구 사용, 온디바이스 파인튜닝, 클라우드 대형 모델과의 협력 등이 있습니다. 이러한 구상은 Google이 출시한 Gemma 3n 모델과 일맥상통합니다. Gemma 3n은 멀티모달 입력을 지원하고 2GB RAM만으로도 실행 가능하여 온디바이스에서 강력한 AI 능력을 구현할 수 있는 잠재력을 보여주며, 개인 AI 컴퓨팅 시대가 빠르게 다가오고 있음을 예고합니다. (출처: karpathy, Omar Sanseviero, zacharynado, teortaxesTex, jeremyphoward)