키워드:Gemma 3n, 엣지 측 다중모달, MatFormer, 계층별 임베딩, 저자원 소비, Gemma 3n E2B 모델, Gemma 3n E4B 모델, LMArena 경쟁장 점수, 2GB RAM 실행, Hugging Face 출시

🔥 포커스

구글, Gemma 3n 출시로 온디바이스 멀티모달의 새 시대를 열다: 구글이 온디바이스용으로 특별히 설계된 Gemma 3n 시리즈 모델을 공식 출시했습니다. 이 모델은 텍스트, 이미지, 오디오, 비디오 입력을 기본적으로 지원합니다. 이 시리즈는 E2B와 E4B 두 가지 모델을 포함하며, 실제 파라미터는 5B와 8B이지만 혁신적인 MatFormer “마트료시카” 아키텍처와 점진적 계층 임베딩(Progressive Layered Embedding, PLE) 기술 덕분에 메모리 사용량은 2B 및 4B 모델에 해당하며, 최소 2GB RAM으로도 실행 가능합니다. Gemma 3n은 LMArena 아레나에서 1300점 이상을 획득하여, 10B 미만 파라미터 모델 중 최초로 이 점수를 달성했으며, 이를 통해 낮은 리소스 소비 환경에서도 뛰어난 성능을 입증했습니다. 현재 이 모델은 Hugging Face, Ollama, MLX 등 주요 오픈소스 플랫폼에 전면 출시되어 온디바이스 AI 애플리케이션의 발전을 더욱 촉진하고 있습니다 (출처: HuggingFace Blog, karminski3, demishassabis, Reddit r/LocalLLaMA)

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다