Schlüsselwörter：Gemma 3n, Endgeräte-Multimodalität, MatFormer, Schichtenweise Einbettung, Geringer Ressourcenverbrauch, Gemma 3n E2B-Modell, Gemma 3n E4B-Modell, LMArena Benchmark-Ergebnis, Betrieb mit 2GB RAM, Auf Hugging Face verfügbar
🔥 Im Fokus
Google veröffentlicht Gemma 3n und läutet eine neue Ära der multimodalen On-Device-KI ein: Google hat offiziell die Modellreihe Gemma 3n veröffentlicht, die speziell für On-Device-Geräte entwickelt wurde und nativ Text-, Bild-, Audio- und Videoeingaben unterstützt. Die Reihe umfasst die beiden Modelle E2B und E4B. Obwohl die tatsächliche Parameteranzahl 5B und 8B beträgt, entspricht ihr Speicherbedarf dank der innovativen MatFormer-Architektur („Matroschka“) und der Progressive Layer Embedding (PLE)-Technologie nur dem von 2B- und 4B-Modellen. Sie können mit nur 2 GB RAM betrieben werden. Gemma 3n erreichte in der LMArena eine Punktzahl von über 1300 und ist damit das erste Modell mit weniger als 10B Parametern, das diese Marke erreicht hat. Dies zeigt seine herausragende Leistung bei geringem Ressourcenverbrauch. Derzeit ist das Modell auf führenden Open-Source-Plattformen wie Hugging Face, Ollama und MLX vollständig verfügbar und treibt die Weiterentwicklung von On-Device-KI-Anwendungen voran (Quelle: HuggingFace Blog, karminski3, demishassabis, Reddit r/LocalLLaMA)