关键词：LLM认知核心, 端侧AI, 小型模型, 个人计算, 多模态, 设备端微调, 云端协同, Gemma 3n模型, 数十亿参数模型, AI能力调节, 工具使用能力, 永远在线AI
🔥 聚焦
Karpathy 提出“LLM认知核心”概念，端侧AI竞赛加剧: Andrej Karpathy 预言，AI竞赛的下一个焦点将是“LLM认知核心”——一种牺牲百科知识以换取极致能力的数十亿参数小型模型。它将作为个人计算的内核，永远在线并默认在每台设备上运行。其特点包括原生多模态、能力可调节、强大的工具使用、设备端微调和与云端大模型的协同。这一构想与Google发布的Gemma 3n模型不谋而合，后者支持多模态输入，仅需2GB RAM即可运行，展示了在端侧实现强大AI能力的潜力，预示着个人AI计算时代正加速到来 (来源: karpathy, Omar Sanseviero, zacharynado, teortaxesTex, jeremyphoward)