Ключевые слова:Когнитивное ядро LLM, Периферийный ИИ, Малые модели, Персональные вычисления, Мультимодальность, Тонкая настройка на устройстве, Облачная координация, Модель Gemma 3n, Модели с миллиардами параметров, Регулировка возможностей ИИ, Способность использовать инструменты, Всегда активный ИИ

🔥 В центре внимания

Карпати предлагает концепцию «когнитивного ядра LLM», гонка в области периферийного AI обостряется: Андрей Карпати прогнозирует, что следующим фокусом в гонке AI станет «когнитивное ядро LLM» — небольшая модель с миллиардами параметров, которая жертвует энциклопедическими знаниями в обмен на исключительные возможности. Она будет служить ядром для персональных вычислений, всегда будет онлайн и работать по умолчанию на каждом устройстве. Ее особенности включают нативную мультимодальность, регулируемые возможности, мощное использование инструментов, файн-тюнинг на устройстве и взаимодействие с большими облачными моделями. Эта концепция совпадает с выпущенной Google моделью Gemma 3n, которая поддерживает мультимодальный ввод, требует всего 2 ГБ RAM для работы и демонстрирует потенциал для реализации мощных возможностей AI на устройствах, предвещая ускоренное наступление эры персональных вычислений с AI (Источник: karpathy, Omar Sanseviero, zacharynado, teortaxesTex, jeremyphoward)