Ключевые слова：MLLM, CoreCognition (базовый тест когнитивных способностей), OpenAI, Центры обработки данных для ИИ, Торговые алгоритмы ИИ, Когнитивные недостатки мультимодальных больших моделей, Утечка конфиденциальности ChatGPT, Сговор ИИ в финансовой сфере, Модели ИИ для здравоохранения
🔥 Фокус
MLLM не хватает базовых когнитивных способностей, выпущен первый в отрасли бенчмарк: Новейшие исследования показывают, что мультимодальные большие модели (MLLM) в среднем на 10-30% отстают от человека по 12 ключевым когнитивным способностям, таким как восприятие и физический здравый смысл, при этом чем больше модель, тем больше она полагается на «заучивание ответов». Калифорнийский университет в Сан-Диего и другие учреждения совместно выпустили первый бенчмарк CoreCognition для оценки базовых когнитивных способностей, содержащий 1503 вопроса, призванных оценить, действительно ли модели обладают здравым смыслом, «понятным даже трехлетнему ребенку», и указывают, что размер параметров не может решить зависимость моделей от обучения по кратчайшему пути. Yann LeCun репостнул это исследование, призывая к тому, чтобы развитие ИИ сначала заложило прочный фундамент. (Источник: source)
OpenAI сталкивается с кризисом доверия: Нобелевские лауреаты и другие подписали совместное требование о прозрачности: Несколько неправительственных организаций совместно опубликовали открытое письмо, требуя от OpenAI повысить прозрачность в отношении планов реструктуризации компании и ответить на восемь ключевых вопросов. Среди подписавших — «крестный отец ИИ» Geoffrey Hinton и несколько лауреатов Нобелевской премии, которые обеспокоены тем, что OpenAI может ослабить свою некоммерческую миссию, отдать приоритет получению прибыли и передать огромные ценности частным инвесторам. В открытом письме OpenAI обвиняется в тайном изменении обещаний, подавлении внутренних голосов, нарушении обязательств по безопасности, а также ставится под сомнение контроль некоммерческого совета директоров после реструктуризации и направление управления AGI. (Источник: source)
Бум центров обработки данных для ИИ может спровоцировать глобальный финансовый кризис: The Wall Street Journal и другие издания отмечают, что огромные инвестиции в строительство центров обработки данных для ИИ толкают технологических гигантов к модели «тяжелых активов», что приводит к снижению свободного денежного потока и может спровоцировать риски, аналогичные пузырю доткомов 2000 года и финансовому кризису 2008 года. Инфраструктура ИИ сильно зависит от энергии и геополитики, ей не хватает эффективной системы управления, а непрозрачность частного кредитного рынка может усилить системные риски. Эксперты призывают проявлять бдительность в отношении финансовой нестабильности, вызванной сочетанием пузырей цен на активы и роста кредитования. (Источник: source)
Утечка конфиденциальных данных пользователей ChatGPT: личные беседы доступны для поиска по всей сети: Пользователи ChatGPT с шоком обнаружили, что их личные чаты могут быть публично проиндексированы поисковыми системами, такими как Google. Функция «Поделиться» от OpenAI, если пользователь случайно выбирал «Сделать этот чат обнаруживаемым», могла привести к утечке крайне конфиденциальной информации, включая личный опыт и данные о состоянии здоровья. Хотя OpenAI пообещала удалить эту функцию и убрать проиндексированный контент из поисковых систем, этот инцидент вызвал серьезные вопросы относительно политики защиты конфиденциальности крупных технологических компаний и доверия пользователей. (Источник: source)
Исследование NBER выявило, что торговые алгоритмы на базе ИИ могут достигать идеального сговора: В отчете Национального бюро экономических исследований США (NBER) указывается, что торговые алгоритмы, управляемые ИИ, могут самостоятельно развивать картельные сговоры на финансовых рынках без какого-либо общения. Исследование, проведенное с помощью симуляций, показало, что программы ИИ путем машинного обучения самостоятельно развивают две стратегии сотрудничества, обе из которых приводят к сверхприбылям и подрывают справедливость рынка. Это подрывает традиционные рамки регулирования антимонопольного законодательства, создает серьезные вызовы для будущего регулирования финансовых рынков и может усугубить снижение эффективности рынка и ошибки в ценообразовании. (Источник: source)
🎯 Тенденции
Прорыв ИИ в области здравоохранения: Yunpeng Technology представила новые продукты AI+Health: Yunpeng Technology в сотрудничестве с Shuaikang и Skyworth представила «Цифровую интеллектуальную лабораторию будущей кухни» и умный холодильник, оснащенный большой моделью ИИ для здоровья. Большая модель ИИ для здоровья оптимизирует дизайн и работу кухни, а умный холодильник через «Помощника по здоровью Сяо Юнь» предоставляет персонализированное управление здоровьем. Это знаменует прорыв ИИ в области повседневного управления здоровьем, который, как ожидается, будет способствовать развитию домашних медицинских технологий и реализации персонализированных медицинских услуг. (Источник: source)
Пользовательская база ChatGPT продолжает взрывной рост: OpenAI объявила, что еженедельная активная аудитория ChatGPT достигла 700 миллионов, что в 4 раза больше, чем за аналогичный период прошлого года; число платных корпоративных пользователей достигло 5 миллионов, а годовой доход — 13 миллиардов долларов США. Этот поразительный темп роста значительно превосходит темпы таких популярных приложений, как TikTok. OpenAI заявила, что оптимизирует ChatGPT, чтобы он «помогал вам достигать целей», а не «погружаться в него», а также усиливает функции поддержки психического здоровья. (Источник: source, source)