Ключевые слова：AI агент, Автономный ИИ, Человеко-машинное взаимодействие, LLM-HAS, Этика ИИ, Оператор AI агент, Manus AI, Фреймворк LLM-HAS, Коллаборативный интеллект, Цифровой сотрудник
🔥 В центре внимания
Спор о парадигме AI Agent: полная автономия или человеко-машинное взаимодействие?: По мере того как технология AI Agent становится центром внимания в отрасли, ее пути развития вызывают глубокие дискуссии. С одной стороны, автономные AI Agent, представленные такими проектами, как Operator и Manus от OpenAI, нацелены на самостоятельное выполнение сложных задач — от планирования и рассуждения до исполнения. Они демонстрируют огромный потенциал, но в то же время сталкиваются с проблемами надежности, безопасности и неоднозначности в понимании задач. С другой стороны, команда под руководством китайского ученого Philip S. Yu предложила фреймворк LLM-HAS (Human-Agent System based on LLM), который выступает за переход от «автономного интеллекта» к «коллаборативному интеллекту». В этой модели человек находится в цикле (human-in-the-loop), обеспечивая надзор, обратную связь и принятие решений, что повышает доверие к системе и ее способность справляться со сложными задачами. Суть спора заключается в следующем: должны ли мы стремиться к созданию «цифрового сотрудника», способного полностью заменить человека, или «супер-ассистента», который тесно сотрудничает с человеком и расширяет его возможности? Это не только выбор технологического пути, но и вопрос определения будущих отношений между человеком и машиной, а также исследование этических границ ИИ (Источник: MIT Technology Review, HuggingFace Daily Papers, 36Kr)