1 августа Habr пересказал беседу академика РАН Константина Анохина и нейробиолога Му-мин Пу о сознании и искусственном интеллекте. Для ИТ-аудитории здесь важен не философский спор, а вполне прикладной вывод: у нынешних больших моделей слабое место не только вычисления, но и память, непрерывное обучение и работа в физическом мире.
Если этот диагноз верен, следующая гонка в ИИ пойдет не только за новые GPU и дата-центры. Куда важнее окажется вопрос, как научить системы запоминать опыт, отбрасывать лишнее и безопасно вести себя вне чата.
Спор сместился от масштаба к архитектуре
Собеседники обсуждают ИИ не со стороны инвестпрезентаций, а со стороны нейробиологии. В таком ракурсе главная претензия к нынешнему курсу проста: наращивание данных, вычислений и параметров пока работает, но у этого подхода есть физический и энергетический предел.
Отсюда и критика современных архитектур. Даже сильные модели на базе трансформеров остаются сравнительно однородными системами, которым не хватает избирательной связанности и пластичности, характерных для биологического мозга. Для разработчиков это неприятная, но полезная мысль: следующий скачок может прийти не из очередного раунда масштабирования, а из пересборки самой архитектуры.
Память и непрерывное обучение остаются слабым местом
Самый практичный тезис беседы касается памяти. Большие языковые модели хорошо держат контекст внутри сессии, но не запоминают опыт так, как это делает живой организм. Разговор с моделью сегодня не меняет ее завтра, если не считать внешние костыли вроде RAG, профилей пользователя и отдельного дообучения.
Проблема глубже, чем кажется. Биологическая память не хранит все подряд: она отбирает важное, закрепляет значимое и забывает лишнее. У современных ИИ-систем с этим хуже. Для продуктовых команд это означает вполне земной риск: сервис может впечатлить на демонстрации, но рассыпаться там, где нужен длинный пользовательский контекст, устойчивое накопление опыта и аккуратное обновление знаний без полной пересборки модели.
Выход ИИ в физический мир повышает цену ошибки
В беседе отдельно поднимают тему роботов и других физических систем. Логика здесь простая: пока модель пишет текст или код, ошибка неприятна, но обычно обратима. Когда ту же логику переносят в устройство рядом с человеком, цена сбоя становится совсем другой.
Поэтому одних навыков распознавания, навигации и планирования уже недостаточно. Если у системы нет устойчивых механизмов контроля, социальных ограничений и предсказуемого поведения, проблема быстро перестает быть академической. Для команд, которые работают с робототехникой, промышленной автоматизацией и встраиваемыми системами, это прямой сигнал: тестировать придется не только точность модели, но и ее поведение в неоднозначных ситуациях.
Значение для рынка
Для русскоязычного рынка вывод простой: конкуренция в ИИ будет идти не только по размеру модели и стоимости инференса. Выиграют те, кто раньше других решит три прикладные задачи: долговременную память, безопасное дообучение и надежную работу ИИ в реальных устройствах. Иначе даже очень дорогая модель останется впечатляющим собеседником, но слабым кандидатом на роль автономной системы.
Следующий этап в ИИ, похоже, будут определять не только чипы, но и новые представления о том, как вообще устроены память, обучение и контроль.