Израильский стартап DoubleAI представил Maxwell — среду, которая переписывает и оптимизирует бинарный код прямо во время исполнения программы. Компания заявляет об ускорении дата-пайплайнов более чем в 38 раз и отдельных ядер ИИ-инференса более чем в 4,5 раза; для разработчиков это попытка превратить оптимизацию кода во время работы из ручного ремесла в задачу автономного агента.
Maxwell анализирует исполняемый код, фактические данные и доступное железо, после чего подменяет неудачные фрагменты более эффективными эквивалентами. Исходники при этом не меняются, сообщает The Register. Ключевой элемент подхода — формальная проверка: прежде чем новый вариант попадёт в выполнение, система должна построить доказательство, что его поведение совпадает с поведением заменяемого кода.
По терминологии DoubleAI, Maxwell относится к классу code execution models — моделей исполнения кода. Название отсылает к демону Максвелла, мысленному эксперименту физика Джеймса Клерка Максвелла о энтропии. Стартап основан в 2023 году в Тель-Авиве; среди его основателей — Амнон Шашуа, основатель и уходящий CEO Mobileye, а также профессор Еврейского университета в Иерусалиме.
Идея не сводится к ещё одному JIT-компилятору. JIT тоже генерирует машинный код на лету, но действует в заранее заданных, сравнительно узких рамках. Сооснователь DoubleAI Гал Бениамини объясняет разницу на сортировке: компилятор способен ускорить конкретную реализацию алгоритма, однако обычно не станет заменять сам алгоритм другим. Maxwell, по словам компании, видит реальные типы и форму данных, состояние среды, конкурирующие процессы и возникшие в конкретный момент узкие места. Поэтому оптимизация кода во время работы может затронуть не только инструкции, но и более высокий уровень логики.
Самая интересная часть заявления — специализация под фактическую конфигурацию. Один и тот же сервис в продакшене нередко работает не так, как на машине разработчика: отличаются CPU и GPU, объём памяти, версии драйверов, входные распределения, соседние нагрузки. Классический компилятор знает лишь часть этого контекста и обязан быть консервативным. Runtime-подход даёт больше наблюдений, но взамен требует особенно строгого контроля корректности: ошибка в автоматической оптимизации означает уже не медленный релиз, а неверный результат в живом процессе.
DoubleAI приводит несколько примеров. При ускорении открытой модели LTX-2.5, генерирующей видео в 4K, Maxwell почти вдвое сократил время работы. Как утверждает компания, система уменьшила объём обмена данными между GPU, выбрала более подходящие ядра и убрала лишнее дополнение токенов. Наиболее заметный эффект ожидается в алгоритмических задачах и коде, который можно нетривиально подстроить под железо. Впрочем, Бениамини считает перспективными и Python-приложения с графами PyTorch: там, по его оценке, остаётся большой запас для ускорения даже после применения встроенных компиляторных инструментов.
Отдельно стартап говорит о безопасности. Формализация программы теоретически позволяет не просто найти проблему с памятью, а доказать её существование или отсутствие для проверяемого участка. Бениамини утверждает, что команда таким способом обнаруживала нарушения memory safety в самом Python. Это сильное заявление, которое без публичных отчётов и воспроизводимых примеров стоит воспринимать осторожно. Но сама связка оптимизации и формальной верификации выглядит логичной: чем смелее агент меняет работающий код, тем меньше пользы от его скорости без математически проверяемых ограничений.
Для команд, поддерживающих высоконагруженные сервисы или ИИ-инфраструктуру, Maxwell может оказаться интересен прежде всего как новый слой между приложением и оборудованием. Его установка, по описанию компании, сводится к запуску кода через runtime; сама модель размещается у DoubleAI. Это удобнее, чем переписывать критические части на C++ или вручную выжимать производительность из GPU-ядер, но добавляет вопрос доверия к внешнему исполнителю, который получает доступ к процессу оптимизации. Компания оценивает максимальные накладные расходы трассировки и профилирования в 2%, а вне режима трассировки — в ноль. Проверить универсальность этих цифр на разнообразных нагрузках ещё предстоит.
Шашуа называет такие системы агентами на стороне оборудования, а не пользователя. Формулировка маркетинговая, но направление вполне практичное: ИИ уже генерирует код, а теперь претендует на роль инженера по производительности внутри запущенного процесса. Главный вопрос — смогут ли поставщики доказать воспроизводимость ускорений и безопасность автоматических замен на чужих production-нагрузках. Если смогут, оптимизация кода во время работы станет не экзотикой для исследовательских лабораторий, а ещё одним уровнем стандартного runtime-стека. Подробнее о заявлении DoubleAI — в материале .
