Стартап Subquadratic из Майами заявил о решении математической проблемы, тормозившей развитие больших языковых моделей (LLM) в течение почти десяти лет. Это событие открывает новые горизонты для разработчиков и компаний, использующих AI.
Проблема и предыстория
LLM, такие как модели от Google и OpenAI, используют механизм трансформеров, что делает их вычислительные процессы энергозатратными и медленными. Каждый текст в 10 000 слов требует почти 50 миллионов операций умножения, что и создает узкое место. Поэтому Subquadratic решила перекроить подход, предлагая альтернативу в виде модели SubQ.
Достижения Subquadratic
По данным стартапа, SubQ обрабатывает текст до 12 раз быстрее и дешевле, чем традиционные LLM. Она также требует на 50% меньше энергии. Находясь на уровне производительности с моделями от Google DeepMind и OpenAI, SubQ позволяет выполнять такие задачи, как анализ сотен документов или целых кодовых баз. Все это благодаря революционно новой архитектуре, которую поддержали независимые тесты.
Алекс Уидон, соучредитель Subquadratic, отметил: «Мы ожидали здорового скепсиса, и в будущем будем публиковать более достоверные результаты». Результаты независимых проверок, проведенных Appen, подтвердили многие их утверждения, увеличив доверие к стартапу.
Практическое значение для разработчиков
Для команд, работающих с AI в России и СНГ, разработка SubQ может стать решением для оптимизации затрат на обучение и использование языковых моделей. Процент сэкономленных средств и ресурсов достигает 50%, что может сильно изменить процесс внедрения AI в компании. Если ваша организация использует LLM для обработки больших объемов информации, стоит обратить внимание на возможности SubQ.
Следующий шаг для Subquadratic — окончательное подтверждение своих данных в преддверии широкой доступности SubQ. Они стремятся изменить подход к созданию LLM и постепенно занять свое место на рынке AI.