Стартап Gimlet Labs привлек $80 миллионов в раунда Series A для решения проблемы снижения эффективности работы ИИ. Финансирование возглавила Menlo Ventures. Gimlet Labs разработал уникальное программное обеспечение, которое позволяет одновременно использовать разные типы аппаратного обеспечения, включая традиционные ЦП и специально разработанные графические процессоры.
Контекст и значимость рынка
С увеличением применения ИИ-решений, особенно в больших центрах данных, проблема ИИ-инференса становится всё более актуальной. В текущих условиях, по оценке McKinsey, расходы на центры обработки этих могут достичь $7 триллионов к 2030 году. Согласно словам CEO Gimlet Labs Зайна Асгара, на этот момент приложения используют лишь 15-30% имеющегося аппаратного обеспечения, что ведет к огромным финансовым потерям.
Технические возможности Gimlet Labs
Gimlet Labs предлагает решение, позволяющее объединить нагрузку различных участников обработки данных, эффективно распределяя их по разным архитектурам. Обозначенная Асгаром цель — повысить эффективность работы ИИ в 10 раз. По его словам, их программное обеспечение способно увеличивать производительность ИИ-инференса от 3x до 10x при тех же затратах и потреблении энергии.
Кроме того, платформа Gimlet Cloud интегрируется с различными архитектурами чипов, позволяя выбирать наиболее оптимальную для каждого этапа обработки данных. На этот момент компания уже установила партнерские отношения с такими производителями, как NVIDIA, AMD, Intel и другими.
Практическое значение для разработчиков и бизнеса
Для разработчиков и крупных дата-центров это решение может стать ключевым для повышения рентабельности их ИИ-приложений. Ведь, по факту, Gimlet Labs помогает избежать потерь, связанных с простаивающим оборудованием, и позволяет максимально эффективно использовать уже имеющиеся ресурсы. В условиях роста конкуренции на рынке облачных вычислений это может существенно повлиять на успех компаний в будущем.
Дальнейшие шаги для Gimlet Labs включают в себя расширение клиентской базы и укрепление партнерства с аппаратными производителями. Если интерес к их продукту продолжит расти, это откроет новые горизонты для оптимизации бизнес-процессов в сфере ИИ.