В рамках конференции QCon AI OpenAI представила Kepler, внутреннего AI-агента, способного обрабатывать более 600 ПБ данных. Это решение позволяет пользователям быстрее и проще находить ответы на бизнес-вопросы, что особенно важно в условиях постоянно растущих объемов информации.
Проблема с управлением данными
С 80% сотрудников OpenAI, которые ежедневно работают с данными, возникла необходимость в эффективных инструментах для анализа и ретроспективы. По словам Бонни Сюй, ведущего инженера в команде Data Productivity, данные продолжат расти, и командам потребуется больше времени для поиска необходимых данных. Зависимость от устаревших методов обработки данных приводит к затягиванию ответов на простые вопросы.
Например, сложность поиска информации об активных пользователях ChatGPT в определенных странах возрастает из-за значительного увеличения объемов данных. Теперь вместо одного-двух запросов аналитикам придётся исследовать множество таблиц с похожими названиями и различиями в структуре, что усложняет их работу.
Функции Kepler и его преимущества
Kepler применяет методы, такие как MCP (Memory-Constrained Processing), автоматизированный кодовый анализ и RAG (Retrieval-Augmented Generation) для анализа и извлечения данных. Эти технологии обеспечивают более высокую скорость и точность в нахождении нужной информации, минимизируя количество затраченного времени.
Бонни Сюй акцентировала внимание на важности контекстуальной памяти для самообучения AI-агента. Kepler использует AST-базированную систему градации LLM для обеспечения надежной и свободной от регрессии оценки работы модели. В результате, компании могут быстрее адаптировать AI-решения под свои нужды, направляя ресурсы на более сложные задачи.
Практическое значение для бизнеса
Внедрение Kepler может существенно изменить подход к аналитике данных в компаниях. Для российских IT-команд это значит меньше времени на поиск и обработку данных, что повышает общую продуктивность и снижает риски ошибок. Такой подход позволяет сократить время, необходимое для ответа на запросы, что критически важно при работе с большими объемами информации.
Следующий шаг для OpenAI — дальнейшее развитие и интеграция Kepler в другие продукты компании, что позволит поднять уровень обработки данных на новый уровень.