Google обновил свою открытую платформу Genkit, выпустив middleware, который предлагает разработчикам больше возможностей для контроля над AI-приложениями. Теперь они могут программно вмешиваться в процессы создания и работы моделей, улучшая надежность и безопасность.
За кулисами Genkit
Genkit представляет собой фреймворк для разработки AI-приложений, поддерживающий языки TypeScript, Go и Dart, с планами внедрения Python. Middleware добавляет прослойку управления на уровне вызовов моделей и обработки инструментов, позволяя разработчикам внедрять пользовательские поведения, такие как повторные попытки и журналирование, без изменения основной логики приложений.
Ключевые компоненты обновления
Новые функции включают подсистему обработки ошибок с экспоненциальной задержкой при повторной попытке, автоматический переход на альтернативные модели, а также системы контроля доступа к файловым системам. Каждая из этих возможностей повышает общую безопасность и стабильность систем, работающих на Genkit.
Кроме того, новый функционал разработан так, чтобы обеспечивать последовательность выполнения: разработчики могут комбинировать компоненты, чтобы контролировать порядок обработки данных в процессе. Это делает Genkit одним из наиболее гибких инструментов на рынке AI-разработки.
Зачем это развивает рынок AI
Теперь разработчики могут быстро внедрять эффективные автоматизированные решения без глубокой переработки существующих приложений. Это особенно актуально для разработчиков в России и СНГ, где AI-технологии активно развиваются, но сталкиваются с вызовами в надежности и безопасности. Middleware от Google может помочь избежать типичных ошибок, повышая производительность.
Разработчики могут начать использовать новую систему прямо сейчас, а также создавать собственные пакеты middleware для повторного использования в проектах, что облегчает интеграцию решений и ускоряет разработку AI-приложений.