GitHub объявил об ограничениях использования своей AI-системы Copilot, ссылаясь на сбои в подсчёте токенов, что негативно сказывается на многих разработчиках. Это решение вызвало бурную реакцию среди пользователей, которые зависят от сервиса для своих проектов.
Причины введения ограничений
На прошлой неделе представители GitHub сообщили клиентам, что использование сервиса необходимо ограничить в связи с обнаруженной ошибкой в подсчёте токенов. Эта ошибка привела к тому, что модель уверенно перерасходует выделенные объёмы подписки, угрожая общей устойчивости системы. Разработчики начали получать уведомления о временных ограничениях, что ставит под угрозу их рабочий процесс, особенно в условиях высокой нагрузки на серверы.Как пояснили в компании, в последнее время наблюдается рост одночасного использования сервиса, что создает нагрузку на общую инфраструктуру. Примечательно, что в единичных случаях пользователи сообщают о необходимости ждать до нескольких дней, прежде чем снова получить доступ к Copilot.
Реакция пользователей и их переживания
Программисты, использующие Copilot, поделились недовольством. Например, один из пользователей, Джон Клэри, сообщил, что он тратит сотни фунтов в месяц на дополнительные кредиты, но в результате стал сталкиваться с постоянными ограничениями, которые мешают его работе. В среднем пользователи ожидали порядка 15 минут, прежде чем снова могут продолжить использовать AI для написания кода, несмотря на отсутствие четкой информации о времени ожидания.На фоне этих проблем пользователи начали активно обсуждать эту тему на форумах, и в одной из дискуссий было зафиксировано около 36 жалоб всего за два дня. Многие обращали внимание на "неприемлемо длительное ожидание" и описывали свои ощущения от ухудшения качества работы сервиса.
Что это значит для разработчиков
Для программистов, работающих с GitHub Copilot, данные изменения могут стать значительным препятствием в их руках. Отсутствие стабильности в доступе к инструменту подрывает их уверенность в использовании AI для завершения своих проектов. Переход на режим Auto, где модель выбирает менее затратные с точки зрения вычислений решения, существенно ухудшает производительность, что также стало причиной возмущения.Компании, активно использующие GitHub Copilot на российском рынке, должны учитывать возникшие ограничения и планировать дополнительные ресурсы для обеспечения стабильности своих будущих программных решений.
В ближайшие недели GitHub будет пробовать разные способы регулирования нагрузки на свои сервера, чтобы предотвратить повторение подобных ситуаций. Интересно, как это повлияет на качество обслуживания и подходы к ценообразованию в будущем.