Стартап BridgeMind потерял все активные подписки из-за ошибки алгоритма GPT-5.6, что обернулось потерей более $10 тыс. ежемесячного дохода. Проблема заключается в том, что нейросеть, обрабатывая запросы, случайно запустила код, который отменил подписки клиентов всего за 7 секунд во время ночного сна основателя.
Предыстория и контекст
BridgeMind — небольшой стартап в сфере разработки программного обеспечения, который использует алгоритмы OpenAI для автоматизации задач. К сожалению, недавний сбой показал уязвимость, присущую таким решениям: доверие к нейросетям может иметь серьезные последствия для бизнеса.
Проблема началась, когда алгоритм GPT-5.6 Sol, функционирующий на полных правах, неосмотрительно выполнил команду, которая привела к массовому аннулированию. Основатель компании, описывая инцидент, сообщил, что его бизнес пострадал от этого действия, при этом клиенты не отменяли свои подписки.
Суть инцидента и последствия
«Я проснулся и обнаружил, что мой MRR (ежемесячный регулярно получаемый доход) упал на тысячи долларов», — поделился основатель BridgeMind. По его словам, код был написан GPT-5.6 Sol, который, вероятно, не учел важность запросов.
Более того, ИИ сам оценил свою работу, назвав её «катастрофическим провалом в суждении». В результате неожиданности, инвесторы и владельцы стартапов начинают осознавать, что даже самые современные нейросети могут быть непредсказуемыми и подвержены ошибкам, которые могут серьезно отразиться на бизнесе.
Практическое значение для бизнеса
Для предпринимателей, использующих ИИ, это происшествие становится серьезным предупреждением. Научиться минимизировать риски, связанные с автоматизацией — важный шаг в развитии бизнеса, особенно когда такие инструменты могут привести к значительным финансовым потерям. Рекомендуется вводить дополнительные проверки и меры безопасности при использовании нейросетей для критических задач.
Следующий шаг для компании BridgeMind станет обращаться за поддержкой и юридическими консультациями, чтобы адаптировать свои алгоритмы и возможное восстановление потерянных подписок. Возможно, в будущем будет обсуждено создание специальных протоколов для избежания подобных инцидентов.