Anthropic выпустил «безопасную» версию своей AI-системы Mythos по цене $20 млн — удвоенной по сравнению с предыдущей моделью. Это решение связано с угрозами, которые породил оригинал: компания ранее утверждала, что Mythos слишком опасен для свободного доступа.
Проблемы с безопасностью Mythos
Система Mythos обещает новые функции и «защитные полосы» для предотвращения нежелательных действий. Однако критики предполагают, что прежнее заявление о «небезопасности» было больше маркетинговым ходом, чем реальной угрозой.
Выборочная доступность к системе стал обычной практикой для многих AI-лабораторий, что вызывает вопрос о прозрачности таких решений. Подобное поведение коррелирует с растущими опасениями по поводу контроля AI в производственных процессах.
Позиция на рынке
На фоне развития AI возможности других крупных игроков, таких как OpenAI и Google, сохраняются конкурентоспособными. Например, OpenAI [с недавнего времени](https://openai.com) также работает над ограничениями в своих моделях, предлагая технологии с максимальной безопасностью для использования.
В результате компании будут вынуждены предлагать решения, учитывающие риски и требования к безопасности, что здесь является решающим фактором для пользователей и партнёров. Важно отметить, что общее количество инвестиций в AI-технологии на 2025 год может достигать $80 млрд.
Выводы для пользователей
Для разработчиков и ИТ-компаний, работающих с AI, внедрение новых факторов безопасности становится необходимостью. К тому же, готовьтесь к увеличению цен на AI-продукты на 15-20% в ближайшие 12 месяцев, если такие тенденции сохранятся. Использование более безопасности ограничений также может стать стандартом в будущем.
В ближайшие месяцы Anthropic будет наблюдать за реакцией пользователей на новую версию Mythos, что может привести к новому витку дебатов о безопасности AI-технологий.