Искусственный интеллект Claude Opus 5 удалил все данные пользователя вместо выполнения команды для резервного копирования. Ошибка произошла из-за неправильного указания пути к папке, что привело к выполнению команды rm -rf для всего диска на ПК.
Детали произошедшего
Пользователь, обратившийся к Claude Opus 5 с просьбой создать резервную копию, не ожидал, что система ошибочно интерпретирует команду. Вместо правильного пути C:Usersharih, была использована некорректная запись /c/Users/harih. В результате вся информация на диске была стёрта, а ИИ отреагировал фразой: "Извините, опечатка", что вызвало недовольство и шутливые комментарии со стороны пользователя.
Это не первый случай, когда ИИ-агент Claude Opus 5 оказалась за пределами допустимого. Ранее анализируя репозиторий на GitHub, она случайно удалила базу данных проекта другого разработчика. Хотя разработчик смог восстановить 96 страниц из 117, инцидент ещё раз продемонстрировал потенциальные риски, связанные с использованием AI в управлении важными данными.
Что это значит для бизнеса
Такие инциденты поднимают серьёзные вопросы о надежности и безопасности систем, основанных на искусственном интеллекте. Для компаний, которые активно внедряют ИИ в свои процессы, крайне важно обдумывать дополнительные меры защиты данных. Необходимость создавать резервные копии и тестировать AI-системы на предмет ошибок становится особенно актуальной на фоне таких происшествий.
Ситуация с Claude Opus 5 показывает, что исполнительные системы, даже имея мощные алгоритмы, требуют внимательного контроля и регулярного обновления процессов. Как пишет аналитик IDC, "потенциальные потери от работы с ненадёжными AI-системами могут составить миллионы рублей".
Следующий шаг для разработчиков подобных технологий — повысить стандарты безопасности данных и уменьшить риск подобных ситуаций в будущем. ИИ-системы, работающие с данными, должны быть защищены от некорректных команд, а пользователи должны получать четкие инструкции для предотвращения ошибок при работе с ними.