Сатья Наделла, CEO Microsoft, публично отверг планы по созданию ИИ-агента Scout, который должен был сделать пользователей зависимыми от своего использования. Это заявление сделано на фоне утечки внутреннего документа компании, в котором утверждалось, что Scout должен стать "аддиктивным приложением".
История ИИ-агента Scout
Microsoft представила Scout на конференции Build 2 июня. Это встроенный ассистент Microsoft 365, работающий круглосуточно. Согласно утекшему документу под названием "ClawPilot: Overview and Plan with Project Lobster", разработка Scout прошла в три этапа, начиная с создания зависимости пользователей и заканчивая развитием в мощную агентную платформу.
Документ утверждает, что первая фаза заключается в формировании привычки ежедневного обращения пользователей к ИИ-агенту. Его авторы — вице-президент Microsoft Омар Шахин и один из ведущих разработчиков Яков Вернер.
Недопустимые цели
После того как информация о "зависимости" распространилась в СМИ, Наделла разослал сообщение коллегам, осудив такую стратегию. Он утверждал, что Microsoft стремится не к зависимости, а к обеспечению ИИ-агентом большего контроля и эффективности для пользователей. "Мы создаем технологии, которые усиливают человека, а не делают его зависимым", — добавил Наделла.
Фрэнк Шоу, официальный представитель Microsoft, также подтвердил, что цель компании — помощь пользователям в решении задач, а не создание зависимости. Однако, несмотря на опровержения, критики отмечают, что сам факт обсуждения такой стратегии вызывает беспокойство.
Что это значит для индустрии
Для разработчиков и бизнеса это означает необходимость придерживаться этических стандартов и ответственности при разработке технологий. Стратегии, стимулирующие зависимость пользователей от ИИ, могут вызвать негативную реакцию и повредить репутации компании. Важно, чтобы компании выпустили четкие и прозрачные стратегии, жили в соответствии с принципами этичного ИИ, и учитывали интересы пользователей.
Следующий шаг для Microsoft — это дальнейшее развитие и корректировка стратегии Scout с фокусом на позитивное воздействие на пользователей, а не на их зависимость.