Исследование Бостонского университета показало: представление AI-агентов как сотрудников снижает качество работы на 18%. Это важно для компаний, разрабатывающих стратегии внедрения AI.
Проблемы с восприятием AI-агентов
В ходе исследования, проведенного профессором Эммой Уайлс, участники оказались менее внимательными к ошибкам, когда AI-агент был обозначен как «сотрудник», а не просто программный инструмент. Как следствие, они допустили на 18% больше ошибок в работе.
К примеру, около трети из 1261 опрошенных менеджеров заявили, что их компании рассматривают AI как сотрудников. 23% респондентов даже включают таких «работников» в организационные схемы.
Негативные последствия для бизнеса
По мнению экономиста MIT Дарона Аджемоглу, называть AI-контракторов коллегами — это нецелесообразно. Это создает нереалистичные ожидания от их работы и уменьшает ответственность людей за результат. В своей работе участники исследования стали на 44% чаще отправлять сомнительные результаты AI-агента на проверку менеджерам вместо того, чтобы доверять своей оценке.
Проблема усложняется в таких сферах, как здравоохранение и образование, где ошибки AI могут в дальнейшем использоваться для оправдания человеческих недоработок. Например, эпизод с ошибочной бомбардировкой школы в Иране был неправильно приписан AI-агенту, тогда как реальные причины заключались в цепочке ошибок людей.
Что это значит для бизнеса
Для бизнеса важно понимать, что AI-агенты должны быть инструментами, дополняющими человеческие способности, а не заменяющими их. Необходимость обучения сотрудников правильному взаимодействию с AI может повысить общую продуктивность и избежать потерь качества.
Следующий шаг — переосмысление подходов к интеграции AI в рабочие процессы. Ожидается, что компании начнут разрабатывать эти инструменты так, чтобы они поддерживали, а не подменяли человеческие усилия.