Исследование: 94% пользователей AI принимают ответы без критики

Исследования Университета Пенсильвании показывают, что 94% пользователей AI готовы принимать ответы, предоставляемые языковыми моделями, без критического анализа. Это серьезная проблема, поскольку привычка "когнитивного отступления" может негативно сказаться на принятии решений в различных областях.

Новые подходы к принятию решений

Исследователи выделили две категории пользователей AI: одни подходят к инструментам как к мощным, но несовершенным сервисам, требующим человеческого контроля, в то время как другие полностью делегируют критическое мышление компьютеру. Появление AI-систем создало новую категорию "искусственной когниции", где решения принимаются на основе алгоритмических рекомендаций, а не человеческого мышления.

Результаты эксперимента

Группы, использовавшие чат-ботов AI, приняли данные AI примерно в 93% случаев, когда ответы были верными. Даже при неправильном ответе 80% пользователей продолжали доверять боту. Это наглядно демонстрирует, как AI может подменять внутреннее рассуждение, что подтверждено в ряде когнитивных тестов.

Практические выводы для IT-специалистов

Разработчикам AI-решений стоит учитывать, что пользователи могут не критически воспринимать предоставляемую информацию. Внедрение механизмов повышения осознанности пользователей о том, как работать с выходными данными, может предотвратить ошибки в решениях и повысить общую эффективность работы с AI.