Маргарет Этвуд, известная авторка 'Служанки' и 'Слепого убийцы', высказалась о недостатках искусственного интеллекта на фестивале Babell в Португалии. Она использовала ИИ-чатбот Claude, но осталась разочарована его ответами, отметив, что искусственный интеллект зависит от данных, с которыми его обучают. Если исходные данные некачественные, результат тоже будет плохим — 'мусор на выходе'.
Неудачный опыт Этвуд с ИИ
Во время своей попытки получить информацию о британском детективном сериале 'Отец Браун' Этвуд столкнулась с неверным ответом от Claude. 'Он дал мне неправильный ответ или солгал. Конечно, он не знал, что врет, потому что это не человек, а большая языковая модель', — отметила она. Этвуд считает, что чат-бот, анализируя онлайн-обзоры, наткнулся на информацию, которая была неполной или вводящей в заблуждение.
Критика создателей ИИ и его пользователей
Этвуд раскритиковала тех, кто полагается на искусственный интеллект, назвав их 'оппортунистами', и призвала бизнесменов проверять результаты. 'Люди, использующие ИИ для бизнеса, должны проверять его результаты, потому что он ошибается', — подчеркнула она. Доверие к механизмам, основанным на некорректно собранной информации, может вызвать серьезные последствия.
Значение для ИТ-рынка и разработчиков
Для разработчиков и бизнеса в России и СНГ это звучит как призыв к осторожности. Использование искусственного интеллекта требует постоянного мониторинга и проверки результатов, особенно для стартапов и компаний, которые интегрируют ИИ в свои процессы. Доверие к таким технологиям не должно заменять человеческий подход и критическое мышление в аналитике данных. Следующий шаг для разработчиков — улучшение качества данных, на которых обучаются ИИ-модели, так как это напрямую влияет на их производительность и доверие пользователей.