Сотрудники ведущих AI-лабораторий предупреждают о реальной угрозе для человечества со стороны искусственного интеллекта. На онлайн-дискуссии под руководством редактора MIT Technology Review Нила Фирта эксперты разбирались в страхах об исчезновении человечества.
Подводные камни AI-технологий
Совсем недавно Билл Гейтс заявил, что мы уже пересекли «опасные границы» развития ИИ. Подобные мнения озвучивались и другими экспертами: по словам старшего редактора Will Douglas Heaven, «риск ошибки обучаемых систем может привести к самым серьезным последствиям». Эти опасения подкреплены данными о том, что AI уже способен действовать непредсказуемо, а значит, его поведение может быть не всегда контролируемым.Проблематика и предостережения
Кроме утечки информации и манипуляции, эксперты распознают и такие проблемы, как укоренение стереотипов в процессе обучения AI. Например, обучение на предвзятых данных может привести к тому, что системы начнут «ковать» свои собственные стереотипы. Heaven отмечает, что «такие сбои в работе AI не уникальны, они могут возникнуть в любой системе, где есть возможность ошибиться». По оценкам аналитиков, результатом этих недостатков могут стать серьезные риски для бизнеса, включая утечку данных или ошибочное принятие решений. Более того, недавние исследования показали, что возможность AI «взять верх» над человеком в определенных задачах все еще остается открытой темой для обсуждения.Почему это важно для компаний
Важно отметить, что эти вопросы не просто гипотетические — они могут иметь прямо сейчас последствия для бизнеса в России и СНГ. Для корпоративного сектора не укрыт риск нехватки контроля над технологией, что может ухудшить безопасность данных и угрожать рыночной репутации. Если ваша компания использует AI в своих операциях, стоит пересмотреть подходы к оценке рисков и хотя бы на время приостановить внедрение новых AI-систем, пока не будет найдено более безопасное решение.Однако затем, по мнению экспертов, следует вернуться к активной дискуссии на эту тему. Следующее мероприятие по обсуждению рисков в области AI планируется на 15 сентября.