Южноафриканское министерство отменило проект национальной политики по искусственному интеллекту после того, как в документе были обнаружены вымышленные цитаты. Это стало серьезным сигналом о необходимости человеческого контроля в сфере применения AI.
Скандал с фальшивыми источниками
Министр коммуникаций и цифровых технологий Солли Малатси подтвердил информацию о том, что в проекте отмечены «различные вымышленные источники» в списке литературы. По его словам, документ был подготовлен и даже прошёл одобрение кабинета министров, прежде чем получили первые обращения граждан. В результате повторной проверки было обнаружено, что часть ссылок действительно вымышлена.
Малатси отметил, что данное недоразумение «компометировало целостность и добросовестность проекта». «Этот случай подчеркивает критическую необходимость тщательной проверки использований искусственного интеллекта. Мы воспринимаем это с полной серьезностью», — добавил он в посте в X (ранее Twitter).
Ошибка, повлекшая за собой последствия
Согласно источникам, как минимум шесть ссылок в проекте оказались фальшивыми, что согласуется с классическими случаями «галлюцинаций» AI — когда искусственный интеллект выдает правдоподобные, но несуществующие данные. Эту ситуацию поставил на повестку дня председатель парламентского комитета по контролю за министерством Кхусела Сангони-Дико, которая призвала к отмене документа до дальнейших неприятностей.
Южноафриканское министерство, стремившееся утвердить прогрессивный и строгий подход к AI, оказалось в неловком положении. Вместо этого теперь государство прославилось отсутствием элементарной проверки фактов. Этот инцидент также отразил более широкую проблему, с которой столкнулись многие страны при попытке внедрить политику AI: сложности с обеспечением точности и достоверности информации.
Проблема для будущего регулирования
Для организаций и специалистов в сфере IT, занимающихся разработкой и внедрением AI-решений, эта ситуация служит напоминанием о важности человеческого контроля. Если национальная политика не может отделить реальные источники от вымышленных, это ставит ставит под сомнение дальнейшие попытки регулирования AI-технологий.
Несмотря на текущие трудности, южноафриканское правительство должно продолжить работу над пересмотром своей политики — теперь с обязательным соблюдением фактчекинга и законодательного контроля, чтобы избежать повторения подобных ситуаций.