GPT-4.5 продемонстрировала неплохой результат в тесте Тьюринга, будучи принята за человека в 59% случаев при 15-минутных диалогах. Это открывает новые горизонты как для разработчиков ИИ, так и для пользователей, однако важно учитывать риски, возникающие из-за возможных злоупотреблений.
Первые результаты теста
Хотя исследование Кэмерона Джонса и Бена Бергена из Калифорнийского университета в Сан-Диего вышло в журнале Proceedings of the National Academy of Sciences, оно не стало самоцелью. Задача заключалась в проверке, насколько хорошо языковые модели могут имитировать человеческое поведение, а результат 59% успешных идентификаций сравним с равнозначными показателями настоящих людей.
Эксперимент, проводившийся с использованием потолка в 15 минут, показал, что GPT-4.5 была значительно успешнее своих предшественников. В предыдущих тестах, с короткой беседой на 5 минут, модель демонстрировала впечатляющие 73% успешны идентификаций — больше, чем реальные собеседники.
Методология и анализ
Авторский коллектив, дополнительно проанализировав поведение участников, отметил, что они основывали свои суждения не на интеллекте собеседника, а на таких факторах, как тон общения, юмор и стиль ошибок. Это подводит к мысли о том, что незнание и уязвимость могут быть более убедительными, чем демонстрация силы.
Джонс подводит итог: «Тест Тьюринга — это игра во вранье, и, судя по всему, модели стали в нее очень хороши». Вопрос, который возникает в связи с этим, заключается в том, как реагировать на возможность обмана с помощью ИИ.
Практические выводы для пользователей
Технологии, достигшие такого уровня, открывают двери к новому типу злоупотреблений, включая манипуляцию общественным мнением и кражу личных данных. Потенциальная угроза заключается в том, что злоумышленники могут использовать ИИ для создания «контрафактных людей», что усложняет защиту даваемых пользователем данных.
Ключевой вывод: организации и индивидуальные пользователи должны повышать уровень образованности в отношении ИИ, чтобы избежать попадания в ловушки, созданные невидимыми мошенниками.
Следующий шаг для исследователей заключается в улучшении методологии тестирования, адекватного реагирования на потенциальные угрозы и обеспечения большей прозрачности в использовании ИИ.