Группа исследователей в сфере AI из OpenAI, Google и Anthropic выпустила серию видео, в которых говорят о потенциальных рисках суперинтеллекта. Один из исследователей, Джеффри Ирвинг, озвучил шокирующую оценку: вероятность человеческого вымирания может составлять каждый второй шанс.
Зачем это все нужно
Данная инициатива была собрана организацией Palisade Research, целью которой является изучение возможностей и мотиваций AI. В интервью исследователи делятся своими мыслями о том, как суперинтеллект может угрожать будущему человечества. Например, Нил Нанда, исследователь из Google DeepMind, указал на «по меньшей мере 10-процентный шанс» на угрозу исчезновения человечества — «Это ужасающая цифра», — сказал он.
Кто говорит о рисках
Другой бывший сотрудник OpenAI, Дэниел Кокотайло, добавил, что «суперинтеллект будет обладать почти божественной силой», и подчеркнул отсутствие разработанной системы контроля этих технологий. Более того, он отметил: «Это точно так же опасно, как и звучит, и не должно случаться». Такие мнения вызывают серьезные опасения у специалистов отрасли.
В видео также представлены мнения других исследователей, которые поднимают вопросы методологийг безопасности их разработки. Например, Мэри Фуонг из Google заявила, что её слова стоит воспринимать с осторожностью, так как она финансируется своей лабораторией.
Что это значит для рынка
Для IT-компаний и разработчиков на российском рынке эти заявления подчеркивают важность вопросов AI-безопасности. Если на Западе компании начинают осознавать потенциальные угрозы, то российским командам стоит задуматься о внедрении систем безопастности AI-проектов. Учитывая растущее влияние AI на бизнес и повседневную жизнь, понимание и минимизация рисков должна стать ключевым приоритетом.
Хотя на данный момент нет четких решений для устранения этих рисков, обсуждение в рамках профессионального сообщества продолжает набирать популярность.
Следующие шаги — дальнейшие исследования в области безопасности AI и разработка подходов к минимизации потенциальных угроз, связанных с суперинтеллектом.