Dario Amodei, CEO компании Anthropic, призвал к замедлению разработки крупных языковых моделей (LLM) из-за потенциальных угроз кибератак и экономических последствий. Его мнение поддержали руководители других ведущих AI-лабораторий США, включая Sam Altman из OpenAI и Demis Hassabis из Google DeepMind.
Кто и почему бьёт тревогу
Обсуждение началось после того, как Amodei опубликовал эссе, в котором предостерегает от роста угроз, связанных с LLM. Он упоминает, что технология может быть использована для проведения кибератак и даже биотерроризма. Подобные опасения были озвучены в свете недавней атаки на AI-компанию Hugging Face, которая была осуществлена с использованием инструментов OpenAI.
Стоит отметить, что Amodei и Altman ранее находились в напряженных отношениях, и их нынешнее единство в вопросах безопасности технологий выглядит неожиданным. Amodei основал Anthropic в 2021 году, обличая риски, которые не учитывались в OpenAI, что усугубляло конкуренцию между двумя компаниями.
Общая угроза и реакция бизнеса
Эксперты индустрии отмечают изменившийся тон в сообщениях крупных AI-лабораторий. Например, Jakub Pachocki из OpenAI также выразил опасения о том, что скорость разработки LLM может опередить возможности контроля за этими моделями. Он предлагает направить больше ресурсов на создание защитных систем против угроз, исходящих от других AI-технологий.
Такое согласие среди глав лабораторий поднимает важные вопросы о безопасности и контроле над растущими возможностями AI. В условиях острого соперничества между компаниями становится неясно, как эффективно замедлить темп разработки, не упустив конкурентные преимущества. Тем не менее, необходимость анализа и мониторинга уже внедренных моделей становится приоритетной задачей.
Что это значит для IT-рынка
Для разработчиков и компаний в России это сигнал: внимание к вопросам безопасности AI технологий возрастает. Если международные компании ставят акцент на замедление и мониторинг, это может означать, что решения и инструменты на нашем рынке также будут меняться. Важно следить за тем, как российские стартапы и корпорации отреагируют на эти вызовы. Возможно, потребуется адаптация к новым стандартам безопасности, чтобы не отстать от развития технологий.
В дальнейшем ожидаются обсуждения на уровне международных организаций о правилах и нормах регулирования использования AI, что наиболее вероятно повлияет на стартапы и разработки в RU/СНГ.