Гендиректор Anthropic Дарио Амодеи в своем эссе призывает к строгому регулированию ИИ, сравнив его с авиацией. Он считает, что передовые модели должны проходить обязательное тестирование и аудит перед релизом, а государство должно иметь право блокировать модели, которые не соответствуют стандартам безопасности.
Требования к проверке ИИ
Аналогично авиационной отрасли, модели ИИ, превышающие определенный порог вычислений, должны проходить проверку квалифицированной третьей стороной по четырем категориям рисков: кибербезопасность, угроза создания биологического оружия, потеря контроля и автоматизированные исследования. Эти проверки могли бы проводить либо государственные агентства, подобные FAA, либо аккредитованные частные организации, что также создает новые рынки для аудиторских услуг.
Аmodoey также подчеркнул, что компании должны защищать данные своих моделей от утечек, регулярно тестировать их на уязвимости и сообщать о любых инцидентах. Практическое применение этой и многих других инициатив требует значительных инвестиций: Anthropic выделяет на эти цели около $350 миллионов.
Экономические последствия для рынка труда
Амодеи также затрагивает вопрос автоматизации и риска вытеснения рабочих мест. Он предложил ряд экономических мер: страхование зарплат для тех, кто теряет работу, налоговые льготы для работодателей, которые отказываются от сокращений, и гранты на переобучение. Если вытеснение окажется стабильно высоким, он даже предлагает внедрение безусловного базового дохода за счет налогов на компании, работающие в области ИИ. Это может затронуть множество стартапов и компаний, стремящихся использовать ИИ в своих процессах.
Риск полного контроля со стороны государства
Предложения Амодеи уже вызвали критику. Некоторые эксперты предполагают, что это может привести к «захвату регулирования»: крупные компании смогут легче выполнять требования, создавая препятствия для малых игроков. По данным Hacker News, предполагаемый порог вычислений не указан, и это создает неопределенности в регулировании существующих моделей.
Регулирование ИИ в России и СНГ также становится актуальным. В условиях быстро развивающихся технологий и растущих опасений по поводу их безопасности, инициатива Anthropic может послужить стимулом для введения аналогичных мер на российском рынке, где обязательное тестирование и контроль могут уменьшить риски и повысить доверие к ИИ-технологиям.
Вопрос регулирования ИИ становится все более важным. Будут ли предложенные меры реализованы на практике и как они повлияют на рынок, станет ясно в ближайшие месяцы.