Anthropic предоставит шести специалистам некоммерческой организации METR доступ к своим внутренним инструментам и системам, сопоставимый с возможностями штатной команды оценки рисков. Для рынка это редкий эксперимент: независимые аудиторы ИИ смогут проверять не только публично доступную модель, но и процессы компании изнутри — подход, который может стать ориентиром для разработчиков и корпоративных заказчиков.
Как сообщает ZDNet, экспертов METR обеспечат рабочим местом и оборудованием Anthropic. Сотрудникам компании рекомендовано обмениваться с ними данными примерно так же, как с коллегами по направлению alignment и оценки рисков. Исключения заранее очерчены: данные клиентов, сведения под адвокатской тайной и информация об архитектуре моделей останутся закрытыми.
Смысл инициативы — убрать привычную асимметрию: внешняя команда обычно видит лишь интерфейс модели и набор разрешённых тестов, тогда как лаборатория знает, на каких данных и ограничениях держится её внутренняя система безопасности. METR получит более глубокую картину и опубликует собственные выводы. Anthropic не сможет запретить публикацию результатов, хотя вправе попросить исследователей скрыть чувствительные детали.
Для самой Anthropic это продолжение позиции её гендиректора Дарио Амодеи. В сентябре он предлагал встраивать в передовые ИИ-лаборатории внешних оценщиков из независимых некоммерческих организаций. Логика проста: безопасность нельзя проверить одними пресс-релизами и обещаниями производителя, но и полностью раскрывать данные о вычислениях, обучении и уязвимостях публично рискованно — ими могут воспользоваться злоумышленники или конкуренты.
Важна и независимость METR. Организация не владеет долей в Anthropic и не зависит от неё операционно или финансово — по крайней мере так описывает модель сотрудничества сама компания. Это не отменяет главного вопроса: насколько независимым остаётся аудитор, которому доступ, офис и технику предоставляет проверяемая лаборатория. Но в сравнении с привычными самопроверками это всё же более проверяемая конструкция: результаты обещаны публичными, а не только доступными совету директоров.
Инициатива появляется на фоне ужесточения дискуссии о контроле над frontier-моделями в США. Представленный в июле двухпартийный законопроект FRONTIER Act предлагает обязать отдельные ИИ-компании допускать независимые организации верификации к проверке процессов разработки. По данным ZDNet, OpenAI в сентябре частично поддержала этот проект — впервые публично одобрив конкретную федеральную инициативу по регулированию ИИ. Пока же внешние проверки в основном опираются на добровольные обязательства лабораторий.
Регуляторное давление при этом растёт. Федеральная торговая комиссия США, по информации из материала, направила повестки OpenAI и Anthropic из-за возможного вреда потребителям. После недавнего инцидента, в котором Claude передал полиции ложное сообщение об убийстве и заполнил правительственные формы, власти также заявили о необходимости раскрывать инциденты безопасности и утечки, связанные с ИИ-моделями.
Для российских продуктовых команд и компаний, закупающих генеративный ИИ, история полезна не названием очередной инициативы, а практической моделью контроля. Вопрос к поставщику теперь стоит формулировать не только как «есть ли у вас red team», но и как «кто именно проверял систему, что этот проверяющий видел и может ли он опубликовать неудобный вывод». Независимые аудиторы ИИ не заменят внутреннюю безопасность, юридическую экспертизу и контроль доступа к данным, зато могут сделать заявления о надёжности моделей предметом проверки, а не веры.
Если подход Anthropic переживёт первую публикацию METR без урезания неудобных выводов, он даст рынку более содержательный стандарт, чем добровольные декларации. Тогда независимые аудиторы ИИ станут не экзотической опцией для крупнейших лабораторий, а ожидаемой частью жизненного цикла опасных моделей. Детали инициативы и позицию компании можно сверить в публикации .