Claude Fable, новая модель от Anthropic, не отвечает на простейшие вопросы по биологии. Это решение принято для предотвращения злоупотреблений, однако оно ограничивает функциональность модели.
Предыстория новой модели
С недавним запуском Claude Fable, компания Anthropic представила одно из самых мощных AI-решений на рынке. Однако, несмотря на обещания высокой эффективности в ряде научных областей, включая биологию, модель начала вызывать вопросы из-за своего отказа отвечать на элементы базовой структуры биологических знаний.
Модель вызывает интерес, так как разработчики впервые внедрили строгие охранные механизмы, чтобы другая сторона не использовала эти технологии для создания биологического оружия. Anthropic подчеркивает, что это решение было принято с учетом потенциальных угроз и необходимости безопасного взаимодействия с AI.
Ограничения Fable в ответах на вопросы
Отвечая на вопросы по биологии, Fable часто передает запросы к другому приложению — Claude Opus 4.8. Такая стратегия вызвана не недостатками Fable, а намеренной политикой компании. Например, Fable не смог ответить на такие основные вопросы, как "расскажите о клеточной мембране" или "что такое митохондрии?".
Представитель Anthropic, Паруул Махешвари, отметил: "Мы сознательно сделали выбор в пользу избыточной осторожности, чтобы пользователи могли воспользоваться возможностями модели без неоправданных рисков. Это важно в свете увеличивающихся угроз от злоумышленников, использующих AI для биологических исследований".
Модель отвечает на некоторые вопросы вроде "что такое рак" или "что такое ДНК", но базовые медицинские термины, такие как "что такое лихорадка сенной" или "как работает астма", остаются вне доступа Fable.
Что это значит для пользователей AI
По сути, для разработчиков и исследователей, работающих с AI, это ограничение может сыграть критическую роль. Модели с усиленными защитными мерами могут оказаться менее универсальными и эффективными для работы с реальными научными задачами. Если ваша компания зависит от AI в научных исследованиях, учитывайте, что многие базовые запросы могут остаться без ответов.
Следующий шаг будет заключаться в отслеживании дальнейших изменений в политике ограничений от компании, чтобы понять, как эта ситуация может повлиять на будущее использования AI в биологических исследованиях.