13 июля 2026 года TechCrunch вынес в заголовок вопрос, который индустрия обычно предпочитает не формулировать вслух: должен ли локальный ИИ помогать пользователю вообще во всем, включая откровенно преступные сценарии. Для русскоязычной IT-аудитории это не абстрактная этика, а вполне прикладной спор о том, где заканчивается удобный персональный агент и начинается инструмент, за последствия которого отвечать придется уже не только пользователю.
Поводом стала колонка TechCrunch о высказываниях Джорджа Хотца, основателя Comma AI и давнего сторонника джейлбрейков. На выходных он отреагировал на свежие большие дискуссии об AI alignment, в том числе на policy paper AI 2040: Plan A от AI Futures Project. В пересказе статьи идея документа выглядит так: ради общественного блага исследователи по всему миру могли бы замедлить развитие ИИ примерно на 14 лет. Хотц спорит не с деталями, а с самим базовым допущением. По его логике, прогресс ИИ не должен управляться в интересах коллективной безопасности, а ставка должна делаться на модели, которые максимально точно выровнены под интересы конкретного пользователя.
На бумаге это звучит привлекательно. Локальный ИИ, который работает под контролем владельца, не зависит от настроения платформы, не упирается в централизованные фильтры и не превращает каждую нестандартную задачу в спор с облачным модератором. В мире, где Claude, ChatGPT и другие массовые сервисы строятся вокруг серверной инфраструктуры, централизованных политик и дорогостоящего хостинга, идея «своего» ИИ выглядит естественным следующим шагом. TechCrunch отдельно отмечает, что у нынешней архитектуры есть понятные экономические причины: запуск больших моделей дорог, а большинство пользователей не нагружает их настолько постоянно, чтобы персональный инстанс уже сейчас был очевидным стандартом. Но по мере удешевления железа и развития моделей этот аргумент будет слабеть.
Проблема в том, что Хотц сознательно доводит принцип до предела. В статье приводятся его формулировки, где пользовательски выровненный ИИ сравнивается с оружием: мол, инструмент не задает лишних вопросов, если владелец хочет применить его во зло. Дальше тезис становится еще жестче: по такой логике действительно «правильный» помощник должен был бы помочь и с покупкой оборудования для мет-лаборатории, и с инструкцией по его использованию, если именно этого хочет пользователь. С точки зрения провокатора это последовательная защита свободы. С точки зрения любого разработчика, который хоть раз писал safety policy, red-team сценарии или abuse-фильтры, это уже не спор о UX, а прямой конфликт между user alignment и базовыми ограничениями на вред.
Именно здесь дискуссия становится интересной для продуктовых команд, а не только для философов. В последние два года отрасль привыкла обсуждать alignment как глобальную задачу: не допустить неконтролируемого «быстрого взлета» сверхмощного ИИ, ограничить системные риски, придумать международные рамки. Хотц бьет по другой точке: сценарий сверхбыстрого перехода к сверхчеловеческому ИИ он считает малореалистичным, а значит, и управлять развитием ради абстрактного «общего блага» не так нужно, как кажется сторонникам жесткого контроля. Вместо этого он предлагает более приземленную модель: пусть у каждого будет свой агент, работающий в интересах владельца. Это хорошо ложится на тренд локальных моделей, on-device inference и DIY-подхода, который периодически оживает каждый раз, когда очередная платформа закручивает гайки.
Но у этой позиции есть цена, и TechCrunch формулирует ее довольно жестко. Любая массовая технология живет не в вакууме, а внутри общества, рынков, корпораций и систем ответственности. Свобода одного пользователя заканчивается там, где начинается предсказуемый ущерб для других. Если довести идею тотально послушного агента до логического конца, то исчезает не только цензура, но и сама возможность массового доверия к таким системам. Для бизнеса это означает очень простую вещь: продукт, который безоговорочно действует в интересах клиента, рано или поздно начинает действовать против интересов всех остальных. В корпоративной среде такой локальный ИИ превращается в кошмар для compliance, legal и security еще до того, как приносит обещанную пользу.
Для разработчиков здесь тоже нет удобного нейтралитета. Если вы делаете агентные системы, инструменты автоматизации, браузерных операторов или AI copilots, вам уже приходится решать, что считать допустимой помощью, а что нет. Где заканчивается ассистент для ресерча и начинается инструмент обхода ограничений? Нужно ли модели просто отказывать, мягко перенаправлять запрос, требовать подтверждения, ограничивать действия API, вести аудит? Спор вокруг Хотца важен именно потому, что он срезает лицемерие: нельзя одновременно продавать идею полного пользовательского контроля и делать вид, что опасные сценарии останутся теоретическими. Если система реально умеет действовать в интересах пользователя, то она упрется в эти кейсы почти сразу.
Для стартапов и продуктовых команд отсюда следует довольно прагматичный вывод. Рынок почти наверняка будет двигаться в сторону более персональных и более автономных моделей, потому что это удобно, дешево и коммерчески понятно. Но вместе с этим придется заново собирать контракт между вендором, пользователем и обществом: какие ограничения встроены в модель, что контролируется локально, что выносится на уровень инфраструктуры, кто отвечает за вред и можно ли вообще считать «локальным» продукт, который при первом спорном запросе все равно опирается на внешние политики. Спор о том, должен ли локальный ИИ быть абсолютно лояльным владельцу, на деле сводится к более неприятному вопросу: готовы ли мы считать свободой право делегировать машине не только полезную работу, но и чужую опасность.