В Техасе 76-летняя Марта Авила погибла у себя дома после того, как Tesla Model 3 на высокой скорости влетела в жилой дом. Эта авария Tesla Autopilot важна не только как очередной трагический эпизод вокруг систем помощи водителю: она снова бьет по главному тезису Tesla о том, что автоматизация уже делает дороги безопаснее, и напоминает IT-рынку, что между красивым продуктовым нарративом и реальной безопасностью все еще лежит неприятно большой разрыв.
По данным Ars Technica, водитель Майкл Батлер сообщил полиции, что в момент аварии ехал с включенной автоматизированной системой помощи водителю. В офисе шерифа округа Харрис уточнили: машина выехала из своей полосы, покинула проезжую часть и врезалась в дом на высокой скорости. Батлер, по словам полиции, не был пьян и сотрудничает со следствием, в том числе объясняя, как работал Autopilot в его Tesla. Пока у следствия нет окончательного ответа, виноват ли водитель, система или их сочетание, но Национальное управление безопасностью дорожного движения США, NHTSA, уже открыло специальное расследование по этому ДТП.
Самый жесткий слой этой истории в том, что жертвой стала не пассажир и не пешеход на дороге, а человек в собственной гостиной. Авила жила в доме с дочерью, зятем и тремя маленькими внуками. В момент удара она находилась в передней комнате; остальные члены семьи не пострадали. Дочь погибшей Дженнифер Барбур рассказала местным медиа, что мать не принимала лекарств, была в хорошем состоянии и семья рассчитывала еще на долгие годы рядом с ней. Сейчас родственники живут в отеле и ждут выводов расследования, не понимая, на кого именно ложится вина. Для любой компании, продающей автоматизацию как почти бытовое удобство, это худший возможный сценарий: система выходит за пределы салона автомобиля и превращает продуктовый риск в прямую угрозу для случайных людей, которые в продукт вообще не соглашались участвовать.
Проблема не только в аварии, но и в том, как Tesla продает идею автоматизации
Отдельная неприятность для Tesla в том, что трагедия совпала по времени с ее собственным маркетингом. Как отмечает Ars Technica, уже на следующий день после аварии аккаунт Tesla в X репостнул восторженный комментарий фаната, который фотографировал закат за рулем и называл технологию едва ли не спасительной. Еще раньше, в мае, компания публиковала рекламу, где водители едут с руками вне руля, жестикулируют и даже держат двумя руками кружку с кофе. Формально Tesla и руководство пользователя, и публичные оговорки о необходимости держать руки на руле сохраняют. Но на уровне пользовательского восприятия это работает куда хуже, когда визуальный язык рекламы говорит: расслабься, машина почти все делает сама.
Для продуктовых команд и техдиров эта история выглядит очень знакомо. Когда у продукта есть режим, который юридически называется «помощью», а в интерфейсе, маркетинге и пользовательских кейсах продается как «почти автономия», люди быстро начинают использовать его не по букве инструкции, а по фактическому обещанию бренда. В софте это заканчивается потерянными данными, в транспорте — смертями. И именно поэтому вокруг Tesla уже несколько лет идет спор не столько о наличии ошибок в конкретном коде, сколько о более неприятной вещи: компания продвигает систему так, будто надежность уже достаточно высока для повседневной беспечности, хотя регуляторы и критики с этим явно не согласны.
Контекст у аварии тяжелый и без этого. Еще в 2023 году Tesla отзывала более 2 млн автомобилей, фактически все машины с Autopilot, после того как регуляторы пришли к выводу: система была развернута так, что не обеспечивала постоянную внимательность водителя. Тому отзыву предшествовало расследование NHTSA, начатое в 2021 году после серии аварий и смертельных случаев, связанных с этой функцией. Затем, уже после сокращения команды специалистов в NHTSA, оценивавших безопасность автономного транспорта, у Tesla возникли новые проблемы с Full Self-Driving. На этом фоне в октябре прошлого года агентство открыло еще одну проверку из-за тревожных сообщений о сбоях FSD, а Tesla, по данным источника, затягивала ответ. И теперь авария Tesla Autopilot в Техасе попадает не в пустое поле, а в длинную папку с уже накопленными претензиями.
Почему за этим следят не только юристы, но и вся AV-индустрия
История особенно показательная еще и потому, что происходит в момент, когда регуляторная среда для автопилота в США скорее смягчается, чем ужесточается. По данным Ars Technica, при администрации Дональда Трампа Tesla получила более удобное окно для продвижения своих подходов к автономному транспорту. Компания добивается от NHTSA ослабления как минимум двух правил. Одно из них касается дисплеев, показывающих положение селектора передач: логика Tesla в том, что если машиной управляет автоматизированная система, человеку эта информация уже не нужна. Второе — требования к стеклоочистителям и системам удаления запотевания в машинах, которые полагаются на automated driving system. Tesla прямо утверждает, что прозрачность лобового стекла для человека здесь не критична, потому что система опирается на камеры, а не на обзор пассажира.
Против этого выступает организация Advocates for Highway and Auto Safety. Ее аргумент прост и неприятно земной: даже если машиной управляет автоматика, людям все еще нужно понимать, в какой передаче находится автомобиль, и видеть обстановку снаружи, чтобы безопасно войти, выйти или среагировать на последствия аварии. Это тот случай, когда конфликтуют две инженерные философии. Первая говорит: если система будет достаточно хороша, человеческие органы управления и проверки можно постепенно убрать как наследие прошлого. Вторая отвечает: пока система не доказала надежность в реальном мире, снимать такие предохранители рано. На фоне гибели Авилы тезис о «непроверенности» звучит уже не как осторожность лоббистов безопасности, а как довольно прямой диагноз всей отрасли.
Есть и важный слой для тех, кто работает с AI-продуктами вне автопрома. Tesla, как и многие AV-компании, любит ссылаться на исследование NHTSA 2019 года о том, что 94% аварий связаны с человеческой ошибкой, из чего удобно делать маркетинговый прыжок к выводу: значит, автоматизация почти по определению должна быть безопаснее. Критики напоминают, что в самом исследовании речь шла о «критической причине», связанной с происшествием, а не о юридически или технически установленной причине аварии и не о распределении вины между водителем, машиной и средой. Для рынка это хороший урок о том, как одна цифра, вырванная из методологии, превращается в рекламный аргумент. В ИИ-индустрии такой трюк тоже встречается постоянно: модель неплохо решает класс задач в лаборатории, а продукт уже продают как замену человеку в живой среде с реальными рисками.
Теперь главный вопрос не в том, станет ли эта авария еще одним громким заголовком для Tesla, а в том, где именно регулятор проведет границу между «ассистентом» и системой, которую пользователь неизбежно воспринимает как водителя. Если NHTSA и дальше будет одновременно расследовать смертельные эпизоды и ослаблять требования под будущее без человеческого вмешательства, индустрия автономного транспорта получит сигнал, что рынок можно ускорять даже при незакрытых базовых рисках. Для разработчиков, продактов и фаундеров это неприятное, но полезное напоминание: когда продукт работает в физическом мире, цена двусмысленного UX и агрессивного маркетинга измеряется не конверсией, а человеческой жизнью.