Штраф Uber в Европе составил почти €825 млн — нидерландский регулятор по защите данных считает, что сервис слишком охотно доверил судьбу водителей автоматике. Для IT-бизнеса это не просто очередной спор с госорганом: речь о том, где заканчивается «умная модерация» и начинается незаконное принятие решений без человека.
По данным TechCrunch, Управление по защите данных Нидерландов назначило Uber штраф в €825 млн, что делает его одним из крупнейших взысканий в истории GDPR. Претензия сводится к тому, что аккаунты водителей отключались в автоматическом режиме, без достаточного предупреждения и без надлежащего человеческого контроля. Заместитель председателя регулятора Моник Вердьер сформулировала позицию предельно прямо: компьютер не должен сам принимать решения, которые так сильно влияют на жизнь людей.
Для Uber это особенно болезненно не только из-за суммы. Вопрос упирается в базовую механику платформенного бизнеса: как быстро выявлять мошенничество, жалобы клиентов и подозрительное поведение, если у тебя сотни тысяч исполнителей и гигантский поток инцидентов. Автоматизация здесь давно не опция, а несущая конструкция. Но европейский регулятор, похоже, говорит следующее: автоматизировать можно сколько угодно, только не делайте вид, что финальное решение приняла безличная система и отвечать не за что.
Uber, разумеется, с таким подходом не согласен. Компания заявляет, что большинство блокировок носят временный характер, а постоянные отключения не происходят без участия человека. Кроме того, сервис утверждает, что у водителей есть право на апелляцию. Нидерландский регулятор видит ситуацию иначе: по его версии, часть водителей все же отключали окончательно без достаточной человеческой проверки. Uber уже сообщил, что будет обжаловать решение и считает штраф несоразмерным.
История тянется не первый год и началась не с абстрактной проверки сверху. Французский водитель Брахим Бен Али, лишившийся доступа к платформе еще в 2019 году, собрал свидетельства 170 других водителей и в итоге довел жалобу до Нидерландов, где находится европейская штаб-квартира Uber. В этом ему помогала швейцарская некоммерческая организация PersonalData.io, специализирующаяся на цифровых правах. Ее основатель Поль-Оливье Деайе описал проблему без академического тумана: водитель может выполнить тысячу поездок без претензий, но одной серьезной жалобы достаточно, чтобы последствия оказались максимальными.
Важный нюанс: речь не о разовом конфликте между Uber и конкретным регулятором. По словам Деайе, это уже не первый штраф компании в Нидерландах. До этого был штраф на €290 млн за обращение с персональными данными водителей и еще €10 млн по связанным вопросам. Иными словами, европейские претензии к Uber складываются в серию, а не в случайный эпизод. Более того, все эти дела, как утверждает Деайе, выросли из жалоб одной и той же группы водителей. Теперь он собирается запускать коллективный иск, через который водители смогут добиваться компенсаций, и параллельно строит компанию StartClaims для сопровождения подобных дел — сначала против Uber, затем, вероятно, и против других игроков гиг-экономики, а дальше, возможно, и против adtech-компаний.
На этом месте обычно возникает контраргумент, который многим в индустрии кажется вполне разумным. Если платформе нельзя быстро и автоматически реагировать на мошенничество, отказы от поездок и опасные инциденты, она просто перестанет нормально работать. В обсуждении дела эту позицию озвучил, в частности, Джон Грубер из Daring Fireball: по его мнению, проблема не в том, что «компьютер решил», а в том, что правила задают менеджеры, а система лишь измеряет соблюдение этих правил. Деайе возражает: именно в этом и суть. Если компания наказывает людей, она должна брать на себя ответственность за процедуру и вести себя не как безликий маркетплейс, а как работодатель или как минимум как субъект, принимающий управленческое решение с понятной логикой, проверкой и правом на разбор.
Для разработчиков и продактов здесь сигнал довольно неприятный, но полезный. Любая антифрод-система, trust & safety-модель или ranking engine, которая влияет на доступ человека к работе, заработку, аккаунту или аудитории, перестает быть просто «внутренним ML-инструментом». С точки зрения регулятора это уже часть процесса принятия решений с юридическими последствиями. А значит, одного хорошего ROC-AUC мало. Нужны трассируемость, объяснимость, понятные правила эскалации, журналирование причин, механика апелляции и реальный human-in-the-loop, а не декоративная галочка в презентации для комплаенса.
Для бизнеса вывод еще жестче. Европейский рынок последовательно повышает цену за любимую управленческую привычку крупных платформ: сначала оптимизировать процесс под масштаб, а потом разбираться, кого алгоритм зацепил по касательной. Если раньше спор об автоматических блокировках выглядел как PR-проблема или частный трудовой конфликт, теперь это уже риск почти на миллиард евро. И это меняет разговор не только вокруг Uber. Любой сервис, где алгоритм решает, кто может работать, продавать, публиковаться или получать заказы, придется проектировать не только под нагрузку, но и под право на человеческий разбор. Похоже, следующий большой вопрос для платформенной экономики будет не в том, можно ли отдать санкции алгоритму, а в том, сколько стоит иллюзия, что это все еще просто софт.