В книге The Future of Truth, которая должна была объяснить, как искусственный интеллект искажает представление о реальности, нашли больше полудюжины вымышленных или неверно приписанных цитат. История быстро превратилась в показательный кейс про использование ИИ в медиа: проблема уже не в том, помогает ли нейросеть автору, а в том, где заканчивается помощь и начинается текст, за который потом никто не может внятно ответить.
Повод запустил материал The New York Times, а дальше в ситуацию влезла уже сама редакция Wired, сообщает Wired. Речь идет о книге Стива Розенбаума The Future of Truth. После публикации выяснилось, что в ней есть более шести цитат, которые либо были выдуманы, либо приписаны не тем людям. Розенбаум в ответ признал, что в текст попало «несколько» некорректно атрибутированных или синтетических цитат. Ирония тут слишком очевидна, чтобы ее отдельно проговаривать: книга о том, как ИИ размывает правду, сама оказалась под подозрением из-за того, как автор пользовался ИИ.
На этом история не закончилась. Ранее Wired публиковал 1450-словный отрывок из книги. Фактчекинг, по словам редакции, подтвердил корректность цитат и фактов именно в этом фрагменте. Но потом в редакцию пришло письмо от читателя, который назвал текст «явно написанным ИИ». Это важная деталь, потому что у Wired есть собственная редакционная политика: издание запрещает публиковать тексты, сгенерированные или отредактированные генеративным ИИ. Дополнительный вопрос возник после чтения раздела с благодарностями, где Розенбаум перечислил инструменты, помогавшие ему «уточнять и шлифовать подачу идей»: ChatGPT, Claude, NaturalReaders, ProWritingAid и Grammarly. Для редакции и читателей это уже не нюанс формулировки, а вопрос о границах авторства.
Дальше Wired сделал то, что сегодня делает почти любой редактор или комплаенс-менеджер, когда чувствует запах синтетического текста: прогнал материалы через детекторы. Отрывок проверили в Pangram, GPTZero и ZeroGPT, и все сервисы показали высокую вероятность того, что текст либо создан ИИ, либо сильно им поддержан. Сама редакция отдельно оговаривает, что такие инструменты ошибаются и могут давать ложные срабатывания. Но затем журналист Wired проверил через Pangram уже полный текст книги, и результат оказался еще неприятнее: 53 процента текста сервис посчитал ИИ-сгенерированным, еще 9 процентов — вероятно ИИ-ассистированным. Издатель BenBella Books на запросы не ответил, а Simon & Schuster, который распространяет книги BenBella в США, комментировать ситуацию отказался.
Сам Розенбаум линию защиты выбрал довольно нервную. Обсуждать корректность выводов Pangram он не захотел вовсе и сравнил сам формат обвинения с вопросом, на который невозможно нормально ответить. При этом от общего описания своего процесса не уклонился. По его словам, на ранних этапах он использовал ИИ как поисковую систему для более исследовательских частей книги. В разговоре с журналистом он даже попросил ChatGPT описать самого автора материала и зачитал результат вслух. Когда его спросили прямо, мог ли он копировать в черновик сгенерированные фрагменты, а потом редактировать их под себя, ответ стал гораздо менее уверенным. Сначала он начал объяснять, что так «не пишут». Потом признал, что в принципе мог бы скопировать текст, вставить в документ, дописать вокруг и отредактировать. На вопрос, делал ли он так в этой книге, Розенбаум ответил: «Не помню». Для книги о правде это, мягко говоря, не лучший режим управления риском.
В этой точке спор перестает быть частной проблемой одного автора и становится разговором о рынке. Розенбаум сослался на исследование Muck Rack, где говорится, что ИИ используют 82 процента журналистов. Но Wired уточнил важную вещь: в эту статистику входят и расшифровка интервью, и поиск информации через чат-боты. То есть под одной цифрой лежат совсем разные практики. Когда Muck Rack попросили дать более детальную разбивку, выяснилось, что только четверть опрошенных использовала ИИ именно как помощь в написании текста. Это уже совсем другой разговор. Одно дело — получить транскрипт созвона или черновик FOIA-запроса. Другое — незаметно встраивать сгенерированные предложения в текст, который потом продается как авторская работа и проходит через редакцию как человеческий продукт.
Для русскоязычной IT-аудитории здесь полезен не моральный, а прикладной вывод. Использование ИИ в медиа перестало быть темой для общих дискуссий про «новую нормальность» и стало обычной задачей управления качеством. Если автор, редактор или продуктовая команда не могут восстановить путь происхождения текста, у них нет ни прозрачности, ни воспроизводимости, ни нормального ответа на претензии. Это касается не только журналистики. Та же проблема легко переезжает в документацию, маркетинговые тексты, investor updates, HR-коммуникации и публичные исследования компаний. Если в пайплайне участвуют ChatGPT, Claude или любые редакторские ассистенты, бизнесу приходится решать вполне земные вопросы: что именно разрешено, где нужен лог источников, кто отвечает за фактчекинг, и можно ли потом доказать, что спорный фрагмент написал человек, а не модель с богатой фантазией.
История с The Future of Truth неприятна не потому, что кто-то снова поймал автора на любви к ИИ. Неприятно другое: даже после публичного скандала границы использования инструментов остались размыты, а сам автор фактически признал, что не способен точно реконструировать собственный процесс работы. Для отрасли это, вероятно, главный сигнал. Вопрос уже не в том, пустят ли ИИ в редакции и контент-команды — его давно пустили. Вопрос в том, появятся ли у индустрии внятные правила, которые отделяют поиск, расшифровку и редактуру от соавторства машины, пока доверие к тексту не стало еще одним расходником в цепочке производства контента.