Вычислить текст, написанный ИИ, можно, но что доказывает детектор?

Ключевой вопрос состоит, поэтому, в следующем: совершил ли человек собственный творческий акт, а ИИ лишь помог ему его реализовать, или человек открыл программу, сказал, напиши мне роман, а потом просто опубликовал полученное. Afp Or Licensors

Роман, претендовавший на крупнейшие французские литературные премии, компьютерная программа почти целиком признала сгенерированным ИИ. Но если мы с недоверием относимся к ИИ, то почему мы должны верить и таким детекторам, которые тоже опираются на ИИ?

Ещё недавно у гаитянско-канадского писателя Тэлисона Орельена (Thélyson Orélien) были все основания рассчитывать на успешную литературную карьеру. Его роман C’était ça ou mourir («Либо так, либо умереть». — Неоф. перевод рус. ред.) получил хорошие отзывы критики, пользовался успехом у читателей и оказался в поле зрения крупнейших французских литературных премий, включая Гонкуровскую премию. Затем анонимный аккаунт в социальной сети X обвинил писателя в том, что почти весь роман создан при помощи искусственного интеллекта. В качестве главного аргумента приводился результат проверки программой Pangram: она сочла более 95% текста сгенерированным ИИ. Орельен категорически отверг все обвинения в подлоге.

Литераторы спорят: одни считают данные Pangram практически полным доказательством подлога, другие напоминают, что алгоритмическая оценка отнюдь не равна однозначному установлению истинного авторства. Позднее история осложнилась ещё больше. В прежних работах писателя были обнаружены отдельные случаи плагиата, а Гонкуровская академия исключила роман из списка претендентов на премию, приняв во внимание как эти находки, так и результаты нескольких анализов, указывавших на возможное масштабное использование автором систем на основе ИИ. Сам писатель по-прежнему отрицает, что искусственный интеллект участвовал в написании романа.

Мануэль Флурин Хендри — швейцарский режиссёр, сценарист и преподаватель. Copyright 2017 Fabian Frost

Швейцарский режиссёр, сценарист и преподаватель Мануэль Флурин Хендри (Manuel Flurin Hendry) считает, что превращать результат программы в публичный приговор автору нельзя ни в коем случае. «Идея о том, что можно загрузить текст в Pangram, а затем фактически публично уничтожить писателя, кажется мне совершенно неприемлемой», — указал он Swissinfo на проходившем 1 октября 2026 года в Цюрихе саммите AI+X, крупной конференции, в центре которой стояли вопросы развития искусственного интеллекта, его практического применения и влияния на бизнес, науку и общество.

При этом Хендри вовсе не выступает против использования искусственного интеллекта в искусстве и отстаивает право художника самому выбирать свои инструменты. В Швейцарии уже есть авторы, которые совершенно открыто работают с генеративным ИИ. Писатель Шарль Левински (Charles Lewinsky), например, включил в свой роман Täuschend echt («До неузнаваемости похоже». — Неоф. перевод рус. ред.) целые фрагменты, созданные ChatGPT, а фотограф Матьё Гафсу (Matthieu Gafsou) использовал в своих проектах генераторы изображений, в том числе DALL-E.

В этих случаях никто из них не пытается скрыть участие машины. Гораздо труднее ответить на вопрос, что делать, когда использование ИИ не раскрывается и, возможно, затрагивает значительную часть произведения. Здесь важно прежде всего договориться о терминах. «Использовать ИИ» можно совершенно по-разному. Одно дело проверить грамматику или попросить несколько вариантов формулировки. Другое — поручить системе переписать абзац. Третье — вместе с ней создавать отдельные фрагменты. И совсем иная ситуация возникает, если модель генерирует основную часть рукописи, а человек затем лишь редактирует результат.

Насколько надёжен Pangram?

Для литературы, этики и авторского права это не одно и то же. Детектор может обнаружить статистические признаки машинного участия, но не способен сам установить, какую именно роль ИИ сыграл в создании произведения. Определять машинный текст ещё несколько лет назад было заметно проще. В 2019 году инженер из IBM Хендрик Стробелт (Hendrik Strobelt) вместе со своими коллегами разработал программу GLTR, один из первых экспериментальных инструментов выявления текстов, которые могли быть созданы большими языковыми моделями.

В 2019 году эксперт IBM Хендрик Стробелт (Hendrik Strobelt) вместе с коллегами разработал GLTR, один из первых экспериментальных инструментов для выявления текстов, которые могли быть созданы большими лингвистическими моделями Courtesy of Hendrik Strobelt

Тогда компания OpenAI ещё только выпустила GPT-2, а ранние модели на основе ИИ писали гораздо шаблоннее и однообразнее сегодняшних. Они чаще выбирали наиболее вероятные слова, воспроизводили типичные конструкции и хуже имитировали индивидуальный стиль. Поэтому и следы машинного происхождения было заметить куда легче. Сегодня ситуация иная. «Теперь модели стали значительно более продвинутыми. Если правильно сформулировать промпт, то они способны очень естественно имитировать самые разные стили», — говорит Стробелт. Современные детекторы вроде Pangram не ищут несколько заранее известных «признаков ИИ», а сами используют машинную классификацию.

При обучении им показывают тексты, достоверно написанные людьми, и максимально близкие по теме тексты, созданные различными языковыми моделями. То есть сегодня машина учится различать эти две группы на гораздо более трудных примерах. Это уже не очевидная ситуация «человеческая статья против очевидно машинного текста». «Важно обучать систему на материалах, которые очень близки по теме друг к другу, чтобы она прежде всего научилась справляться с самыми сложными случаями», — объясняет Стробелт.

Разработанный Стробелтом инструмент выделял зелёным цветом статистически наиболее предсказуемые слова — те, которые с большей вероятностью мог сгенерировать ИИ, жёлтым — менее типичные, а красным и фиолетовым — наиболее неожиданные и, соответственно, скорее написанные человеком. Courtesy of Hendrik Strobelt

При этом далеко не всегда понятно, какие именно статистические свойства текста оказались решающими в каждом конкретном случае. Современный детектор — не таблица с набором правил, а сложная модель, которая учится различать разные виды текстов. Разработчики программы Pangram заявляют, что последняя версия их продукта обладает чрезвычайно высокой точностью и очень низкой долей ложных срабатываний. В собственных тестах компании человеческий текст ошибочно признавался машинным примерно в 0,004% случаев.

Независимые исследования также относят Pangram к наиболее эффективным детекторам и подтверждают, что на длинных текстах он способен показывать очень низкую долю ложных срабатываний. Однако даже хорошие результаты на тестовых выборках не означают, что отдельный вердикт программы автоматически на сто процентов верен. Точность вывода зависит от языка, жанра, длины текста, использованной модели и того, насколько анализируемый материал похож на данные, на которых обучали детектор. Иными словами, высокий показатель Pangram — серьёзный фактор, от которого нельзя просто так отмахнуться, но это всё ещё не эквивалент лингвистического анализа с однозначным результатом.

Лоннеке ван дер Плас и Паоло Италиани из Университета итальянской Швейцарии отмечают, что ИИ-детекторы неточно работают с текстами, написанными не на английском языке, а также с материалами, созданными человеком совместно с искусственным интеллектом. Universita’ Della Svizzera Italiana

Эксперт в области искусственного интеллекта и машинного обучения из Университета итальянской Швейцарии (USI) Паоло Италиани (Paolo Italiani) обращает внимание ещё на один фактор: длину текста. Чем больше материала анализирует система, тем больше статистических данных она получает и тем надёжнее в среднем становится её оценка. Поэтому результат, показывающий очень высокую вероятность использования ИИ на протяжении большого произведения, заслуживает внимательной проверки. Но и он сам по себе не отвечает на главный вопрос: как именно появился текст и какую часть творческой работы выполнил человек.

Чёрный ящик

Лоннеке ван дер Плас (Lonneke van der Plas), профессор Университета итальянской Швейцарии (USI), занимается компьютерным анализом и обработкой человеческого языка. Она указывает и на ещё одну фундаментальную проблему: мы далеко не всегда знаем, почему именно программа решила, что перед ней машинный текст. Чтобы понять, какие характеристики текста влияют на решение системы, потребовались бы специальные исследования. Однако коммерческие детекторы вроде Pangram остаются в значительной степени «чёрными ящиками».

Независимые специалисты не имеют полного доступа к их внутреннему устройству и поэтому не могут подробно реконструировать логику каждого отдельного решения. Такие тесты действительно обнаруживают некоторые особенности, которые чаще встречаются в машинных текстах: например, чрезмерно линейную аргументацию, предсказуемую композицию или определённые статистические особенности. Но ни один такой признак сам по себе ничего не доказывает. Человек тоже может писать предсказуемо и линейно, а современную языковую модель можно специально попросить избегать именно таких стилевых провалов.

Жак де Верра (Jacques de Werra), профессор Женевского университета, специалист в области правовых основ интеллектуальной собственности. Courtesy of Jacques de Werra

Кроме того, большинство подобных инструментов лучше всего работают с английским: именно англоязычных данных больше всего и среди человеческих текстов, и среди материалов, на которых обучались современные модели. Для других языков показатели могут быть хуже. То же относится к узким профессиональным жанрам, экспериментальной прозе и другим типам письма, недостаточно представленным в обучающих данных. Особенно трудно определить происхождение текста, если человек и машина работали над ним вместе. Полностью человеческий и полностью машинный тексты представляют для классификатора более простую задачу, чем документ, который многократно переписывался и человеком, и ИИ.

Новые детекторы уже специально обучают распознавать такие гибридные случаи, однако сама граница становится всё менее очевидной: машинный вклад может находиться не в отдельном предложении, а в структуре, подборе вариантов, последовательных редакциях или нескольких стадиях переписывания. «Такие системы в основном обучались на материалах, которые можно было достаточно уверенно отнести либо к человеческим, либо к машинным. Как только появляется что-то промежуточное, задача становится гораздо сложнее», — говорит ван дер Плас.

Детектор не заменяет юридического расследования

С юридической точки зрения один лишь процентный показатель, выданный Pangram или аналогичной системой, не доказывает, что автор совершил обман. «Судебное решение нельзя основывать исключительно только на таких технологиях, потому что они могут ошибаться», — говорит Жак де Верра (Jacques de Werra), профессор Женевского университета и специалист по правовым основам интеллектуальной собственности. Если бы спор, подобный делу Орельена, дошёл до суда, то пришлось бы изучать не только результаты детектора, но и историю создания произведения: первоначальные рукописи, последовательные версии текста, историю правок, черновики и, если они сохранились, диалоги автора с системами искусственного интеллекта.

И тогда вопрос звучал бы уже иначе: не «какой процент показала программа?», а «как на самом деле возник этот текст?». Но даже частичное использование ИИ само по себе ещё не означает автоматической утраты человеком своих авторских прав. Важен человеческий творческий вкладВнешняя ссылка. «Если человек способен показать достаточно тесную творческую связь между собственным вкладом, творческим использованием ИИ и полученным результатом, то при определённых обстоятельствах вполне можно будет говорить о человеческом творчестве», — поясняет де Верра.

Швейцарское право по-прежнему исходит из того, что автором может быть только человек. Обычного обращения к генеративной системе недостаточно для того, чтобы лишить его авторства. Ключевой вопрос состоит, поэтому, в следующем: совершил ли человек собственный творческий акт, а ИИ лишь помог ему его реализовать, или человек открыл программу, сказал, напиши мне роман, а потом просто опубликовал полученное. При этом никакой универсальной цифры не существует: нет правила, согласно которому роман для того, чтобы считаться «человеческим» произведением, должен быть написан человеком, например, на 70 или 90 процентов. Поэтому попытка измерить «алгеброй гармонию» в юридическом смысле мало что решает и мало на что указывает.

А если книга, даже созданная ИИ, всё равно людям нравится?

С точки зрения Мануэля Флурина Хендри проблема выходит далеко за пределы права. Искусство всегда создавалось при помощи технических инструментов: кинокамеры, монтажного оборудования, компьютерной графики, программ обработки изображения и звука. Генеративный ИИ продолжает эту линию, но одновременно он создаёт принципиально новую ситуацию: инструмент теперь способен сам производить связный текст, изображение или музыку. Поэтому спор постепенно смещается от простого вопроса «использовал ли автор ИИ?» к гораздо более сложному: кто на самом деле принимал творческие решения? Кто отвечал за форму произведения? И насколько существенным был человеческий вклад?

А у читателя возникает и ещё один неудобный вопрос. Если книга заставляет смеяться, плакать, сопереживать героям или иначе смотреть на мир, меняется ли её художественная ценность от того, что в процессе её создания участвовала машина? А если меняется, то в какой именно момент — после проверки орфографии, после переписанного абзаца или только тогда, когда основную литературную работу выполнил алгоритм? Готовых ответов на эти вопросы пока нет. Но история вокруг романа Тэлисона Орельена показывает, что различать придётся как минимум три вещи: участие искусственного интеллекта в работе над текстом, человеческое авторство и намеренный обман.

Это не одно и то же. ИИ-детекторы становятся всё точнее и могут быть полезным инструментом проверки. Высокий показатель действительно нельзя просто игнорировать. Но статистический результат ещё не доказывает происхождение текста, а вероятность не может служить приговором. Когда на кону стоят репутация писателя, литературная карьера и авторские права, одна цифра на экране должна быть началом проверки, а не её финалом.

Читайте также:

Перевод с итальянского. Русскоязычная версия под редакцией НК, ИП, АП.

Предпочитать Swissinfo в Google

Смотрите больше материалов Swissinfo в результатах поиска Google. Узнать больше

Закрыть