OpenAI начала маркировать ИИ-тексты водяными знаками в ChatGPT
OpenAI начнет помечать сгенерированный текст с помощью собственной технологии TextGrain. Нововведения связаны с требованиями закона ЕС об искусственном интеллекте.
В ближайшие недели компания запустит маркировку сгенерированных текстов в ChatGPT и Codex во всех тарифных планах в странах Евросоюза. Отключить эти метки нельзя.
С 5 октября 2026 г. пользователи по всему миру по желанию могут включить или отключить водяные знаки внутри текста в последних моделях OpenAI в API.
Технология TextGrain добавляет невидимые сигналы к словам, подобранным моделью. Тесты исследователей показали, что чем короче текст, тем сложнее обнаружить в нем ИИ-метку. Сложности возникают, когда свобода выбора слов меньше, например в математике.
Редактирование также влияет на точность распознавания. В тесте с фрагментом из 400 токенов замена 25% слов на синонимы снизила показатель обнаружения с 92% до 17%.
OpenAI предоставляет доступ к своему детектору ИИ-текстов с метками собственных моделей ограниченному кругу одобренных исследователей. Для этого нужно подать заявку на сайте. В будущем планируют выложить исходный код технологии.
