NewsBelarus

От столицы до регионов

ChatGPT начнёт помечать ИИ-тексты невидимыми «водяными знаками»

OpenAI внедрит в ChatGPT и Codex технологию textGrain для маркировки текстов, созданных с помощью её моделей. Компания предупредила, что способ работает не во всех случаях.

Система не добавляет скрытых символов или невидимых пробелов. Вместо этого она меняет вероятности выбора слов и их частей, создавая статистическую закономерность, которую обнаруживает специальный детектор. Для пользователей из ЕС маркировка станет обязательной в ближайшие недели. Клиенты OpenAI API по всему миру могут включить её вручную, но по умолчанию функция неактивна.

Точность проверки зависит от длины и характера текста. В тестах при 1% ложных срабатываний детектор находил водяной знак в 80% текстов длиной 200 токенов и в 95% текстов на 400 токенов. Замена 10% слов синонимами снизила долю обнаружений с 92 до 66%, а замена четверти слов — до 17%. На первом этапе проверять тексты смогут одобренные исследователи и профильные организации. В дальнейшем OpenAI планирует открыть технологию textGrain для других разработчиков.