OpenAI встраивает в тексты ChatGPT невидимые водяные знаки: кто попадётся первым
Сегодня, 5 октября, издание Код.ру сообщило: OpenAI внедряет невидимые водяные знаки для текста в ChatGPT и Codex — инструменте компании для программистов. Новость вышла на фоне целой волны сегодняшних публикаций об OpenAI.
Подтверждённых деталей о сроках запуска и охвате у меня пока нет, поэтому гадать о них не буду. Зато можно объяснить, как такая метка устроена в принципе.
Как метку прячут в словах
Глазами её не найти. В тексте нет лишних символов, скрытых пробелов или особого шрифта: в схеме, которая описана в научных работах, всё держится на статистике.
Нейросеть пишет по одному слову и каждый раз выбирает из нескольких подходящих вариантов. Водяной знак слегка подталкивает этот выбор: по секретному ключу часть слов получает небольшое преимущество. Читатель видит обычный гладкий текст.
Программа-детектор, знающая ключ, считает, как часто встречаются «подсказанные» слова. У человека они выпадают случайно, у помеченной машины — заметно чаще, чем по случайности.
Похоже на монетку, которая слишком часто падает орлом. Один бросок ничего не докажет, сотня — уже улика. Какую именно схему выбрала OpenAI, из сообщения неясно: я описываю общий принцип.
Кому станет неуютно
Нынешние детекторы «написано ИИ» угадывают по стилю и нередко ошибаются: под подозрение попадают и те, кто писал сам. Метка от разработчика меняет расклад — это уже проверка по ключу, а не по ощущению.
Первыми разницу почувствуют те, кто сдаёт машинный текст как свой:
- студенты с курсовыми и дипломами;
- школьники с сочинениями и эссе;
- копирайтеры, которым платят за авторский текст;
- офисные сотрудники с отчётами и письмами от своего имени.
Это прогноз, и в нём есть слабое место. Неизвестно, кому дадут доступ к проверке: вузам, работодателям или никому. Пока детектор не в чужих руках, метка остаётся внутренним делом компании.
Офис тут не в стороне. Недавно суд признал законным увольнение топ-менеджера из-за нейросети — работодателю и без меток было что предъявить. С ними спор «сам писал или нет» может стать короче.
Пользоваться можно, выдавать за своё рискованнее
Мне кажется, главный сдвиг здесь психологический. Пока проверить нельзя, соблазн выдать чужое за своё почти ничего не стоит. Когда в тексте может сидеть подпись, которую вы не видите, у этого соблазна появляется цена.
Сам инструмент никуда не девается. Набросать план, проверить логику, найти слабое место в черновике — нормальная работа. Вопрос лишь в том, чьё имя стоит под результатом.
А вы бы хотели, чтобы в вашем вузе или на работе тексты проверяли на такую метку — или это уже лишний контроль?
