Текстовый водяной знак LLM: не нужно бояться, нужно знать
Habr ·
Claude уже ввели, а OpenAI уже вводят в вывод текстовых моделей водяные знаки. На хабре уже было достаточно хороших статей, поясняющих как это работает: Как работает текстовый водяной знак в Claude https://habr.com/ru/articles/1076018/ Как работают текстовые ИИ-вотермарки и как их обходить https://habr.com/ru/articles/1069654/ не буду писать, для чего вы можете захотеть удалить вотермарки у текста, к которому прикасался ИИ: может это отчет для заказчика на основе потенциально конфиденциальных данных, может научная работа, может проза за авторство которой вы в ответе. Так или иначе, вы не хотите, чтобы кто-то когда-то, когда детекторы водяных знаков попадут так или иначе в общий доступ, уличил ваши тексты в ИИ-слопе. Допустим вы прочил статьи выше и понимаете как в теории это работает, но как удалить вотермарку? Автор статьи https://habr.com/ru/articles/1069654/ Предлагает прогонять текст через рерайтинг другими моделями. Но насколько сильно нужно перефразировать? Вот есть перед вами портянка нейрослопа, который вас устраивает, но вы не хотите чтобы некий детектор в будущем уверенно пометил текст как сгенерированный. Как много надо править? А если другая нейронка будет править, а у неё тоже встроена вотермарка – что будет в итоге? Текст с двумя водяными знаками сразу? И насколько уверенно они будут там находиться? А что, если вы попросили в своём написанном руками тексте поправить ошибки, пунктуацию и переписать получше пару абзацев? Это уже будет детектироваться как слоп или ещё нет? А программный код – там вообще где эти вотермарки будут расположены? Ютиться в комментах? В лишних скобках? А именах переменных? Давайте поэкспериментируем
Claude уже ввели, а OpenAI уже вводят в вывод текстовых моделей водяные знаки. На хабре уже было достаточно хороших статей, поясняющих как это работает: Как работает текстовый водяной знак в Claude https://habr.com/ru/articles/1076018/ Как работают текстовые ИИ-вотермарки и как их обходить https://habr.com/ru/articles/1069654/ не буду писать, для чего вы можете захотеть удалить вотермарки у текста, к которому прикасался ИИ: может это отчет для заказчика на основе потенциально конфиденциальных данных, может научная работа, может проза за авторство которой вы в ответе. Так или иначе, вы не хотите, чтобы кто-то когда-то, когда детекторы водяных знаков попадут так или иначе в общий доступ, уличил ваши тексты в ИИ-слопе. Допустим вы прочил статьи выше и понимаете как в теории это работает, но как удалить вотермарку? Автор статьи https://habr.com/ru/articles/1069654/ Предлагает прогонять текст через рерайтинг другими моделями. Но насколько сильно нужно перефразировать? Вот есть перед вами портянка нейрослопа, который вас устраивает, но вы не хотите чтобы некий детектор в будущем уверенно пометил текст как сгенерированный. Как много надо править? А если другая нейронка будет править, а у неё тоже встроена вотермарка – что будет в итоге? Текст с двумя водяными знаками сразу? И насколько уверенно они будут там находиться? А что, если вы попросили в своём написанном руками тексте поправить ошибки, пунктуацию и переписать получше пару абзацев? Это уже будет детектироваться как слоп или ещё нет? А программный код – там вообще где эти вотермарки будут расположены? Ютиться в комментах? В лишних скобках? А именах переменных? Давайте поэкспериментируем