Невидимый след нейросети: OpenAI помечает тексты ChatGPT для Европы
Компания внедряет скрытую систему маркировки, которую невозможно распознать глазами, но можно выявить с помощью специального детектора.
OpenAI анонсировала запуск технологии невидимых водяных знаков, которые будут внедряться в материалы, созданные или отредактированные при участии ChatGPT. В первую очередь новшество заработает для жителей стран Евросоюза — это произойдёт в течение нескольких недель. Соответствующее сообщение опубликовано на сайте компании.
Разработка получила имя textGrain. Её ключевое отличие от традиционных водяных знаков в том, что в текст не добавляются скрытые символы, лишние пробелы или особая пунктуация. Вместо этого алгоритм незаметно корректирует статистические закономерности подбора слов моделью. Для обычного читателя такой материал внешне ничем не выделяется.
Метка способна появляться не только в текстах, целиком написанных ChatGPT. Она также может сигнализировать о том, что система OpenAI участвовала в обработке или редактировании фрагмента. Однако по знаку невозможно судить, насколько весомым был вклад человека в конечный результат.
В OpenAI акцентируют: обнаружение метки не даёт возможности вычислить конкретного пользователя, его аккаунт, запросы или переписку с чат-ботом. Водяной знак также не подтверждает правдивость текста и не устанавливает его авторство с юридической точки зрения.
У технологии есть и слабые места. Если материал серьёзно переписать, перефразировать или перевести, метка может стать менее различимой для системы поиска. Особую сложность представляет её выявление в коротких текстах.
Параллельно OpenAI открывает доступ к детектору textGrain, который умеет находить такие отметки. Правда, на старте инструмент получат лишь одобренные исследователи и профильные организации — общедоступным сервисом он пока не сделают.
Применение технологии в Евросоюзе продиктовано нормами европейского закона об искусственном интеллекте, который требует машиночитаемой идентификации сгенерированного контента. За пределами ЕС обязательное глобальное включение водяных знаков на первом этапе не предусмотрено.
Уважаемые читатели «Царьграда»!
Присоединяйтесь к нам в соцсетях ВКонтакте, Одноклассники, Telegram.
Подписывайтесь на наш канал в Дзене. Там все самое интересное.