OpenAI начнёт маркировать текст ChatGPT водяным знаком в ЕС

OpenAI заявила в блог-посте, что добавит невидимый водяной знак в текст ChatGPT и Codex в Евросоюзе ради соответствия EU AI Act. Правила прозрачности EU AI Act вступили в силу 2 августа и обязывают AI-компании маркировать контент так, чтобы его распознавали другие системы. По данным компании, развёртывание займёт ближайшие недели и охватит подходящих пользователей ChatGPT и Codex на всех тарифах, но только в ЕС.

Разработчики API OpenAI по всему миру могут включить функцию для отдельных моделей; по умолчанию она выключена и глобальным стандартом не становится. Знак не является символом: он незаметно влияет на выбор слов, оставляя невидимый читателю паттерн, который улавливает детектор. Компания заявила, что знак не идентифицирует пользователя и заметных изменений в производительности моделей при его включении не наблюдалось.

Вместе с анонсом опубликован технический отчёт о методе textGrain, написанный с исследователями из Университета Пенсильвании и Йеля. В одном тесте замена 10% слов синонимами снизила обнаруживаемость примерно с 92% до 66%.

Источник: TechCrunch