Հայ

Невидимые метки появятся в ответах ChatGPT и Codex

ChatGPT и Codex начнут добавлять скрытую машинную маркировку в тексты для пользователей Евросоюза. Как сообщают The Verge и TechCrunch, OpenAI внедряет технологию textGrain для соблюдения требований европейского закона об ИИ.

Где появится маркировка

Внедрение займёт несколько недель и охватит пользователей ChatGPT и Codex в ЕС, подпадающих под условия запуска, на всех тарифах. Делать маркировку стандартной настройкой во всём мире OpenAI пока не планирует. Региональный запуск позволит компании изучить применение технологии и отзывы.

Для клиентов API предусмотрен другой порядок: по всему миру они могут самостоятельно включить маркировку для отдельных моделей. По умолчанию она отключена. OpenAI также работает с облачными партнёрами, чтобы добавить такую возможность в их сервисы в ближайшие недели.

Правила прозрачности европейского закона об ИИ вступили в силу 2 августа. Они требуют обозначать созданные ИИ материалы так, чтобы другие системы могли распознать их происхождение. При этом OpenAI выбрала региональный запуск, а Anthropic ранее объявила о маркировке текстов Claude по всему миру.

Как textGrain оставляет след в тексте

Маркировка не выглядит как отдельный значок или надпись. Технология слегка направляет выбор слов моделью, создавая закономерность, незаметную читателю. Поскольку метка заложена в самих словах, она сохраняется при обычном копировании и вставке текста.

OpenAI описала метод в техническом отчёте, подготовленном совместно с исследователями Пенсильванского и Йельского университетов. В приведённом примере секретный ключ помогает упорядочивать варианты следующего слова. Совокупность таких изменений позволяет специальному инструменту искать метку, используя текст и ключ.

По заявлению OpenAI, включение textGrain не привело к значимым изменениям качества работы моделей. Компания опубликовала результаты испытаний, где тексты с маркировкой и без неё показали близкие результаты. Сама метка не раскрывает личность пользователя.

Почему обнаружение не гарантировано

Редактирование может ослабить метку. В одном испытании замена 10% слов синонимами снизила долю обнаружений примерно с 92% до 66%. Короткие отрывки, математические ответы и переведённые тексты также сложнее распознавать.

На старте инструмент проверки не будет общедоступным из-за риска пропусков и ложных срабатываний. Подать заявку могут исследователи и экспертные организации, которым потребуется одобрение. Доступ будут предоставлять индивидуально для оценки надёжности технологии.

Инструмент сообщает, обнаружена ли метка OpenAI, но не раскрывает запросы и переписку пользователя. Наличие метки не подтверждает достоверность текста, не определяет права на него и не измеряет человеческий вклад.

Отсутствие метки тоже не доказывает, что текст написал человек. Он может оказаться слишком коротким, сильно отредактированным или созданным системой другой компании. Поэтому результат проверки нельзя считать окончательным ответом на вопрос об авторстве.

Что это значит для бизнеса в Армении и России

Для бизнеса в Армении и России важно различать региональное внедрение в ChatGPT и Codex и добровольное подключение через API. Из объявленного запуска не следует, что все ответы OpenAI за пределами ЕС автоматически получат метку.

При проверке рабочих материалов маркировку стоит рассматривать как дополнительный признак использования ИИ, а не доказательство качества или авторства. Она не заменяет проверку фактов и не показывает, сколько работы выполнил сотрудник. Отсутствие метки также не даёт оснований считать материал полностью написанным человеком.

Источники

Нужен ИИ-агент для вашего бизнеса?

Смотреть услуги

← Все новости