Новые правила регулирования искусственного интеллекта в Европе вынуждают разработчиков внедрять механизмы идентификации машинного контента. Согласно официальному заявлению пресс-службы компании OpenAI, в ближайшие недели сервис ChatGPT и модель Codex начнут снабжать генерируемые сообщения невидимыми водяными знаками для пользователей на территории Европейского Союза. Данная инициатива напрямую продиктована требованиями Закона ЕС об искусственном интеллекте, который обязывает обеспечивать возможность машинного распознавания материалов, созданных генеративными системами.
В основе новой системы лежит технология под названием textGrain. Принцип ее работы заключается в модификации статистических параметров при выборе слов моделью в процессе генерации. Это позволяет создать скрытый сигнал, который остается незаметным для человеческого глаза. Важно подчеркнуть, что процесс маркировки не сопровождается добавлением лишних пробелов, специальных символов или изменениями в пунктуации. Для проверки наличия метки используется специализированный аналитический инструмент.
Однако разработчики из OpenAI предупреждают о технических нюансах и ограничениях метода. Эффективность обнаружения сигнала напрямую коррелирует с объемом предоставленного текста. Кроме того, значительная переработка контента, его перевод на другие языки или глубокое редактирование могут привести к ослаблению или полной потере водяного знака.
Для сегмента API OpenAI, куда входят сторонние разработчики и организации, интегрирующие нейросети в свои продукты, функционал уже запущен для некоторых моделей. В настройках данной функции предусмотрена возможность ее ручного включения, при этом в исходном состоянии маркировка остается выключенной.
Подобный путь развития уже выбрала компания Anthropic. Еще в августе разработчики внедрили аналогичную систему идентификации для своих новых моделей Claude, утверждая, что маркировка не портит читаемость и сохраняется даже после некоторых манипуляций с текстом.
Тем не менее экспертное сообщество сохраняет определенный скептицизм относительно абсолютной точности таких методов. Илья Петухов, курирующий развитие AI-продуктов в компании Directum, в интервью Радио РБК отметил:
Серьезное редактирование нейросетевого текста способно нивелировать работу водяного знака.
По мнению специалиста, использование такой технологии позволяет лишь подтвердить участие ИИ в создании конкретного фрагмента, но не может служить неоспоримым доказательством того, что весь текст был полностью сгенерирован машиной.
