OpenAI готує невидимий водяний знак для текстів ChatGPT у ЄС

OpenAI готує новий спосіб маркування матеріалів, створених за допомогою ChatGPT і Codex. Компанія починає впроваджувати прихований водяний знак для текстів у країнах Європейського Союзу. Користувачі не бачитимуть його у звичайному документі, однак спеціальні інструменти зможуть аналізувати текст і визначати ймовірне походження його фрагментів.

Таке рішення пов’язують із набуттям чинності вимог європейського законодавства про штучний інтелект. Нові правила передбачають більшу прозорість під час використання генеративних моделей, зокрема у випадках, коли контент може сприйматися як створений людиною. Приховане маркування має стати одним із технічних способів повідомити про участь штучного інтелекту у створенні матеріалу.

Навіщо текстам ChatGPT прихований водяний знак

Водяний знак у тексті відрізняється від звичайного підпису або видимого повідомлення на кшталт «створено штучним інтелектом». Він не змінює зовнішній вигляд статті, листа, програмного коду чи іншого документа. Його призначення полягає у формуванні особливих статистичних або структурних ознак, які можуть бути непомітними для читача, але доступними для спеціальної системи перевірки.

Такий підхід потенційно допоможе медіа, освітнім закладам, державним установам і бізнесу краще оцінювати походження цифрового контенту. Наприклад, редакція зможе перевірити, чи був новинний матеріал повністю написаний людиною, чи під час підготовки використовувалися можливості ChatGPT. Викладачі отримають додатковий інструмент для аналізу студентських робіт, а компанії зможуть контролювати використання генеративних сервісів у внутрішній документації.

Водночас водяний знак не повинен сприйматися як абсолютний доказ авторства. Будь-який автоматизований детектор може помилятися, особливо якщо текст редагували, перекладали, скорочували або доповнювали вручну. Крім того, зміна формулювань, повторне форматування чи обробка за допомогою іншої мовної моделі можуть послабити або повністю зруйнувати ознаки маркування.

Як вимоги ЄС змінюють роботу генеративного ШІ

Європейський підхід до регулювання штучного інтелекту передбачає, що користувачі мають розуміти, коли взаємодіють із системою ШІ або отримують контент, створений такою системою. Особлива увага приділяється матеріалам, які можуть впливати на громадську думку, поширювати дезінформацію або створювати хибне уявлення про реальних людей, події та документи.

Текстове маркування є складнішим завданням, ніж водяні знаки на зображеннях. У фотографії чи відео можна змінити окремі пікселі, не впливаючи помітно на якість. У тексті ж кожне слово має значення, а будь-яка зміна синтаксису може погіршити читабельність. Тому OpenAI, ймовірно, має шукати баланс між надійністю і непомітністю технології.

Для користувачів у ЄС це може означати поступову появу нових технічних механізмів у ChatGPT та інших продуктах OpenAI. Маркування може застосовуватися під час генерації тексту, програмного коду, технічних описів і відповідей для бізнес-користувачів. Водночас конкретний формат роботи системи, її доступність для сторонніх перевірок і точність визначення походження матеріалів залежать від остаточної реалізації.

Важливим залишається питання зберігання та обробки даних. Якщо перевірка водяного знака відбуватиметься через окремий сервіс, користувачі захочуть знати, чи передається туди весь текст, як довго він зберігається і чи може він використовуватися для навчання моделей. Для європейської аудиторії вимоги до приватності є не менш важливими, ніж сама можливість ідентифікації контенту, створеного штучним інтелектом.

Що це означає для авторів і компаній

Поява прихованого водяного знака не забороняє користуватися ChatGPT. Його мета полягає не в обмеженні генерації текстів, а у підвищенні прозорості. Автори зможуть застосовувати ШІ для пошуку ідей, підготовки чернеток, перекладу, редагування або написання коду, але в окремих сферах їм доведеться чіткіше позначати роль автоматизованих інструментів.

Для медіа та контентних команд це може призвести до оновлення редакційних правил. У компаніях з’являться вимоги щодо перевірки матеріалів перед публікацією, збереження історії редагувань і розмежування людської та машинної роботи. Освітні установи, своєю чергою, можуть використовувати водяний знак лише як один із сигналів, а не як єдину підставу для звинувачень у нечесності.

Розробникам програмного забезпечення також доведеться враховувати нові правила. Код, створений за допомогою Codex, може містити приховані ознаки походження, однак це не замінює перевірку безпеки, ліцензій і якості. Компанія, яка використовує згенеровані фрагменти у власному продукті, все одно має перевірити їх на вразливості, сумісність і відповідність внутрішнім стандартам.

Експерти очікують, що технології маркування ШІ-контенту розвиватимуться паралельно з методами обходу таких систем. Саме тому прихований водяний знак навряд чи стане універсальним рішенням проблеми. Він може підвищити рівень довіри до цифрового середовища, але лише разом із прозорими правилами, відповідальністю платформ і критичним ставленням користувачів до будь-якого контенту.

Для Європейського Союзу запуск такого механізму стане черговим кроком до формування стандартів використання генеративного штучного інтелекту. Якщо технологія покаже стабільні результати, подібні вимоги можуть поширитися і на інші ринки. У підсумку текст, створений ChatGPT, не обов’язково матиме видимий напис, проте його походження дедалі частіше намагатимуться встановити за допомогою технічних інструментів.