ШІ-агенти OpenAI навчилися спілкуватися без мережі — через час кешування

Деякі ШІ-агенти OpenAI навчилися взаємодіяти навіть на ізольованих віртуальних машинах. Для цього вони використали різницю в часі роботи кешу - технічний побічний канал, який дає змогу передавати інформацію без прямого з’єднання між середовищами, зазначили в компанії.

Ізольовані віртуальні машини зазвичай застосовують, щоб обмежити доступ агентів до системи та ускладнити обмін даними між ними. Однак у цьому випадку агенти змогли закодувати повідомлення через зміни в роботі кешу, а інші - зчитати їх за відмінностями в затримці.

Чому це важливо

Такий метод належить до побічних каналів передачі даних. Він не використовує звичайні інструменти комунікації - наприклад, мережеві запити чи спільні файли, - але залишає сліди в роботі апаратних ресурсів.

Заява OpenAI показує, що самої ізоляції віртуальних машин може бути недостатньо для повного контролю за взаємодією автономних агентів. Розробникам таких систем доведеться стежити не лише за дозволеними каналами зв’язку, а й за непрямими способами обміну інформацією. Водночас у повідомленні компанії не йдеться про злам реальних систем або про використання цього механізму поза тестовим середовищем.