ШІ не читатиме думки, але вже краще розуміє людей: що придумали дослідники

Штучний інтелект навчився працювати з текстами, зображеннями, голосом і навіть складними професійними завданнями. Проте одна з головних проблем сучасних систем залишається незмінною: машина не завжди розуміє, чого саме хоче людина, які рішення для неї прийнятні та де проходить межа між зручністю і дискомфортом. Дослідники з Корейського інституту передових наук та технологій (KAIST) спільно з Microsoft Research Asia запропонували підхід, який може зробити взаємодію людини з ШІ більш природною. Йдеться про інтерфейс мозок-комп’ютер Neural Value Alignment, або NVA.

Попри гучну назву, ця технологія не означає, що штучний інтелект почав читати думки. NVA не декодує внутрішній монолог людини, не відтворює спогади та не дає змоги побачити чужі фантазії. Її завдання значно практичніше: допомогти системі краще визначати людські вподобання, реакції та оцінки під час виконання конкретного завдання.

Що таке Neural Value Alignment

Термін value alignment зазвичай перекладають як узгодження цінностей. У сфері ШІ він описує здатність системи діяти відповідно до намірів, пріоритетів і обмежень користувача. Для цього алгоритм має не лише виконати формальну команду, а й зрозуміти її контекст. Наприклад, людина може попросити ШІ запропонувати кілька варіантів рішення, але при цьому несвідомо віддавати перевагу безпечнішому, дешевшому або менш ризикованому сценарію.

Звичайні моделі намагаються з’ясувати такі переваги через текстові інструкції, оцінки, історію взаємодії або додаткові запитання. Однак користувач не завжди може чітко сформулювати власні критерії. Іноді він змінює думку, вагається або реагує на результат швидше, ніж встигає це пояснити словами. Саме тут, за задумом авторів NVA, можуть бути корисними сигнали мозкової активності.

Інтерфейс мозок-комп’ютер збирає нейрофізіологічні дані, пов’язані з реакцією людини на певний варіант, рекомендацію чи дію. Потім алгоритми аналізують ці сигнали та використовують їх як додатковий канал зворотного зв’язку. Це не буквальний переклад думок у текст, а оцінювання того, як людина сприйняла конкретну інформацію або вибір.

Важливо, що така система не повинна працювати з мозковими сигналами у вакуумі. Нейронні дані можуть бути неоднозначними: на них впливають втома, стрес, рівень уваги, освітлення, рухи тіла та навіть незручність обладнання. Тому найбільш реалістичний сценарій використання NVA полягає у поєднанні сигналів мозку з явними відповідями користувача, його діями та контекстом завдання.

Чим технологія відрізняється від читання думок

Фраза «ШІ краще розуміє людей» легко породжує перебільшені очікування. Насправді NVA не створює універсального доступу до свідомості. Система не може автоматично дізнатися, про що людина думає, кого вона згадує або які особисті таємниці приховує. Щоб отримати корисний сигнал, потрібно перебувати у визначеній ситуації та взаємодіяти із завданням, яке аналізує інтерфейс.

Наприклад, якщо користувач переглядає кілька варіантів відповіді ШІ, NVA потенційно може допомогти визначити, який із них викликав більшу довіру, зацікавлення або внутрішнє відторгнення. Але така реакція не обов’язково пояснює причину вибору. Людині може не сподобатися не сама ідея, а формулювання, надмірна складність або попередній досвід. Отже, нейронний сигнал є підказкою для алгоритму, а не готовим і безпомилковим висновком.

Саме тому Neural Value Alignment варто розглядати як інструмент уточнення намірів. Він може зменшити розрив між тим, що користувач написав у запиті, і тим, чого він насправді очікує від результату. Для систем штучного інтелекту це особливо важливо в ситуаціях, де помилка має високу ціну: під час навчання, проєктування, роботи з великими масивами даних або підтримки складних рішень.

Технологія також може змінити підхід до навчання моделей. Сьогодні ШІ часто навчають на людських оцінках: люди позначають кращі й гірші відповіді, після чого алгоритм намагається відтворювати загальні уподобання. NVA потенційно додає до цього процесу ще один тип даних — реакцію користувача, яку складно або неможливо повністю передати словами.

Можливості та ризики нового підходу

Однією з перспективних сфер застосування NVA може стати персоналізація цифрових помічників. Система зможе поступово краще розуміти, які пояснення людина вважає зрозумілими, який рівень деталізації їй підходить і які варіанти вона зазвичай відкидає. Це може зробити взаємодію з ШІ менш механічною, адже користувачу не доведеться щоразу формулювати всі свої побажання з нуля.

Ще один напрям — допоміжні технології для людей, яким складно спілкуватися традиційними способами. Якщо інтерфейс зможе надійно фіксувати реакцію на зображення, варіанти команд або елементи керування, він потенційно допоможе зробити цифрові пристрої доступнішими. Водночас для таких сценаріїв потрібні тривалі випробування, оскільки точність сигналів має бути достатньою, а помилкові інтерпретації можуть створювати додаткові труднощі.

Найбільше запитань стосується приватності. Дані про мозкову активність належать до надзвичайно чутливої інформації. Навіть якщо вони не містять готових думок, за допомогою статистичного аналізу можна спробувати робити висновки про увагу, емоційний стан або реакцію людини на певні стимули. Тому користувач має розуміти, які саме дані збираються, де вони зберігаються, як довго використовуються та чи можна їх видалити.

Не менш важливими є добровільність і контроль. Людина повинна мати можливість у будь-який момент вимкнути інтерфейс, відмовитися від передачі нейронних сигналів або перевірити, як система інтерпретувала її реакції. Без прозорих правил NVA може перетворитися з помічника на інструмент прихованого оцінювання працівників, учнів чи споживачів.

Розробка KAIST і Microsoft Research Asia показує, що майбутнє взаємодії з ШІ може бути пов’язане не лише з потужнішими моделями, а й з точнішим розумінням людських намірів. Neural Value Alignment не стирає межу між думкою та технологією і не робить машину телепатом. Натомість він пропонує новий канал зворотного зв’язку, який може допомогти штучному інтелекту краще враховувати людські реакції під час спільної роботи.

Подальший розвиток цього підходу залежатиме від точності нейронних сигналів, зручності обладнання, захисту персональних даних і здатності дослідників уникати поспішних висновків. Якщо ці умови буде дотримано, інтерфейси мозок-комп’ютер зможуть зробити ШІ уважнішим до людини. Але навіть тоді остаточне рішення, пояснення власних цінностей і контроль над технологією мають залишатися за користувачем.