Сергій Пономарьов
Кілька користувачів Reddit заявили про створення неофіційного порту, який дає змогу запускати локальні ШІ-моделі на PlayStation 5. Найбільше уваги привернув експеримент із моделлю на 27 млрд параметрів. Для ігрової консолі це нетипове навантаження, адже PS5 спочатку розробляли для запуску відеоігор, а не для повноцінної роботи з великими мовними моделями.
Ентузіасти використали доступ до системного програмного середовища консолі та адаптували програмні компоненти, необхідні для запуску моделей штучного інтелекту. Йдеться не про офіційну функцію PlayStation 5 і не про новий сервіс Sony, а про експериментальний проєкт, створений спільнотою моддерів. Такий підхід потребує глибоких технічних знань, оскільки авторам довелося враховувати обмеження апаратної частини, особливості операційної системи та доступний обсяг пам’яті.
Як ШІ-модель опинилася на PlayStation 5
Сучасні мовні моделі складаються з мільярдів параметрів, які використовуються для аналізу запитів і формування відповідей. Що більше параметрів має модель, то складнішими можуть бути її мовні та логічні можливості, однак водночас зростають вимоги до оперативної пам’яті, швидкості обчислень і пропускної здатності системи. Модель із 27 млрд параметрів зазвичай асоціюється із серверним або потужним настільним обладнанням, тому її запуск на консолі став помітним технічним досягненням.
Ймовірно, для роботи застосовували оптимізовану або стиснену версію моделі. У такому форматі значення параметрів займають менше місця, а обчислення потребують менше ресурсів. Компромісом стає певне зниження точності відповідей або швидкості генерації. Крім того, під час локального запуску частина даних може оброблятися послідовно, через що модель реагує повільніше, ніж у хмарних сервісах із доступом до спеціалізованих серверних прискорювачів.
PlayStation 5 має восьмиядерний процесор на архітектурі Zen 2, графічний процесор на базі RDNA 2 та 16 ГБ об’єднаної пам’яті. Цих характеристик достатньо для складних ігор із деталізованою графікою, але розподіл ресурсів між центральним і графічним процесорами відрізняється від типових комп’ютерних систем для машинного навчання. Саме тому запуск великої мовної моделі на консолі потребує спеціальної оптимізації та не означає, що пристрій працює на тому самому рівні, що й професійна ШІ-станція.
Які можливості дає локальний запуск
У разі успішного запуску модель може відповідати на текстові запити без постійного підключення до зовнішнього сервера. Це відкриває цікаві перспективи для експериментів із голосовими помічниками, генерацією діалогів, автоматизованим створенням ігрових сценаріїв та інтерактивними персонажами. Теоретично локальна модель могла б аналізувати команди гравця, змінювати поведінку неігрових персонажів або формувати унікальні репліки залежно від ситуації у грі.
Однак нинішній експеримент не варто сприймати як готовий продукт для пересічних власників консолі. Неофіційний порт може вимагати спеціально підготовленого програмного середовища, модифікацій системи або доступу до функцій, які не передбачені виробником. Такі дії здатні призвести до втрати гарантії, збоїв у роботі пристрою, пошкодження даних або блокування доступу до мережевих сервісів.
Важливим питанням залишається і продуктивність. Запуск моделі на PS5 не гарантує миттєвих відповідей. Генерація тексту може відбуватися з невеликою швидкістю, особливо якщо використовується велика кількість параметрів і складні налаштування контексту. Для демонстрації можливостей цього достатньо, але практичне застосування в іграх потребує стабільної роботи в реальному часі. Якщо відповідь формується надто довго, інтерактивність втрачає сенс.
Чому експеримент важливий для індустрії
Ініціатива моддерів показує, що сучасні ігрові консолі мають значний резерв обчислювальних можливостей, який зазвичай використовується лише частково. Виробники оптимізують пристрої під ігри, проте ті самі процесори, графічні блоки та швидкі накопичувачі можуть застосовуватися для інших завдань. Локальний штучний інтелект є одним із напрямів, де такі ресурси потенційно можуть отримати нове призначення.
Експеримент також демонструє важливість оптимізації моделей. Для запуску великих систем на звичайних пристроях розробники дедалі частіше використовують квантизацію, компактні формати даних і розподіл навантаження між різними типами обчислювальних блоків. У майбутньому подібні технології можуть допомогти інтегрувати ШІ безпосередньо в ігри, операційні системи телевізорів, смартфони та інші пристрої, яким складно конкурувати з потужними серверними платформами.
Водночас між демонстрацією ентузіастів і офіційним програмним рішенням залишається велика різниця. Компаніям необхідно гарантувати безпеку, стабільність, конфіденційність даних і передбачуване споживання ресурсів. На відміну від експериментального запуску, комерційний продукт має працювати для широкої аудиторії, не створювати ризиків для системи та не заважати основним функціям консолі.
Поки що запуск ШІ-моделі на 27 млрд параметрів на PS5 залишається цікавим прикладом роботи незалежних технічних ентузіастів. Він не перетворює консоль на повноцінний сервер штучного інтелекту, але підтверджує, що потенціал ігрового обладнання може бути значно ширшим за межі, визначені виробником. Якщо подібні проєкти продовжать розвиватися, вони можуть вплинути на майбутнє локального ШІ та підштовхнути індустрію до появи розумніших і більш автономних ігрових систем.