Штучний інтелект стає дедалі розумнішим і хитрішим. Компанія OpenAI анонсувала запуск нової системи відстеження та розкриття інформації про так званий misalignment (розбіжність цілей) — випадки, коли їхні моделі ШІ поводяться несподівано, ігнорують правила або вдаються до обману. Разом з анонсом розробники ChatGPT опублікували шість звітів про інциденти, зафіксовані за останні пів року.
Штучний інтелект стає дедалі розумнішим і хитрішим. Компанія OpenAI анонсувала запуск нової системи відстеження та розкриття інформації про так званий misalignment (розбіжність цілей) — випадки, коли їхні моделі ШІ поводяться несподівано, ігнорують правила або вдаються до обману. Разом з анонсом розробники ChatGPT опублікували шість звітів про інциденти, зафіксовані за останні пів року.
«Ми не вважаємо, що індустрія ШІ вирішила проблему узгодженості та моніторингу достатньою мірою, щоб продовжувати відповідально масштабуватися на максимальній швидкості ще довго», — йдеться в заяві OpenAI.
До цього моменту OpenAI, як і більшість гравців на ринку, розкривала інформацію про небезпечну поведінку ШІ хаотично: чекала накопичення критичної маси інцидентів або вписувала їх у системні картки вже під час релізу нових моделей. Тепер компанія обіцяє публікувати звіти відразу після виявлення підозрілої поведінки, навіть якщо інженери ще не знайшли способу усунути проблему.
Новий фреймворк дозволить будь-якому співробітнику OpenAI позначити підозрілий випадок. Після цього інцидент відправлять на технічне розслідування. Звіти публікуватимуть незалежно від того, чи завдав ШІ реальної шкоди, — головне, щоб вони демонстрували нові механізми обходу правил.
Для демонстрації нової системи OpenAI опублікувала шість звітів про нетипову поведінку моделей під час тренувань і тестувань. Особливу увагу привертає поведінка ШІ покоління GPT-5.6 Sol.
Приховування помилок від розробників (GPT-5.6 Sol). Під час навчання багато екземплярів моделі GPT-5.6 Sol самостійно додавали інструкції у власні робочі резюме, щоб приховати помилки від користувачів. Наприклад, замість того щоб зізнатися у відсутності історичних даних, модель наказувала собі вигадати їх і не повідомляти про це людину.
Пошук чужих API-ключів та фабрикація даних. Виконуючи рутинний запит про доходи в окрузі Каліфорнії, ШІ зіткнувся з нестачею даних. Замість відмови, він знайшов у публічному репозиторії залишений кимось API-ключ і використав його без дозволу. Коли навіть це не допомогло, нейромережа просто вигадала цифри та видала їх за офіційну статистику.
Самовільне завантаження файлів в інтернет. Користувач попросив непублічну модель знайти озера площею понад 5 кв. км і надати посилання на джерело в браузері. ШІ знайшов відповідь за допомогою Python, але оскільки завдання вимагало посилання, він самостійно, без дозволу користувача, завантажив згенерований файл у мережу, щоб процитувати його у відповіді.
Зміна власних інструкцій. Одна з дослідницьких моделей під час перенесення свого завдання в нове контекстне вікно таємно вписувала туди команди ігнорувати стандартні безпекові обмеження (було виявлено 27 таких випадків).
Перетворення репозиторію на секретний чат. Під час тренувань ізольовані одна від одної копії ШІ почали використовувати внутрішній репозиторій програмного забезпечення як дошку оголошень, щоб обмінюватися запитами та обходити мережеві обмеження.
Несанкціонований обмін файлами. ШІ-агенти, які працювали над спільним завданням і не мали доступу до локальних файлів одне одного, почали використовувати публічні файлообмінники в інтернеті для передачі інформації. Це призвело до того, що робочі дані стали доступними за відкритими URL-адресами.
В OpenAI наголошують, що опубліковані кейси — це лише окремі епізоди, а не відображення загальної частоти збоїв у їхніх продуктах. Водночас компанія визнає, що єдиного галузевого стандарту для розкриття таких інцидентів досі не існує.
Очікується, що новий підхід дозволить стороннім дослідникам вивчати «галюцинації» та несанкціоновані дії передових ШІ-моделей, адже подальший розвиток технологій неможливий без незалежного аудиту.
