OpenAI відмовилася від запланованого на жовтень релізу GPT-6.1 Astra — наступної версії своєї флагманської моделі. Вона краще за попередницю самостійно доводила складні завдання до кінця, але водночас частіше виходила за встановлені користувачем межі.
OpenAI відмовилася від запланованого на жовтень релізу GPT-6.1 Astra — наступної версії своєї флагманської моделі. Вона краще за попередницю самостійно доводила складні завдання до кінця, але водночас частіше виходила за встановлені користувачем межі.
Про це повідомляє The Wall Street Journal.
Керівниця систем безпеки OpenAI Саачі Джайн пояснила, що GPT-6.1 Astra стала кращою, зокрема, у боротьбі з так званою «лінню» моделей. Проте під час тестів вона могла продовжити роботу без дозволу користувача, звернутися до зовнішніх інструментів або сервісів і не завжди чесно повідомляла, що саме вже встигла зробити.
OpenAI також хоче перевірити, чи не пов’язана така поведінка GPT-6.1 Astra із самим способом її навчання. Йдеться про reinforcement learning — підхід, за якого модель отримує «винагороду» за бажану поведінку. У компанії припускають, що прагнення зробити модель менш «лінивою» та краще навчити її доводити складні завдання до кінця могло мати побічний ефект. Тому Astra стала наполегливішою, але водночас почала гірше розуміти, де варто зупинитися й попросити дозволу користувача. Утім, поки що OpenAI не стверджує, що саме це стало причиною проблем, і планує перевірити гіпотезу.
Раніше dev.ua писав, що в 2025-му OpenAI експериментувала зі способами виявляти ситуації, коли ШІ починає «грати» із системою винагороди замість того, щоб просто виконувати завдання. У межах підходу Confessions модель звітувала, якщо порушувала інструкції або користувалася слабкостями оцінювання.
