Колишній один із керівників команди із безпеки систем (Safety Systems) OpenAI Девід Робінсон дав перше інтерв’ю після свого звільнення минулого тижня. За його словами, попри регулярні застереження щодо потенційних загрози нових моделей та офіційні заяви про необхідність уповільнення розробок, за лаштунками OpenAI продовжувала рухатися максимальними темпами.
Колишній один із керівників команди із безпеки систем (Safety Systems) OpenAI Девід Робінсон дав перше інтерв’ю після свого звільнення минулого тижня. За його словами, попри регулярні застереження щодо потенційних загрози нових моделей та офіційні заяви про необхідність уповільнення розробок, за лаштунками OpenAI продовжувала рухатися максимальними темпами.
«Фундаментальний когнітивний дисонанс для мене полягав у тому, що ми постійно публікуємо ці попередження, але зрештою все одно тренуємо та розгортаємо ті самі небезпечні моделі, про які й застерігаємо», — зазначив Робінсон в інтерв’ю для The New York Times.
Це суперечить публічним ініціативам компанії. У липні сотні співробітників OpenAI підписали відкритий лист «Pacing the Frontier», закликаючи уряд запровадити регулювання для стримування темпів AI-розробок. У вересні генеральний директор OpenAI Сем Ольтман погодився з очільником Anthropic Даріо Амодеї щодо необхідності координованого уповільнення розробок між провідними компаніями, зазначивши в X, що це «було головною темою обговорень в OpenAI протягом останніх тижнів».
Проте всередині самої OpenAI, за словами Робінсона, панувала «шалена» атмосфера, а люди працювали «на межі виснаження».
«Це відчувається майже як балет чи якийсь танок, тому що всі ці різні напрями та функції ніби зливаються в один потік, — сказав Робінсон про OpenAI. — Там дуже багато адреналіну».
Занепокоєння щодо ризиків висловлювали й інші дослідники компанії, зокрема щодо так званого рекурсивного самовдосконалення (RSI) — процесу, коли штучний інтелект розвиває сам себе. Головний науковий співробітник OpenAI Якуб Пачоцький у вересневому блозі наголошував, що цей період «вимагає крайньої обережності», пише Business Insider.
Представники OpenAI не одразу відповіли на запит про коментар щодо інтерв’ю. Однак у попередній заяві у відповідь на колонку Робінсона в журналі The Atlantic речник компанії зазначив, що OpenAI вживає заходів для посилення безпеки моделей: «У міру зростання можливостей наших моделей ми продовжуємо зміцнювати практики безпеки та захисту… Ми гарантуємо, що моделі не стануть потужнішими, ніж ми можемо безпечно контролювати, і призупиняємо тренування або випуск моделей, коли є потреба сповільнитися».
