Бывший исследователь безопасности в OpenAI рассказал о том, как он «расшевелил перья», написав и поделившись некоторыми документами, связанными с безопасностью в компании, и в конце концов был уволен.
Бывший исследователь безопасности в OpenAI рассказал о том, как он «расшевелил перья», написав и поделившись некоторыми документами, связанными с безопасностью в компании, и в конце концов был уволен.
Леопольда Ашенбреннера, работавшего в команде супервыравнивания OpenAI, уволили в апреле за «утечку информации», пишет Business Insider.
Исследователь ИИ написал служебную записку и поделился ею с несколькими членами правления OpenAI о том, что безопасность компании была «вопиющее недостаточной» для защиты от кражи «ключевых алгоритмических секретов от иностранных субъектов». Также он поделился запиской с другими сотрудниками OpenAI, «которые в основном сказали, что она была полезна».
После этого отдел кадров вынес ему предупреждение о служебной записке, сказав, что беспокоиться о шпионаже Коммунистической партии Китая — это расизм и неконструктивно. А юрист OpenAI спросил исследователя о его взглядах на ИИ и AGI, а также о том, были ли Ашенбреннер и команда супергруппы «лояльны к компании». Также Ашенбреннер утверждает, что компания проверила его цифровые архивы OpenAI.
Вскоре после этого Ашенбреннера уволили, поскольку компания обвинила его в утечке конфиденциальной информации, без расследования, опираясь лишь на предварительное предупреждение отдела кадров после того, как он поделился служебной запиской с членами совета директоров.
«Я не думал, что горизонт планирования чувствительный», — скажет Ашенбреннер. "Вы знаете, что Сэм постоянно говорит об этом публично", - сказал он, имея в виду генерального директора Сэма Альтмана.
Представитель OpenAI сообщил Business Insider, что беспокойство, которое Ашенбреннер выразил внутри компании и совета директоров, «не привело к его увольнению».
"Хотя мы разделяем его стремление создать безопасный AGI, мы не согласны со многими заявлениями, которые он сделал о нашей работе", - сказал представитель OpenAI.
Ашенбреннер — один из нескольких бывших сотрудников, которые недавно высказались о проблемах с безопасностью в OpenAI. Недавно группа из девяти нынешних и бывших сотрудников OpenAI подписала письмо с призывом к большей прозрачности в компаниях, занимающихся ИИ, и защите тех, кто выражает беспокойство по поводу технологии.
