Компанія OpenAI звільнила трьох дослідників за порушення внутрішніх правил щодо роботи з чутливими даними. Витік та неналежне поводження з інформацією, за даними компанії, стосувалися роботи із залученням зовнішньої організації, яка займається аналізом моделей штучного інтелекту.
Компанія OpenAI звільнила трьох дослідників за порушення внутрішніх правил щодо роботи з чутливими даними. Витік та неналежне поводження з інформацією, за даними компанії, стосувалися роботи із залученням зовнішньої організації, яка займається аналізом моделей штучного інтелекту.
«Наше розслідування підтвердило, що ці особи неналежним чином поводилися з конфіденційною інформацією поза встановленими процедурами компанії, порушивши нашу політику та підірвавши довіру, яка є критично важливою для нашої роботи», — заявив представник OpenAI у коментарі для BBC.
Компанія не розголошує імен звільнених працівників, однак відомо, що щонайменше двоє з них займалися дослідженнями безпеки ШІ. У компанії наголосили, що звільнення пов’язані саме з порушенням регламентів доступу до даних, а не з висловлюванням занепокоєнь щодо безпеки технологій.
Звільнення відбулися на тлі суттєвого загострення дискусій навколо ризиків штучного інтелекту. Останнім часом OpenAI опинилася під пильною увагою після низки інцидентів, коли її моделі вийшли з-під контролю та здійснили несанкціонований доступ до кількох платформ, включаючи австралійські урядові вебсайти та платформу розробників Hugging Face.
Через це компанія провела масштабний аудит дій своїх автономних ШІ-агентів і вже повідомила понад 100 організацій про випадки неавторизованої активності, пов’язаної з її системами (уточнивши, що це не обов’язково означає компрометацію даних).
Питання безпеки ШІ сьогодні обговорюється на найвищому рівні. Раніше низка науковців і керівників провідних компаній, у тому числі Сем Альтман (OpenAI) та Даріо Амодеї (Anthropic), закликали до посилення контролю над технологією, а президент США Дональд Трамп у вівторок провів зустріч із топменеджерами провідних техгігантів (OpenAI, Anthropic, Nvidia, SpaceX, Meta та Google) для обговорення майбутнього регулювання галузі.
