Компанія OpenAI нещодавно опублікувала вакансію дослідника з безпеки, який розбиратиметься з наслідками сценарію, коли ШІ навчиться самостійно створювати та навчати розумніші версії себе.
Компанія OpenAI нещодавно опублікувала вакансію дослідника з безпеки, який розбиратиметься з наслідками сценарію, коли ШІ навчиться самостійно створювати та навчати розумніші версії себе.
Згідно зі сайтами-агрегаторами вакансій, вакансію до команди безпеки OpenAI під назвою Preparedness відкрили цього місяця, повідомляє Business Insider.
Майбутньому співробітнику пропонують космічну зарплату — від $295 000 до $445 000 на рік. Шукають «сильних технічних виконавців для підтримки підготовки до рекурсивного самовдосконалення».
«Ця робота покладається на осмислення проблем, які можуть виникнути в майбутньому, але яких може не існувати зараз», — йдеться в описі вакансії. — «Тому особливо важливо, щоб люди на цій посаді мали високий технологічний смак і мислили стратегічно».
Якщо моделі штучного інтелекту зможуть навчатися самостійно, неважко уявити науково-фантастичну антиутопію, в якій їхні можливості стрімко зростуть, вони вирвуться з-під контролю та завдадуть масштабної шкоди — саме цього побоюється рух за безпеку ШІ. Генеральна директорка організації METR Елізабет Барнс написала в п’ятницю, що, на її думку, «будь-яка „розумна“ цивілізація очевидно діяла б набагато повільніше та обережніше з ШІ».
Опис вакансії від OpenAI натякає на те, як саме компанія готується до світу, де моделі ШІ зможуть стрімко вдосконалювати самі себе.
В описі зазначається, що дослідник може зосередитися на захисті моделей OpenAI від «отруєння даних» — спроб зіпсувати модель ШІ через набори даних, на яких вона навчається. Також працівник може створювати інструменти для інтерпретації логіки мислення моделей або проводити експерименти з ними, щоб краще зрозуміти їхній рівень безпеки та потенційні загрози.
Крім того, у вакансії вказано, що дослідник зможе «відстежувати прогрес на шляху до автоматизації технічного персоналу», зокрема оцінювати масштаби використання ШІ-інструментів для написання коду.
Перед командою Preparedness компанії OpenAI стоїть завдання запобігати серйозній шкоді від штучного інтелекту. На сторінці вакансій компанії розміщено й інші позиції в цій команді, зокрема фахівців з автоматизованого редтімінгу для тестування кібербезпеки OpenAI, оцінювання біологічних і хімічних ризиків, а також загроз, пов’язаних з агентним ШІ.
«Це термінова, динамічна робота, яка має далекосяжні наслідки як для компанії, так і для суспільства загалом», — йдеться в описах вакансій команди Preparedness.
