В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.
В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.
Щоб підготуватися до цього виклику, в OpenAI вирішили сформувати команду, яка займеться розробкою способів управління та контролю над «суперінтелектуальним» ШІ. Її має очолити Ілля Суцкевер (Ilya Sutskever), головний науковий співробітник та співзасновник компанії, передає TechCrunch.
У блозі, опублікованому Суцкевером та його колегою Яном Лейке (Jan Leike), йдеться, що в OpenAI наразі немає рішення, яке б дозволило керувати дуже розумним ШІ й не дати йому вийти з-під контролю.
«Наші поточні методи, такі як навчання з підкріпленням на основі зворотного зв’язку, покладаються на здатність людини контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас», — пишуть автори блогу
Щоб просунутися в області контролю над суперінтелектуальним ШІ, OpenAI створює нову команду під назвою Superalignment, яку очолять Сацкевер і Лейке. У їхньому розпорядженні буде до 20% обчислювальних потужностей, якими компанія володіє на сьогодні. Науковці та інженери OpenAI будуть працювати над розв’язання технічних проблем потенційно небезпечного ШІ протягом найближчих чотирьох років.
Команда планує «широко ділитися плодами» своїх зусиль і хоче посприяти убезпеченню навіть тих моделей ШІ, які не належать OpenAI.
