💳 Потрібна європейська картка з лімітом 50к євро? Встановлюй Trustee Plus 👉
Олександр КузьменкоГаряченьке
7 липня 2023, 12:24
2023-07-07
«Ера Альтрона». OpenAI створює команду Superalignment, щоб втримати надрозумний ШІ під контролем
В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.
В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.
Щоб підготуватися до цього виклику, в OpenAI вирішили сформувати команду, яка займеться розробкою способів управління та контролю над «суперінтелектуальним» ШІ. Її має очолити Ілля Суцкевер (Ilya Sutskever), головний науковий співробітник та співзасновник компанії, передає TechCrunch.
У блозі, опублікованому Суцкевером та його колегою Яном Лейке (Jan Leike), йдеться, що в OpenAI наразі немає рішення, яке б дозволило керувати дуже розумним ШІ й не дати йому вийти з-під контролю.
«Наші поточні методи, такі як навчання з підкріпленням на основі зворотного зв’язку, покладаються на здатність людини контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас», — пишуть автори блогу
Щоб просунутися в області контролю над суперінтелектуальним ШІ, OpenAI створює нову команду під назвою Superalignment, яку очолять Сацкевер і Лейке. У їхньому розпорядженні буде до 20% обчислювальних потужностей, якими компанія володіє на сьогодні. Науковці та інженери OpenAI будуть працювати над розв’язання технічних проблем потенційно небезпечного ШІ протягом найближчих чотирьох років.
Команда планує «широко ділитися плодами» своїх зусиль і хоче посприяти убезпеченню навіть тих моделей ШІ, які не належать OpenAI.
ШІ створює «ризик вимирання» нарівні з пандемією та ядерною війною. Таку заяву підписали понад 350 вчених та IT-топів. Серед них — Сем Альтман з Open AI, керівники Microsoft, Google AI, Skype, Quora та інші
Підключай Megogo зі знижками за акційними тарифами.
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті.
Хочете повідомити важливу новину? Пишіть у Telegram-бот
Головні події та корисні посилання в нашому Telegram-каналі