💻 MayBee: френдлі HRM система. Просте та iнтуїтивне управління комплексними HR процесами 🔥

«Ера Альтрона». OpenAI створює команду Superalignment, щоб втримати надрозумний ШІ під контролем

В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.

Залишити коментар
«Ера Альтрона». OpenAI створює команду Superalignment, щоб втримати надрозумний ШІ під контролем

В OpenAI прогнозують, що протягом найближчого десятиліття може з’явитися штучний інтелект, який перевершуватиме можливості людського розуму. У компанії непокояться, що якщо такий ШІ дійсно виникне, то не має гарантії, що він буде приязно налаштований до людства.

Щоб підготуватися до цього виклику, в OpenAI вирішили сформувати команду, яка займеться розробкою способів управління та контролю над «суперінтелектуальним» ШІ. Її має очолити Ілля Суцкевер (Ilya Sutskever), головний науковий співробітник та співзасновник компанії, передає TechCrunch.

У блозі, опублікованому Суцкевером та його колегою Яном Лейке (Jan Leike), йдеться, що в OpenAI наразі немає рішення, яке б дозволило керувати дуже розумним ШІ й не дати йому вийти з-під контролю.

«Наші поточні методи, такі як навчання з підкріпленням на основі зворотного зв’язку, покладаються на здатність людини контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас», — пишуть автори блогу

Щоб просунутися в області контролю над суперінтелектуальним ШІ, OpenAI створює нову команду під назвою Superalignment, яку очолять Сацкевер і Лейке. У їхньому розпорядженні буде до 20% обчислювальних потужностей, якими компанія володіє на сьогодні. Науковці та інженери OpenAI будуть працювати над розв’язання технічних проблем потенційно небезпечного ШІ протягом найближчих чотирьох років.

Команда планує «широко ділитися плодами» своїх зусиль і хоче посприяти убезпеченню навіть тих моделей ШІ, які не належать OpenAI.

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Генеральний директор OpenAI підтвердив що компанія поки не тренує GPT-5. Чому?
Генеральний директор OpenAI підтвердив, що компанія поки не тренує GPT-5. Чому?
По темi
Генеральний директор OpenAI підтвердив, що компанія поки не тренує GPT-5. Чому?
OpenAI розробила інструмент для визначення текстів створених штучним інтелектом
OpenAI розробила інструмент для визначення текстів, створених штучним інтелектом
По темi
OpenAI розробила інструмент для визначення текстів, створених штучним інтелектом
Привіт майбутнє. Дослідники виявили 49 сайтів новини для яких вигадує ШІ. Як працюють контент-ферми та що кажуть в OpenAI та Google
Привіт, майбутнє. Дослідники виявили 49 сайтів, новини для яких вигадує ШІ. Як працюють контент-ферми та що кажуть в OpenAI та Google
По темi
Привіт, майбутнє. Дослідники виявили 49 сайтів, новини для яких вигадує ШІ. Як працюють контент-ферми та що кажуть в OpenAI та Google
ЄС підтримав посилене регулювання для ШІ. Законопроєкт планують остаточно ухвалити в кінці року: що він передбачає
ЄС підтримав посилене регулювання для ШІ. Законопроєкт планують остаточно ухвалити в кінці року: що він передбачає
По темi
ЄС підтримав посилене регулювання для ШІ. Законопроєкт планують остаточно ухвалити в кінці року: що він передбачає
ШІ створює «ризик вимирання» нарівні з пандемією та ядерною війною. Таку заяву підписали понад 350 вчених та IT-топів. Серед них — Сем Альтман з Open AI керівники Microsoft Google AI Skype Quora та інші
ШІ створює «ризик вимирання» нарівні з пандемією та ядерною війною. Таку заяву підписали понад 350 вчених та IT-топів. Серед них — Сем Альтман з Open AI, керівники Microsoft, Google AI, Skype, Quora та інші
По темi
ШІ створює «ризик вимирання» нарівні з пандемією та ядерною війною. Таку заяву підписали понад 350 вчених та IT-топів. Серед них — Сем Альтман з Open AI, керівники Microsoft, Google AI, Skype, Quora та інші
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.