Колишня студентка престижного університету MIT розповіла, що вирішила покинути навчання, бо боялася, що поява загального штучного інтелекту (AGI) призведе до катастрофи планетарних масштабів.
Колишня студентка престижного університету MIT розповіла, що вирішила покинути навчання, бо боялася, що поява загального штучного інтелекту (AGI) призведе до катастрофи планетарних масштабів.
«Я побоювалася, що через AGI не доживу до випуску. Я думаю, що в більшості сценаріїв, з огляду на те, як ми працюємо над AGI, ми отримаємо вимирання людства», — передає слова Аліси Блер, видання Futurism.
Вона вступила до Массачусетського технологічного інституту, який вважається одним із найкращих у США та світі, у 2023 році. Блер сподівалася зустріти в ньому людей, зацікавлених у безпеці ШІ, але була розчарована. Наразі вона працює Technical Writer у некомерційній організації Center for AI Safety й не планує повертатися до MIT.
«Я передбачаю, що моє майбутнє лежить у реальному світі», — говорить Аліса Блер.
Створення AGI, системи, яка дорівнює або перевершує людський інтелект, є метою галузі штучного інтелекту. Генеральний директор OpenAI Сем Альтман назвав нещодавній запуск ШІ-моделі GPT-5 важливим кроком на шляху до AGI.
Однак багато експертів скептично ставляться до того, що ми наближаємося до створення такого потужного ШІ, і вказують на останні ознаки того, що вдосконалення технології вийшло на плато.
«Надзвичайно малоймовірно, що AGI з’явиться в найближчі п’ять років. Це просто маркетинговий хід, коли так багато основних проблем (таких як галюцинації та помилки в міркуваннях) залишаються невирішеними», — вважає Гарі Маркус, дослідник штучного інтелекту та відвертий критик галузі.
Він додав, що вже існують дуже реальні форми шкоди, яку може заподіяти штучний інтелект, але повне вимирання людства є дещо надуманим.
Іншої думки дотримуються дослідники з Google DeepMind, які випустили технічний документ, що пояснює, як безпечно розробляти загальний штучний інтелект (AGI). Попри прогнози скептиків, вони вважають, що ШІ такого рівня може з’явитися відносно скоро, і розглядають чотири способи, як він може заподіяти шкоду.
