Експерт зі штучного інтелекту Гері Маркус заявив, компанія OpenAI, яка задає тон конкуренції у сфері ШІ, стоїть на порозі перетворення світу на антиутопію в дусі англійського письменника Джорджа Орвелла. На його думку, компанія піде на це, щоб заробити більше грошей.
Експерт зі штучного інтелекту Гері Маркус заявив, компанія OpenAI, яка задає тон конкуренції у сфері ШІ, стоїть на порозі перетворення світу на антиутопію в дусі англійського письменника Джорджа Орвелла. На його думку, компанія піде на це, щоб заробити більше грошей.
«Я думаю, що OpenAI стане найбільш оруеллівською компанією всіх часів. Їм доведеться стати компанією, що займається стеженням», — сказав він під час дискусії з Пітером Норвігом з Google у Стенфордському центрі штучного інтелекту.
Гері Маркус є науковцем та автором книг «Перезавантаження ШІ: створення штучного інтелекту, якому ми можемо довіряти» та «Приборкання Силіконової долини».
OpenAI стала відомою частково завдяки тому, що запропонувала бізнесу доступ до своїх моделей і ресурсів штучного інтелекту. Але Маркус вважає, що компанія не зможе заробити достатньо грошей, щоб підтримати свою оцінку таким чином, оскільки технологія недостатньо просунута.
«OpenAI продала мрію про універсальний ШІ для всіх цілей, і у 2023 році практично кожна велика компанія проводила пілотні дослідження на цій основі. Але у 2024 році багато звітів з місць свідчать про розчарування: технологія ще недостатньо надійна для виробництва, тому що її переслідують такі проблеми, як галюцинації й безглузді помилки. Тому багато компаній починають бути обережними», — зазначив експерт.
Однак є й інший спосіб заробляти гроші: спостереження. ШІ може швидко синтезувати величезні обсяги даних, допомагаючи тим, хто може за це заплатити, розібратися в них. Замовником може бути як державна установа, яка стежить за своїми громадянами, так і політична кампанія, націлена на конкретних виборців.
Маркус підозрює, що OpenAI врешті-решт скористається цим потенційним джерелом доходу і стане потужною компанією, що займається наглядом.
Занепокоєння, що технології OpenAI можуть бути використані для посилення стеження, висловлювалися і раніше. У червні OpenAI оголосила, що призначила колишнього директора АНБ Пола Накасоне до своєї ради директорів, що викликало шквал критики.
Маркус не вперше критикує OpenAI. Після зустрічі з генеральним директором компанії Семом Альтманом на Капітолійському пагорбі минулого року він був одночасно вражений і підозрілий, зазначивши, що Альтман не виглядав «щирим у своїх побоюваннях» щодо потенційної шкоди, яку може завдати технологія.
На початку цього року він сказав, що все ще сподівається, що Альтман зможе повернути компанію на правильний шлях як «силу добра». Тепер він не такий впевнений.
«За останні кілька місяців маска дійсно зірвалася, і я дуже сумніваюся, що він коли-небудь повернеться до своєї місії. Обіцянка інвесторам перетворитися на комерційну компанію фактично означає, що корабель вже пішов», — зазначив Гері Маркус.
Раніше стало відомо, що OpenAI планує нову бізнес-структуру як «партнерство між первісною некомерційною організацією та новою компанією з обмеженим прибутком».
Минулого тижня OpenAI залучила $6,6 млрд від постійних венчурних інвесторів, зокрема Thrive Capital і Khosla Ventures, а також найбільшого корпоративного спонсора OpenAI — Microsoft. До фінансування вперше доєдналась Nvidia.
Відома книга Джорджа Орвела «1984» зосереджена на наслідках тоталітаризму, масового нагляду та репресивної регламентації людей і поведінки в суспільстві.
