З розвитком технологій, з появою штучного інтелекту людство вперше винайшло те, що забирає у нас владу, зазначає ізраїльський футуролог і автор Sapiens Юваль Ной Харарі.
З розвитком технологій, з появою штучного інтелекту людство вперше винайшло те, що забирає у нас владу, зазначає ізраїльський футуролог і автор Sapiens Юваль Ной Харарі.
Історії завжди були життєво важливими для ізраїльського історика Юваля Ной Харарі, повідомляє The Telegraph. Нижче — адаптований переклад тексту.
Унікальна здатність нашого виду бути пов’язаними й об’єднуватися невловимими оповіданнями, навіть через океани, була центральною для Sapiens, дивовижно популярної хроніки піднесення нашого виду, яка катапультувала його до статусу провидця після публікації англійською майже десять років тому.
Можливо, саме тому він сьогодні так глибоко стурбований появою претендента на нашу майстерність оповідання історій — штучного інтелекту.
«Це перша в історії технологія для створення історій», — зазначає 47-річний Харарі.
Для нього ніщо не може бути більшою демонстрацією сили. Оскільки, на його думку, наша колективна віра в «історії» — про віру, фінанси та націю серед іншого — сприяла домінуванню людства на Землі. Наприклад, гроші дали нам змогу процвітати, але яка ціна п’ятірки у вашій кишені, якщо власник крамниці відкидає її як папірець?
Тепер штучний інтелект також може плести такі заклинання, показуючи, що потенціал технології як для великої користі, так і для шкоди, який раніше вважався далеким і теоретичним, тепер є негайним і реальним.
Саме тому Харарі додав своє ім’я до листа минулого місяця, підписаного тисячами експертів, у тому числі Ілона Маска, із закликом до мораторію на дослідження програмного забезпечення, такого як Chat GPT, моделі штучного інтелекту, яка може взаємодіяти з людьми у творчому тексті з майже тривожними нюансами.
Інші програми можуть робити те саме з зображеннями та звуками.
«Нове покоління штучного інтелекту не просто поширює контент, створений людьми. Він може створювати контент сам», — каже Харарі. — Спробуйте уявити, що означає жити у світі, де більшість текстів і мелодій, а потім серіалів і зображень створені нелюдським інтелектом. Ми просто не розуміємо, що це означає. Які можуть бути наслідки того, що ШІ захопить культуру?»
Тривіальні приклади вже є. Минулого тижня німецький журнал був розкритикований за публікацію того, що здавалося ексклюзивним інтерв’ю з Міхаелем Шумахером, хоча насправді текст був створений ШІ, імітуючи паралізованого колишнього гонщика.
Харарі припускає, що штучний інтелект незабаром піде набагато далі, створюючи світ, у якому «ви заходите в інтернет і сперечаєтеся з кимось про якесь політичне питання. Можливо, вони навіть надішлють вам відео, на якому вони розмовляють. Але за цим не стоїть жодна людина. Це все штучний інтелект».
Також у його антиутопії синтетична цифрова підробка не буде будь-якої людини. Оскільки на нас унікальний вплив близьких людей, може здатися, що ваш друг чи родич намагається переконати вас у перевагах продукту чи своїй позиції щодо зміни клімату, вакцин або імміграції. За його словами, це було б владою маніпулювати публічним дискурсом, якого раніше не було, і це зробило б тривіальними скандали щодо впливу соціальних медіа за останні 10 років, які вже, як вважається, зіграли роль у виборах від Бразилії до Америки. Джеремі Флемінг, голова GCHQ, попередив кабінет міністрів, що дезінформація штучного інтелекту становить серйозну загрозу.
Харарі каже, що ми повинні регулювати технологію, щоб приймати правильні рішення.
«Це особливо загроза для демократій, ніж для авторитарних режимів, тому що демократії покладаються на публічну дискусію», — каже Харарі. — Демократія — це в основному розмова. Люди розмовляють один з одним. Якщо розмову бере на себе ШІ, демократії кінець».
Але який ефект може мати ця технологія, якщо її зловмисно запустити на полі бою тоталітарними режимами? Наприклад, одна система штучного інтелекту Google сама навчила бенгальську мову, не пройшовши цього навчання.
«Нацистський режим базувався на таких технологіях, як потяги, електрика та радіо. У них не було таких інструментів, як штучний інтелект», — каже Харарі. — Новий режим у 21 столітті матиме набагато потужніші інструменти. Тож наслідки можуть бути набагато катастрофічнішими. Це те, що я не знаю, чи зможе людство вижити».
Навіть більш банальні наслідки можуть бути революційними, каже він. «Інша небезпека полягає в тому, що багато людей можуть повністю залишитися без роботи, не лише тимчасово, а й без основних навичок для майбутнього ринку праці. Ми можемо досягти точки, коли економічна система вважатиме мільйони людей абсолютно марними. Це має жахливі психологічні та політичні наслідки».
Саме автономія ШІ робить його таким відмінним. Проте навіть Харарі, який зробив собі ім’я завдяки складним темам, здається, розчарований своєю неспроможністю змусити всіх нас зрозуміти це так само глибоко, як він.
«Ми повинні розуміти, що штучний інтелект є першою технологією в історії, яка може самостійно приймати рішення. Він може приймати рішення про власне використання. Він також може приймати рішення щодо вас і мене. Це не прогноз на майбутнє. Це вже відбувається», — зазначає футуролог.
Він згадує сумнозвісні випадки, коли програмне забезпечення штучного інтелекту використовувалося для перевірки заявників на кредит або для розв’язання питання про дострокове звільнення в’язнів. «Ми винайшли те, що забирає у нас владу. І це відбувається настільки швидко, що більшість людей навіть не розуміють, що відбувається. Нам потрібно переконатися, що ШІ приймає правильні рішення щодо нашого життя. Це те, що ми дуже далекі від вирішення».
Як і інші, він тепер підтримує регулювання для управління потужністю штучного інтелекту, використовуючи його перспективи та запобігаючи катастрофі. На думку Харарі, такі правила будуть імітувати медичні гарантії.
«Фарматична компанія не може випустити на ринок нові ліки, попередньо не пройшовши тривалий процес регулювання. Це справді дивно та страшно, що корпорації можуть просто випустити надзвичайно потужні інструменти штучного інтелекту в публічну сферу без будь-яких аналогічних заходів безпеки», — каже він.
Він наполягає на тому, що такі заходи має здійснювати уряд. Очікувати, що технологічна індустрія сама себе регулюватиме, це для птахів. «При всій повазі до Ілона Маска та Цукерберга чи інших керівників великих технологічних компаній, вони ніким не обрані, не представляють нікого, крім своїх акціонерів, і немає причин довіряти їм».
Ніби на підтвердження правдивості Харарі, Маск оголосив про створення власного чат-бота зі штучним інтелектом через кілька днів після підписання листа, в якому засуджував дослідження інших.
Можливо, не дивно, що Харарі тримає свій власний телефон вимкненим, «у ящику». Він називає його «смартфоном для екстреної допомоги», коли він подорожує за кордон, а це значно більше в останнє десятиліття, відколи він став світовою інтелектуальною суперзіркою.
«Деякі речі стало дійсно неможливо робити без смартфона». Можна подумати про те, як він намагається замовити таксі під час закордонної поїздки, і зазнає невдачі. Але те, що він не пропускає на своєму кишеньковому екрані, так це відволікаючий потік інформації, що ллється в його мозок. Він заявляє про «інформаційну дієту», — зазначає історик.
«Забагато непотрібної інформації, — каже він. — Це як їжа. Більшу частину історії людства ми відчайдушно намагалися отримати більше їжі. А зараз ми в протилежній ситуації. Ми повинні бути дуже обережними як щодо кількості, так і щодо якості їжі, яку ми приймаємо».
Він протиставляє фокус і активний вибір, пов’язані з «читанням», цьому пасивному «споживанню» інформації з виряченими очима. Важко уявити, щоб Харарі зробив щось таким бездумним способом. Він любить час і спокій, щоб зібратися з думками, і давно захоплюється медитацією, щоб переконатися, що він розумово налаштований на те, щоб не відволікатися. «Я щойно повернувся з двомісячного медитаційного ретриту», — каже він. «Можна сказати, що це частина інформаційної дієти… період, щоб від’єднатися й дозволити розуму очиститися від усього сміття, яке ми приймаємо».
