У майбутньому системи ШІ зможуть контролювати людей так само легко, як дорослий може підкупити 3-річну дитину цукерками, попереджає Джеффрі Хінтон, відомий як «хрещений батько ШІ». Щоб цього уникнути, він запропонував рішення.
У майбутньому системи ШІ зможуть контролювати людей так само легко, як дорослий може підкупити 3-річну дитину цукерками, попереджає Джеффрі Хінтон, відомий як «хрещений батько ШІ». Щоб цього уникнути, він запропонував рішення.
Джеффрі Хінтон, лауреат Нобелівської премії з інформатики, відомий своєю новаторською роботою з нейронних мереж, яка допомогла прокласти шлях до сьогоднішнього буму штучного інтелекту. У 2023 році він пішов із Google й почав говорити про небезпеку штучного інтелекту.
Хінтон каже, що раніше думав, що для досягнення загального штучного інтелекту (ЗШІ) може знадобитися від 30 до 50 років, але тепер бачить, що цей момент настане швидше. «Розумна ставка — це десь від 5 до 20 років», — каже він.
Замість того, щоб змушувати ШІ підкорятися людям, Хінтон пропонує вбудувати в моделі ШІ «материнські інстинкти», щоб вони «дійсно дбали про людей» навіть тоді, коли технологія стане потужнішою та розумнішою за людей.
Таким рішенням він поділився на галузевій конференції Ai4 у Лас-Вегасі, пише CNN.
«ШІ-системи, якщо вони будуть розумними, дуже швидко розвинуть дві підцілі: перша — залишитися в живих і друга — отримати більше контролю. Є вагомі підстави вважати, що будь-який суб'єктний ШІ намагатиметься вижити», — каже Хінтон.
Ось чому важливо виховувати почуття співчуття до людей, вважає Хінтон. Він зазначив, що матері мають інстинкти та соціальний тиск піклуватися про своїх дітей.
«Правильна модель — це єдина модель, яку ми маємо, де розумніша річ контролюється менш розумною, тобто мати, якою керує її дитина», — сказав Хінтон.
Однак Хінтон сказав, що йому не зовсім зрозуміло, як це можна зробити технічно, але наголосив, що над цим працюють критично важливі дослідники.
«Це єдиний можливий позитивний сценарій. Адже якщо ШІ не буде піклуватися про мене, він мене замінить, — стверджує він. — Більшість таких суперінтелектуальних ШІ-матерів не захочуть відмовлятися від материнського інстинкту, оскільки не бажають нашої загибелі».
Проте Фей-Фей Лі, відома як «хрещена мати штучного інтелекту» за свою новаторську роботу в цій галузі, не погоджується з рішенням Хінтона.
Вона закликає створювати «людиноорієнтований ШІ, який зберігатиме гідність і свободу вибору людини».
«Це наш обов’язок на кожному рівні створювати та використовувати технології в найбільш відповідальний спосіб. І в жоден момент жодна людина не повинна бути змушена або не повинна обирати відмовитися від своєї гідності, — сказала Лі. — Лише тому, що інструмент є потужним… як мати, як вихователька та як винахідниця, я справді вірю, що це основа того, як має бути зосереджений штучний інтелект».
