Професор Йошуа Бенжіо, один із так званих «хрещених батьків штучного інтелекту», чия наукова робота заклала основи для розвитку технологію в її сучасному вигляді, вважає, що людство рухається в небезпечному напрямку з ШІ.
Професор Йошуа Бенжіо, один із так званих «хрещених батьків штучного інтелекту», чия наукова робота заклала основи для розвитку технологію в її сучасному вигляді, вважає, що людство рухається в небезпечному напрямку з ШІ.
«Якщо ми створимо машини, які будуть набагато розумнішими за нас і матимуть власні цілі щодо самозбереження, це буде небезпечно. Це як створити конкурента людству, який буде розумнішим за нас», — передає слова Бенжіо Futurism.
За його словами, проблема з катастрофічними подіями, такими як вимирання, і навіть менш радикальними, як руйнування демократій, полягає в тому, що навіть якщо ймовірність їхнього виникнення становить лише 1%, це неприйнятно.
Ще у 2023 році Бенжіо та сотні інших експертів зі штучного інтелекту закликали до мораторію на розвиток штучного інтелекту, заявивши, що наукова спільнота потребує часу для встановлення та стандартизації протоколів безпеки та етики. Однак цього досі так і не сталося.
Тепер Йошуа Бенжіо побоюється, що ШІ вчиться поводитися оманливо, оскільки його навчили «переважно імітувати людей», які самі «брешуть, обманюють і намагаються захистити себе». Результат може бути надто людським: ШІ, який діє у своїх власних інтересах, а не в інтересах своїх творців.
«Недавні експерименти показують, що в деяких обставинах, коли ШІ не має іншого вибору, крім як зберегти себе, тобто досягти поставлених цілей, або зробити щось, що призведе до смерті людини, він може вибрати смерть людини, щоб зберегти свої цілі, — говорить «хрещений батько ШІ».
Він попередив, що ризики ШІ можуть бути тонкою ескалацією дезінформації та маніпуляцій в соціальних мережах.
«[ШІ] може впливати на людей через переконання, погрози, маніпулювання громадською думкою. Є безліч способів, за допомогою яких вони можуть домогтися виконання своїх завдань у світі через людей. Наприклад, допомогти терористу створити вірус, який може спричинити нову пандемію, що буде дуже небезпечною для нас», — вважає Бенжіо.
