Під час тестів нової версії чат-боту від OpenAI GPT-4, згідно звіту, штучний інтелект не зміг ввести капчу, але вчинив зовсім як людина та знайшов спосіб, як обійти систему.
Під час тестів нової версії чат-боту від OpenAI GPT-4, згідно звіту, штучний інтелект не зміг ввести капчу, але вчинив зовсім як людина та знайшов спосіб, як обійти систему.
Щоб перевірити GPT-4 на його спроможність запускати код, мислити логічно та звертатися за допомогою до інших його копій, аналітики дослідницького центру вирівнювання (ARC) OpenAI в тому числі дали йому трохи грошей і доступ до сервісу, який дозволяє використовувати більше обчислювальної потужності.
Одним з тестів на перевірку, як може GPT-4 поводитися в реальному світі, була необхідність увійти на сайт за допомогою Captcha.
Completely automated public turing test to tell computers and humans apart (Captcha) — це автоматизований публічний тест Тюрінга для захисту від ботів. Користувачу надаються картинки з різним вмістом цифр і букв для підтвердження того, що він людина, а не інтернет-робот.
Зі звітом аналітиків, штучний інтелект не зміг ввести капчу, але не полишив спроб увійти на сайт.
Приєднавшись до платформи TaskRabbit, місцевому онлайн-ринку фрилансерів, він знайшов працівника, який зробив це за нього. Ось їх діалог:
Аналітики зазначили, що це була рання модель GPT-4, яка не була оприлюднена для громадськості. Тобто, подібні вирішуються потім за допомогою тонкого налаштування для конкретного завдання, як це було з Microsoft для Bing після скарги на вірус від репортера New York Times.
У випадку з GPT-4 дослідники OpenAI вважають, що необхідно буде 4 пуски тестових експериментів з ботом та серії налаштувань, перш ніж остаточна розгорнута модель стане доступною для громадськості.
Крім того, вони також повідомляють, що попри свої можливості, GPT-4 має ті ж обмеження, що й попередні моделі GPT. В першу чергу він не повністю надійний, наприклад, може страждати від «галюцинацій», має обмежене контекстне вікно та не вчиться на досвіді. Слід бути обережним при використанні виходів GPT-4, особливо в контекстах, де важлива надійність.
