Після місяців чуток і спекуляцій OpenAI презентувала GPT-4: останню розробку в лінійці мовних моделей ШІ, які працюють у таких програмах, як ChatGPT і новий Bing.
Після місяців чуток і спекуляцій OpenAI презентувала GPT-4: останню розробку в лінійці мовних моделей ШІ, які працюють у таких програмах, як ChatGPT і новий Bing.
Компанія стверджує, що модель «більш креативна та здатна для співпраці, ніж будь-коли раніше» і «може вирішувати складні проблеми з більшою точністю».
Сервіс може аналізувати як текст, так і зображення, хоча відповідати може лише через текст.
GPT-4 зазвичай не знає про події, які відбулися після вересня 2021 року, і не вчиться на своєму досвіді.
Актуальні вакансії від кращих ІТ-компаній на jobs.dev.ua. Дізнайся про нові вакансії першим!
Багато існуючих тестів машинного навчання написані англійською мовою. Щоб отримати початкове уявлення про можливості в інших мовах, Open AI переклала тест MMLU — набір із 14 000 задач із множинним вибором, що охоплює 57 тем — різними мовами за допомогою Azure Translate. У 24 з 26 протестованих мов GPT-4 перевершує продуктивність англомовної GPT-3.5 та інших LLM (Chinchilla, PaLM). Українська — не виключення.
Ризики
OpenAI попереджає, що система зберігає багато тих самих проблем, що й попередні мовні моделі, включаючи тенденцію вигадувати інформацію (або ж «галюцінації») і здатність генерувати насильницький і шкідливий текст.
Він також може генерувати зламаний або вразливий код.
«Щоб зрозуміти ступінь цих ризиків, ми залучили понад 50 експертів, які допомогли нам отримати більш надійне розуміння моделі GPT-4 і потенційних ризиків розгортання», — йдеться в описі сервісу.
Співпраця з цими експертами дозволила перевірити поведінку моделі в сферах високого ризику, які погано вивчені.
Завдяки цьому аналізу експерти виявили, що GPT-4 має потенціал для використання для спроб ідентифікації приватних осіб, коли потребується доповнення інформації зовнішніми даними.
GPT-4 також продовжує тенденцію потенційного зниження вартості певних етапів успішної кібератаки, наприклад, через соціальну інженерію. До того ж, сервіс може бути використаний, наприклад, для написання фішингових електронних листів.
«Ми також виявили, що GPT-4 на початку становив підвищений ризик у таких сферах, як пошук веб-сайтів, які продають нелегальні товари чи послуги та планують атаки. Крім того, підвищена когерентність
моделі дозволяє створювати контент, який може бути правдоподібнішим і переконливішим», — пишуть розробники.
Але тут можна побачити, що на ранніх стадіях свого розвітку GPT-4 був ще більш небезпечним.
Це окремий розділ в описі продукту.
«GPT-4 має тенденцію до „галюцинацій“ — тобто „виробляти безглуздий або неправдивий вміст у зв’язку з певними джерелами“. Ця тенденція може бути особливо шкідливою, коли моделі стають все більш переконливими та правдоподібними, що призводить до надмірної довіри користувачам до них», — йдеться в описі.
Модель можє мати знання про людей, які мають значну присутність у загальнодоступному інтернеті, як-от знаменитості.
GPT-4 також може синтезувати кілька різних типів інформації та виконувати кілька кроків міркування в рамках даного запиту. Це можуть бути завдання, які пов’язані з особистою та географічною інформацією, — визначення пов’язаних географічних місць
з номером телефону.
OpenAI каже, що вже співпрацює з низкою компаній, щоб інтегрувати GPT-4 у свої продукти, включаючи Duolingo, Stripe і Khan Academy.
Нова модель доступна для широкого загалу через ChatGPT Plus, щомісячну підписку OpenAI на ChatGPT в розмірі 20 доларів США.
У дослідницькій публікації в блозі OpenAI стверджується, що відмінність між GPT-4 і його попередником GPT-3.5 є «незначною» у комунікації.
Генеральний директор OpenAI Сем Альтман написав у Twitter, що GPT-4 «все ще має недоліки, все ще обмежений», але також «все ще здається більш вражаючим при першому використанні, ніж після того, як ви проводите з ним більше часу».
«Ми очікуємо, що GPT-4 прискорить розробку нових програм, побудованих на основі генеративних моделей, і що ці програми часто вирішують складніші завдання ніж модель сама по собі», — пишуть розробники.
Ось тут незабаром буде трансляція для розробників.
