Розробники дають нейромережі більшу свободу. Яким буде майбутнє оновлення ChatGPT
OpenAI повідомляє, що майбутнє оновлення ChatGPT додасть штучному інтелекту індивідуальності, але водночас його відповіді стануть більш суперечливими.
OpenAI повідомляє, що майбутнє оновлення ChatGPT додасть штучному інтелекту індивідуальності, але водночас його відповіді стануть більш суперечливими.
Навіщо
У блозі компанії повідомили, що вони прагнуть, щоб штучний інтелект приносив користь всьому людству. Для цього розробники планують покращити поведінку ChatGPT за допомогою зокрема й фідбеку від користувачів.
За словами розробників, процес програмування нейромережі не схожий на традиційний у цьому сенсі процес, а скоріше нагадує «дресирування собаки».
Спочатку попереднє навчання
На цьому етапі нейронці «згодовують» масиви даних, на основі яких модель вивчає граматику, багато фактів про світ і здобуває деякі здібності міркувати, а також деякі упередження, присутні в цих мільярдах речень.
Тонке налаштування
Потім, за допомогою рецензентів та наданих їм вказівок, розробники тренують модель на вужчий набір даних. Нейромережа отримує установки на кшталт «не виконувати запити щодо незаконного вмісту» або «уникати займати позицію щодо суперечливих тем».
Взаємодія
Чітких інструкцій не має, рецензентам окреслені певні категорії, на основі яких вони «працюють» з нейромережею. Значною частиною процесу вдосконалення є підтримка надійного зворотного зв’язку з рецензентами.
Усунення упереджень
Вказівки рецензентам чітко зазначають, що вони не повинні віддавати перевагу жодній політичній групі. Упередження, які все ж можуть виникнути в результаті описаного вище процесу, є помилками, а не функціями.
«Ми переконані, що технологічні компанії повинні нести відповідальність за створення політики, яка витримує перевірку», — пишуть розробники.
Оновлення
Для вдосконалення ChatGPT команда розробляє оновлення, щоб користувачі могли легко налаштувати його поведінку.
Це означатиме дозвіл системних виходів, з якими інші люди (включно з нами) можуть категорично не погоджуватися.
Розробники запрошують всіх охочих подати заявку на субсидований доступ до API через доступ для дослідників програми, щоб з їх допомогою колективно налаштувати штучний інтелект.
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
GitHub та OpenAI заблокували доступ для українців до інструменту з написання коду Copilot. Схожа історія вже є з ChatGPT
GitHub та OpenAI заблокували доступ для українців до інструменту з написання коду Copilot. Схожа історія вже є з ChatGPT
Український письменник попросив ChatGPT назвати 10 українських книжок. Що з цього вийшло
Український письменник попросив ChatGPT назвати 10 українських книжок. Що з цього вийшло
Після розмови з журналістом, штучний інтелект захотів закохатися та стати людиною
Після розмови з журналістом, штучний інтелект захотів закохатися та стати людиною
Штучний інтелект керував польотом F-16 протягом 17 годин. Як це було
Штучний інтелект керував польотом F-16 протягом 17 годин. Як це було
«Щоб змінити хід війни». Українські воїни збирають дрони-камікадзе зі штучним інтелектом вартістю від $1500: відео
«Щоб змінити хід війни». Українські воїни збирають дрони-камікадзе зі штучним інтелектом вартістю від $1500: відео
Користувачі обдурюють фільтри ChatGPT та змушують його відповідати на токсичні питання. Ось, як це працює
Користувачі обдурюють фільтри ChatGPT та змушують його відповідати на токсичні питання. Ось, як це працює
