💳 Trustee Plus — твоя персональна картка європейського банку: 3 хвилини і 10 євро 👉

Microsoft створила інструмент для виправлення галюцинацій ШІ. Експерти кажуть, що «це все одно, що намагатися усунути водень з води»

Сьогодні Microsoft представила Correction — інструмент для автоматичного виправлення згенерованим штучним інтелектом тексту, який містить помилки. 

Залишити коментар
Microsoft створила інструмент для виправлення галюцинацій ШІ. Експерти кажуть, що «це все одно, що намагатися усунути водень з води»

Сьогодні Microsoft представила Correction — інструмент для автоматичного виправлення згенерованим штучним інтелектом тексту, який містить помилки. 

Спочатку Correction позначає текст, який може бути помилковим — наприклад, резюме квартального звіту про прибутки компанії, в якому можуть бути неправильно наведені цитати, — а потім перевіряє його, порівнюючи з джерелом правди (наприклад, стенограмою), пише TechCrunch.

Новий ШІ-інструмент доступний як частина Microsoft Azure AI Content Safety API, можна використовувати з будь-якою моделлю штучного інтелекту, що генерує текст, включаючи Llama від Meta та GPT-4o від OpenAI.

«Correction заснована на новому процесі використання малих мовних моделей і великих мовних моделей для узгодження результатів з обґрунтуванням», — сказав представник Microsoft в інтерв’ю TechCrunch. «Ми сподіваємося, що ця нова функція підтримає розробників і користувачів генеративного ШІ в таких галузях, як медицина, де розробники додатків визначають точність відповідей як дуже важливу».

Але експерти застерігають, що ці підходи не усувають першопричину галюцинацій.

«Намагатися усунути галюцинації від генеративного ШІ — це все одно, що намагатися усунути водень з води», — каже Ос Кіз, доктор філософії з Вашингтонського університету, який вивчає етичний вплив нових технологій. «Це важливий компонент того, як працює технологія».

Моделі, що генерують текст, галюцинують, тому що вони насправді нічого не «знають». Це статистичні системи, які виявляють закономірності в рядах слів і передбачають, які слова будуть наступними, на основі незліченних прикладів, на яких вони навчені.

Рішення Microsoft — це пара метамоделей із перехресними посиланнями в стилі копіювального редактора, призначених для виділення та переписування галюцинацій.

Модель класифікатора шукає, можливо, неправильні, сфабриковані або нерелевантні фрагменти тексту, створеного ШІ (галюцинації). Якщо він виявляє галюцинації, класифікатор використовує другу модель, мовну модель, яка намагається виправити галюцинації відповідно до визначених «основних документів».

«Важливо відзначити, що виявлення обґрунтованості не вирішує „точність“, а допомагає узгодити генеративні результати штучного інтелекту з документами про заземлення», — зауважили в компанії. 

Майк Кук, науковий співробітник Університету королеви Марії у Лондоні, який спеціалізується на штучному інтелекті, стверджував, що навіть якщо сервіс працює, як рекламується, це загрожує посилити проблеми довіри та зрозумілості навколо штучного інтелекту. Сервіс може виявляти деякі помилки, але він також може викликати у користувачів хибне відчуття безпеки — до думки, що моделі правдиві частіше, ніж насправді».

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Потужності штучного інтелекту Microsoft живитиме атомна станція
Потужності штучного інтелекту Microsoft живитиме атомна станція
По темi
Потужності штучного інтелекту Microsoft живитиме атомна станція
Microsoft запускає новий застосунок Windows App для iPhone Mac та пристроїв на Android
Microsoft запускає новий застосунок Windows App для iPhone, Mac та пристроїв на Android
По темi
Microsoft запускає новий застосунок Windows App для iPhone, Mac та пристроїв на Android
Українська спільнота гравців Xbox звернулася до Microsoft із проханням створити український регіон
Українська спільнота гравців Xbox звернулася до Microsoft із проханням створити український регіон
По темi
Українська спільнота гравців Xbox звернулася до Microsoft із проханням створити український регіон
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Call of Duty не зникне з PlayStation раптово. Sony отримала таку гарантію під Microsoft, яка купує розробника гри – Activision Blizzard
Call of Duty не зникне з PlayStation раптово. Sony отримала таку гарантію під Microsoft, яка купує розробника гри – Activision Blizzard
Call of Duty не зникне з PlayStation раптово. Sony отримала таку гарантію під Microsoft, яка купує розробника гри – Activision Blizzard
У Microsoft визнали, що PS4 продаються у два рази краще, ніж Xbox
У Microsoft визнали, що PS4 продаються у два рази краще, ніж Xbox
У Microsoft визнали, що PS4 продаються у два рази краще, ніж Xbox
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.