Компанія OpenAI, яка розробила відомий ШІ-чатбот ChatGPT, офіційно визнала, що детектори, які визначають чи текст згенерований ШІ — не працюють. Відповідне твердження знайшли в FAQ на сайті компанії.
Компанія OpenAI, яка розробила відомий ШІ-чатбот ChatGPT, офіційно визнала, що детектори, які визначають чи текст згенерований ШІ — не працюють. Відповідне твердження знайшли в FAQ на сайті компанії.
Минулого тижня OpenAI опублікувала поради для викладачів у блозі, в якому були зібрані приклади, як деякі викладачі використовують ChatGPT, а також запропоновані зразки промптів для початку роботи. У FAQ до цієї публікації також було чітко вказано: попри те, що ШІ-детектори тексту все ще використовують для покарання учнів за нібито використання штучного інтелекту при виконанні домашніх завдань, вони часто спрацьовують помилково. Про це повідомляє сайт Arstechnica.
У розділі поширених запитань і відповідей під назвою «Чи працюють детектори ШІ?» компанія OpenAI написала:
«Якщо коротко, то ні. Хоча деякі [компанії] (в тому числі OpenAI) випустили інструменти, які мають на меті виявити контент, створений ШІ, жоден із них не зміг надійно відрізнити контент, створений ШІ, від контенту, створеного людиною»
Видання повідомляє, що такі детектори часто дають хибні спрацьовування через те, що покладаються на неперевірені метрики виявлення. Навіть сама OpenAI нещодавно припинила підтримку свого AI Classifier, який був експериментальним інструментом, призначеним для виявлення тексту, написаного штучним інтелектом. Він мав жахливий показник точності у 26%.
У згаданому FAQ від OpenAI також розглядається ще одна велика помилка, яка полягає в тому, що ChatGPT нібито сам може знати, чи написаний текст штучним інтелектом, чи ні.
«ChatGPT не має „знань“ про те, який контент може бути створений штучним інтелектом. Іноді він вигадує відповіді на запитання на кшталт „чи ви написали цей [твір]?“ або „чи міг це написати ШІ?“. Ці відповіді є випадковими й не мають під собою жодного підґрунтя», — пише OpenAI.
Хоча автодетектори ШІ не працюють, це не означає, що людина нездатна виявити текст, написаний штучним інтелектом. Наприклад, вчитель, знайомий зі стилем письма свого учня, може сказати, коли його стиль або можливості різко змінюються.
Крім того, деякі недбалі спроби видати роботу, створену штучним інтелектом, як людську, можуть залишити виразні ознаки, такі як фраза «як мовна модель штучного інтелекту», що означає, що хтось недбало скопіював і вставив результати роботи ChatGPT. Нещодавня стаття в науковому журналі Nature показала, як люди помітили у науковій роботі фразу «Регенерувати відповідь». Так називається кнопка в ChatGPT.
