💻 MayBee: френдлі HRM система. Просте та iнтуїтивне управління комплексними HR процесами 🔥

OpenAI официально признала, что детекторы не способны обнаружить текст, сгенерированный ИИ

Компания OpenAI, разработавшая известный ИИ-чатбот ChatGPT, официально признала, что детекторы, которые определяют текст ли сгенерированный ИИ — не работают. Соответствующее утверждение было найдено в FAQ на сайте компании.

Оставить комментарий
OpenAI официально признала, что детекторы не способны обнаружить текст, сгенерированный ИИ

Компания OpenAI, разработавшая известный ИИ-чатбот ChatGPT, официально признала, что детекторы, которые определяют текст ли сгенерированный ИИ — не работают. Соответствующее утверждение было найдено в FAQ на сайте компании.

На прошлой неделе OpenAI опубликовала советы для преподавателей в блоге, где были собраны примеры, как некоторые преподаватели используют ChatGPT, а также предложены образцы промптов для начала работы. В FAQ к этой публикации также было четко указано: несмотря на то, что ИИ-детекторы текста все еще используют для наказания учащихся за использование искусственного интеллекта при выполнении домашних заданий, они часто срабатывают ошибочно. Об этом сообщает сайт Arstechnica.

В разделе часто задаваемых вопросов и ответов под названием «Работают ли детекторы ИИ?» компания OpenAI написала:

«Если коротко, то нет. Хотя некоторые [компании] (в том числе OpenAI) выпустили инструменты, имеющие целью выявить контент, созданный ИИ, ни один из них не смог надежно отличить контент, созданный ИИ, от контента, созданного человеком».

Издание сообщает, что такие детекторы часто дают ложные срабатывания из-за того, что полагаются на непроверенные метрики обнаружения. Даже сама OpenAI недавно прекратила поддержку своего AI Classifier, который являлся экспериментальным инструментом, предназначенным для обнаружения текста, написанного искусственным интеллектом. У него был ужасный показатель точности в 26%.

В упомянутом FAQ от OpenAI также рассматривается еще одна большая ошибка, заключающаяся в том, что ChatGPT якобы сам может знать, написан ли текст искусственным интеллектом или нет.

«ChatGPT не имеет „знаний“ о том, какой контент может быть создан искусственным интеллектом. Иногда он придумывает ответы на вопросы типа „написали ли вы это [произведение]?“ или „мог ли это написать ИИ?“. Эти ответы случайны и не имеют под собой никакой основы», — пишет OpenAI.

Хотя авто детекторы ИИ не работают, это не значит, что человек не способен обнаружить текст, написанный искусственным интеллектом. К примеру, учитель, знакомый со стилем письма собственного ученика, может сказать, когда его стиль либо способности резко меняются.

Кроме того, некоторые небрежные попытки выдать работу, созданную искусственным интеллектом, как человеческую, могут оставить выразительные признаки, такие как фраза «как языковая модель искусственного интеллекта», что означает, что кто-то небрежно скопировал и вставил результаты работы ChatGPT. Недавняя статья в научном журнале Nature показала, как люди заметили в научной работе фразу «Регенерировать ответ». Так называется кнопка в ChatGPT.

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
OpenAI опубликовала 4 совета учителям как использовать ChatGPT в школе
OpenAI опубликовала 4 совета учителям, как использовать ChatGPT в школе
По теме
OpenAI опубликовала 4 совета учителям, как использовать ChatGPT в школе
Создатели ChatGPT закрыли инструмент для обнаружения контента на основе ИИ. Эксперимент провалился?
Создатели ChatGPT закрыли инструмент для обнаружения контента на основе ИИ. Эксперимент провалился?
По теме
Создатели ChatGPT закрыли инструмент для обнаружения контента на основе ИИ. Эксперимент провалился?
За лето трафик ChatGPT ощутимо снизился – до 10%. Но с началом учебного года надеются на улучшение
За лето трафик ChatGPT ощутимо снизился — до 10%. Но с началом учебного года надеются на улучшение
По теме
За лето трафик ChatGPT ощутимо снизился — до 10%. Но с началом учебного года надеются на улучшение
Двое украинцев создали математическое приложение MathMaster, покорившее миллионы американцев и конкурирующее с ChatGPT
Двое украинцев создали математическое приложение MathMaster, покорившее миллионы американцев и конкурирующее с ChatGPT
По теме
Двое украинцев создали математическое приложение MathMaster, покорившее миллионы американцев и конкурирующее с ChatGPT

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.