OpenAI розробила інструмент для визначення текстів, створених штучним інтелектом
Лабораторія досліджень штучного інтелекту OpenAI (США) оголосила про створення інструменту, що визначатиме тексти, згенеровані за допомогою штучного інтелекту.
Лабораторія досліджень штучного інтелекту OpenAI (США) оголосила про створення інструменту, що визначатиме тексти, згенеровані за допомогою штучного інтелекту.
Розроблений раніше цією ж компанією ChatGPT — чат-бот зі штучним інтелектом, що є великою статистичною моделлю мови й вміє створювати тексти, перекладати, вести діалоги тощо, викликав в інформаційному полі багато дискусій та порушив важливі етичні питання.
Серед питань, які хвилюють суспільство — чи не будуть можливості штучного інтелекту використані для створення дезінформація? що робити зі студентами та школярами, які використовуватимуть ШІ для написання робіт? чи слід вказувати ШІ як джерело у наукових публікаціях?
У відповідь на таку реакцію лабораторія OpenAI визнала свою відповідальність за те, щоб робота їхніх винаходів не завдавала шкоди та була контрольованою.
З цією метою OpenAI розробили класифікатор, навчений вирізняти текст, написаний штучним інтелектом, від тексту, що створений людиною. Класифікатор також працює на основі ШІ.
В OpenAI зауважують, що інструмент ще вдосконалюється. Під час тестувань, проведених наприкінці січня, класифікатор, що працював з англійською мовою, правильно визначив 26% тексту, написаного штучним інтелектом, але припускався помилок, коли йшлося про тексти, створені людьми.
Також інструмент має низку обмежень. Наприклад, погано працює з короткими текстами (менш як 1000 знаків), розпізнає лише англійську тощо.