Лаборатория исследований искусственного интеллекта OpenAI (США) объявила о создании инструмента, определяющего тексты, сгенерированные с помощью искусственного интеллекта.
Лаборатория исследований искусственного интеллекта OpenAI (США) объявила о создании инструмента, определяющего тексты, сгенерированные с помощью искусственного интеллекта.
Разработанный ранее этой же компанией ChatGPT — чат-бот с искусственным интеллектом, большой статистической моделью языка и умеющий создавать тексты, переводить, вести диалоги и т. д., вызвал в информационном поле много дискуссий и поднял важные этические вопросы.
Среди вопросов, волнующих общество, не будут ли возможности искусственного интеллекта использованы для создания дезинформации? Что делать со студентами и школьниками, которые будут использовать ИИ для написания работ? Следует ли указывать ИИ как источник в научных публикациях?
В ответ на такую реакцию лаборатория OpenAI признала свою ответственность за то, чтобы работа их изобретений не наносила вреда и была контролируемой.
С этой целью OpenAI разработали классификатор, обученный отличать текст, написанный искусственным интеллектом, от текста, созданного человеком. Классификатор также работает на базе ИИ.
В OpenAI отмечают, что инструмент совершенствуется. Во время тестирований, проведенных в конце января, классификатор, работавший с английским языком, правильно определил 26% текста, написанного искусственным интеллектом, но допускал ошибки, когда речь шла о текстах, созданных людьми.
Также инструмент имеет ряд ограничений. Например, плохо работает с короткими текстами (менее 1000 знаков), распознает только английский язык.
