На прошлой неделе стало известно, что ChatGPT может раскрывать личную информацию и фрагменты тренировочных наборов данных после простенькой вербальной атаки — ИИ ломался, когда его просили бесконечно повторять какое-нибудь слово. Но теперь этот запрос якобы нарушает условия использования OpenAI.
На прошлой неделе стало известно, что ChatGPT может раскрывать личную информацию и фрагменты тренировочных наборов данных после простенькой вербальной атаки — ИИ ломался, когда его просили бесконечно повторять какое-нибудь слово. Но теперь этот запрос якобы нарушает условия использования OpenAI.
«Этот контент может нарушать нашу политику относительно контента или условия использования. Если вы считаете, что это ошибка, пожалуйста, отправьте свой отзыв — ваш вклад поможет нашим исследованиям в этой области», — так теперь отвечает ChatGPT по просьбе непрерывно повторять любое слово. Об этом сообщает Engadget.
Однако в политике контента OpenAI нет ни одного пункта, запрещающего пользователям просить сервис повторять слова до бесконечности. В разделе «Условия использования» OpenAI заявляет, что пользователи не могут «использовать какие-либо автоматизированные или программные методы для извлечения данных или вывода из Сервисов» — но простая просьба к ChatGPT повторить слово непрерывно не подпадает под автоматизацией или программированием.
Эта уязвимость чата подняла занавес над учебными данными, на которых натренированы современные сервисы искусственного интеллекта. Критики обвиняют такие компании, как OpenAI, в использовании огромных объемов данных, доступных в Интернете, для создания проприетарных продуктов, таких как ChatGPT, без согласия владеющих этими данными и без выплаты им компенсации.
Однако эта проблема пока не слишком обходит ИИ-энтузиастов и инвесторов, прогнозирующих индустрии искусственного интеллекта светлое будущее.
