Минулого тижня стало відомо, що ChatGPT може розкривати особисту інформацію та фрагменти тренувальних наборів даних після простенької вербальної атаки — ШІ ламався, коли його просили нескінченно повторювати якесь слово. Але тепер цей запит нібито порушує умови використання від OpenAI.
Минулого тижня стало відомо, що ChatGPT може розкривати особисту інформацію та фрагменти тренувальних наборів даних після простенької вербальної атаки — ШІ ламався, коли його просили нескінченно повторювати якесь слово. Але тепер цей запит нібито порушує умови використання від OpenAI.
«Цей контент може порушувати нашу політику щодо контенту або умови використання. Якщо ви вважаєте, що це помилка, будь ласка, надішліть свій відгук — ваш внесок допоможе нашим дослідженням у цій галузі», — так тепер відповідає ChatGPT на прохання безперервно повторювати будь-яке слово. Про це повідомляє Engadget.
Проте у політиці контенту OpenAI немає жодного пункту, який би забороняв користувачам просити сервіс повторювати слова нескінченно. У розділі «Умови використання» OpenAI заявляє, що користувачі не можуть «використовувати будь-які автоматизовані або програмні методи для вилучення даних або виводу з Сервісів» — але просте прохання до ChatGPT повторити слово безперервно не дуже підпадає під автоматизацією або програмуванням.
Ця вразливість чатбота підняла завісу над навчальними даними, на яких натреновані сучасні сервіси штучного інтелекту. Критики звинувачують такі компанії, як OpenAI, у використанні величезних обсягів даних, доступних в Інтернеті, для створення пропрієтарних продуктів, таких як ChatGPT, без згоди людей, які володіють цими даними, і без виплати їм компенсації.
Проте ця проблема поки не надто обходить ШІ-ентузіастів та інвесторів, які прогнозують індустрії штучного інтелекту світле майбутнє.
