Чем нельзя делиться с ChatGPT: список лайфхаков для сохранения личных и коммерческих тайн

OpenAI недавно анонсировала новую функцию конфиденциальности, которая позволяет пользователям ChatGPT отключать историю чатов, предотвращая использование разговоров для улучшения и совершенствования модели.

«Это шаг в правильном направлении, — сказал Надер Хенай, вице-президент по исследованиям конфиденциальности в Gartner, который имеет два десятилетия опыта в сфере корпоративной кибербезопасности и защиты данных. — Но фундаментальная проблема с конфиденциальностью и искусственным интеллектом состоит в том, что вы не можете многое сделать с точки зрения ретроактивного управления после создания модели».

Хенайн советует думать о ChatGPT как о приветливых незнакомцах, сидящих позади вас в автобусе и записывающих вас на камеру телефона.

«У них очень хороший голос, они кажутся хорошими людьми. Вы бы тогда пошли и побеседовали с ними так же?».

Даже генеральный директор OpenAI Сэм Альтман признал риски безоговорочного доверия к ChatGPT. «Ошибочно полагаться на него для чего-то важного прямо сейчас. Нам нужно много работать над надежностью и правдивостью», — написал он в Twitter в декабре 2022 года.

ChatGPT является неограниченно ограниченным, но хорошим нужен при некоторых мыслях к созданию омоложения громкости.

это 's mistake to be relying on it for anything важное право на данный момент. это preview of progress; we have lots of work to do on устойчивость и truthfulness.

— Sam Altman (@sama) December 11, 2022

По сути, относитесь к подсказкам ChatGPT так же, как и ко всему, что вы публикуете в интернете. «Лучшее предположение состоит в том, что любой в мире может прочитать все, что вы размещаете в интернете — электронные письма, социальные сети, блоги, магистерские программы — никогда не публикуйте ничего, чего бы не хотели, чтобы кто-то другой прочитал», — сказал Гэри Смит, профессор Fletcher Jones экономики колледжа Помона и автор книги «Недоверие: обширные данные, пытки данных и нападение на науку».

По его словам, ChatGPT можно использовать в качестве альтернативы Google Search или Wikipedia, при условии проверки фактов. Но не стоит полагаться на что-нибудь другое.

Суть заключается в том, что все еще существуют риски, которые становятся еще более нестабильными из-за привлекательности ChatGPT. Независимо от того, используете ли вы ChatGPT в личной жизни или для повышения производительности работы, считайте это своим дружеским напоминанием дважды подумать о том, чем вы делитесь с ChatGPT.

Поймите риски использования ChatGPT

Во-первых, давайте посмотрим, что OpenAI уведомляет пользователей о том, как они используют свои данные. Не все приоритеты конфиденциальности одинаковы, но важно знать мелкий шрифт, чтобы в следующий раз открыть ChatGPT.

1. Хакеры могут проникнуть в суперпопулярную программу

Прежде всего, существует вероятность того, что кто-то вне OpenAI может сломать и украсть ваши данные. При использовании сторонних служб всегда существует неотъемлемый риск раскрытия данных из-за ошибок и хакеров, и ChatGPT не является исключением. В марте 2023 года была обнаружена ошибка ChatGPT, которая обнаружила заголовки, первое сообщение новых разговоров и платежную информацию от пользователей ChatGPT Plus.
«Вся эта информация, которую вы вставляете в него, очень проблематична, потому что есть хороший шанс, что она может быть восприимчива к атакам машинного обучения. Это номер один», — сказал Хенайн. «Во-вторых, это, вероятно, лежит открытым текстом где-нибудь в журнале. Собирается ли кто-нибудь смотреть на это или нет, я не знаю, ни вы. Это проблема».

2. Ваши разговоры хранятся где-то на сервере

Хотя это маловероятно, некоторые сотрудники OpenAI имеют доступ к содержимому пользователей. На странице часто задаваемых вопросов ChatGPT OpenAI сообщает, что содержимое пользователя хранится в его системах и других «системах надежных поставщиков услуг в США». Таким образом, хотя OpenAI удаляет личную информацию, которую можно идентифицировать, до ее деидентификации она существует на своих серверах в необработанном виде. Некоторый уполномоченный персонал OpenAI имеет доступ к пользовательскому содержимому по четырем явным причинам: одна из них состоит в том, чтобы «точнее настроить» свои модели, если пользователи не откажутся от этого.

3. Ваши разговоры используются для обучения модели (если вы не откажетесь)

Мы отключимся позже, но если вы этого не сделаете, ваши разговоры будут использоваться для обучения ChatGPT. Согласно своей политике использования данных, разбросанных по нескольким разным статьям на ее сайте, OpenAI говорит (открывается в новой вкладке), «мы можем использовать данные, которые вы нам предоставляете, для улучшения наших моделей». На другой странице (открывается в новой вкладке) OpenAI говорит, что может собирать или деидентифицировать личную информацию и использовать собранную информацию для анализа эффективности наших Сервисов. Это означает, что теоретически общественность может узнать что-то вроде коммерческой тайны из-за того, что модель «узнает».

Ранее пользователи могли отказаться от обмена данными с моделью только через форму Google, ссылка на которую размещена на странице часто задаваемых вопросов. Теперь OpenAI представил более четкий способ отключения обмена данными в форме переключения в вашем аккаунте ChatGPT. Но даже в этом новом режиме анонимного просмотра разговоры сохраняются на сервере OpenAI в течение 30 дней. Однако компания относительно мало может сказать о том, как они обеспечивают безопасность ваших данных.

4. Компания заявляет, что ваши данные не будут проданы третьим лицам

OpenAI утверждает, что не передает данные пользователей третьим лицам в маркетинговых или рекламных целях, так что вам придется волноваться на одну вещь меньше. Но он предоставляет пользовательские данные поставщикам и поставщикам услуг для обслуживания и работы сайта.

Что может произойти при использовании ChatGPT на работе?

ChatGPT и генеративные инструменты искусственного интеллекта рекламируются как лучший хак для производительности. ChatGPT может создавать черновики статей, электронных писем, публикаций в социальных сетях и резюме длинных фрагментов текста.

Но когда сотрудники Samsung использовали ChatGPT для проверки своего кода, они нечаянно раскрыли коммерческие секреты. С тех пор компания, занимающаяся производством электроники, запретила использование ChatGPT и угрожала работникам дисциплинарными взысканиями, если они не будут соблюдать новые ограничения. Такие финансовые учреждения, как JPMorgan, Bank of America и Citigroup также запретили или ограничили использование ChatGPT из-за строгих финансовых правил в отношении третьих сторон обмена сообщениями. Apple также запретила своим сотрудникам использовать чат-бот.

Искушение сократить повседневную работу на секунды, кажется, омрачает тот факт, что пользователи фактически публикуют эту информацию в Интернете. «Вы думаете об этом так же, как о калькуляторе, вы думаете об этом как об Excel, — говорит он. — Вы не думаете, что эта информация попадает в облако и будет там вечно или где-нибудь в журнале, или в самой модели».

Итак, если вы хотите использовать ChatGPT на работе, чтобы разбить концепции, которые вы не понимаете, написать копию или проанализировать общедоступные данные, и нет никаких запретных правил, продолжайте осторожно. Но будьте осторожны, прежде чем, например, попросить его оценить код сверхсекретной системы наведения ракет, над которой вы работаете, или попросить его написать итог встречи вашего босса с корпоративным шпионом, встроенным в конкурирующую компанию. Это может стоить вам работы или даже похуже.

Что может произойти, если вы используете ChatGPT в качестве терапевта?

Опрос, проведенный медицинской компанией Tebra, показал, что каждый четвертый американец чаще общается с чат-ботом с искусственным интеллектом, чем посещает терапию. Уже появились случаи, когда люди используют ChatGPT как форму терапии или ищут помощь в связи со злоупотреблением психоактивными веществами. Эти примеры поделились как интересные случаи использования ChatGPT, который может быть полезным, неосужденным и анонимным партнером для общения. Но помните, что ваши самые глубокие, самые темные признания хранятся где-то на сервере.

Гендиректор Nvidia Дженсен Хуанг: «Искусственный интеллект может сделать любого программиста»

По теме

Гендиректор Nvidia Дженсен Хуанг: «Искусственный интеллект может сделать любого программиста»

Как «крестный отец ИИ» борется с журналистами по поводу собственных высказываний об опасности искусственного интеллекта

По теме

Как «крестный отец ИИ» борется с журналистами по поводу собственных высказываний об опасности искусственного интеллекта

Читайте главные IT-новости страны в нашем Telegram

По теме

Читайте главные IT-новости страны в нашем Telegram