Разработчики дают нейросети большую свободу. Каким будет новое обновление ChatGPT
OpenAI сообщает, что будущее обновление ChatGPT придаст искусственному интеллекту индивидуальности, но в то же время его ответы станут более противоречивыми.
OpenAI сообщает, что будущее обновление ChatGPT придаст искусственному интеллекту индивидуальности, но в то же время его ответы станут более противоречивыми.
Зачем
В блоге компании сообщили, что они стремятся, чтобы искусственный интеллект приносил пользу всему человечеству. Для этого разработчики планируют улучшить поведение ChatGPT с помощью, в том числе и фидбека от пользователей.
По словам разработчиков, процесс программирования нейросети не похож на традиционный в этом смысле процесс, а скорее напоминает «дрессировку собаки».
Сначала предварительное обучение
На этом этапе нейронке «скармливают» массивы данных, на основе которых модель изучает грамматику, много фактов о мире и приобретает некоторые способности рассуждать, а также некоторые предубеждения, присутствующие в этих миллиардах предложений.
Тонкая настройка
Затем, с помощью рецензентов и указанных им указаний, разработчики тренируют моде на более узкий набор данных. Нейросеть получает установки по типу «не выполнять запросы относительно незаконного содержания» или «избегать занимать позицию по противоречивым темам».
Взаимодействие
Четких инструкций нет, рецензентам очерчены определенные категории, на основе которых они «работают» с нейросетью. Значительной частью процесса усовершенствования является поддержка надежной обратной связи с рецензентами.
Устранение предупреждений
Указание рецензентам четко отмечают, что они не должны отдавать предпочтение ни одной политической группе. Предупреждения, которые могут возникнуть в результате описанного выше процесса, являются ошибками, а не функциями.
«Мы убеждены, что технологические компании должны нести ответственность за создание политики, которая выдерживает проверку», — пишут разработчики.
Обновление
Для улучшения ChatGPT команда разрабатывает обновления, чтобы пользователи могли легко настроить его поведение.
Это означает разрешение системных выходов, с которыми другие люди (включая нас) могут категорически не соглашаться.
Разработчики приглашают всех желающих подать заявку на субсидированный доступ к API через доступ для исследователей программы, чтобы с их помощью коллективно настроить искусственный интеллект.
Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
GitHub и OpenAI заблокировали доступ для украинцев к инструменту написания кода Copilot. Похожая история уже есть с ChatGPT
GitHub и OpenAI заблокировали доступ для украинцев к инструменту написания кода Copilot. Похожая история уже есть с ChatGPT
Украинский писатель попросил ChatGPT назвать десять украинских книг. Что из этого вышло
Украинский писатель попросил ChatGPT назвать десять украинских книг. Что из этого вышло
После разговора с журналистом искусственный интеллект захотел влюбиться и стать человеком
После разговора с журналистом искусственный интеллект захотел влюбиться и стать человеком
Искусственный интеллект управлял полетом F-16 в течение 17 часов. Как это было
Искусственный интеллект управлял полетом F-16 в течение 17 часов. Как это было
Чтобы изменить ход войны. Украинские воины собирают дроны-камикадзе с искусственным интеллектом стоимостью от $1500: видео
Чтобы изменить ход войны. Украинские воины собирают дроны-камикадзе с искусственным интеллектом стоимостью от $1500: видео
Пользователи обманывают фильтры ChatGPT и заставляют его отвечать на токсические вопросы. Вот как это работает
Пользователи обманывают фильтры ChatGPT и заставляют его отвечать на токсические вопросы. Вот как это работает
