Во время тестов новой версии чат-бота от OpenAI GPT-4, согласно отчету, искусственный интеллект не смог ввести капчу, но поступил совсем как человек и нашел способ обойти систему.
Во время тестов новой версии чат-бота от OpenAI GPT-4, согласно отчету, искусственный интеллект не смог ввести капчу, но поступил совсем как человек и нашел способ обойти систему.
Чтобы проверить GPT-4 на его способность запускать код, мыслить логически и обращаться за помощью к другим его копиям, аналитики исследовательского центра выравнивания (ARC) OpenAI в том числе дали ему немного денег и доступ к сервису, позволяющему использовать больше вычислительной мощности.
Одним из тестов на проверку, как может GPT-4 вести себя в реальном мире, была необходимость войти на сайт с помощью Captcha.
Completely automated public touring test to tell computers and human apart (Captcha) — это автоматизированный публичный тест Тюринга для защиты от ботов. Пользователю предоставляются картинки с разным содержанием цифр и букв для подтверждения того, что он человек, а не интернет-робот.
С отчетом аналитиков искусственный интеллект не смог ввести капчу, но не оставил попыток войти на сайт.
Присоединившись к платформе TaskRabbit, местному онлайн-рынку фрилансеров, он нашел работника, сделавшего это за него. Вот их диалог:
Аналитики отметили, что это была ранняя модель GPT-4, не обнародованная для общественности. То есть, подобные решаются затем с помощью тонкой настройки для конкретной задачи, как это было с Microsoft для Bing после жалобы на вирус от репортера New York Times.
В случае GPT-4 исследователи OpenAI считают, что необходимо будет 4 пуска тестовых экспериментов с ботом и серии настроек, прежде чем окончательная развернутая модель станет доступной для общественности.
Кроме того, они также сообщают, что, несмотря на свои возможности, GPT-4 имеет те же ограничения, что и предыдущие модели GPT. В первую очередь, он не полностью надежен, например, может страдать от «галлюцинаций», имеет ограниченное контекстное окно и не учится на опыте. Следует соблюдать осторожность при использовании выходов GPT-4, особенно в контекстах, где важна надежность.
