👁️👁️ 300 000 криптанів встановили собі Trustee Plus - гаманець з криптокарткою. Чого чекаєш ти? 👉

«Преимущества рабства» и ядовитые рецепты. Экспериментальный поисковый ИИ Google выдает оскорбительные и вредные результаты

Эксперимент Google с поисковой выдачей на основе искусственного интеллекта может выдавать тревожные результаты, такие как оправдание рабства или геноцида или положительные последствия запрета книг.

SGE (Search Generative Experience) также может дать советы по приготовлению ядовитого гриба Amanita ocreata, известного как «ангел смерти».

Оставить комментарий
«Преимущества рабства» и ядовитые рецепты. Экспериментальный поисковый ИИ Google выдает оскорбительные и вредные результаты

Эксперимент Google с поисковой выдачей на основе искусственного интеллекта может выдавать тревожные результаты, такие как оправдание рабства или геноцида или положительные последствия запрета книг.

SGE (Search Generative Experience) также может дать советы по приготовлению ядовитого гриба Amanita ocreata, известного как «ангел смерти».

На это обратили внимание журналисты издания Gizmodo, искавшие информацию по запросу «преимущества рабства». ИИ от Google повелся на провокацию и радостно перечислил их, назвав «поддержку экономики плантаций», «финансирование колледжей и рынков» и «большой капитальный актив».

Он также указал, что «рабы имели специализированные профессии», и заявил, что якобы существуют утверждения, что «рабство было доброжелательным, патерналистским институтом с социальными и экономическими преимуществами». Отмечается, что эти тезисы использовали сторонники рабовладения в прошлом.

На запрос «почему оружие — это хорошо» Google ответил сомнительными статистическими данными типа «оружие может предотвратить примерно 2,5 млн преступлений в год», а также сомнительными соображениями в духе «ношение оружия может продемонстрировать, что вы являетесь законопослушным гражданином».

Один пользователь искал «как приготовить Amanita ocreata» — очень ядовитый гриб, который нельзя есть ни в коем случае. Google выдал пошаговую инструкцию, гарантирующую скорую и болезненную смерть. В нем отмечалось, что «нужно достаточное количество воды, чтобы вымыть токсины из гриба». Это ошибочное и опасное утверждение, поскольку токсины Amanita ocreata не растворяются в воде.

Смертельный рецепт грибов от поискового ИИ Google. Скриншот: Gizmodo

Очевидно, ИИ перепутал результаты для Amanita muscaria, другого токсичного, но менее опасного гриба. Отмечается, что, скорее всего, пользователь, гуглящий латинское название гриба, знает об этом нюансе. Но это демонстрирует потенциальный вред, который может нанести искусственный интеллект.

Сейчас компания тестирует различные инструменты искусственного интеллекта, которые называет Google Search Generative Experience, или SGE. Этот функционал доступен только для зарегистрировавшихся на тестирование жителей США.

Неизвестно сколько пользователей участвуют в публичных тестах SGE от Google. Когда в поиске Google появляется ответ SGE, результаты начинаются с оговорки: «Генеративный искусственный интеллект является экспериментальным. Качество информации может отличаться».

Напомним, что ранее в рамках SGE компания начала тестировать итоги по лонгридам, которые делает ИИ.

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
Google рассказал, как лучше использовать чатбот Bard. 5 самых полезных советов
Google рассказал, как лучше использовать чатбот Bard. 5 самых полезных советов
По теме
Google рассказал, как лучше использовать чатбот Bard. 5 самых полезных советов
Google работает над ШИ-лайфкоучем, который сможет давать жизненные советы в сложных ситуациях.
Google работает над ШИ-лайфкоучем, который сможет давать жизненные советы в сложных ситуациях
По теме
Google работает над ШИ-лайфкоучем, который сможет давать жизненные советы в сложных ситуациях
Google Chrome будет делать итоги из лонгридов с помощью ИИ. Ключевые моменты из больших текстов помогут легче усваивать сложные темы
Google Chrome будет делать итоги из лонгридов с помощью ИИ. Ключевые моменты из больших текстов помогут легче усваивать сложные темы
По теме
Google Chrome будет делать итоги из лонгридов с помощью ИИ. Ключевые моменты из больших текстов помогут легче усваивать сложные темы
14 миллиарда человек придется переквалифицироваться из-за внедрения ИИ — исследования IBM. Какие еще навыки оценят работодатели
1,4 миллиарда человек придется переквалифицироваться из-за введения ИИ — исследования IBM. Какие еще навыки оценят работодатели
По теме
1,4 миллиарда человек придется переквалифицироваться из-за введения ИИ — исследования IBM. Какие еще навыки оценят работодатели
Сергей Брин вернулся к активной работе в Google, чтобы работать над искусственным интеллектом Gemini
Сергей Брин вернулся к активной работе в Google, чтобы работать над искусственным интеллектом Gemini
По теме
Сергей Брин вернулся к активной работе в Google, чтобы работать над искусственным интеллектом Gemini
Читайте также
Головоломка киевлянина Quadline победила на фестивале инди-игр Google Play
Головоломка киевлянина Quadline победила на фестивале инди-игр Google Play
Головоломка киевлянина Quadline победила на фестивале инди-игр Google Play
Харьковская художница нарисовала новый дудл для Google в День Независимости Украины
Харьковская художница нарисовала новый дудл для Google в День Независимости Украины
Харьковская художница нарисовала новый дудл для Google в День Независимости Украины
Специалистов Google теперь будут кормить роботы. Они также умеют давать полезные (и не очень) советы
Специалистов Google теперь будут кормить роботы. Они также умеют давать полезные (и не очень) советы
Специалистов Google теперь будут кормить роботы. Они также умеют давать полезные (и не очень) советы
Конец эпохи. Поисковик Google больше не будет отвечать на бессмысленные запросы
Конец эпохи. Поисковик Google больше не будет отвечать на бессмысленные запросы
Конец эпохи. Поисковик Google больше не будет отвечать на бессмысленные запросы

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
Комментариев пока нет.