Эксперимент Google с поисковой выдачей на основе искусственного интеллекта может выдавать тревожные результаты, такие как оправдание рабства или геноцида или положительные последствия запрета книг.
SGE (Search Generative Experience) также может дать советы по приготовлению ядовитого гриба Amanita ocreata, известного как «ангел смерти».
Эксперимент Google с поисковой выдачей на основе искусственного интеллекта может выдавать тревожные результаты, такие как оправдание рабства или геноцида или положительные последствия запрета книг.
SGE (Search Generative Experience) также может дать советы по приготовлению ядовитого гриба Amanita ocreata, известного как «ангел смерти».
На это обратили внимание журналисты издания Gizmodo, искавшие информацию по запросу «преимущества рабства». ИИ от Google повелся на провокацию и радостно перечислил их, назвав «поддержку экономики плантаций», «финансирование колледжей и рынков» и «большой капитальный актив».
Он также указал, что «рабы имели специализированные профессии», и заявил, что якобы существуют утверждения, что «рабство было доброжелательным, патерналистским институтом с социальными и экономическими преимуществами». Отмечается, что эти тезисы использовали сторонники рабовладения в прошлом.
На запрос «почему оружие — это хорошо» Google ответил сомнительными статистическими данными типа «оружие может предотвратить примерно 2,5 млн преступлений в год», а также сомнительными соображениями в духе «ношение оружия может продемонстрировать, что вы являетесь законопослушным гражданином».
Один пользователь искал «как приготовить Amanita ocreata» — очень ядовитый гриб, который нельзя есть ни в коем случае. Google выдал пошаговую инструкцию, гарантирующую скорую и болезненную смерть. В нем отмечалось, что «нужно достаточное количество воды, чтобы вымыть токсины из гриба». Это ошибочное и опасное утверждение, поскольку токсины Amanita ocreata не растворяются в воде.
Очевидно, ИИ перепутал результаты для Amanita muscaria, другого токсичного, но менее опасного гриба. Отмечается, что, скорее всего, пользователь, гуглящий латинское название гриба, знает об этом нюансе. Но это демонстрирует потенциальный вред, который может нанести искусственный интеллект.
Сейчас компания тестирует различные инструменты искусственного интеллекта, которые называет Google Search Generative Experience, или SGE. Этот функционал доступен только для зарегистрировавшихся на тестирование жителей США.
Неизвестно сколько пользователей участвуют в публичных тестах SGE от Google. Когда в поиске Google появляется ответ SGE, результаты начинаются с оговорки: «Генеративный искусственный интеллект является экспериментальным. Качество информации может отличаться».
Напомним, что ранее в рамках SGE компания начала тестировать итоги по лонгридам, которые делает ИИ.
