👁️👁️ 300 000 криптанів встановили собі Trustee Plus - гаманець з криптокарткою. Чого чекаєш ти? 👉

Нужна ли пауза или это только притянутый за уши ажиотаж. Кто и зачем написал письмо о приостановлении развития искусственного интеллекта

На днях в сети распространилось письмо, подписанное 30 000 экспертами, ведущими исследователями искусственного интеллекта и известными людьми, в частности Илоном Маском, Стивом Возняком, Эндрю Янгом. Большинство подписавшихся отказались от своих позиций. Об этом пишет VICE.

Кто принял участие в мероприятии и как это повлияет на развитие искусственного интеллекта в мировом масштабе.

1 комментарий
Нужна ли пауза или это только притянутый за уши ажиотаж. Кто и зачем написал письмо о приостановлении развития искусственного интеллекта

На днях в сети распространилось письмо, подписанное 30 000 экспертами, ведущими исследователями искусственного интеллекта и известными людьми, в частности Илоном Маском, Стивом Возняком, Эндрю Янгом. Большинство подписавшихся отказались от своих позиций. Об этом пишет VICE.

Кто принял участие в мероприятии и как это повлияет на развитие искусственного интеллекта в мировом масштабе.

Что говорится в письме

Вот, что говорится в письме:

  • «Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски управляемыми. Поэтому мы призываем все лаборатории искусственного интеллекта немедленно приостановить по крайней мере на 6 месяцев обучения систем искусственного интеллекта более мощных, чем GPT-4».
  • «Лаборатории искусственного интеллекта и независимые эксперты должны использовать эту паузу, чтобы совместно разработать и внедрить набор общих протоколов безопасности для продвинутого проектирования и разработки ИИ, тщательно проверяемых и контролируемых независимыми сторонними экспертами».
  • «Это не означает приостановку развития искусственного интеллекта в целом, а просто уход от опасной гонки (соревнования между технологическими компаниями, как Microsoft и Google) к все большим и непредсказуемым моделям черного ящика с новыми возможностями».

Об инициаторе и подписантах

Инициатором письма стала некоммерческая организация Институт будущей жизни, которая стремится «уменьшить глобальный катастрофический и экзистенциальный риск от мощных технологий». Одним из таких рисков считается сверхумный искусственный интеллект.

Илон Маск в 2015 году пожертвовал институту $10 млн.

Проверку подписантов осуществлял Институт будущей жизни Motherboard, и они были «независимо проверены через прямое общение».

Помимо вышеназванных имен свои подписи под письмом поставили генеральный директор Stability AI Эмад Мостаке, писатель и историк Юваль Ной Харари и соучредитель Pinterest Эван Шарп. Также есть подписи сотрудников компаний Google DeepMind и Microsoft, участвующих в гонке вооружений ИИ.

Никто из OpenAI, компании-разработчика моделей GPT на основе искусственного интеллекта, не подписал письмо.

Но обнаружили фальшивые подписи генерального директора OpenAI Сэма Альтмана, президента Китая Си Цзиньпина и главного ученого по искусственному интеллекту Meta Янна Лекуна.

Кто «ЗА»

Среди тех, кто выразился в поддержку письма Гарри Маркуса, профессора психологии и нейронауки в Нью-Йоркском университете, который сказал Reuters, что «буква не идеальна, но дух правильный».

«Да, я не думаю, что шестимесячная пауза является лучшей идеей или соглашаюсь со всем, но в этом письме есть несколько интересных вещей», — сказал Эмад Мостаке, генеральный директор компании Stability.AI, конкурента OpenAI.

На пресс-конференции в среду один из известных подписантов Йошуа Бенгио — канадский компьютерный ученый, который был одним из первых ученых, разработавших глубокую учебу, а также основатель и научный директор исследовательского института Мила — сказал журналистам, что шестимесячный перерыв необходим органам управления, включая правительства, для понимания, аудита и проверки систем, чтобы они были безопасны для общественности.

Макс Тегмарк, профессор физики в Институте искусственного интеллекта и фундаментальных взаимодействий Массачусетского технологического института NSF (IAIFI) и президент Института будущей жизни, сказал, что худший сценарий состоит в том, что люди будут постепенно терять все больше и больше контроля над цивилизацией.

Ажиотаж наносит больше вреда

Арвинд Нараянан, доцент кафедры компьютерных наук Принстонского университета, повторил, что открытое письмо было полон ажиотажа относительно искусственного интеллекта, который «усложняет борьбу с реальным вредом искусственного интеллекта».

«Это, по сути, неправильное направление: привлечение внимания всех к гипотетическим возможностям и ущербу LLM и предложение (очень расплывчатого и неэффективного) способа их устранения, вместо того чтобы рассматривать вред здесь и сейчас и решать его — например, требовать большей прозрачности, когда это приходит к учебным данным и возможностям магистратуры или законодательства по поводу того, где и когда их можно использовать», — сказал Motherboard Саша Лучиони, научный сотрудник и руководитель отдела климата в Hugging Face.

Неверные трактовки

Эмили М. Бендер, профессор кафедры лингвистики Вашингтонского университета и соавтор первой статьи, на которую ссылается письмо, написала в Twitter, что это открытое письмо «насыщенное #Aihype» и что в письме неправильно используются ее исследования.

В письме сказано: «Системы искусственного интеллекта с интеллектом, конкурирующим между людьми, могут представлять серьезные риски для общества и человечества, как показали многочисленные исследования». Но Бендер возражает, это.

«В конце 2020 года мы написали целую статью (Stochastic Parrots, опубликованная в 2021 году), указывая на то, что эта стремительная спешка ко все большим языковым моделям без учета рисков была плохим делом. Но риски и вред никогда не касались «слишком мощного искусственного интеллекта», — написала она.

О замене людей компьютерами

Отдельными вопросами в письме были:

«Должны ли мы автоматизировать все работы, включая выполняющие задания? Должны ли мы развивать бесчеловечные умы, которые со временем могут превзойти, перехитрить, устареть и заменить нас? Следует ли рисковать потерей контроля над нашей цивилизацией?»

Нараянан сказал, что эти вопросы «ерунда» и «смешно». Он отмечает, что, наконец, ИИ уже интегрируется в рабочие места людей и уменьшает потребность в определенных профессиях, не будучи «бесчеловечным умом», который сделает нас «устаревшими». А такие призывы отвлекают от текущих проблем.

К современным проблемам

Тимнит Гебру, компьютерный ученый и основатель Distributed Artificial Intelligence Research Institute, написал в Твиттере, что удивительно, что они призывают приостановить использование моделей более мощных, чем GPT-4, но не учитывают большое количество проблем, связанных с GPT-4. 4 себя.

«Другие вещи могут быть „катастрофическими“, но нынешние вещи, когда всем африканцам платят копейки за посттравматическое стрессовое расстройство, массовое воровство данных и т. п., я считаю, что это „процветание человека“ и „удобства для всех“», — добавил Гебру.

Читайте главные IT-новости страны в нашем Telegram
Читайте главные IT-новости страны в нашем Telegram
По теме
Читайте главные IT-новости страны в нашем Telegram
Искусственный интеллект разрушает рынок труда. Приблизительно 300 млн человек могут потерять работу: кто в зоне риска
Искусственный интеллект разрушает рынок труда. Приблизительно 300 млн человек могут потерять работу: кто в зоне риска
По теме
Искусственный интеллект разрушает рынок труда. Приблизительно 300 млн человек могут потерять работу: кто в зоне риска
Ubisoft разрабатывает искусственный интеллект Ghostwriter, который заменит сценаристов и будет сам писать диалоги.
Ubisoft разрабатывает искусственный интеллект Ghostwriter, который заменит сценаристов и будет сам писать диалоги.
По теме
Ubisoft разрабатывает искусственный интеллект Ghostwriter, который заменит сценаристов и будет сам писать диалоги.
Work.ua сняли на работу искусственный интеллект. На ресурсе уже опубликовали вакансии для знатоков AI 16 компаний
Work.ua сняли на работу искусственный интеллект. На ресурсе уже опубликовали вакансии для знатоков AI 16 компаний
По теме
Work.ua сняли на работу искусственный интеллект. На ресурсе уже опубликовали вакансии для знатоков AI 16 компаний
ChatGPT пришлось закрывать на один день. Что случилось
ChatGPT пришлось закрывать на один день. Что случилось
По теме
ChatGPT пришлось закрывать на один день. Что случилось
УЧАСТЬ В АЗАРТНИХ ІГРАХ МОЖЕ ВИКЛИКАТИ ІГРОВУ ЗАЛЕЖНІСТЬ. ДОТРИМУЙТЕСЯ ПРАВИЛ (ПРИНЦИПІВ) ВІДПОВІДАЛЬНОЇ ГРИ.
Ліцензія видана ТОВ "СЛОТС Ю.ЕЙ." на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 15.09.23 (рішення КРАІЛ №245 від 31.08.2023); ТОВ "СЛОТС Ю.ЕЙ." – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 26.04.2021 (рішення КРАІЛ №150 від 12.04.2021); ТОВ «СПЕЙСИКС» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 08.02.2021 (рішення КРАІЛ №34 від 02.02.2021); ТОВ «ГЕЙМДЕВ» – на провадження діяльності з організації та проведення азартних ігор казино у мережі Інтернет від 16.02.2021 (рішення № 47 від 10.02.2021).
Читайте также
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Roosh запускает новую образовательную платформу AI HOUSE CLUB для ML/AI-специалистов и дата сайнтистов. Рассказываем, как подать заявку и чему будут учить
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Как нейросети видят свободную и независимую Украину? Тест dev.ua
Нейронные сети для генерации изображений видят мир по-своему, их логику понять порой совершенно невозможно. Но все-таки хочется. И в честь Дня Независимости Украины редакция dev.ua решила провести небольшой эксперимент. Мы задали четырем разным нейронным сетям пять одинаковых запросов: «флаг Украины», «День Независимости Украины», «украинский Крым», «победа Украины» и «украинцы». Получившимися результатами мы делимся с вами ниже.
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok теперь можно генерировать фон при помощи нейросети. Мы протестировали ее и делимся результатами
В TikTok появилась новая функция «Умный фон». С ее помощью в качестве фонов для тиктоков можно подставлять сгенерированные нейросетью изображения. Редакция dev.ua протестировала эту возможность и делится своими впечатлениями. 
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака
Какие IT-специальности будут востребованы в ближайшие пять лет? Мы выяснили у главы американского стартапа ADAM Дениса Гурака

Хотите сообщить важную новость? Пишите в Telegram-бот

Главные события и полезные ссылки в нашем Telegram-канале

Обсуждение
0

Більшість великих проектів що займаються АІ вже відписали, що нічого призупиняти не збираються