Основывающиеся в Калифорнии ведущие разработчики искусственного интеллекта выступают против предложенного законопроекта, предусматривающего строгие стандарты безопасности, включая внедрение «аварийного выключателя» (kill switch) для отключения их передовых моделей искусственного интеллекта.
Основывающиеся в Калифорнии ведущие разработчики искусственного интеллекта выступают против предложенного законопроекта, предусматривающего строгие стандарты безопасности, включая внедрение «аварийного выключателя» (kill switch) для отключения их передовых моделей искусственного интеллекта.
Об этом говорится в материале Financial Times. В нем указано, что законодательный орган Калифорнии рассматривает меры, которые наложат новые ограничения на деятельность технологических компаний в штате. Эти условия касаются таких известных стартапов в сфере ИИ как OpenAI, Anthropic и Cohere, а также основных языковых моделей, используемых такими компаниями, как Meta.
Законопроект требует от калифорнийских групп разработчиков ИИ заверить государственные органы, что они не будут разрабатывать модели с опасными возможностями, которые могут создавать биологическое или ядерное оружие, или помогать в кибератаках. Кроме того, разработчики должны были отчитываться о своих протоколах тестирования безопасности и ввести «аварийный выключатель» для своих моделей.
Однако эти положения получили холодное восприятие многих представителей Кремниевой долины. Они утверждают, что эти законы могут вытеснить стартапы в области ИИ из штата и помешать таким платформам, как Meta, работать с моделями с открытым исходным кодом. Эндрю Ин, ученый-компьютерщик, руководивший проектами по созданию искусственного интеллекта для Google Alphabet и китайской Baidu, а также входящий в совет директоров Amazon, заявил, что эти правила могут иметь «удушающий эффект» на инновации.
Ранее Илон Маск, один из первых инвесторов OpenAI, называл эту технологию «экзистенциальной угрозой» для человечества. Недавно коллектив нынешних и бывших сотрудников OpenAI опубликовал открытое письмо, в котором подчеркнул, что ведущие фирмы, занимающиеся разработкой ИИ, не имеют достаточного государственного надзора и составляют «серьезные риски» для человечества.
В январе 2024 года глава OpenAI Сэм Альтман заявил, что не существует «магической красной кнопки», которая бы остановила ИИ. По его словам, безопасность — это не бинарный вопрос использования или неиспользования технологии; это «множество маленьких решений на этом пути». Альтман напомнил, что из-за этого запуск GPT-4 был отложен на 7–8 месяцев.
