Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

Понад $1 млрд або 50 постраждалих. Anthropic пропонує регулювати штучний інтелект лише в разі загрози катастрофічних збитків або масових жертв

Компанія Anthropic підготувала та передала американським законодавцям конфіденційний проєкт закону щодо безпеки штучного інтелекту. Згідно з документами, уряд зможе застосовувати жорсткі обмеження до моделей ШІ лише у випадку, якщо вони становлять безпосередню загрозу заподіяння збитків на суму понад $1 млрд або ризик загибелі чи серйозного травмування більше ніж 50 осіб.

Залишити коментар
Понад $1 млрд або 50 постраждалих. Anthropic пропонує регулювати штучний інтелект лише в разі загрози катастрофічних збитків або масових жертв

Компанія Anthropic підготувала та передала американським законодавцям конфіденційний проєкт закону щодо безпеки штучного інтелекту. Згідно з документами, уряд зможе застосовувати жорсткі обмеження до моделей ШІ лише у випадку, якщо вони становлять безпосередню загрозу заподіяння збитків на суму понад $1 млрд або ризик загибелі чи серйозного травмування більше ніж 50 осіб.

Про це повідомляє видання Politico. Запропоновані критерії регулювання стосуються сценаріїв із використанням біологічної зброї, кібератак або втратою контролю над моделями з боку розробників. Концепція багато в чому перегукується з поточними ініціативами щодо регулювання технологій у штаті Каліфорнія.

Представники компанії підтвердили свою позицію щодо необхідності впровадження подібного законодавчого рамкового механізму на федеральному рівні.

«Цей законопроєкт відображає пропозиції, викладені в Advanced AI Framework компанії Anthropic, за які ми виступаємо перед федеральними та штатними законодавцями з червня. На нашу думку, це розумна політика, яку Конгрес повинен втілити в життя», — зазначив речник Anthropic.

Водночас експерти галузі зауважують, що подібні ініціативи технологічних гігантів можуть бути спробою сформувати зручні для себе умови саморегулювання. Фокусування на гіпотетичних глобальних катастрофах відволікає увагу від реальних ризиків, з якими суспільство стикається вже зараз, включаючи вплив на психологію користувачів та ринок праці.

Раніше стало відомо про спроби OpenAI та Anthropic контролювати, що саме незалежні дослідники можуть розповідати про небезпеки їхнього штучного інтелекту у підсумкових звітах.

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
Трамп проігнорував заклик Амодея Альтмана і Маска. На його думку ризик програти ШІ-гонку Китаю реальніший ніж ризики для безпеки людства від ШІ
Трамп проігнорував заклик Амодея, Альтмана і Маска. На його думку, ризик програти ШІ-гонку Китаю реальніший, ніж ризики для безпеки людства від ШІ
По темi
Трамп проігнорував заклик Амодея, Альтмана і Маска. На його думку, ризик програти ШІ-гонку Китаю реальніший, ніж ризики для безпеки людства від ШІ
Працівники Anthropic вважають що до 2030 року ШІ виконуватиме 80% роботи розробників — результати опитування компанії
Працівники Anthropic вважають, що до 2030 року ШІ виконуватиме 80% роботи розробників — результати опитування компанії
По темi
Працівники Anthropic вважають, що до 2030 року ШІ виконуватиме 80% роботи розробників — результати опитування компанії
OpenAI та Anthropic намагалися контролювати що незалежні дослідники можуть розповідати про небезпеки їхнього ШІ — Reuters
OpenAI та Anthropic намагалися контролювати, що незалежні дослідники можуть розповідати про небезпеки їхнього ШІ — Reuters
По темi
OpenAI та Anthropic намагалися контролювати, що незалежні дослідники можуть розповідати про небезпеки їхнього ШІ — Reuters
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
2 коментарі
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
Штучний інтелект почав озвучувати фільми на MEGOGO
6 коментарів
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
Штучний інтелект навчився реставрувати старі фотографії, перетворюючи їх на якісні зображення: відео
2 коментарі
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
«Чи є у мене талант, якщо комп’ютер може імітувати мене?». Штучний інтелект пише книги авторам Amazon Kindle. The Verge поспілкувався з авторами та виявив багато цікавого
Письменники-романісти використовують штучний інтелект для створення своїх творів. Видання про технології The Verge поспілкувалося з письменницею Дженніфер Лепп, яка випускає нову книгу кожні дев’ять тижнів, й дізналося про те, як працює штучний інтелект для написання романів. Наводимо адаптований переклад статті. 

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.