Varto
Хочете будувати кар’єру в Data Science та AI? Vodafone Big Data Lab відкриває новий набір —>

Over $1 billion or 50 victims. Anthropic suggests regulating artificial intelligence only in case of threat of catastrophic damage or mass casualties

Anthropic has prepared and submitted a confidential draft of a bill on the safety of artificial intelligence to US lawmakers. According to the documents, the government will be able to impose strict restrictions on AI models only if they pose an imminent threat of causing more than $1 billion in damage or the risk of death or serious injury to more than 50 people.

Leave a comment
Over $1 billion or 50 victims. Anthropic suggests regulating artificial intelligence only in case of threat of catastrophic damage or mass casualties

Anthropic has prepared and submitted a confidential draft of a bill on the safety of artificial intelligence to US lawmakers. According to the documents, the government will be able to impose strict restrictions on AI models only if they pose an imminent threat of causing more than $1 billion in damage or the risk of death or serious injury to more than 50 people.

Politico reports that the proposed regulatory criteria include scenarios involving biological weapons, cyberattacks, or loss of control over models by developers. The concept echoes current technology regulatory initiatives in California.

Company representatives confirmed their position on the need to implement a similar legislative framework at the federal level.

“This bill reflects the proposals outlined in Anthropic’s Advanced AI Framework, which we have been advocating for with federal and state lawmakers since June. We believe this is a sensible policy that Congress should implement,” an Anthropic spokesperson said.

At the same time, industry experts note that such initiatives by tech giants may be an attempt to create conditions for self-regulation that are convenient for them. Focusing on hypothetical global catastrophes distracts attention from the real risks that society already faces, including the impact on user psychology and the labor market.

It was previously reported that OpenAI and Anthropic are attempting to control which independent researchers can report on the dangers of their artificial intelligence in their final reports.

Read the country's main IT news in our Telegram
Read the country's main IT news in our Telegram
On the topic
Read the country's main IT news in our Telegram
Trump ignored the call of Amodei Altman and Musk. In his opinion, the risk of losing the AI ​​race to China is more real than the risks to human security from AI
Trump ignored the call of Amodei, Altman and Musk. In his opinion, the risk of losing the AI ​​race to China is more real than the risks to human security from AI
On the topic
Trump ignored the call of Amodei, Altman and Musk. In his opinion, the risk of losing the AI ​​race to China is more real than the risks to human security from AI
Anthropic employees believe that AI will do 80% of developers' work by 2030 — company survey results
Anthropic employees believe that AI will do 80% of developers' work by 2030 — company survey results
On the topic
Anthropic employees believe that AI will do 80% of developers' work by 2030 — company survey results
OpenAI and Anthropic tried to control what independent researchers could say about the dangers of their AI — Reuters
OpenAI and Anthropic tried to control what independent researchers could say about the dangers of their AI — Reuters
On the topic
OpenAI and Anthropic tried to control what independent researchers could say about the dangers of their AI — Reuters
Also Read
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Roosh запускає нову освітню платформу AI HOUSE CLUB для ML/AI-спеціалістів та дата сайнтистів. Розповідаємо, як подати заявку та чому навчатимуть
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Як нейромережі бачать вільну та незалежну Україну? Тест dev.ua
Нейронні мережі для генерації зображень бачать світ по-своєму, їхню логіку зрозуміти часом зовсім неможливо. Але таки хочеться. На честь Дня Незалежності України редакція dev.ua вирішила провести невеликий експеримент. Ми задали чотирьом різним нейронним мережам п’ять однакових запитів: «прапор України», «День Незалежності України», «український Крим», «перемога України» та «українці». Отриманими результатами ми ділимося з вами нижче.
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok тепер можна генерувати фон за допомогою нейромережі. Ми протестували її та ділимося результатами
У TikTok з’явилася нова функція «Розумний фон». З її допомогою як фон для тіктоків можна підставляти згенеровані нейромережею зображення. Редакція dev.ua протестувала цю технологію і ділиться своїми враженнями.
1 comment
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака
Які IT-спеціальності будуть потрібні в найближчі п'ять років? Ми з'ясували у голови американського стартапу ADAM Дениса Гурака

Have important news to share? Message our Telegram bot

Key events and useful links in our Telegram channel

Discussion
No comments yet.