Штучний інтелект Anthropic допомагає створювати власну наступну версію
Компанія Anthropic заявила, що її модель штучного інтелекту Claude бере активну участь у розробці наступної, ще більш інтелектуальної версії самої себе.
Компанія Anthropic заявила, що її модель штучного інтелекту Claude бере активну участь у розробці наступної, ще більш інтелектуальної версії самої себе.
Згідно з офіційною заявою компанії, Claude уже очолює 26% досліджень та розробок Anthropic. Це означає, що модель здатна виконувати більшість завдань «від початку до кінця на основі високорівневого запиту», залишаючись при цьому під контролем людини. Повної автономності система поки не досягла, повідомляє Tech Xplore.
Крім того, близько 90% усіх розробок компанії відбуваються у «співпраці» з Claude, коли модель виконує великі обсяги роботи під суворим людським керівництвом. Для порівняння, ще у лютому частка роботи, яку очолював Claude, дорівнювала нулю, а вже у серпні досягла чверті від усіх процесів.
Станом на серпень до дослідницьких та інженерних робіт компанії залучено близько 30 000 агентів штучного інтелекту, для контролю безпеки яких Anthropic впроваджує спеціальні заходи моніторингу та залучає зовнішніх незалежних оцінювачів. Водночас компанія закликає інші лабораторії регулярно публікувати аналогічні показники, щоб суспільство чітко розуміло, наскільки індустрія близька до рекурсивного самовдосконалення — здатності ШІ повністю самостійно створювати свого наступника.
Заява лунає на тлі гострої дискусії щодо безпеки штучного інтелекту. Співзасновник Anthropic Даріо Амодеї, а також низка інших лідерів галузі, зокрема Сем Альтман та Ілон Маск, закликають сповільнити темпи розвитку технології, аби мінімізувати ризики втрати контролю над автономними системами.
Гендиректор Anthropic попередив про загрозу захоплення всього інтернету неконтрольованими ШІ-агентами протягом року
Гендиректор Anthropic попередив про загрозу захоплення всього інтернету неконтрольованими ШІ-агентами протягом року
«З світом усе буде гаразд». Співзасновник Palantir закликав не панікувати через загрозу знищення людства штучним інтелектом
«З світом усе буде гаразд». Співзасновник Palantir закликав не панікувати через загрозу знищення людства штучним інтелектом
В Китаї пояснили, що вважають головною загрозою від штучного інтелекту
В Китаї пояснили, що вважають головною загрозою від штучного інтелекту
Трамп проігнорував заклик Амодея, Альтмана і Маска. На його думку, ризик програти ШІ-гонку Китаю реальніший, ніж ризики для безпеки людства від ШІ
Трамп проігнорував заклик Амодея, Альтмана і Маска. На його думку, ризик програти ШІ-гонку Китаю реальніший, ніж ризики для безпеки людства від ШІ
OpenAI відклала вихід на біржу через ризики безпеки ШІ
OpenAI відклала вихід на біржу через ризики безпеки ШІ
Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
