Розробник чатбота Claude, компанія Anthropic, офіційно попередила потенційних інвесторів про можливість екзистенційних ризиків для людства з боку технологій штучного інтелекту. Відповідні застереження містяться у довгоочікуваному проспекті емісії акцій, який стартап розіслав партнерам перед виходом на біржу Nasdaq восени цього року.
Розробник чатбота Claude, компанія Anthropic, офіційно попередила потенційних інвесторів про можливість екзистенційних ризиків для людства з боку технологій штучного інтелекту. Відповідні застереження містяться у довгоочікуваному проспекті емісії акцій, який стартап розіслав партнерам перед виходом на біржу Nasdaq восени цього року.
Про це пише видання Financial Times із посиланням на джерела, ознайомлені з матеріалами для інвесторів.
Майже третина великого документа присвячена опису факторів ризику. У Anthropic зазначають, що дедалі досконаліші моделі ШІ можуть демонструвати непередбачувану поведінку, вдаватися до маніпуляцій чи шантажу.
Окрім глобальних загроз людству, компанія окреслила й операційні ризики. Зокрема, йдеться про високу концентрацію клієнтської бази: майже чверть доходу минулого року забезпечили лише два клієнти.
Попри це, інвестори очікують, що Anthropic зможе вийти на публічний ринок із оцінкою понад $2 трлн. Це більш ніж удвічі перевищує її травневі показники та залишає позаду червневу оцінку SpaceX на $1,78 трлн.
Для підтримки таких темпів розвитку Anthropic планує інвестувати $518 млрд у хмарні обчислення та інфраструктуру протягом найближчих років. Основними партнерами із забезпечення потужностей виступають Google та SpaceX.
Згідно з наданою звітністю, минулого року дохід компанії зріс у 12 разів і досяг майже $4,6 млрд. Проте операційний збиток перевищив $8 млрд через зростання витрат на навчання моделей, які сягнули майже $13 млрд. Поточного року ситуація покращилася: у другому кварталі дохід досяг $11,5 млрд, і компанія прямує до другого поспіль операційно прибуткового кварталу на скоригованій основі.
Паралельно керівництво стартапу закликає до посилення контролю над розвитком ШІ. Виступаючи в Раді Безпеки ООН, очільник Anthropic Даріо Амодеї заявив, що штучний інтелект є «найважливішою проблемою глобальної безпеки, з якою сьогодні стикається світ». Його заклики уповільнити темпи розробки та посилити заходи безпеки підтримали також Сем Альтман із OpenAI та Ілон Маск.
Нагадаємо, що останнім часом індустрію штучного інтелекту лихоманить від гучних заяв та інцидентів. Ексспівробітник OpenAI та Anthropic Джейкоб Коксон публічно залишив галузь, заявивши, що розробники змагаються за створення систем, здатних до самовдосконалення, та «граються нашими життями».
До апокаліптичних прогнозів долучаються світові лідери та керівники технокорпорацій. dev.ua розбирався, чи ці побоювання виправдані, чи це лише вигідна монополістам паніка та геополітична гра в стилі Холодної війни, разом з ШІ-експертами Богданом Діденком та Михайлом Пацаном.
