Головний виконавчий директор компанії Anthropic Даріо Амодей опублікував есе на понад 19 000 слів про майбутнє штучного інтелекту. У ньому він заявив, що штучний інтелект «є серйозним викликом для цивілізації».
Головний виконавчий директор компанії Anthropic Даріо Амодей опублікував есе на понад 19 000 слів про майбутнє штучного інтелекту. У ньому він заявив, що штучний інтелект «є серйозним викликом для цивілізації».
Серед багатьох інших тейків у величезному дописі Амодей детально описав «страшний виклик, який людство має подолати», щоб скористатися перевагами штучного інтелекту, не дозволивши цій технології знищити світ.
«Я вірю, що якщо ми будемо діяти рішуче й обережно, ризики можна подолати — я б навіть сказав, що наші шанси хороші. А по той бік нас чекає набагато кращий світ. Але ми маємо розуміти, що це серйозний виклик для цивілізації», — написав він.
За словами Даріо Амодея, розвиток ШІ не зупинити, бо фінансові та безпекові вигоди занадто великі, щоб приватний і державний сектори могли ними знехтувати. Він додав, що саме тому «виграти перегони ШІ й зробити це етичним чином» так важливо.
Однією з головних тем есе Амодея є ризик, який становлять самі компанії, що займаються штучним інтелектом. Він визнає, що для нього цей висновок є «дещо незручним». Як приклад він наводить бурхливу тему сексуалізації дітей. Хоча він не називає xAI безпосередньо, саме ШІ Grok стикається з розслідуваннями в декількох країнах щодо сексуалізації зображень реальних людей без їхньої згоди.
«Деякі компанії, що займаються штучним інтелектом, продемонстрували тривожну недбалість щодо сексуалізації дітей у сучасних моделях, що змушує мене сумніватися в тому, що вони продемонструють схильність або здатність розв’язувати проблеми автономності в майбутніх моделях», — написав CEO Anthropic.
Амодей висловив скептицизм щодо того, що компанії, які займаються штучним інтелектом, пожертвують прибутком заради загального суспільного блага. Він зазначив, що побоювання, що моделі штучного інтелекту можуть не підкорятися наказам і, можливо, навіть намагатися знищити людство, ускладнюються через недобросовісних гравців у галузі, які не є настільки прозорими щодо ризиків, які вони бачать у своїх моделях.
Нагадаємо, що Європейська комісія відкрила нове розслідування проти платформи X через можливі порушення Digital Services Act після запуску Grok і появи на платформі згенерованих ШІ-зображень сексуального характеру.
