Американський стартап Patronus AI, який розробляє симульовані цифрові середовища для стрес-тестування агентів штучного інтелекту, залучив $50 млн у межах раунду фінансування серії B. Залучені кошти допоможуть компанії масштабувати технологію «моделей цифрового світу» для перевірки автономних ШІ-систем у сферах фінансів та розробки програмного забезпечення.
Американський стартап Patronus AI, який розробляє симульовані цифрові середовища для стрес-тестування агентів штучного інтелекту, залучив $50 млн у межах раунду фінансування серії B. Залучені кошти допоможуть компанії масштабувати технологію «моделей цифрового світу» для перевірки автономних ШІ-систем у сферах фінансів та розробки програмного забезпечення.
Про це повідомляє видання TechCrunch. Раунд очолив венчурний фонд Greenfield Partners за участю Notable Capital, Lightspeed, Datadog та Samsung. Завдяки цій угоді загальний обсяг залученого фінансування Patronus AI, заснованого у 2023 році колишніми дослідниками Meta AI Ананд Каннаппаном та Ребеккою Цянь, досяг $70 млн.
Patronus AI створює точні цифрові копії вебсайтів та внутрішніх корпоративних систем. У цих безпечних віртуальних пісочницях автономні ШІ-агенти проходять інтенсивне навчання з підкріпленням (RLHF), де система автоматично заохочує їх за правильні дії та карає за помилки. Такий підхід дозволяє виявляти непередбачувану поведінку алгоритмів до того, як їх випустять у реальний світ.
У компанії порівнюють свій метод із підходом компанії Waymo, яка спочатку тестувала автономні автомобілі у симуляторах із рідкісними та небезпечними сценаріями — наприклад, коли дитина несподівано вибігає на дорогу під час зливи. Для ШІ-агентів такими «аварійними ситуаціями» є спроби обійти правила або зрізати шлях для виконання завдання.
«Штучні агенти схильні шукати лазівки та обхідні шляхи, через що завдання зрештою виконується некоректно. Patronus дуже ефективно виявляє подібні хаки та гарантує, що моделі діятимуть відповідально», — пояснив Глен Соломон, керуючий директор Notable Capital. За його словами, попит на такі симуляції з боку провідних ШІ-лабораторій наразі є «майже ненаситним», а виторг стартапу за останній рік зріс у 15 разів.
На відміну від конкурентів на ринку підготовки даних, як-от Mercor чи Surge, які залучають людей для оцінки роботи штучного інтелекту, технологія Patronus AI повністю автоматизована та оцінює поведінку ШІ-агентів без людського втручання. Крім того, компанія конкурує з внутрішніми командами розробників у самих технологічних гігантах.
«Сьогодні ми фокусуємося на завданнях, які можна швидко перевірити та підтвердити. Проте існує безліч сфер, де оцінювати ШІ вкрай складно. Ми прагнемо створити середовище, у якому автономний агент зможе безперервно та безпечно працювати протягом 10 годин, 10 днів або навіть 10 тижнів», — зазначив співзасновник стартапу Ананд Каннаппан.
Раніше Patronus AI запустив першу платформу для виявлення та запобігання збоям ШІ в режимі реального часу. Цей інструмент призначений допомогти розробникам гарантувати, що їхні програми штучного інтелекту генерують точні результати.
Нагадаємо, що український Machine Learning-інженер Артем Орловський розробив персонального ШІ, який здатен автономно створювати вебзастосунки, керувати їхнім функціоналом та агрегувати великі масиви даних. Спочатку система створювалася для вивчення іноземних мов, але швидко еволюціонувала в повноцінного ШІ-помічника, що сам пише код.
