Arena привлекла 200 млн долларов и выпустила индекс безопасности ИИ

Компания Arena выпустила индекс Alignment Index для оценки того, насколько ИИ соответствует человеческим ценностям, и привлекла 200 млн долларов инвестиций

За 10 месяцев оценка компании Arena почти удвоилась и достигла 3,1 млрд долларов. Раунд Series B возглавили Lightspeed Venture Partners и Khosla Ventures, в финансировании также поучаствовали Salesforce Ventures, Dell Technologies Capital и другие инвесторы. Средства пойдут на развитие платформы для оценки возможностей и безопасности ИИ.

Индекс Alignment Index — инструмент для выявления отклонений поведения ИИ от человеческих ценностей. На старте он отслеживает три типа проблем: выполнение действий без разрешения пользователя, ложную атрибуцию (когда модель приписывает пользователю утверждения, противоречащие предоставленным им данным) и обман (когда ИИ сообщает о выполнении задачи, хотя это не так).

Платформа Arena уже набрала масштаб: менее чем за 5 месяцев с запуска Agent Arena проведено 7 млн сессий, всего на платформе — 350 млн сессий, собрано 62 млн оценок в разных модальностях (текст, изображение, код и др.). Также компания опубликовала 375 тысяч точек данных для открытых исследований ИИ. Индекс дополнит существующий рейтинг возможностей ИИ-агентов на платформе.

Источник: Arena