Клон Jev от OpenAI может помочь передовой лаборатории остановить её роящихся агентов

OpenAI представила новый Decisions API — инструмент, схожий с моделью Jev от TypeSafe AI, который призван ускорить и удешевить автоматизацию ПО

На мероприятии Dev Day CEO OpenAI Сэм Альтман анонсировал Decisions API. Инструмент позволяет модели Luna выбирать из заранее заданного набора опций — например, категорий для классификации изображений или вариантов поведения агентов. По словам Альтмана, такой подход делает модель крайне быстрой, сохраняя при этом понимание изображений, широкую языковую поддержку и защитные механизмы.

Модель Jev от TypeSafe AI, выпущенная ранее, работает по схожему принципу: это мощный классификатор на базе большой языковой модели (LLM), который быстро и недорого выдаёт вероятности для заданного набора вариантов. Разработчики уже используют Jev для дополнения LLM — это оказывается эффективнее стандартных решений.

Одно из перспективных применений подобных инструментов — мониторинг и защита ИИ-агентов. Специалист по кибербезопасности Шапор Нагибзаде из стартапа QueryStory создал демоверсию, где Jev проверяет действия агентов на соответствие поставленной задаче: блокирует явно неподходящие, помечает сомнительные для проверки и разрешает остальные. При этом стоимость мониторинга с Jev — 2,94 доллара против 372 долларов при использовании передовой LLM.

Источник: TechCrunch