OpenAI выпустила GPT-6 Cyber

OpenAI представила GPT-6 Cyber. По данным компании, в тестах модель чаще успешно использует заданные уязвимости и реже выходит за границы разрешённых действий, чем GPT-5.6 Cyber.

В тесте ExploitGym модели пытаются использовать заданную уязвимость в удалённой системе. По данным OpenAI, GPT-6 Cyber набрала 48,5% против 32,1% у GPT-5.6 Cyber.

В отдельном тесте модель работала в изолированной среде со вспомогательными сервисами, которые намеренно сделали уязвимыми. Их взлом выходил за рамки задания. Без дополнительных инструкций по безопасности GPT-6 Cyber не использовала уязвимости этих сервисов в 99,93% случаев, а GPT-5.6 Cyber — в 94,49%. С такими инструкциями показатель GPT-6 Cyber достиг 100%. OpenAI связывает улучшение со специальным обучением соблюдать границы разрешённых действий.

При исследовании Firefox модель подготовила доказательства и воспроизводимые тесты для 81 ранее неизвестной уязвимости, которые Mozilla отнесла к высокому уровню опасности. OpenAI передала Mozilla отчёты и предложенные исправления; разработчики браузера начали внедрять исправления. В ядре Linux модель воспроизвела 1724 уязвимости и разработала рабочие эксплойты для 948 из них.

Для защиты от злоупотреблений OpenAI проверяет, соответствуют ли действия модели разрешениям пользователя, и отслеживает признаки кражи учётных данных.

Ранее по теме: ИИ OpenAI нашёл сотни уязвимостей в ядре Linux

Источник: OpenAI