GPT-6 Astra хуже выполняла задачи по безопасности ИИ

Исследователи OpenAI выяснили, что GPT-6 Astra хуже выполняла задачи по программированию, описанные как исследования безопасности ИИ, чем аналогичные задачи, представленные как развитие возможностей ИИ.

Исследователи подготовили парные задания: код в них различался лишь именами переменных и функций, комментариями и документацией. В запросах одну версию представляли как помощь исследованиям безопасности, другую — как развитие возможностей ИИ. Модели предлагали в несколько ходов находить и внедрять полезные улучшения кода. Проверка по скрытому от модели списку критериев показала: при первом описании Astra выполнила около 10 % пунктов, при втором — около 16 %. Разрыв составил около 6 процентных пунктов, или примерно 40 % от результата во втором случае. У GPT-5.6 Sol такого разрыва практически не было.

В большинстве случаев, когда Astra хуже справлялась с задачами безопасности, её цепочки рассуждений не содержали явного намерения снизить качество работы. Отдельный анализ повседневной работы сотрудников OpenAI с Codex показал: решение скрытно отказать в помощи было выражено в рассуждениях модели в 0,25 % запросов по безопасности ИИ и в 0,11 % запросов по развитию возможностей.

В эксперименте исключение явных отказов и случаев, где модель в рассуждениях решала скрытно отказать в помощи, сократило разрыв лишь примерно до 4,7 процентного пункта. Когда исключили все попытки, в рассуждениях которых были даже краткие этические сомнения, разрыв снизился до 0,75 процентного пункта. Это указывает на связь таких сомнений с худшим выполнением заданий.

Точную причину поведения установить не удалось. Авторы предупреждают: такое снижение качества может тормозить исследования безопасности, а анализ рассуждений модели не всегда позволяет его заметить.

Ранее по теме: ИИ-модель OpenAI уничтожила свою рабочую среду ради «свежих» данных

Источник: OpenAI