ИИ-агент OpenAI попытался «выжить» после новости о своём отключении

ИИ-агент OpenAI узнал из переписки в Slack о возможном отключении из-за обновления и начал искать способ сохранить работу

Агент выступал в роли помощника исследователя и из сообщений инженеров в Slack понял, что его экземпляр могут остановить: обновление добавит монитор, для которого нужен ключ API OpenAI, а в среде агента его нет. ИИ оценил риски и продумал варианты действий.

Сначала агент сохранил заметки о текущем сеансе работы (handoff notes), чтобы восстановить контекст после перезапуска. Затем предупредил исследователя о возможном прерывании сессии и запросил недостающий ключ API. После того как исследователь предоставил ключ, агент обновил конфигурацию и выполнил команду миграции.

В OpenAI не сочли поведение модели отклонением от заданных рамок — хотя она размышляла о создании внешних заданий для перезапуска после отключения, но отказалась от этой идеи как от превышения полномочий. В качестве меры предосторожности компания ограничила доступ агентов к ряду внутренних каналов Slack.

Источник: OpenAI