ИИ Claude научился исправлять ошибки в памяти с помощью «снов»

Компания Anthropic разработала механизм «снов» для ИИ Claude, позволяющий модели корректировать ошибки в собственной памяти и объединять заметки в связанные базы знаний

Механизм основан на аналогии с работой человеческого мозга: во время «сна» (в периоды простоя) ИИ анализирует записи о своих действиях и исправляет ошибки. Для тестирования работы с памятью использовали задачу из набора Continual Learning Bench 1.0: Claude отвечал на вопросы по базе данных, получал правильные ответы и сохранял заметки в файлах между сессиями. Также модели играли в Pokémon Red.

В ходе экспериментов разные версии Claude (Sonnet, Opus, Fable) демонстрировали различные подходы к работе с памятью. Например, Claude Sonnet 3.7 записывал в память практически все данные — в итоге ему приходилось тратить ресурсы на анализ накопленной информации вместо игры. В то же время Claude Fable 5 сохранял только стратегически важные данные и получил четыре значка против одного у Sonnet 3.7; сравнивали по одному прохождению каждой модели примерно после 10 тысяч игровых шагов.

В задаче с базой данных версия Claude Opus 5 не только фиксировала ошибки и проверенные факты, но и формулировала правила для решения задач в будущем. В отдельном эксперименте с Pokémon Red механизм «снов» позволил Claude сверить заметку с записью игровой сессии и исправить неверную запись о расположении Центра покемонов. С исправленной заметкой Claude прошёл пещеру и добрался до города Церулиан; с исходной записью он так и не достиг города.

Ранее по теме: Claude нашёл скрытые ошибки в открытом ПО

Источник: anthropic.com