ИТМО ускорил ИИ-систему глубокого поиска в шесть раз
Учёные ИТМО заменили классическую языковую модель в системе глубокого поиска на диффузионную, что позволило ускорить генерацию отчётов
Большинство популярных ИИ-ассистентов работают на авторегрессионных языковых моделях, которые генерируют текст токен за токеном, что замедляет создание длинных ответов. Системы глубокого поиска (Deep Research) на таких моделях могут тратить на подготовку отчёта 15–30 минут. Чтобы ускорить подготовку отчётов, в ИТМО заменили модель в системе DiffResearch на диффузионную, которая параллельно формирует и уточняет несколько фрагментов текста.
Учёные сравнили в одной системе авторегрессионную и диффузионную модели сопоставимого размера, сохранив инструкции и код поиска. В наборе DeepResearch Bench было 100 исследовательских задач уровня аспирантуры из 22 областей. Среднее время на задачу сократилось примерно в шесть раз, с 71,45 секунды до примерно 12 секунд, а планирование и написание отчёта ускорились в 10–12 раз. Другая языковая модель сравнила готовые отчёты с эталонными по полноте, глубине, соблюдению требований и читаемости. По шкале от 0 до 1, где 0,5 соответствует уровню эталона, оценки оказались близкими: 0,3904 у авторегрессионной версии, 0,3895 у диффузионной и 0,3969 у диффузионной с ранним извлечением запросов.
В ускоренном режиме DiffResearch берёт из черновика первый список с нужным числом запросов и сразу начинает поиск. В отдельном тесте раннее извлечение почти вдвое сократило медианное время подготовки запросов по сравнению с ожиданием окончательного списка. В основном тесте общее время работы обоих диффузионных режимов почти совпало.
Результаты работы команда ИТМО представила на индустриальной секции конференции по эмпирическим методам обработки естественного языка в Будапеште. Статья вышла в сборнике конференции в октябре 2026 года. В десяти отчётах трёх версий системы вручную проверили 50 утверждений. Для 26 из них не нашлось подтверждения в собранных источниках.
Ранее по теме: Tencent выпустила языковую модель Hy4
Источник: ИТМО