Anthropic представила способ проверить, какая ИИ-модель дала ответ

Anthropic представила FlashProve — открытый исследовательский прототип, который криптографически подтверждает, что ответ дала заявленная ИИ-модель, не раскрывая её внутренние параметры.

Поставщик ИИ-сервиса сначала публикует криптографический «отпечаток» весов — числовых параметров модели, определяющих её вычисления. Затем FlashProve создаёт математическое доказательство того, что модель с этими весами выдала ответ на конкретный запрос. Любой желающий может проверить доказательство, имея «отпечаток», запрос и ответ, но не получая доступа к весам.

В испытании на Llama 4 Maverick с 400 млрд параметров один графический процессор NVIDIA H100 обеспечил создание доказательств со скоростью около 110 токенов в секунду. Токены — единицы текста, которыми оперирует модель. Для запроса в 1024 токена размер доказательства составил около 19 МБ. Его проверка на 24-ядерном центральном процессоре занимает примерно 17 секунд и не требует графического процессора.

Создание доказательств требует в 70–95 раз больше времени графического процессора, чем обычная генерация ответов с помощью vLLM — программы для запуска языковых моделей. Система ограничена контекстом в 1024 токена — таким объёмом текста, который модель учитывает при ответе. Прототип подтверждает работу версии модели с целочисленными вычислениями, которая на каждом шаге выбирает наиболее вероятный следующий токен. Проверка ещё не охватывает все ответы, полученные при работе с числами с плавающей точкой (их хранят как значащую часть и показатель степени) или при случайном выборе токенов. Веса скрыты, но архитектура модели остаётся открытой.

Anthropic открыла код системы и опубликовала технический отчёт и описание протокола. Независимый аудит моделей и контроль со стороны регуляторов названы возможными применениями.

Ранее по теме: ИИ нашёл уязвимости в криптографических алгоритмах

Источник: Interesting Engineering