Anthropic выпустила FlashProve: криптографическое доказательство того, какая модель ответила

Команда Frontier Red Team Anthropic опубликовала FlashProve — открытый прототип доказуемого инференса. Это криптографическая система на базе zkSNARK (доказательство с нулевым разглашением): провайдер публикует короткий отпечаток весов модели, а к каждому ответу прикладывает доказательство, что ровно эта модель на этом запросе выдала ровно эти токены. Проверяющему не нужны ни веса, ни мощное железо: проверка занимает 17 секунд на 24 потоках обычного CPU, а устройство модели не раскрывается. Код, описание протокола, технический отчёт и формальные доказательства защитных свойств, проверенные инструментом формальных доказательств Lean, выпущены под лицензией Apache 2.0.

Замер — на открытой модели Llama 4 Maverick (400 миллиардов параметров, архитектура смеси экспертов, 4-битное квантование): один GPU H100 строит доказательства со скоростью около 110 токенов в секунду, размер доказательства — около 19 МБ на запрос из 1024 токенов. Цена вопроса: доказательство требует в 70–95 раз больше GPU-времени, чем обычный инференс той же модели в vLLM. Среди применений авторы называют проверку маршрутизаторов (не подменили ли заявленную модель дешёвой), обнаружение подмены потока токенов при взломе сервера и инструменты аудита для регуляторов.