Что ZKML-доказательство подтверждает об ответе AI, а чего нет?

ZKML-доказательство подтверждает, что объявленная модель выполнила заданное вычисление над связанным входом и получила указанный результат. Оно не доказывает качество обучения, понимание задачи или истинность прогноза. Проверяется целостность конкретного inference-процесса, а качество модели, происхождение данных и смысл результата требуют отдельных проверок.

Что именно входит в проверяемое утверждение?#

Система фиксирует идентификатор или commitment модели, commitment входа, результат и proof. В предложении ERC-7992 реестр связывает modelId с архитектурой, весами, proving circuit и verifying key. Успешная проверка означает, что предоставленный witness удовлетворяет этой схеме, а не что любой текстовый вывод модели объективно верен.

Почему модель и данные могут оставаться закрытыми?#

Zero-knowledge proof позволяет не раскрывать частные веса или вход целиком. Проверяющий видит commitment и короткое криптографическое свидетельство. Исследование ZKML на EuroSys 2024 показало компиляцию реалистичных ML-моделей в halo2-схемы, включая distilled GPT-2. Однако масштаб и нелинейные операции всё ещё делают создание proof ресурсоёмким.

Почему правильное вычисление может дать плохой ответ?#

Если модель плохо обучена, вход устарел или постановка задачи двусмысленна, математически корректный inference сохранит эти недостатки. Proof не проверяет фактическую правдивость данных, отсутствие bias или полезность решения. Для on-chain приложения нужны дополнительные оракулы, оценка качества модели, версия датасета и правила действий при неопределённости.

Где ограничения и риски?#

Ошибочная схема способна доказать не то свойство, которое ожидает пользователь. Квантизация и аппроксимации могут изменить результат относительно обычного inference, а compromised setup или неверный verifying key разрушить доверие. Стандарт находится в развитии. ZKML уменьшает доверие к исполнителю вычисления, но не превращает AI-ответ в факт или безопасное финансовое решение.

Какие ключевые выводы?#

• ZKML связывает доказательство с моделью, входом и результатом.
• Корректное вычисление не означает корректного прогноза.
• Commitment скрывает данные, но требует понятной схемы их формирования.
• Проверка proof обычно дешевле повторного inference, однако proving остаётся тяжёлым.
• Качество модели и источника данных оценивают вне самого доказательства.