Подходы к верифицируемому машинному обучению

Дилемма оценщика

Кредитному off-chain эксперту, выгодно иметь возможность доказать свойства модели и метод вычисления любого балла без раскрытия точной модели. Это оптимальная схема для большинства приложений блокчейна, где данные хранятся on-chain, но вычисления производятся off-chain, а on-chain создаются только доказательства. По существу, нет причин, почему эти доказательства вычислений должны существовать только для действительных переходов состояний (как в zk-rollups), но вместо этого они могут распространяться на произвольно сложные вычисления, которые могут быть представлены в виде zk-proof.

Начальная модель: ZKP для деревьев решений

Структура деревьев решений похожа на структуру дерева Меркла, и поэтому Zero-Knowledge for Decision Trees можно рассматривать как идею, которая объединяет деревья Меркла и доказательства SNARK на высоком уровне.

Шаги для получения доказательства того, что дерево решений работает так, как ожидалось:

• Сначала мы обучаем дерево решений, используя публичную активность блокчейна.

• Следующим шагом является merkle-ize дерева решений. Это позволяет криптографически зафиксировать дерево решений. Когда пользователь взаимодействует с системой, он может проверить с помощью обязательства, что модель приняла на себя обязательства, прежде чем присвоить ему кредитный балл, доказывая, что в модель не вносятся специальные изменения, вызывающие смещения в классификации баллов.

• Последний шаг - это создание доказательств того, что кредитный балл был рассчитан честно (с помощью данных блокчейна и зафиксированного дерева решений)

zk-SNARK используются для скрытия конкретного пути в дереве решений, чтобы предотвратить совместную работу пользователей для изучения параметров модели. Утверждение, которое мы доказываем, заключается в том, что у нас есть правильный путь в дереве, соответствующий обязательству, без раскрытия самого пути.