无需公开输入·模型即可“证明 AI 结果是否正确”的技术……迈向大规模服务应用
汉阳大学信息系统专业吴贤玉教授研究团队与国民大学电子工学部金智惠教授研究团队共同开发了验证型人工智能（Verifiable AI）技术“vCNN”，荣获了国际期刊《IEEE Transactions on Dependable and Secure Computing》（以下 TDSC）2024年最优秀论文奖。此次研究在无需公开输入数据或模型的前提下即可证明人工智能推理结果的可信性而备受关注。
随着AI的扩张至医疗诊断·金融欺诈检测·公共服务等领域，确保结果计算的准确性、保护敏感数据（如医疗图像·交易记录）、以及对企业核心资产模型权重的保密等需求不断增加。然而，现有方法在验证准确性时往往需要暴露个人信息或商业机密，或者在应用加密技术时计算时间过长难以用于大规模服务之中。
共同研究团队开发的 vCNN（Verifiable Convolutional Neural Network）解决了这一瓶颈。vCNN 利用零知识证明（zk-SNARKs）在不公开输入和模型的情况下，仅通过简短且简洁的证明，提供“AI 按照规定程序准确计算”的事实。特别是通过重新设计 CNN 的核心计算卷积（convolution）的证明方式，将原先的复杂度 O(l·n)（其中 l 为卷积核大小，n 为数据大小）降至 O(l + n)。因此，在 MNIST 模型上实现了约 20 倍，在 VGG16 模型上约 18,000 倍的证明速度提升，且安全性也在数学上得到了验证。
主导此次研究的汉阳大学吴贤玉教授表示：“vCNN 是为了实现可信 AI 打开序幕的研究。今后将进一步发展，在医疗·金融等实际 AI 应用领域中提供可信性”。
TDSC 是 IEEE Computer Society 发行的安全·可靠性（Dependability & Security）领域最具权威的顶级（Q1）国际期刊，每年仅授予一篇最具原创性和影响力的已刊论文“最优秀论文奖”。此次获奖已被官方认定为单独获奖。
此次研究在科学技术信息通信部与信息通信企划评估院（IITP）项目支持下进行。论文《vCNN: Verifiable Convolutional Neural Network Based on zk-SNARKs》由国民大学李承和博士担任第一作者，토토사이트 헐크 가입코드高韩京博士作为参加者，토토사이트 헐크 가입코드吴贤玉教授与国民大学金智惠教授担任共同通讯作者。