| 专利号 | 2023109116430 | 申请日 | 2023-07-25 | 专利名称 | 一种基于去噪扩散模型的模型安全性评估方法 |
| 授权日 | 2023-10-17 | 专利权人 | 中国海洋大学 | 发明人 | 魏志强;高国峰;王晓东;张程昊 |
| 主分类号 | G06F21/57 | 关键词 | 应用领域 | ||
| 摘要 | 本发明属于信息安全技术领域，公开了一种基于去噪扩散模型的模型安全性评估方法，包括以下步骤：将目标模型的分类样本送入初始生成器生成初始数据；使用去噪扩散模型扩充初始数据，生成额外数据；通过残差结构融合初始数据和额外数据，得到多源查询样本；通过多源查询样本和目标模型预测结果训练替代模型和生成器模型；计算替代模型和目标模型的功能相似度，评估目标模型的安全性。针对未知架构的人工智能模型，本发明在不访问目标模型训练数据集的基础上，通过去噪扩散模型和残差结构生成高质量的多源查询样本，从而使替代模型对目标模型进行高效地拟合，提升目标模型安全性评估效率。 | ||||
| 创新点 | |||||
| 技术分类 | 标 签 | 战兴产业 | 新一代信息技术 下一代信息网络产业 | ||
| 运营方式 | 合作方式 | ||||
| 联系人 | 联系电话 | 电子邮箱 | |||
| 详细说明 | |||||
