| 专利号 | 2024102882556 | 申请日 | 2024-03-14 | 专利名称 | 基于渐进式联想学习的自蒸馏方法及系统 |
| 授权日 | 2024-05-31 | 专利权人 | 青岛理工大学 | 发明人 | 赵浩然;田舒文;周政;邓兆鹏 |
| 主分类号 | G06N20/00 | 关键词 | 应用领域 | ||
| 摘要 | 本发明属于人工智能技术领域，公开了基于渐进式联想学习的自蒸馏方法及系统，所述方法包括步骤1、数据预处理；步骤2、构建关联样本；步骤3、学习类别特征和类间关系；将关联样本输入学生网络，利用关联样本训练学生网络，学生网络从关联样本中学习类别特征和类间关系，输出概率分布；步骤4、自蒸馏阶段；学生网络利用在步骤3学习到的类别特征和类间关系的知识，来模拟教师网络的输出概率分布，并将这些知识进行知识迁移以指导学生网络的自我学习过程。本发明通过自蒸馏的方式实现自我学习，减少对复杂教师网络的依赖；通过本发明提取更丰富的类别间关系知识。 | ||||
| 创新点 | |||||
| 技术分类 | 标 签 | 战兴产业 | 新一代信息技术 互联网与云计算、大数据服务 | ||
| 运营方式 | 合作方式 | ||||
| 联系人 | 联系电话 | 电子邮箱 | |||
| 详细说明 | |||||
