| 专利号 | 2024102446400 | 申请日 | 2024-03-05 | 专利名称 | 一种基于图神经网络和双向深度知识蒸馏的联邦学习方法 |
| 授权日 | 2024-06-25 | 专利权人 | 中国海洋大学 | 发明人 | 王晓东;杨昊宇;魏志强;李一奥 |
| 主分类号 | G06N20/00 | 关键词 | 应用领域 | ||
| 摘要 | 本发明属于图像处理技术领域,公开了一种基于图神经网络和双向深度知识蒸馏的联邦学习方法,包括以下步骤:服务器端初始化一个全局模型,并将初始权重分发给所有客户端;客户端接收服务器下发的全局模型,并使用基于注意力机制的视觉图神经网络进行本地训练;客户端获取其本地模型的中间层表示和最终输出,并接收服务器在前一轮模型更新中的中间层表示和最终输出,计算出客户端的知识蒸馏损失,进而计算客户端的总损失;更新客户端本地模型梯度并发送到服务器;服务器端接收各客户端模型上传的本地模型更新和蒸馏损失,计算平均梯度和平均蒸馏损失;最后服务器端计算总损失并更新全局模型。通过本发明实现客户端和服务器之间知识共享。 | ||||
| 创新点 | |||||
| 技术分类 | 标 签 | 战兴产业 | 新一代信息技术  互联网与云计算、大数据服务 | ||
| 运营方式 | 合作方式 | ||||
| 联系人 | 联系电话 | 电子邮箱 | |||
| 详细说明 | |||||