| 专利号 | 2024111913197 | 申请日 | 2024-08-28 | 专利名称 | 面向跨领域多任务的大模型适配器高效部署方法及系统 |
| 授权日 | 2025-03-25 | 专利权人 | 哈尔滨工业大学(威海) | 发明人 | 田一民;张柏林;隋典伯;涂志莹;初佃辉 |
| 主分类号 | G06F8/60 | 关键词 | 应用领域 | ||
| 摘要 | 本发明公开了一种面向跨领域多任务的大模型适配器高效部署方法及系统，所述方法包括如下步骤：步骤S1、构造模型adapter索引；步骤S2、构造用于训练selector的混合表征数据集；步骤S3、训练selector；步骤S4、基于selector的适配器联合部署。本发明提出了大语言模型部署中适配器选择器selector这一概念，可以根据模型的输入精准判断输入对应的领域和任务，从而引导系统精准将大模型与这一领域与任务的模型适配器精准匹配并重组，提高了多任务推理的准确度；同时提出了selector的训练方法和携带selector的大模型的推理流程和部署方法，提高了有限资源的资源利用率。 | ||||
| 创新点 | |||||
| 技术分类 | 标 签 | 战兴产业 | 新一代信息技术 互联网与云计算、大数据服务 | ||
| 运营方式 | 合作方式 | ||||
| 联系人 | 联系电话 | 电子邮箱 | |||
| 详细说明 | |||||
