淄博市知识产权公共服务平台

导航
专利号 2016108728143 申请日 2016-09-30 专利名称 基于Docker的Web数据采集方法、Web服务器及Web数据采集系统
授权日 2019-08-13 专利权人 山东大学 发明人 边俊峰;钱进;闵新平;郭伟;崔立真
主分类号 H04L29/08 关键词 应用领域
摘要 本发明公开了一种基于Docker的Web数据采集方法、Web服务器及Web数据采集系统,其中Web数据采集方法在Web服务器内完成,包括基于Docker创建镜像容器,由镜像容器构建出一个数据采集主节点和若干个数据采集工作节点;所述数据采集主节点与数据采集工作节点相互通信;数据采集主节点接收Web数据采集任务,并根据Web数据采集任务中URL的数量来启动预设数量的数据采集工作节点;Web数据采集任务包括数据源IP地址和URL;数据采集工作节点启动后,数据采集主节点将数据源IP地址和URL分配给各数据采集工作节点,由数据采集工作节点采集相应的Web数据;数据采集主节点接收各数据采集工作节点传送来的数据,并回收所有数据采集工作节点,完成Web数据的采集。
创新点
技术分类 标 签 战兴产业 数字创意产业    数字创意技术设备制造
运营方式 合作方式
联系人 联系电话 电子邮箱
详细说明
【关 闭】