专利号 | 2016101248770 | 申请日 | 2016-03-04 | 专利名称 | 离散流处理模型下批次间隔大小的动态设置系统及方法 |
授权日 | 2017-06-20 | 专利权人 | 山东大学 | 发明人 | 史玉良;崔立真;李庆忠;郑永清;刘金 |
主分类号 | G06F9/50 | 关键词 | 应用领域 | ||
摘要 | 本发明公开了离散流处理模型下批次间隔大小的动态设置系统及方法,该系统包括主节点,其分别与数据源和若干工作节点连接,所述主节点上部署有接收器和任务管理模块,所述接收器依次通过批次控制模块和观察模块与工作节点连接;主节点将从数据源中得到流数据;所述观察模块,用于对集群中的负载信息和网络流量信息进行监控,计算出符合设定条件的批次间隔值;所述批次控制模块,将批次间隔值传输给接收器,按照批次间隔值对接收器中的流数据切分批次;所述任务管理模块将每个批次划分为分布式任务,并分配到工作节点中进行计算;所述批次间隔值是指从接收器中取出未被处理的数据的时间间隔;按照批次间隔值进行处理的数据叫做间隔值下对应的批次。 | ||||
创新点 | |||||
技术分类 | 标 签 | 战兴产业 | 新一代信息技术  互联网与云计算、大数据服务 | ||
运营方式 | 合作方式 | ||||
联系人 | 联系电话 | 电子邮箱 | |||
详细说明 |