您的位置: 首页 > 农业专利 > 详情页

基于键值分布的跨数据中心大数据处理
专利权人:
哈尔滨工业大学深圳研究生院
发明人:
张江涛,王轩,黄荷姣
申请号:
CN201610100798.6
公开号:
CN105589752A
申请日:
2016.02.24
申请国别(地区):
中国
年份:
2016
代理人:
孙伟
摘要:
本发明提出了一种基于键值分布的跨数据中心(DC)大数据处理系统和方法,首先基于G-Hadoop和G-MR提出了一种新的架构,新增了一个用于收集DC相关信息以及key的分布信息的ResourceManager模块,该系统能对每个DC的输出进行抽样,从而得到近似的key分布并估算每个Reducer分配到的数据量,存储到ResourceManager模块;然后利用ResourceManager模块中存储的信息,本发明提出的二层分组遗传算法TLGGA,为每个reducer寻找目标DC。其中,TLGGA中初始种群的生成分别针对三个目标,即电价,物力资源和传输代价;TLGGA采用了局部优化的技巧,加快了算法的收敛。
来源网站:
中国工程科技知识中心
来源网址:
http://www.ckcest.cn/home/

意 见 箱

匿名:登录

个人用户登录

找回密码

第三方账号登录

忘记密码

个人用户注册

必须为有效邮箱
6~16位数字与字母组合
6~16位数字与字母组合
请输入正确的手机号码

信息补充