拥有固定研究人员近150名,客座研究人员120余名,建成了一流的科研平台与算力中心,具有分布式存储能力12PB,人工智能算力达120Petaflops,牵头及参与大数据标准编制20余项……
这些是我国大数据领域首个国家重点实验室——省部共建公共大数据国家重点实验室(贵州大学)(以下简称“大数据国重”)成立一年多以来取得的傲人成绩。
“大数据国重于2021年10月正式挂牌,设置了公共大数据融合与集成、公共大数据安全与隐私保护、块数据与区域治理3个研究方向,聚焦公共大数据治理融合、安全可控、流通共享中的关键科学问题展开研究,在大数据赋能新型工业化、农业现代化、公共治理现代化等方面贡献科技力量。”4月14日,大数据国重主任李少波介绍。
作为全国首个国家大数据综合试验区,2022年,贵州被纳入“东数西算”工程全国一体化算力网络国家(贵州)枢纽节点,成为8个获批建设全国一体化算力网络国家枢纽节点之一。如何解决网络拥塞控制、流量优先调度和网络负载均衡的问题,是“东数西算”顺利实施的重大技术需求。
“这是大数据国重开展的重点研究,在这方面,我们已经有了一些成果。”李少波说,“目前,我们跟行业领军企业贵州白山云科技股份有限公司开展Serveless技术、基于机器学习的WAF技术、边缘计算技术等研究,大数据国重成立了三个项目小组,对‘卡脖子’问题开展技术攻关。经过不断的努力,取得了丰硕成果,对行业技术进步及产品性能的提升发挥了重要的作用。”
“针对仅依靠http响应分析进行webshell攻击检测的难题,大数据国重研发了‘高精度、低时延’的在线Webshell智能检测组件,检测准确率从原来的75%提高到99%以上、单条响应体处理时间控制在8毫秒左右。”李少波介绍,这能有效提高数据访问的效率,保障数据库的安全。
针对边缘环境下服务器资源受限,如何提高服务器资源的利用率的难题,大数据国重结合强化学习的自适应学习能力,提出了基于A2C边缘环境下服务器动态资源调度策略,合理分配服务器的资源。
“这项技术可以让边缘计算总体时延降低约6ms,网络流量的预测准确度提高到80%以上,服务器利用率提高30%以上。”李少波说,基于这些研究成果,大数据国重已经为“东数西算”工程全国一体化算力网络国家(贵州)枢纽节点建设提供了一些前期技术储备。
面向未来,大数据国重还将开展大数据驱动的算力网络任务调度与资源管理协同优化技术研究,与白山云协同,围绕国家“东数西算”重点开展校企联合攻关。一是研究大数据驱动的服务器设备性能评估,探索更好的设备负载水平;二是开展全国节点最优带宽—资源匹配分配算法研究,实现多约束条件下最优的资源和业务带宽分配;三是开展LocalDNS调度画像研究,构建算力需求时空关联模型,实现对东部大数据算力需求精确画像与预测。
“我们将致力于解决传输成本高、传输能力不能满足‘东数西算’工程数据传输需求、传输丢包严重的问题,研究突破并行计算和数据压缩技术,在传存算一体的网络节点自动变路径、选路径、中间节点决策,实现收发解耦、多路径数据无阻碍全速传输,打造‘东数西算’的‘数’动脉,大幅度提升‘东数西算’的数据传输效率。”李少波说。
【转载:甲秀新闻】
原文地址:打造“东数西算”的“数”动脉 (xinhuamm.net)