热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

中科曙光张新凤:以分布式存储加速数字化转型

曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选

刚刚结束的北京冬奥会,综合运用了人工智能、超高清渲染、5G、8K等一系列高新技术,打造出了一场既恢宏壮美又空灵浪漫的视听盛宴。这些新技术的应用都离不开海量数据的支撑。


随着“十四五规划”的逐步落地,“东数西算”工程的全面启动,5G、AI、区块链等技术的应用与推广,数字化全面加速,必然带来海量数据的规模化聚集。


赛迪顾问指出,2021年存储销售额将以30%的速度增长,销量将达到20%的增速。整体上,存储整体的增长高于IT其他领域。


中科曙光存储事业部副总经理张新凤

 

“身处大数据的时代,大到国家的战略,小到个人的工作生活与娱乐,每个人每个单位都是离不开存储技术。”中科曙光存储事业部副总经理张新凤表示。


面对越来越复杂的IT环境和业务环境,用户对存储系统的稳定性、性能和弹性扩展能力有着更高的期待,传统集中式存储烟囱式的部署模式在扩展性和管理性上都遇到非常多的挑战,分布式存储备受市场关注。


分布式存储面临的挑战与曙光的对策


面对海量爆发的数据,分布式存储更加引人瞩目。当然,分布式存储本身也面临非常多的挑战。


首先是数据的海量。五年前,用户提出的PB级需求,这对厂商来说就是一个非常大的需求了。如今,数十个P的需求已经是常见,上百个PB的应用也屡见不鲜,有用户对存储系统未来能扩展到EB级已经提出希望。但是,海量不简简单单的是设备的堆积,对应的技术难度是指数级的增长。


其二是技术发展趋势快迅,5G、AI、区块链等技术应用到了从数据的采集到数据的应用到数据的分析,数据的归档全链条。这个过程对存储的要求是更多协议的支持,比如,在处理的时候用NAS协议,到分析的时候又是HDFS协议,到归档的时候更多使用S3,各种不一样的接口。


三是性能的极致优化、功能的深度定制是未来存储系统的支撑。如数据处理过程的采集,分析处理的多个节点并发,在归档数据的策略灵活性等。


曙光存储的实践顺应了解决海量数据增长的需求,在技术路线上,一开始就选择了分布式存储路线。


作为国内首批自研分布式存储的厂商,曙光从2006年就开始技术的积累,2009年推出第一代商业产品,当年在上海部署了16PB的系统,是当时规模最大的应用;2018年,给用户提供的单一系统达到了56 PB;2019年,曙光首次部署了100 PB的系统;2020年,曙光第一套200 PB的系统上线。


今年,曙光将有300PB的系统将很快交付给客户。


在对协议支持方面,曙光也一直在进行迭代升级。2009年,面对数据处理的应用,曙光推出了POSIX高性能的客户端协议;2013年,针对数据中心和云的综合发展,曙光升级为对NAS协议的支持;2019年,基于各个行业的云化需求,又完善了块的协议。现在,曙光ParaStor实现了对文件存储、块存储、对象存储以及HDFS协议的完全支持,几乎可以覆盖所有的应用场景。


“曙光已经积累了大量的技术,当市场需要的时候,就能以最快的速度推到市场上。” 张新凤表示,这一切,都是曙光基于对用户、对各行业的理解,根据市场的诉求进行性能优化、定制化更新,在用户应用过程中一步一步完善起来。


快速的响应市场需求没有捷径


在张新凤看来,快速的响应市场需求并没有捷径可以走,更多的是天长日久的积累和演进。这里面有几个非常关键的因素。


一是要有一个强有力的研发团队做支撑。这个团队需要具有市场考验过的存储系统开发经验,较好地把握前端市场需求,在转化为产品需求后快速研发设计,完成系统化的验证,通过这个闭环快速推出满足用户应用的产品。


二是对行业的深耕和理解。很多行业客户并不是特别关注底层的存储,问及它们对存储的具体需求,很多情况下的答复都说不清楚,顶多是可靠性要高一些,性能要好一些,寿命要长一些。所以厂商一定要比行业用户更了解业务场景的需求,快速抓到需求的痛点,避免陷进误区,帮助客户做更优的选择。


看好分布式存储应用前景

    

“分布式存储现在应用的场景越来越广。” 张新凤说。


张新凤(右)出席主题为“破解海量异构数据存储难题,成就数字化转型”的曙光技术圆桌派


早期分布式存储更多用在计算领域,因为要共享存储。随着数据特别是视频数据越来越大,云、大数据技术也得以应用,分布式存储应用越来越广泛。无论是手机里的音视频,还是影视制作、石油勘探等领域,背后都是大规模分布式存储的平台作支撑,而且可能是分布在不同地区的多个数据中心。


在行业方面,运营商对集中式存储的替代一直走在行业的前面。从2019年开始,曙光连续两年都入围了运营商分布式块的集采,支持运营商各种业务的运营。


把握“东数西算”工程带来的新机遇


“东数西算”是一个国家战略工程项目,肩负着东西数据中心协同发展,包括碳达峰、碳中和的历史使命。


张新凤指出,“东数西算”工程对数据存储的主要诉求有四个。


 一是实现数据的有效流通。可能是在内部的有效流通,如从采集、存储到分析到归档,也可能是多个中心之间的流通。这对存储来说意味着多协议的统一支持。


二是对数据的智能化应用要求更高。就存储来说,对HDFS接口的性能也提出更高的要求。曙光2021年做了大量的工作,推出了原生的HDFS协议支持,可根据用户不同的应用,快速实现对新组件灵活的支持。


三是数据安全。要解决这个问题,首先要保证设备本身的安全。无论是硬件还是软件,采用国产自主研发的产品更加放心。2021年,曙光与国内科研机构和相关组织展开数据加密整体方案的集成化的研究,今年上半年将亮相的新产品在一些应用场景中解决全流程数据安全的问题,其性能也有很好的表现。


四是绿色节能。2022年,曙光将推出一套新的采用冷板的设计的液冷的分布式存储,这个一体化的液冷方案将有助于PUE的指标实现1.04。


总体而言,曙光已经针对“东数西算”工程展开了大量的基础准备工作,张新凤希望曙光在这过程中能为国家的数字化发展贡献自己的一份力量。


END



更多信息请点击“阅读原文”进入官网



推荐阅读
  • 伸缩性|发生_分布式文件系统设计,该从哪些方面考虑?
    篇首语:本文由编程笔记#小编为大家整理,主要介绍了分布式文件系统设计,该从哪些方面考虑?相关的知识,希望对你有一定的参考价值。点击上方关注“ ... [详细]
  • Tomcat/Jetty为何选择扩展线程池而不是使用JDK原生线程池?
    本文探讨了Tomcat和Jetty选择扩展线程池而不是使用JDK原生线程池的原因。通过比较IO密集型任务和CPU密集型任务的特点,解释了为何Tomcat和Jetty需要扩展线程池来提高并发度和任务处理速度。同时,介绍了JDK原生线程池的工作流程。 ... [详细]
  • 本文介绍了Redis中RDB文件和AOF文件的保存和还原机制。RDB文件用于保存和还原Redis服务器所有数据库中的键值对数据,SAVE命令和BGSAVE命令分别用于阻塞服务器和由子进程执行保存操作。同时执行SAVE命令和BGSAVE命令,以及同时执行两个BGSAVE命令都会产生竞争条件。服务器会保存所有用save选项设置的保存条件,当满足任意一个保存条件时,服务器会自动执行BGSAVE命令。此外,还介绍了RDB文件和AOF文件在操作方面的冲突以及同时执行大量磁盘写入操作的不良影响。 ... [详细]
  • 有了中值联区块链证书我们对钓鱼网站说“不”
    区块链钓鱼网站、木马区块链程序、区块链病毒……对个人用户而言,来自区块链网络安全的威胁仅仅停留在这个层面。然而,随着“互联网”战略的持续推进࿰ ... [详细]
  • t-io 2.0.0发布-法网天眼第一版的回顾和更新说明
    本文回顾了t-io 1.x版本的工程结构和性能数据,并介绍了t-io在码云上的成绩和用户反馈。同时,还提到了@openSeLi同学发布的t-io 30W长连接并发压力测试报告。最后,详细介绍了t-io 2.0.0版本的更新内容,包括更简洁的使用方式和内置的httpsession功能。 ... [详细]
  • 从高级程序员到CTO的4次能力跃迁!如何选择适合的技术负责人?
    本文讲解了从高级程序员到CTO的4次能力跃迁,以及如何选择适合的技术负责人。在初创期、发展期、成熟期的每个阶段,创业公司需要不同级别的技术负责人来实现复杂功能、解决技术难题、提高交付效率和质量。高级程序员的职责是实现复杂功能、编写核心代码、处理线上bug、解决技术难题。而技术经理则需要提高交付效率和质量。 ... [详细]
  • macOS Big Sur全新设计大版本更新,10+个值得关注的新功能
    本文介绍了Apple发布的新一代操作系统macOS Big Sur,该系统采用全新的界面设计,包括图标、应用界面、程序坞和菜单栏等方面的变化。新系统还增加了通知中心、桌面小组件、强化的Safari浏览器以及隐私保护等多项功能。文章指出,macOS Big Sur的设计与iPadOS越来越接近,结合了去年iPadOS对鼠标的完善等功能。 ... [详细]
  • 本文介绍了互联网思维中的三个段子,涵盖了餐饮行业、淘品牌和创业企业的案例。通过这些案例,探讨了互联网思维的九大分类和十九条法则。其中包括雕爷牛腩餐厅的成功经验,三只松鼠淘品牌的包装策略以及一家创业企业的销售额增长情况。这些案例展示了互联网思维在不同领域的应用和成功之道。 ... [详细]
  • 面试经验分享:华为面试四轮电话面试、一轮笔试、一轮主管视频面试、一轮hr视频面试
    最近有朋友去华为面试,面试经历包括四轮电话面试、一轮笔试、一轮主管视频面试、一轮hr视频面试。80%的人都在第一轮电话面试中失败,因为缺乏基础知识。面试问题涉及 ... [详细]
  • 程序员如何选择机械键盘轴体?红轴和茶轴对比
    本文介绍了程序员如何选择机械键盘轴体,特别是红轴和茶轴的对比。同时还介绍了U盘安装Linux镜像的步骤,以及在Linux系统中安装软件的命令行操作。此外,还介绍了nodejs和npm的安装方法,以及在VSCode中安装和配置常用插件的方法。最后,还介绍了如何在GitHub上配置SSH密钥和git的基本配置。 ... [详细]
  • {moduleinfo:{card_count:[{count_phone:1,count:1}],search_count:[{count_phone:4 ... [详细]
  • 深入理解线程、进程、多线程、线程池
    本文以QT的方式来走进线程池的应用、线程、进程、线程池、线程锁、互斥量、信号量、线程同步等的详解,一文让你小白变大神!为什么要使用多线程、线程锁、互斥量、信号量?为什么需要线程 ... [详细]
  • 本博文基于《Amalgamationofproteinsequence,structureandtextualinformationforimprovingprote ... [详细]
  • 前天,SpaceX在卡纳维拉尔角成功发射“猎鹰重型”最新型运载火箭,震惊了全世界,因为这一载重为SpaceX公司总裁埃隆马斯克的火星移民计 ... [详细]
  • 可编辑区块链:打破你对“不可篡改”的认知,但这样的区块链还安全吗
    很多人最初了解区块链是什么的时候,除了比特币和中本聪的白皮书,听到最多的说法应该是“去中心化且不可篡改的分布式账本”。由此,区块链“不可篡改”的特性一直都深入人心。不可篡改,我是这 ... [详细]
author-avatar
腾龙娱乐开户
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有