华为云融合智能云管理系统全面升级 建立坚实的数据库 支持新的云原生企业
12月30日,华为云TechWave云原生2.0峰会在深圳成功举行。在此次会议上,华为云融合之光总设计师徐利锋出席并发表了主题演讲“华为云融合之光MRS云原生数据湖建设一个企业,一个湖,一个城市,一个湖”。
华为云融合MRS Cloud Native Data Lake为政府和企业客户的海量数据提供大数据解决方案,支持大数据的实时分析、离线分析、交互查询、实时检索等应用场景,帮助政府和企业释放海量数据的价值,实现一个企业、一个湖、一个城市、一个湖,更精准的业务洞察和更快的价值实现!
华为云首席技术官张玉玺在峰会上发布了HC2020。融合了原有的FusionInsight HD和华为云MRS,架构和内核统一。它已完全升级到融合智能云原生架构,这将为客户提供以下更具竞争力的云原生数据湖:
1.OBS大数据存储与计算分离方案:首先,与传统的大数据存储与计算集成方案相比,软硬件解耦,提供了更具性价比和灵活性的OBS大数据存储与计算分离方案。OBS大数据根据需要灵活扩展计算和存储资源,避免资源浪费。OBS采用企业EC,传统大数据需要3份。华为提供大数据存储与计算分离的解决方案,最少1.2份。存储利用率从33%提高到80%,总体拥有成本降低了60%。其次,OBS大数据存储与计算分离方案将数据统一存储在OBS中,以多协议方式共享数据,实现多引擎共享,避免数据重定位;同时全局设置一组数据,统一数据管理,降低了运维难度。最后,在性能方面,OBS大数据存储与计算分离方案通过运营商下推和软硬件优化,与同等成本的集群相比,性能提升了30%。
2.数据湖目录统一数据目录:与传统数据岛相比,DLC统一了全局数据视图,使元数据全局可见。DLC还兼容Hive Metastore,性能比Hive MetaStore高3~5倍,可以在保持高性能的同时实现数据的全局可视化。
3.BMS裸机服务器:与传统虚拟机部署相比,性能损失为零。它具有大数据所需资源的灵活性,分分钟分发。同时,华为云大数据拥有独家SDI技术,基于擎天柱加速卡,超低延迟,可以100%释放完整的计算能力,使得大数据分析、高CPU、高内存、高IO等计算密集型场景的计算更加强大。
除了上述云原生优势外,新版FusionInsight MRS云原生数据湖还在以下五个方面继续发挥实力:
1.快速:基于MRS可以搭建实时数据湖,在湖中搭建仓库,一个数据支撑整个场景,缩短分析环节,加快数据分析的全过程。首先,在入湖数据方面,通过胡迪实现了全数据T 0的实时增量更新;其次,在数据集市建设方面,通过ClickHouse的实时OLAP能力,构建大数据的实时数据湖,直接基于Kimball构建主题数据。湖内仓库建设,数据源处理、集成关联、主题处理都在湖内完成,一个数据支持数据应用的全场景,缩短了数据处理环节;通过HetuEngine实现数据虚拟化访问,统一SQL接口,简化数据消耗,实现全民BI!根据实际测量,在一个客户营销业务场景(大表和多表关联场景)中使用HetuEngine,性能比传统大数据提升10倍!
2.财务:帮助客户从孤岛建设向云原生数据湖演进,提供跨来源、跨领域、跨引擎的融合分析,避免数据重定位。
3.大:支持大规模集群w
同时,华为云融合智慧MRS作为最有见识的大数据解决方案,拥有强大的技术研发实力,深刻理解客户场景的痛点,为政府和企业的数字化转型提供最坚实的数据基础,多年来得到客户和主管部门的认可。在IDC的MarketScape报告中,华为云排在领导者象限,在市场份额和技术实力两个维度上领先!2020年,华为云融合智能科技连续四年入选中国大数据50强企业,荣获金融行业大数据最佳解决方案奖、中国信息通信行业大数据影响力奖、中国大数据平台最佳解决方案奖。
截至2020年11月,华为云融合智能云MRS原生数据湖已广泛应用于政府、金融、运营商、大型企业、互联网等行业,与800家合作伙伴共同服务于全球60个国家和地区的3000家政府和企业客户。
在金融领域,50%的国内前20名金融客户(包括银行、证券、保险等。)已经用华为云融合智能MRS搭建了自己的大数据平台。某大银行在金融使用的传统大数据三份,性价比低,往往存储空间10PB,有效容量只有3pb;同时还有存储、计算等资源不平衡,往往超过70%的存储利用率,却不到50%的CPU利用率。扩展时需要将存储和计算资源一起扩展,存在资源浪费;金融客户使用FusionInsight后,实现了大数据平台与OBS对象存储服务的对接,在保证性能的前提下,实现了计算和存储按需独立扩展,整体资源利用率提高,TCO降低60%。
在运营商领域,国内三大运营商都使用华为云融合智能MRS搭建自己的大数据平台。广东移动大数据平台集群规模已超过1500个节点,日均处理能力21万,承载200项业务,包括内部精准营销、收入审计、外部广告等关键业务,对服务连续性要求较高。但是大数据技术迭代快,传统的升级方式需要断电、重启等操作。升级操作复杂,操作维护繁琐,影响了现有网络服务的运行。此外,大型集群的升级需要很长时间,突然的故障很容易中断升级动作。为了保持业务连续性和技术领先,广东移动通过华为云融合(Huawei Cloud FusionInsight MRS)滚动升级能力实现了大集群批量滚动升级,业务0中断;故障节点隔离功能,保证升级动作稳定运行,实现7*24小时不间断服务;1000个精细化运维指标和可视化操作简化运维,实现一个架构的持续演进。
在交通领域,深圳地铁利用华为云融合智能城域网(Huawei Cloud FusionInsight MRS)在6号线和10号线搭建大数据分析平台,打造领先的5G大数据解决方案,打造其数据资产中心和运营监控中心,承载各种地铁业务系统,支持设备健康、能耗管理、客流统计、线路中心级监控、应急决策、基于图像的火灾分析等线路级数据分析。数据分析效率从周水平缩短到分钟水平,实现高效运行,促进深圳进入更好的地方。
除了在上述行业的应用外,在环保方面,青海绿色能源数据有限公司基于华为云融合智能(Huawei Cloud FusionInsight MRS)搭建了国内首个能源大数据创新平台,用气象数据科学实现了规划辅助决策、指导发电等创新业务。为上下游产业链企业提供25大类47项数据服务,推动28个新能源站实现“无人值守、少人值守”,有效支撑青海“绿色电力十五”,大数据。
同时,华为坚持“自己的降落伞先跳”。华为集团IT通过FusionInsight MRS搭建OneData大数据集群,实现大规模场景下大数据平台的开发。OneData集群规模已达到1万个节点;同时,实现了统一的数据管理服务。在博迪海UniDB产品中,50个物理分布式计算集群(Hadoop)被集成到一个基于五个统一(数据安全、元数据目录、数据集成、数据访问和任务调度)的湖库集成架构中,支持成千上万企业租户的PB级数据分析和处理需求。一个基于FusionInsight MRS的融合数据库(菩提海)“治理、AI、运营、云”,已经在华为IT中广泛应用,并有望在未来得到应用。
以上只是冰山一角。一方面,华为云融合its right MRS不断了解客户不断演变的业务需求;另一方面,它不断创新技术,引领行业发展。业务要求两轮驱动行业以技术创新持续高质量发展,“用数字”帮助客户在业务上取得成功!以上讨论充分证明了华为云是一个“知识渊博”的大数据领袖,真正让客户用好号,管好号,用好号,有信心在数字世界里建立一片黑土地!
