热门标签 | HotTags
当前位置:  开发笔记 > 后端 > 正文

通信行业用统一大数据平台破解“多租户”

通信,行业,用,统一,大,数据,

ZD至顶网CIO与应用频道 08月10日 评论分析(文/王聪彬):源于互联网的大数据技术,现如今已经深入到传统行业之中。各行各业大都在积极使用大数据推动数字化转型,基于每个行业的特点和信息化水平的不同,在大数据的应用上也各不相同,其中金融、电信、政府、交通行业领跑大数据应用。

某电信运营商的大数据应用在运营商中属于第一梯队,早在3、4年前就开始了大数据平台的建设。但随着业务带动数据量的增长,也产生了多租户的问题,所以在大数据平台二期建设上,其考虑通过统一架构来解决多租户问题。

运营商的多租户挑战

在大数据应用上可以分为三个阶段,第一,实验期,非核心业务的应用;第二,广泛使用期,针对一些大数据技术选择使用的场景;第三,引领发展期,实现创新应用。

电信行业算是最早使用大数据开展业务的行业之一,在大数据的应用上已经经历了第一阶段大多处在第二阶段,而且运营商目前也正进入新的转型期,大数据也将成为创新的驱动力。

而在大数据广泛使用期的运营商有两大驱动力需求:业务和技术。业务驱动力表现为实现端到端的业务模型,从用户画像提炼出目标客户产生价值等;技术驱动力表现为技术平台的建设满足不同的需求。在大数据应用第二阶段的后期,两种驱动力也会交织在一起,运营商甚至建立专门的大数据部门,来统筹和实现需求。

运营商在各省市都有不同的分支机构,某电信运营商作为第一批建设大数据的运营商,在3、4年前就开始大数据平台的建设,2年内获得了超过3000万的业务收益。但随着海量数据和数据应用种类的不断增长,大数据系统超负荷运行,对业务的稳定性和安全造成了潜在风险。

这也是运营商在大数据应用第二阶段最突出的问题“多租户”,多租户是一个比较广的概念,其中涵盖了资源共享、资源调度、可视化管理,多租户也基本代表了规模以上企业在技术驱动的大部分范畴。

多租户来自于使用和维护部门的直接需求,之前运营商在IT系统的建设上都是一个应用一套平台,这也造成了系统和系统之间的隔阂,产生大量的孤岛。在经过不断的架构优化后,逐渐形成了在统一的平台建立大数据应用,这就需要实现硬件甚至数据的共享。在应用都在分享资源时,如何调派这些资源,就产生了多租户的需求。

构建统一架构大数据平台

某电信运营商需要满足分批量数据处理的同时,引入实时分析应用,提高数据的高效利用率,挖掘潜在数据价值。

在Hadoop的初期并不具备实现条件,经过发展目前Hadoop已经可以很好的满足多租户需求,但中间需要大量定制化开发。而且单一系统也不能完成大数据的所有需求,这也使得需要一个全面的解决方案。

某电信运营商在大数据平台上更加关注实施风险和性价比,以Platform和GPFS为基础结合开源Hadoop2.0+Spark整体解决方案实现完全兼容满足多租户需求,即使在租户数量增多的情况下,也能保证企业租户享有安全稳定高效的应用性能。

最终选用Linux on Power主要是考虑硬件本身的性能、可靠性、安全性,之后再对比软件的性价比。相比X86服务器,Linux on Power在其中起到了软硬互相优化的作用,Power对于商业软件还是开源软件都有很好的兼容性,而且还可以针对性的进行调优。而且在同一平台上实现支持不同开源Hadoop版本,解决了集成问题,避免了推倒重来和数据迁移。

目前某电信运营商的大数据平台已经进入第二期建设,每天数据量峰值已经超过50TB,平台上的数据提供给业务部门、维护部门、创新中心三大部门使用。

大数据平台在支持运营之外,提供了共享的框架,节省了资源提高利用率,该省公司也因此成为中国移动在大数据应用上的标杆工程。而且通过隔离功能可以让不同应用运行在平台的同时,还可以实现数据的共享,提高性能的同时降低开发成本。

在未来大数据平台的规划上将更加突出业务特性,甚至有可能将其他省公司也接入到该省公司的大数据平台,在技术层面越来越基于云进行分析,提升整个平台的性能并进一步降低运维成本。

原文发布时间为:2016年8月10日
本文作者:王聪彬
本文来自云栖社区合作伙伴至顶网,了解相关信息可以关注至顶网。

推荐阅读
  • 2018年人工智能大数据的爆发,学Java还是Python?
    本文介绍了2018年人工智能大数据的爆发以及学习Java和Python的相关知识。在人工智能和大数据时代,Java和Python这两门编程语言都很优秀且火爆。选择学习哪门语言要根据个人兴趣爱好来决定。Python是一门拥有简洁语法的高级编程语言,容易上手。其特色之一是强制使用空白符作为语句缩进,使得新手可以快速上手。目前,Python在人工智能领域有着广泛的应用。如果对Java、Python或大数据感兴趣,欢迎加入qq群458345782。 ... [详细]
  • 基于PgpoolII的PostgreSQL集群安装与配置教程
    本文介绍了基于PgpoolII的PostgreSQL集群的安装与配置教程。Pgpool-II是一个位于PostgreSQL服务器和PostgreSQL数据库客户端之间的中间件,提供了连接池、复制、负载均衡、缓存、看门狗、限制链接等功能,可以用于搭建高可用的PostgreSQL集群。文章详细介绍了通过yum安装Pgpool-II的步骤,并提供了相关的官方参考地址。 ... [详细]
  • 一、Hadoop来历Hadoop的思想来源于Google在做搜索引擎的时候出现一个很大的问题就是这么多网页我如何才能以最快的速度来搜索到,由于这个问题Google发明 ... [详细]
  • 生成式对抗网络模型综述摘要生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型,可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络 ... [详细]
  • 一次上线事故,30岁+的程序员踩坑经验之谈
    本文主要介绍了一位30岁+的程序员在一次上线事故中踩坑的经验之谈。文章提到了在双十一活动期间,作为一个在线医疗项目,他们进行了优惠折扣活动的升级改造。然而,在上线前的最后一天,由于大量数据请求,导致部分接口出现问题。作者通过部署两台opentsdb来解决问题,但读数据的opentsdb仍然经常假死。作者只能查询最近24小时的数据。这次事故给他带来了很多教训和经验。 ... [详细]
  • hadoop1.2.1文档中这样写:Nowcheckthatyoucansshtothelocalhostwithoutapassphrase:$sshlocalhostIfyou ... [详细]
  • 2018年数字化转型调查
    PointSource发布了2018年数字化转型调查,主要发现包括:1、由于缺乏战略,企业迫切需要进行数字化转型。2、企业急于开始数字化转型过程,但他们缺乏进行智能投资的战 ... [详细]
  • 寻求更强大的身份和访问管理(IAM)平台的企业正在转向云,并接受身份即服务(IDaaS)的灵活性。要为IAM选择正确的场外解决方案,业务管理人员和IT专业人员必须在实施之前评估安全 ... [详细]
  • ZooKeeper 学习
    前言相信大家对ZooKeeper应该不算陌生。但是你真的了解ZooKeeper是个什么东西吗?如果别人面试官让你给他讲讲ZooKeeper是个什么东西, ... [详细]
  • 什么是大数据lambda架构
    一、什么是Lambda架构Lambda架构由Storm的作者[NathanMarz]提出,根据维基百科的定义,Lambda架构的设计是为了在处理大规模数 ... [详细]
  • BPM是什么软件?1、BPM是BusinessProcessManagement的简称,译为业务流程管理,它是一种以规范化的构造端到端的卓越业务流程为中心以持续的提高组织业务绩效为 ... [详细]
  • TiDB | TiDB在5A级物流企业核心系统的应用与实践
    TiDB在5A级物流企业核心系统的应用与实践前言一、业务背景科捷物流概况神州金库简介二、现状与挑战神州金库现有技术体系业务挑战应对方案三、TiDB解决方案测试迁移收益问题四、说在最 ... [详细]
  • Hadoop源码解析1Hadoop工程包架构解析
    1 Hadoop中各工程包依赖简述   Google的核心竞争技术是它的计算平台。Google的大牛们用了下面5篇文章,介绍了它们的计算设施。   GoogleCluster:ht ... [详细]
  • 地产科技战:10+
    作者|肖漫出品|雷锋网产业组一场房地产巨头的求变征战,正悄然开启。近年来,在限价限购、“房住不炒”以及三道红线的调控政策下,房地产企业竞相加快转型升级的步伐。一方面,房地产市场增量 ... [详细]
  • 【转】腾讯分析系统架构解析
    TA(TencentAnalytics,腾讯分析)是一款面向第三方站长的免费网站分析系统,在数据稳定性、及时性方面广受站长好评,其秒级的实时数据更新频率也获得业界的认可。本文将从实 ... [详细]
author-avatar
mobiledu2502871567
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有