计费云化
H5,H5页面制作工具
计费云化之路
中国联通
- innovation
创新
- 联通2017年度科技创新一等奖,让我们一起见证计费云化的风雨征程
- 2014年3月
- 4G用户人均日话单规模时3G用户的6.1倍
- 2015年初
用户每月增加700万
- CPU利用率80%
- 出帐用户数2000万
话单积压之
痛
- 传统架构弊端
- 缓解
- 用户数增加
- 系统优化,扩容
- 话单积压
- 传统IOE架构
计费容器化
计费x86化
计费云化之路
- 无法水平扩展
- 文件系统空间不足、MDB内存库占用内存高
- 硬件成本高,小机CPU处理瓶颈
- ???
计费x86化改造
- 需要解决分布式情况下的事务完整性
- 跨主机运算、分布式存储下海量数据的快速定位重单问题
- 异常处理
- 排重问题
x86化难点
- 分布式排重比小机排重快10倍
- 有效缓解生产存储空间不足的问题
- 在数据库连接数不成为瓶颈的情况下可线性扩展
- 解决单域支撑1600万用户天花板
- 全量用户资料加载时间下降50%
- 硬件投资下降50%
- 话单不积压
成果展示
- 倒计时
- 测试与生产环境不同步造成上线风险
- 很难适应各省业务发展对资源的需求
- 无法灵活支撑临时性需求
计费容器化之路
- 出现问题:1、 Marathon承载任务数存在上限:发现当Marathon承载任务数达到5000时,运行效率急剧下降采取“底层Marathon来承载上层业务Marathon”的模式来实现任务分流2、 xfs文件系统承载overlay导致宿主宕机:使用XFS文件系统承载Overlay存储驱动时会导致宿主机间歇性宕机重新格式化XFS文件系统时将fytpe置1,以支持d_type3、Chronos对CPU消耗高:Chronos对任务不间断的循环查询导致修改Chronos源代码,使用sleep对查询周期进行管控4、RHEL72操作系统BUG:发现当大量容器同时对宿主同一文件进行写操作时,会导致宿主机间歇性宕机修改内核源码、自行编译内核后,统一对宿主机内核打补丁
- 存储:如何实现数据的完整性和权限问题
- 网络:需要解决容器间、内外网间通信难题
容器化之难
- 减少90%的主机登录
- 统一环境、流程自动化、实现一键发版,提升50%的运维效率
- 资源充分利用,将总体性能提升了20%
- 分钟级扩容
成果展示
- 计费云化,“路漫漫其修远兮,吾将上下而求索”。计费的成长,贯穿全体组员的成长,也是新技术替代旧技术、新时代替代旧时代的征程。
计费云化之路
- 制作单位:联通软件研究院
- 计费云化项目