nosql国产化,nosql数据库技术
银行为什么不用国产系统,反而用IBM的很多?
IBM提供的不是单一产品,是系统的解决方案,包括了服务器、操作系统、数据库以及应用系统,越早成立的银行核心系统越依赖IBM,早期没有其他可以替代的解决方案,反而新的银行选择很多。银行系统是相对封闭的一个行业,也对稳定性要求很高的行业,进行国产化替代需要投入的资金成本和时间成本都很大,需要银行和大厂联合才能处理,当然我们大部分大行都是国资,希望国家政策能适当引导,加快进程。
成都创新互联公司是一家集网站建设,嫩江企业网站建设,嫩江品牌网站建设,网站定制,嫩江网站建设报价,网络营销,网络优化,嫩江网站推广为一体的创新建站企业,帮助传统企业提升企业形象加强企业竞争力。可充分满足这一群体相比中小企业更为丰富、高端、多元的互联网需求。同时我们时刻保持专业、时尚、前沿,时刻以成就客户成长自我,坚持不断学习、思考、沉淀、净化自己,让我们为更多的企业打造出实用型网站。
从设计目标上看,银行广泛使用IBM的Z系列大型机机是以0宕机为设计目标,他的迭代速度要低于企业核心应用为目标的Power系列。我们常用的x86架构,从诞生之初面向的是桌面,之后才面向服务器,稳定性相对比较差,蓝屏很常见。
Z系列从CPU到服务器系统到软件到服务全套都是IBM的产品,从整体上满足零宕机的要求,同时也不存在常用软硬件那样的多个供应商的推诿扯皮。
国产系统大多是基于开源软件改的或是基于多重开源软件的集合,能够完全自研的少之又少,软硬件设计又是多家公司的集合,在没有bat那样强有力的内部开发能力之前,国内上百家银行只能使用IBM的成熟产品。
银行业和互联网行业在IT建设上最大区别在于:银行业考虑的不是技术能力,也不是人才数量和质量,而在于开始建设时的时间点和需求。
上世纪银行业有钱,也有准确的业务需求,最主要的是业务变化很慢,需求风险低,业界没有Hadoop等开源的产品,甚至连IBM自己都没有Unix服务器。
银行业唯一的选择就是大型机,再加上那时的富士通、日立、天腾等都不如IBM好,所以银行业就自然而然的选择了IBM大型机。
大型机和超级计算机的区别在于:超级计算机是将所有的数字技术都集中在尝试解决单个的问题上,而大型机所有的计算能力是用来执行数十亿的小事务。IBM大型机被称为是“云计算时代最强大的交易系统”,它主宰了“非x86”的主机市场,占了大约75%的市场份额,每天处理超过300亿笔交易,超过了谷歌的日搜索量。
比如:IBM z14拥有32TB的内存,可以在单个系统上每天处理120亿次事务,运行Java工作负载要比x86快50%,并且可以执行1000个并发的NoSQL数据库。
新一代的z15和z14相比:处理器核心数从170个增加至190个,单线程性能提升14%,最大系统处理能力提高25%,内存增加25%,压缩吞吐量提升17倍,I/O通道增加20%。Z15的推出也让IBM的摆脱了过去几个季度的困境。
如今IBM大型机处理87%的信用卡交易,每年有290亿次ATM交易和40亿次旅客航班预订都是通过IBM的大型机处理的。更加令人惊叹的是全球68%的生产工作负载是在IBM大型机上运行的。
IBM也并非造了个大型机那么简单
银行业除了依赖IBM的大型机外,还对IOE(IBM、Oracle、EMC)框架产生了巨大的依赖性。
比如:招商银行能在几分钟内把总行核心业务真从深圳切换去上海,用的是IBM的i系列,自带的DB2数据库,自带的中间件,自带的通行包,自带的邮件支持。TIMI的设计让现代黑客用尽各种招数。
IOE提供了应用程序以外的所有“基础软件”,包括了操作系统、中间件、数据库等,并且这些“基础软件”的源代码是不会对外公开的,银行业的很多业务都是基于它们开发的。IOE框架从单机的性能、安全性、稳定性、扩展性、可靠性和高可用架构来讲是领先的,银行业都是在守成,很难脱离IOE。
银行也没有这个技术,就像航空公司也不会自己造飞机一样,因为它们的飞机也是买来的,刚买来怎么的也得用10多年才替代吧。银行业想去IOE的路线只可能是:有一个新的业务需求,甚至是对内部人员使用的系统开始在去IOE的环境下建立起来,才能慢慢的侵蚀IOE建立的高楼大厦。如果现在新开一家银行,让BAT的高手去弄这样一套东西,顺带去个IOE,代价不见得比用IOE要小。
综上所述
银行业一直使用IBM,跟IBM出现的时间节点有很大的关系,其他同类的产品包括x86也很难做到IOE框架的优秀程度。IOE框架的几十年深耕,再加上银行的业务流程的复杂程度。银行就算打出了去IOE的口号,也只敢做小范围的尝试。
以上个人浅见,欢迎批评指正。
newsql和nosql的区别和联系
在大数据时代,“多种架构支持多类应用”成为数据库行业应对大数据的基本思路,数据库行业出现互为补充的三大阵营,适用于事务处理应用的OldSQL、适用于数据分析应用的NewSQL和适用于互联网应用的NoSQL。但在一些复杂的应用场景中,单一数据库架构都不能完全满足应用场景对海量结构化和非结构化数据的存储管理、复杂分析、关联查询、实时性处理和控制建设成本等多方面的需要,因此不同架构数据库混合部署应用成为满足复杂应用的必然选择。不同架构数据库混合使用的模式可以概括为:OldSQL+NewSQL、OldSQL+NoSQL、NewSQL+NoSQL三种主要模式。下面通过三个案例对不同架构数据库的混合应用部署进行介绍。
OldSQL+NewSQL 在数据中心类应用中混合部署
采用OldSQL+NewSQL模式构建数据中心,在充分发挥OldSQL数据库的事务处理能力的同时,借助NewSQL在实时性、复杂分析、即席查询等方面的独特优势,以及面对海量数据时较强的扩展能力,满足数据中心对当前“热”数据事务型处理和海量历史“冷”数据分析两方面的需求。OldSQL+NewSQL模式在数据中心类应用中的互补作用体现在,OldSQL弥补了NewSQL不适合事务处理的不足,NewSQL弥补了OldSQL在海量数据存储能力和处理性能方面的缺陷。
商业银行数据中心采用OldSQL+NewSQL混合部署方式搭建,OldSQL数据库满足各业务系统数据的归档备份和事务型应用,NewSQL MPP数据库集群对即席查询、多维分析等应用提供高性能支持,并且通过MPP集群架构实现应对海量数据存储的扩展能力。
商业银行数据中心存储架构
与传统的OldSQL模式相比,商业银行数据中心采用OldSQL+NewSQL混合搭建模式,数据加载性能提升3倍以上,即席查询和统计分析性能提升6倍以上。NewSQL MPP的高可扩展性能够应对新的业务需求,可随着数据量的增长采用集群方式构建存储容量更大的数据中心。
OldSQL+NoSQL 在互联网大数据应用中混合部署
在互联网大数据应用中采用OldSQL+NoSQL混合模式,能够很好的解决互联网大数据应用对海量结构化和非结构化数据进行存储和快速处理的需求。在诸如大型电子商务平台、大型SNS平台等互联网大数据应用场景中,OldSQL在应用中负责高价值密度结构化数据的存储和事务型处理,NoSQL在应用中负责存储和处理海量非结构化的数据和低价值密度结构化数据。OldSQL+NoSQL模式在互联网大数据应用中的互补作用体现在,OldSQL弥补了NoSQL在ACID特性和复杂关联运算方面的不足,NoSQL弥补了OldSQL在海量数据存储和非结构化数据处理方面的缺陷。
数据魔方是淘宝网的一款数据产品,主要提供行业数据分析、店铺数据分析。淘宝数据产品在存储层采用OldSQL+NoSQL混合模式,由基于MySQL的分布式关系型数据库集群MyFOX和基于HBase的NoSQL存储集群Prom组成。由于OldSQL强大的语义和关系表达能力,在应用中仍然占据着重要地位,目前存储在MyFOX中的统计结果数据已经达到10TB,占据着数据魔方总数据量的95%以上。另一方面,NoSQL作为SQL的有益补充,解决了OldSQL数据库无法解决的全属性选择器等问题。
淘宝海量数据产品技术架构
基于OldSQL+NoSQL混合架构的特点,数据魔方目前已经能够提供压缩前80TB的数据存储空间,支持每天4000万的查询请求,平均响应时间在28毫秒,足以满足未来一段时间内的业务增长需求。
NewSQL+NoSQL 在行业大数据应用中混合部署
行业大数据与互联网大数据的区别在于行业大数据的价值密度更高,并且对结构化数据的实时处理、复杂的多表关联分析、即席查询、数据强一致性等都比互联网大数据有更高的要求。行业大数据应用场景主要是分析类应用,如:电信、金融、政务、能源等行业的决策辅助、预测预警、统计分析、经营分析等。
在行业大数据应用中采用NewSQL+NoSQL混合模式,充分利用NewSQL在结构化数据分析处理方面的优势,以及NoSQL在非结构数据处理方面的优势,实现NewSQL与NoSQL的功能互补,解决行业大数据应用对高价值结构化数据的实时处理、复杂的多表关联分析、即席查询、数据强一致性等要求,以及对海量非结构化数据存储和精确查询的要求。在应用中,NewSQL承担高价值密度结构化数据的存储和分析处理工作,NoSQL承担存储和处理海量非结构化数据和不需要关联分析、Ad-hoc查询较少的低价值密度结构化数据的工作。
当前电信运营商在集中化BI系统建设过程中面临着数据规模大、数据处理类型多等问题,并且需要应对大量的固定应用,以及占统计总数80%以上的突发性临时统计(ad-hoc)需求。在集中化BI系统的建设中采用NewSQL+NoSQL混搭的模式,充分利用NewSQL在复杂分析、即席查询等方面处理性能的优势,及NoSQL在非结构化数据处理和海量数据存储方面的优势,实现高效低成本。
集中化BI系统数据存储架构
集中化BI系统按照数据类型和处理方式的不同,将结构化数据和非结构化数据分别存储在不同的系统中:非结构化数据在Hadoop平台上存储与处理;结构化、不需要关联分析、Ad-hoc查询较少的数据保存在NoSQL数据库或Hadoop平台;结构化、需要关联分析或经常ad-hoc查询的数据,保存在NewSQL MPP数据库中,短期高价值数据放在高性能平台,中长期放在低成本产品中。
结语
当前信息化应用的多样性、复杂性,以及三种数据库架构各自所具有的优势和局限性,造成任何一种架构的数据库都不能完全满足应用需求,因此不同架构数据库混合使用,从而弥补其他架构的不足成为必然选择。根据应用场景采用不同架构数据库进行组合搭配,充分发挥每种架构数据库的特点和优势,并且与其他架构数据库形成互补,完全涵盖应用需求,保证数据资源的最优化利用,将成为未来一段时期内信息化应用主要采用的解决方式。
目前在国内市场上,OldSQL主要为Oracle、IBM等国外数据库厂商所垄断,达梦、金仓等国产厂商仍处于追赶状态;南大通用凭借国产新型数据库GBase 8a异军突起,与EMC的Greenplum和HP的Vertica跻身NewSQL市场三强;NoSQL方面用户则大多采用Hadoop开源方案。
Oracle、DB2、MySQL、SQL Server、Sybase这几款数据的重点应用领域分别是哪些?比如电信、互联网、银行等等
这个事情需要展开来看
很多大型企业单位为了满足业务系统的使用需要,使用很强劲的服务器主机,以大型机、小型机为主。这些机器都不使用windows系统,所以SQL Server之类的数据库没办法在这种机器上运行。Oracle、DB2、Sybase之类的是主流,这几个数据库有很强大的技术支持团队,也是受到大企业欢迎的原因。
计算机水平国外还是比较高的,所以外国软件公司开发的针对大企业的软件也都要求在这种数据库上运行。
约定俗成,微软的操作系统和数据库由于不能运行在很强劲的主机上,所以只能给中小企业服务。微软系列的还有access数据库,基本上是为单机服务的。
至于MySQL基本上是为网站服务的,主要特点是免费,应用挺多,但是大企业信息化软件很少用,因为没有对应的业务支持人员,到时候出问题,找不到人,就出大事故了。
反过来再看数据库本身,都有参数说明,你仔细看看就知道了。很多小数据库本身底气就不足,并发数量、最大库文件等等参数标得很低,你说大企业动辄几T几P的数据,敢忘这种数据库上放吗?软件公司敢编写用这种数据库的软件吗?
再说说知名度,企业之间都会互相问,要是一个很小很便宜的数据库大家都用,都用得很好,市场占有率极高。自然口碑就好,大家就都用了。微软的sqlsever就是一个例子。从最开始的6.5基本上不能用到sql2000很成功,得到大量企业的认同,到现在出到2008版本,占有率很高了,就是口碑,可是它在大企业中使用不理想,所以还是占有中小企业。
分析这些数据库,应该多方面来看,不能只看参数,只看技术。你都分析好了,发现某个数据库不像大家说的,你能用,可是市场上找不到对应的软件,也没辙,除非你自己编写。
天翼云TeleDB数据库全面亮剑
数字时代下,数据规模爆发性增长,数据存储结构越来越灵活多样,推动着数据库技术不断演进,我国数据库产业进入重要发展机遇期。 天翼云积极顺应时代趋势,创新推出 TeleDB 产品, 为企业提供全方位数字化转型解决方案,助力企业上云用数赋智。
TeleDB 是天翼云在数据库领域丰富实践经验和先进技术架构的有机结合, 由天翼云自主研发,具有兼容社区生态、全面国产化适配等核心能力。
历经8年打磨, 目前 TeleDB 已研发核心PaaS技术20余项,获得核心专利技术16项,承载7亿+用户, 稳定性得到全面验证。
TeleDB 数据库采用容器化技术和分布式块存储技术,通过云原生技术改造业务,使得数据库服务器的CPU、内存能够快速扩容,通过动态增减节点提升性能和节省成本,存储空间无需手动配置,实现自动弹性伸缩。
面对多元化的业务需求,企业需要服务提供商能够提供横向主流数据库产品和纵向多版本技术服务的全覆盖能力,为此,天翼云还构建了 TeleDB 数据库上云全生态。
在数据库内核方面, TeleDB 采用云原生架构,高度兼容MySQL、PostgreSQL、openGauss、TiDB, 寻求社区深度合作,在强化自身能力的同时反哺社区,提升代码自主可控能力及数据库团队的社区影响力。
TeleDB 是一款兼容开源MySQL协议的企业级智能化关系型数据库引擎,适用于在线事务处理,可为用户提供稳定可靠的企业级数据库服务;
TeleDB 兼容开源PostgreSQL协议,支持SQL规范的完整实现、丰富多样的数据库类型,并高度兼容Oracle语法,集成了一系列管理功能,减轻运维压力;
TeleDB 支持在线事务处理(TP)和在线分析处理(AP),是一款高性能 HTAP 融合型NewSQL数据库引擎,适用于数据规模大、高可用、高吞吐等业务场景。
在建设层面,TeleDB 聚焦掌握数据备份、数据迁移、数据库自动驾驶仓、数据库安全网关等核心生态产品。 支持HBase、文档数据库、时序数据库等NoSQL数据库协议,提供实时分析云服务,适合PB级,千万级QPS的分布式计算应用场景, 是风控、推荐、广告、物联网、车联网、Feeds流、数据大屏等场景的首选数据库。
此外,TeleDB 借助外部生态体系夯实完善交付、实施、运营、维护等过程, 可以实现端到端软硬件深度的整合和优化,提升数据存储效率和访问效率,进一步发挥网络和新介质能力,构建一站式强体验生态体系。
TeleDB 数据库作为中国电信天翼云自主研发的产品,实现数据库基础软件全面自主可控。基于 TeleDB 数据库,解决核心基础软件卡脖子问题,赋能千行百业,满足其多元化的上云需求。未来,天翼云将坚持以创新、高效为目标,为用户提供更安全、更可靠、更智能的云数据库产品和服务,让 TeleDB 成为企业乘云而上的助燃剂。
分享标题:nosql国产化,nosql数据库技术
浏览路径:http://scyanting.com/article/dsgcihe.html