云计算:大数据时代的系统工程-创新互联
1.云计算哲学(组织资源以服务,组织技术以实现,组织流程以应变):服务和平台
创新互联长期为上千家客户提供的网站建设服务,团队从业经验10年,关注不同地域、不同群体,并针对不同对象提供差异化的产品和服务;打造开放共赢平台,与合作伙伴共同营造健康的互联网生态环境。为渠县企业提供专业的成都网站建设、成都做网站,渠县网站改版等技术服务。拥有十载丰富建站经验和众多成功案例,为您定制开发。(1)定义:既是指在互联网以服务形式提供应用,也是指在数据中心提供这些服务的软件
云:数据中心的硬件和软件
(2)前身:超大规模分布式计算
(3)核心思想:通用、动态:、多租赁
弹性:控制损耗(群组通信:单点失效、冗余机制、多活体机制、消息顺序机制)、
状态感知(成员管理服务、全局视图)、
动态平衡(由节点增加而对负载进行的动态均衡、DHT算法)
透明:冗余等方式保证系统底层架构节点问题,不会对整体影响
用户无需关心底层实现方式,只要专注上层的业务逻辑
自容错(会话复制技术、节点内存连接到全局共享内存数据空间)、
自管理(分布式的执行机制、基于策略的自动化管理、事件驱动机制)、
跨平台互操作性(用户通用、应用通用、平台层通用)
积木化:业务流程管理BPM、资源快速重组满足不同业务需要
(4)模式:商业模式(云服务)、技术(按需提供强大资源的云计算平台)。
(5)挑战:大用户、大数据、大系统
(6)局限:带宽、安全、原子操作(最小不可分割)时延问题
2. 2006年8月SES搜索引擎战略谷歌CEO施密特为云计算命名
2006年亚马逊EC2(动态计算云)服务明确云计算商业模式
3.云商业模式:
1)SaaS软件即服务(互联网提供软件服务):按需求提供服务、无需购买软件、会员费、不对底层云基础设施进行管理控制
2)PaaS平台即服务(互联网提供应用程序运行平台服务):以服务形式交付计算平台和解决方案包,提供创建、应用测试及应用部署的高度集成环境,无需购买软硬件
(1)不会对底层基础设施管理控制:网络、服务器、操作系统、存储等
(2)可控制所部署的应用,服务商提供应用服务编程接口
(3)eg:谷歌GAE开发托管网络应用平台
3)IaaS基础实施即服务:互联网提供基础设施服务
(1)消费者获得处理能力、存储、网络和其他基础计算资源
(2)可部署运行操作系统和应用等任意软件
(3)网站托管、数据存储备份、电子商务、高性能计算、搜索引擎、虚拟主机服务等
(4)eg:亚马逊AWS(存储、计算、消息传递(SQS)和数据采集(SimpleDB)等服务)
4. SaaS面向服务对象与普通单机应用程序的客户无明显区别
PaaS用户对象是开发人员,需了解平台提供环境下应用的开发和部署
IaaS最底层的IT基础设施服务,面向IT管理人员
5.部署使用方式
1)公有云Public Cloud:开放给公众使用的云基础设施
2)私有云Private Cloud:客户单独使用而建立的云基础设施,提供对数据、安全性和务质量最有效控制,并可控制在此基础设施上部署应用程序的方式
.【公有云和私有云区别】主要体现在商业应用方面,技术上互通,但技术层面根本区别访问权限和访问模式的控制(可访问范围决定了云的业务性质)
3)混合云Hybrid Cloud:半公半私,资源借用/租用
6.云计算技术流派
Yahu :搜索起家,门户网站模式
发展大规模分布式系统考虑最多的是通用性(支持各种应用、非存储性问题)
未解决邮箱存储和搜索效率问题推动Hadoop
Google:搜索起家,保证大块数据的查询和搜索的效率和可用性
存储为根,本、高效新可用性
Amazon:电子商务,底层架构核心作用保证在线交易不中断
存储品台Dynamo更适用存储相对较小的对象
7.Hadoop:对大量数据进行分布式处理的软件框架,主要由HDFS(文件系统)、MapReduce(计算机系统)、Hbase(数据库)等组成。
Yahu推动,技术思想属于Google
8. GFS、HDFS:一个主控服务器(Master)+多个子表服务器(Chunk Server)
9. Dynamo:采用哈希算法切分数据,将数据在一个及诶单”环”内均匀存储,分担压力
10.VMware:主要向企业用户提供虚拟化技术,决定其技术路径是自单机虚拟化做起,向上、发展处更高层面上的虚拟化技术来部署云计算平台
特点:借虚拟化技术实现的各种硬件资源的”池化”,在此基础上晚上配置、调度和管理
11.分布式系统:通过网络将物理上分散的计算资源连接起来解决问题
12.站来说的.数据量含义:总量、流量(并发量)
13.cebook将数据存储在Hadoop分布式文件系统(HDFS)上,依靠Hive完成数据分析
14.系统由许多廉价的普通组件组成,组件失效是常态。系统必须时刻监控自身状态,迅速地侦查、承受并恢复失效组件
15.云计算快速发展的因素
1)技术:光纤使用、宽带普及、结点通信、虚拟化技术、Ajax、LAMP
2)商业模式&需求:软件即服务
16.Ajax:Asynchronous JavaScript XML 异步的JavaScript和XML技术
服务器对客户端的表单反馈,不会因为部分更改而刷新所有页面内容消失再出现的刷新,仅需返回更改必需的数据
17.XaaS一切皆可为服务。衍生商业流程即服务、数据库即服务、安全即服务等
服务随时可接入、服务应永远在线、服务拥有足够大的用户群
18.并行计算:同时执行多个指令的计算模式,化大为小加快计算速度。紧耦合
耦合:互相交互的系统彼此间的依赖
分布式计算:松耦合,将分布于各处的计算资源以透明、可扩展方式连接共同解决问题
【比较】(1)分布式计算的资源分散,通过网络节点连接表现出无共享的架构
各处处理器都有自己的存储器,通过处理器之间的消息传递进行信息交换
(2)并行计算通常集中于一处,通过共享存储来进行信息交换
所有的处理器共享一个存储器,一次交换处理间信息
(3)NUMA(非一致存储访问结构)和MPP(大规模并行处理)每个节点都有自己的CPU、内存和I/O,节点通过某些机制信息交互
19.集群(Cluster):用多个计算机,冗余互联组成一个对用户来说单一的高可用性的系统
20.网络计算技术:将分散在网络中的计算机节点(如空闲服务器、存储系统等)连接在一起,形成一个拥有超强性能的虚拟计算机,为用户提供强大的计算存储能力
松耦合、异构性质更明显
21.网格计算:多个零散资源为个别任务提供运行环境
云计算:单个整合资源为多个用户提供服务
22..SOA(Service Oriented Architecture)面向服务的体系结构,组织和利用可能处于不同所有权范围控制下的分散功能的范式
给定一种彼岸准接口和一个约束借口的服务协议,则任何业务应用只要满足即可通过给定标准接口进行通信和交互,实现对接。
本质:用于交换系统和系统之间的信息的企业集成技术
23.EAI(EnterpriseApplication Intergration)企业应用集成技术:基于消息中间件产品
24.虚拟化(Virtulization):资源的逻辑表示,不收物理限制的约束
将底层资源抽象,向上提供与真实的层相同或类似功能,屏蔽设备的差异性和兼容性
25.云计算进行负载均衡方法:横向切分(按工作量切分)、竖向切分(按工作流程切分)
26.业务应用架构:展现层、业务层、数据层
27.分布式数据总线:运维管理系统,数据采集系统、数据存储系统、数据服务系统、服务交付系统,分布式调度系统/分布式工作流引擎
(1)分布式调度系统/分布式工作流引擎:系统执行者,实现定义、调度、协作和执行,主要支撑大规模系统的自动化运维和分布式计算框架的实现
(2)运维管理系统:配置控制。权限管理、监控报警、应用管理、故障管理,集成策略引擎、分布式工作流、资源与服务管理调度等机制
(3)数据采集系统(数据驱动架构起点):配置管理、数据过滤、数据预处理
(4)数据存储系统(任何信息系统核心):统一存储系统
关系型数据库集群:海量强关系结构化数据的存储和快速访问
分布式实时数据库:用户行为数据和系统日志数据等数据量特大、关联性不强
分布式文件系统:总数据量和总容量都大的各类图片、视频等媒体文件
非结构化数据实时高效存储和访问
(5)数据分析系统:分布式计算模型(数据转换、数据聚合、数据关联、数据挖掘)
(6)数据服务系统:连接企业信息系统支撑平台与上层业务应用的桥梁
服务管理系统:服务注册、注销、变更、审核、发布、设计
数据访问服务---数据缓存:数据库访问、实时访问、文件系统访问…
业务逻辑服务---数据缓存:推存系统、智能分析、统计报表…
(7)服务交付框架:前端服务器、交付服务器、负载均衡
另外有需要云服务器可以了解下创新互联scvps.cn,海内外云服务器15元起步,三天无理由+7*72小时售后在线,公司持有idc许可证,提供“云服务器、裸金属服务器、高防服务器、香港服务器、美国服务器、虚拟主机、免备案服务器”等云主机租用服务以及企业上云的综合解决方案,具有“安全稳定、简单易用、服务可用性高、性价比高”等特点与优势,专为企业上云打造定制,能够满足用户丰富、多元化的应用场景需求。
网站标题:云计算:大数据时代的系统工程-创新互联
当前链接:http://scyanting.com/article/ceoice.html