服务器虚拟化项目 测试报告
1.引言
1.1项目背景
“第三方存管”是指委托存管银行按照法律、法规的要求,负责客户资金的存取与资金交收,证券交易操作保持不变。证券公司客户证券交易结算资金交由银行存管。该业务遵循“券商管证券,银行管资金”的原则,将投资者的证券账户与证券保证金账户严格进行分离管理。第三方存管模式下,证券经纪公司不再向客户提供交易结算资金存取服务,只负责客户证券交易、股份管理和清算交收等。存管银行负责管理客户交易结算资金管理账户和客户交易结算资金汇总账户,向客户提供交易结算资金存取服务,并为证券经纪公司完成与登记结算公司和场外交收主体之间的法人资金交收提供结算支持。银行负责完成投资者专用存款账户与券商银行交收账户之间清算资金的划转,将券商的清算交收程序转移到银行,由银行代为完成。
正常情况下,第三方存管服务器及各处理机的CPU利用率不足5%,内存使用不超过2G。在这种情形下,灾备机房或者异地机房如果建设一套与生产环境相同的系统需要购置12台服务器(含外币转账处理机),需要部署在两服务器机柜。如果各银行处理机采用虚拟服务器的形式,可以节省服务器8台(4台服务器的分配:数据库1台、虚拟服务器2台,虚拟服务器管理控制1台)。同时,采用服务器虚拟化,能提高备份系统和灾备系统的部署效率。
1.2项目概述
服务器虚拟化测试项目从2011年3月开始到2011年6月份结束,前后持续了3个月左右的时间。期间,通过对微软的Hyper-v、VMWare的ESXi、Citrix的XenServer等服务器虚拟软件对比,选用VMWare的ESXi作为研究对象。这是因为VMware具有十年的虚拟化经验,不管是从技术积累和市场份额来看它无可质疑的成为了这个行业领导者。
此次测试主要通过查找资料和自己摸索,并让天锐公司对第三方存管银行处理机进行VMWare CP检测及部署建议,已验证测试是否合理。
此次测试具体项目主要围绕着第三方存管日常处理展开,测试内容如下: 1、服务器部分:虚拟机对服务器硬件的影响,虚拟服务器是否正常使用。 2、网络部分:虚拟服务器占用的网络带宽,网络带宽是否足够。 最后通过对分析研究测试结果对所测试的系统进行评估和建议
2.相关定义
虚拟服务器也称为vps主机,相对于真实主机而言,采用特殊的软硬件技术把一台完整的服务器主机分成若干个主机。实际上是将真实的硬盘空间分成若干份,每一台被分割的主机都具有独立的域名和IP地址,共享真实主机的CPU、内存、硬盘等,提高了服务器的利用率,降低企业服务器投入成本。
3.测试环境
服务器型号 IBM 3650 M3 IBM 3550 M3 联想 520 G2 普通PC 服务器主要配置 CPU:Xeon E5620*2 内存:12G 硬盘:SAS 2.5寸300G 10K Raid1 CPU:Xeon E5620*2 内存:12G 硬盘:SAS 2.5寸300G*2 10K Raid1 CPU:CPU:Xeon E5310*2 内存:4G 硬盘:SAS 3.5寸146G*2 10K Raid1 CPU:Intel Core2 Duo E7500 内存:4G 硬盘:320G 软件 VMware 4.1 ESXi VMware 4.1 ESX WIN2008 R2 SP1 VMware vCenter Server 4.1 WIN2003 SP2 VMware vSphere Client VMwarevCenter Converter
VMware网络部署图
4.VMware测试及分析
将第三方存管系统各银行处理机及外币转账处理机共10台,通过VMware公司提供VMwarevCenter Converter软件将正在运行物理机上的应用迁移到VMware ESXi服务器上,迁移后的环境与生产上的一致。
测试方案一:
将10台虚拟机全部运行在1台IBM 3650 M3ESXi服务器上,虚拟机分别配置1个虚拟CPU、1G内存和40G内存硬盘。硬盘指示灯处于常亮状态,虚拟服务器反应比较缓慢,但各银行处理程序能正常运行,此次测试没有达到预期的结果。
造成虚拟服务器反应比较缓慢的原因主要有以下2个原因: 1、VMwareESXi服务器上只有12G内存,内存不足。
首先,ESX系统VMkernel内核,服务器外设驱动占有一定的内存,并且随外设增多而增加,一般预留约500兆内存。
其次,ESX系统预留6%的内存给当前正在运行的虚拟机机做资源调度使用。
实际上能够用于VMwareESXi服务器调度的内存约为10.8G 内存。每台虚拟机分配1G内存,系统内存资源已经是满负载。如果其中有几台虚拟机内存消耗资源在业务繁忙的时候增大,虚拟机之间将频繁的进行内存虚拟增长调度,大大减小虚拟机的性能。
2、VMwareESXi服务器本地硬盘读取滞后。
VMwareESXi服务器采用2块300G的SAS本地硬盘组成Raid1阵列,其最大理论为188 IPOS(每秒输入输出)左右,10台虚拟机及ESXi系统,满载的时候平均每一台仅能分到17个IOPS,对于普通桌面轻量级用户就已经是30左右的IOPS。对于虚拟机及ESXi系统而言,IOPS远远不足,导致硬盘读取滞后,影响虚拟机的性能。
测试方案二:
针对测试方案满性能不足能需求后,方案二在方案一的基础上再增加1台IBM 3550 M3ESXi服务器,将10台虚拟机平均部署到两台ESXi服务器上,虚拟机分别配置2个虚拟CPU、2G内存和40G内存硬盘。此次测试,硬盘指示灯虽然还是处于频繁读写状态,但虚拟机的性能大大改善,各银行程序运行正常,没出现方案一的缓慢现象,与物理机上的运行体验无较大差异,能到达到第三方存管系统灾备运行的要求。
5.VMware服务器虚拟化的CP检测
为验证测试的合理性,请天锐公司的工程师对第三方存管进行VMware CP检测。
VMware CP是VMware公司用来收集和查看系统、资产和性能数据,计划能力和性能调整。工具包括自动的数据收集和服务器资源分析以及性能和利用率分析。此次测试共对11台服务器进行评估,包括上述10台银行处理机外,还增加一台深圳通银行网关处理机,服务器型号IBM x3550 M3 10台, Dell PowerEdge 1850 服务器1台。
根据VWware CP报告分析得出:
(1)11台服务器的CPU平均利用率为0.28%,CPU最高利用率为0.54%。服务
器CPU利用率非常低,特别适合进行虚拟化整合,提高服务器CPU利用率。
(2)服务器内存平均利用率13.32%,内存利用率集中在15%~20%之间,服务
器系统内存利用率较低,虚拟机分配2G内存是满足应用上的需求。 (3)分析报告中,应用系统磁盘读取I/O最大为253.64 KB/sec ,服务器磁盘I/O
基本正常,业务I/O量较小,小于0.5MB/sec,虚拟化时无需特别考虑。通过存储I/O控制,优先保障应用系统的磁盘I/O需求,对于有特殊磁盘读写要求的应用系统,可以采用VMware的RDP磁盘模式。
(4)服务器网络基本都小于0.1MB/sec,但还是建议服务器虚拟化的网络采用千
兆网络,每台ESXi服务器配备4个物理网口,用于虚拟机的内部交换。
6.虚拟化整合方案配置建议说明
天锐公司根据VMwareCP报告对我公司虚拟化整合方案配置提出以下几点建议:
(1)基于双机冗余及高可用方面考虑,建议使用2台IBM x3650 M3进行虚拟
化的整合。
(2)考虑虚拟化服务器的其中一台宕机或者出于维护的原因,保证任意一台
x3650 M3服务器能够支撑所有的VM虚拟服务器。基于一定扩展性的考虑:建议每一台配置32G内存。
(3)基于虚拟化后IOPS及高可用方面的考虑,建议使用原有的存储或新购虚
拟化的统一存储。使用共享存储后,所有的虚拟机数据存放于共享存储上,IOPS紧张的问题得到解决。并使统一数据的备份和管理变得可能。通过VMware的data recovery模块或者第三方备份软件,可以实现数据集中备份。 (4)采用存储后,可以利用VMware HA(高可以性)功能,防止单台服务器故
障,保障业务系统高可用性;日常利用VMware DRS 动态资源调度,自动平衡服务器资源。虚拟化平台具备 HA,DRS 等功能,能够在低成本和低维护量的情况下,保障业务系统高可用性和负载均衡。
建议硬件配置及软件清单:
用途 VMwareESXi服务器 服务器配置或型号 英特尔至强X5650*2,48G内存,2*300G 15K 6Gbps SAS 2块,外置2块双口千兆网卡,2块光纤卡 数量 2台 VMware vCenter 英特尔至强E5620*1,8G内存,2*146G 10K 6Gbps SAS Server服务器 日立HDS2100存储 VMware vSphere企业版 2块,集成网卡 600G 15K 6Gbps SAS 9块(ESXi服务器) 2T 7.2K SATA 6块(数据集中备份) 包含4个cpu的企业版vsphere许可 1台 1台 通过他来集中管理所有的hostVMware vCenter vSphere的管理服务器,Server 及VM,以及高可用等VMware进阶功能需要 7.测试总结和体会
测试过程中发现,以下问题:
(1)VMware ESX/ESXi和VMware vCenter Server必须是同一网段,改问题已
经通过VMware公司的确认。
(2)VMwareVirtualCenter Server服务没有启动,这是因为VMware VirtualCenter
Server服务启动前SQL Services和ADAM Services这两个服务还没启动导致,只需在VMwareVirtualCenter Server服务中添加上述服务的依存列表中即可。
通过测试,对于测试系统的处理机、非实时交易系统处理机及系统升级后的旧系统可以或逐步采用虚拟化方案。其优点有以下几个方面:
(1)减少物理机的数量,合理的利用服务器资源,节省服务器维护成本、提高
服务器利用率。
(2)应用部署速度快,通过预先制定好的各种操作系统、应用模板和自部署向
导或拷贝虚拟机,快速部署开发测试环境和应用。
(3)业务连续性保障,通过在线迁移功能将虚拟机与物理机之间的迁移至,不
影响业务的正常开展。
(4)节省能耗、制冷和机房空间,并可通过VMware DPM功能实现电源管理,
实现晚上空闲时段物理机开关,减少耗电量。
因篇幅问题不能全部显示,请点此查看更多更全内容