Traitement en cours

Veuillez attendre...

Paramétrages

Paramétrages

Aller à Demande

1. WO2020113668 - DISPOSITIF D'EXTRÉMITÉ DE GESTION À HAUTE DISPONIBILITÉ DE MACHINE VIRTUELLE OPENSTACK POUR EMPÊCHER UNE DIVISION DU CERVEAU ET PROCÉDÉ DE GESTION

Document

说明书

发明名称 0001   0002   0003   0004   0005   0006   0007   0008   0009   0010   0011   0012   0013   0014   0015   0016   0017   0018   0019   0020   0021   0022   0023   0024   0025   0026   0027   0028   0029   0030   0031   0032   0033   0034   0035   0036   0037   0038   0039   0040   0041   0042   0043   0044   0045   0046   0047   0048   0049   0050   0051   0052   0053   0054   0055   0056   0057   0058   0059   0060   0061   0062   0063   0064   0065   0066   0067   0068   0069   0070   0071   0072   0073   0074   0075   0076   0077   0078   0079   0080   0081   0082   0083   0084   0085   0086   0087   0088   0089   0090   0091   0092   0093   0094   0095   0096   0097   0098   0099   0100   0101   0102   0103   0104   0105   0106   0107   0108   0109   0110   0111   0112   0113   0114   0115   0116   0117   0118   0119   0120   0121   0122   0123   0124   0125   0126   0127   0128   0129   0130   0131   0132   0133   0134   0135   0136   0137   0138   0139   0140   0141   0142   0143   0144   0145   0146   0147   0148   0149   0150   0151   0152   0153   0154   0155   0156   0157   0158   0159   0160   0161   0162   0163   0164   0165   0166   0167   0168   0169   0170   0171   0172   0173   0174   0175   0176   0177   0178   0179   0180   0181   0182   0183   0184   0185   0186   0187   0188   0189   0190   0191   0192   0193   0194   0195   0196   0197   0198   0199   0200   0201   0202   0203   0204   0205   0206   0207   0208   0209   0210   0211   0212   0213   0214   0215   0216   0217   0218   0219   0220   0221   0222   0223   0224   0225   0226   0227   0228   0229   0230   0231   0232   0233   0234   0235   0236   0237   0238   0239   0240   0241   0242  

权利要求书

1   2   3   4   5   6   7   8   9   10  

附图

1   2 (R26)   3 (R26)   4 (R26)   5 (R26)   6 (R26)  

说明书

发明名称 : 防脑裂的OpenStack虚拟机高可用管理端装置及管理方法

技术领域

[0001]
本发明涉及云计算领域,具体涉及防脑裂的OpenStack虚拟机高可用管理端装置及管理方法,属于计算机领域。

背景技术

[0002]
随着云技术方案的成熟,基于OpenStack的云计算平台也越来越广泛应用到各种领域,大量的业务系统被移植到云平台提供服务。其中,虚拟机高可用即HA(High availability)功能,作为虚拟化平台重要特性引入云环境,在当前环境交互中已经愈发重要。该功能用于当物理主机出现故障时来自动恢复正在运行的虚拟机,在提升云平台可靠性的同时,也能够大大提升整个平台的可维护性。
[0003]
但是,在原生OpenStack中,却并未提供完整的HA解决方案:
[0004]
一方面,负责计算功能管理的Nova模块中,仅提供了Evacuate接口用于主机故障时将虚拟机疏散到其他节点,但模块本身缺少对HA的调度管理功能;
[0005]
另一方面,专门处理HA的子开源项目Masakari才刚刚从OpenStack孵化项目成为正式项目,项目本身成熟度依然很低,仅能完成少数场景下的HA恢复,尚无法支持商用。
[0006]
此外,一些厂商也提供了各自的高可用方案,比如美国Red hat公司提供的方案,是通过Pacemaker软件来实现HA及Fencing(隔离)功能。整个方案需要依赖IPMI平面与硬件狗,且只能处理主机监听网络异常等简单场景,无法处理和区分计算节点上其他网络平面(如管理网络平面、业务网络平面、存储网络平面等)故障的复杂场景。
[0007]
发明内容
[0008]
本发明提供一种防脑裂的OpenStack虚拟机高可用管理端装置,通过管理网络和连接有共享存储装置的计算节点装置连接,该计算节点装置安装有云计算虚拟机VM程序,其特征在于:
[0009]
至少两个管理端装置之间能通过管理网络进行通信而组成管理集群,
[0010]
每个管理端装置包括:
[0011]
Nova模块,包括Nova原生的虚拟机VM管理进程,用于对虚拟机VM的生命周期进行管理操作;
[0012]
集群管理模块,用于收集集群的运行状况信息;以及
[0013]
高可用模块,用于对所有的计算节点装置进行高可用管理,
[0014]
其中,高可用模块运行高可用管理的方法,该方法包括以下操作:
[0015]
操作A-1,通过集群管理模块收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2;
[0016]
操作A-2,检查各个计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3;
[0017]
操作A-3,根据每个计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4;
[0018]
操作A-4,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过Nova模块控制该计算节点装置上运行的云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5;
[0019]
操作A-5,向所连接的共享存储装置状态正常的计算节点装置下发隔离请求,隔离fencing即隔离关闭该节点的云计算虚拟机VM程序;
[0020]
操作A-6,向Nova模块下发命令,触发该计算节点装置上运行的云计算虚拟机VM程序运行。
[0021]
本发明提供的管理端装置,还可以具有这样的特征:
[0022]
其中,当管理端装置向所连接的共享存储装置状态正常的计算节点装置下发关闭请求后,高可用模块还运行以下操作:
[0023]
操作B-1,持续监听计算节点装置上报的关闭事件,一旦收到消息则转到操作B-2;
[0024]
操作B-2,通过集群管理模块收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3;
[0025]
操作B-3,检查各个计算节点装置通过管理网络上报的网络状态,如果正常,则此轮检查终止,否则转到操作B-4;
[0026]
操作B-4,根据每个计算节点装置通过管理网络上报的异常状态,判断是否 需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5;
[0027]
操作B-5,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需关闭并转到操作B-6,并结束,否则,转到操作B-7;
[0028]
操作B-6,针对无需关闭的场景,向对应的计算节点装置下发停止关闭请求;
[0029]
操作B-7,针对需要关闭的场景,向对应的计算节点装置下发执行关闭请求。
[0030]
本发明提供的管理端装置,还可以具有这样的特征:
[0031]
其中,云计算虚拟机VM管理进程包括Nova-api、Nova-conductor或Nova-scheduler。
[0032]
本发明提供的管理端装置,还可以具有这样的特征:
[0033]
其中,集群管理模块包括Etcd或Consul。
[0034]
本发明提供的管理端装置,还可以具有这样的特征:
[0035]
其中,共享存储装置为CephFS或NFS文件管理程序管理运行。
[0036]
本发明提供的管理端装置,还可以具有这样的特征:
[0037]
其中,管理网络包括:
[0038]
管理网络平面,用于对接管理端装置,用于提供管理服务;
[0039]
存储网络平面,用于对接后端的共享存储装置,用于提供存储服务;
[0040]
业务网络平面,用于对接计算节点装置,用于提供云计算虚拟机VM的访问服务。
[0041]
本发明提供的管理端装置,还可以具有这样的特征:
[0042]
其中,当管理网络的管理网络平面、存储网络平面以及业务网络平面均正常时,操作A-2中计算节点装置通过管理网络上报的网络状态才判断为正常,否则根据异常的计算节点装置的具体中断类型是管理网络平面、存储网络平面以及业务网络平面中的哪一种或几种进行相应的处理。
[0043]
本发明提供的管理端装置,还可以具有这样的特征:
[0044]
其中,其中,管理网络包括:
[0045]
管理网络平面,用于对接管理端装置,用于提供管理服务;
[0046]
存储网络平面,用于对接后端的共享存储装置,用于提供存储服务;
[0047]
业务网络平面,用于对接计算节点装置,用于提供虚拟机VM的访问服务,
[0048]
对应的,当管理网络的管理网络平面、存储网络平面以及业务网络平面均正常时,操作B-3中计算节点装置通过管理网络上报的网络状态才判断为正常,否则根据异常的计算节点装置的具体中断类型是管理网络平面、存储网络平面以及业务网络平面中的哪一种或几种进行相应的关闭处理。
[0049]
本发明还提供一种防脑裂的OpenStack虚拟机高可用的管理端装置的管理方法,包括以下操作:
[0050]
操作A-1,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2;
[0051]
操作A-2,检查各个所述计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3;
[0052]
操作A-3,根据每个所述计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4;
[0053]
操作A-4,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过所述Nova模块控制该计算节点装置上运行的所述云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5;
[0054]
操作A-5,向所连接的共享存储装置状态正常的所述计算节点装置下发隔离请求;
[0055]
操作A-6,向所述Nova模块下发命令,触发该计算节点装置上运行的所述云计算虚拟机VM程序运行。
[0056]
本发明提供的管理方法,还可以具有这样的特征:
[0057]
其中,向所连接的共享存储装置状态正常的计算节点装置下发关闭请求后,还运行以下操作:
[0058]
操作B-1,持续监听所述计算节点装置上报的隔离事件,一旦收到消息则转到操作B-2;
[0059]
操作B-2,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3;
[0060]
操作B-3,检查各个所述计算节点装置通过管理网络上报的网络状态,如果 正常,则此轮检查终止,否则转到操作B-4;
[0061]
操作B-4,根据每个所述计算节点装置通过管理网络上报的异常状态,判断是否需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5;
[0062]
操作B-5,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需隔离并转到操作B-6,并结束,否则,转到操作B-7;
[0063]
操作B-6,针对无需隔离的场景,向对应的所述计算节点装置下发停止隔离请求;
[0064]
操作B-7,针对需要隔离的场景,向对应的所述计算节点装置下发执行隔离请求。
[0065]
发明的作用和效果
[0066]
根据本发明提供的防脑裂的OpenStack虚拟机高可用管理端装置,因为具有高可用模块,其能够运行高可用管理的方法,通过A-1到A-6的一系列操作,实时检测连接的计算节点装置以及共享存储装置的状态,根据获知的异常状态的类型:计算节点装置的异常还是共享存储装置的异常,具体的是管理网络中的管理网络平面、存储网络平面、业务网络平面哪一部分的异常,并判断后决定是否进行Fencing隔离操作来关闭对应出现异常的计算节点装置的云计算虚拟机VM程序,从而保证系统中的计算节点装置的云计算虚拟机VM程序的高可用性。

附图说明

[0067]
图1是本发明的实施例中防脑裂的OpenStack虚拟机高可用系统的结构示意图;
[0068]
图2是本发明的实施例中防脑裂的OpenStack虚拟机高可用管理端装置的高可用管理方法的流程示意图;
[0069]
图3是本发明的实施例中防脑裂的OpenStack虚拟机高可用管理端装置的高可用模块进行Fencing的流程示意图;
[0070]
图4是本发明的实施例中防脑裂的OpenStack虚拟机高可用计算节点装置的高可用管理方法的流程示意图;
[0071]
图5是本发明的实施例中防脑裂的OpenStack虚拟机高可用计算节点装置的 Lock管理模块的进程重启后恢复的过程示意图;以及
[0072]
图6是本发明的实施例中防脑裂的OpenStack虚拟机高可用计算节点装置的云计算虚拟机VM程序在Fencing后进行恢复操作的步骤示意图。

具体实施方式

[0073]
为了使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解,以下实施例结合附图对防脑裂的OpenStack虚拟机高可用管理端装置及管理方法作具体阐述。
[0074]
英文缩写和技术专有名称解释
[0075]
VM,Virtual Machine即虚拟机,指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。
[0076]
OpenStack,OpenStack是一个开源的云计算管理平台项目,由NASA(美国国家航空航天局)和Rackspace合作研发并发起的,以Apache许可证授权的自由软件和开放源代码项目。
[0077]
Nova,OpenStack项目中的计算资源管理组件,包含nova-api、nova-scheduler、nova-conductor、nova-compute等进程。作为整个OpenStack项目的核心计算控制器,用于实现对用户虚拟机实例的生命周期管理来提供虚拟服务,提供诸如虚拟机创建、开机、关机、挂起、暂停、调整、迁移、重启、销毁等虚拟机VM的生命周期进行操作,以及配置CPU、内存规格,集群调度等功能。
[0078]
Nova-api,Nova对外提供的交互接口,消息处理入口。管理者可以通过这个接口来管理内部基础设施,也可以通过这个接口向用户提供服务。当接收到请求后,经过基本校验后,它会将各请求通过消息队列发送到下一个模块去。
[0079]
Nova-scheduler,主要完成Nova中各虚拟机实例的调度工作。能够根据诸如CPU构架、主机的内存、负载、是否具备某种硬件要求等条件,将各实例调度分配到合适的节点上。
[0080]
Nova-conductor,Nova内部用于长任务的处理者。主要处理诸如虚拟机实例的创建、迁移等耗时较长的任务的跟踪管理。此外还负责数据库的访问权限控制,避免Nova-compute直接访问数据库。
[0081]
Nova-computer,位于计算节点上,是虚拟机生命周期管理操作的真正执 行者。通过消息队列接收请求,响应控制节点各管理进程,直接负责与Hypervisor进行各种通信。
[0082]
Nova controller,一种角色定义或称呼。一般指代包括Nova-api、nova-conductor、nova-scheduler等主要负责处理虚拟机管理操作的Nova各进程;一般会被部署在被称为管理节点的独立节点上,不与nova-compute所在的计算节点部署在一起。
[0083]
HaStack,采用C-S结构提供HA功能的两个自研组件之一,位于Server端。作为HA管理的大脑,用来管理全局的HA行为,其功能由高可用模块执行。
[0084]
HaStack-agent,采用C-S结构提供HA功能的两个自研组件之一,位于Agent端。主要负责挂载共享目录,上报本节点心跳状态与VM Fencing事件;并配合HaStack完成部分HA动作的管理,其功能由高可用计算节点模块。
[0085]
API,Application Programming Interface,应用编程接口。组件通过API将内核暴露出去,供外界访问调用。
[0086]
Hypervisor,是一种运行在物理服务器和操作系统之间的中间软件层,可允许多个操作系统和应用共享一套基础物理硬件,因此也可以看作是虚拟环境中的“元”操作系统。作为平台硬件和操作系统的抽象,它可以协调访问服务器上的所有物理设备和虚拟机,也叫虚拟机监视器(Virtual Machine Monitor)。Hypervisor是所有虚拟化技术的核心。非中断地支持多工作负载迁移的能力是Hypervisor的基本功能。当服务器启动并执行Hypervisor时,它会给每一台虚拟机分配适量的内存、CPU、网络和磁盘,并加载所有虚拟机的客户操作系统。
[0087]
KVM,Kernel-based Virtual Machine,是一个开源的系统虚拟化模块,是基于硬件的完全虚拟化,主要提供基于内核的虚拟机。
[0088]
Libvirt,在KVM之上提供标准的Hypervisor API接口的管理进程。
[0089]
Lock模块,用于提供分布式读写锁,来控制和管理对同一存储的并发写入。该模块与Libvirt配合,在共享存储上完成各锁资源的心跳更新与注册。
[0090]
Etcd,高可用的分布式键值(key-value)数据库,由GO语言实现,通过一致性算法来保证强一致性。在本方案中作为集群软件,主要用来提供以下两点功能:一是组建三平面集群,感知全局健康状态供HA决策;二是作为HaStack与HaStack-agent间的信息桥梁。
[0091]
Consul,HashiCorp公司推出的开源工具,用于实现分布式系统的服务发现与配置。在本方案中作为集群软件,起到三平面检测及HaStack与HaStack-agent间信息桥梁的作用。
[0092]
Ceph,一种为优秀的性能、可靠性和可扩展性而设计的统一的分布式存储软件。
[0093]
CephFS,基于Ceph存储提供的分布式文件系统。在本方案中,主要用来存储各种Lock模块的锁文件。
[0094]
NFS,即网络文件系统,它允许网络中的计算机之间通过TCP/IP网络共享文件或目录。NFS服务器可以允许NFS客户端将远端NFS服务器端的共享目录挂载到本地的NFS客户端中。在NFS的应用中,本地NFS的客户端应用可以透明地读写位于远端NFS服务器上的文件,就像访问本地的磁盘分区和目录一样。
[0095]
Fencing:指在分布式领域,当部分资源状态不确定时,出于数据保护避免脑裂的目的,采用的将可疑资源进行隔离关闭的处理方式。
[0096]
GuestOS:Guest在虚拟化领域,用来指代被虚拟出来的系统,也就是运行了软件(例如操作系统)的虚拟机示例。GuestOS即虚拟机用的操作系统。
[0097]
QGA:是Qemu(模拟器)-Guest(访客)-Agent(代理端)的简称,是一个运行在虚拟机内部的普通应用程序,即是在虚拟机上增加一个串口与主机进行socket通信,来实现一种宿主机和虚拟机VM进行交互的方式。
[0098]
实施例1
[0099]
如图1所示,防脑裂的OpenStack虚拟机高可用系统,包括管理端装置100、管理网络200、计算节点装置300以及共享存储装置400。
[0100]
其中,至少两个管理端装置之间通过管理网络进行通信而组成管理集群110。
[0101]
管理端装置与计算节点装置通过管理网络通信连接。
[0102]
计算节点装置与共享存储装置连接。
[0103]
具体的如图1所示,这里以三个管理端装置100(即图中的控制节点A、B、C)、三个计算节点装置300(即图中的计算节点A、B、C)和一个共享存储装置400为例进行说明。
[0104]
实施例中,三个计算节点装置300都和一个共享存储装置400连接,即三 个计算节点装置300共享一个共享存储装置400。
[0105]
每个管理端装置100包括Nova模块101、集群管理模块102、高可用模块103。
[0106]
Nova模块101,即图中的Nova controller,包括Nova原生的虚拟机VM管理进程,用于对虚拟机VM的生命周期进行管理操作。
[0107]
集群管理模块102,即图中的Etcd,用于收集集群的运行状况信息。
[0108]
高可用模块103,即图中的FitOS HaStack,用于对所有的计算节点装置进行高可用管理。
[0109]
管理网络200被划分为三大网络平面,分别是管理网络平面201、存储网络平面202、业务网络平面203。
[0110]
管理网络平面201,用于对接管理端装置,用于提供管理服务。
[0111]
存储网络平面202,用于对接后端的共享存储装置,用于提供存储服务。
[0112]
业务网络平面203,用于对接计算节点装置,用于提供云计算虚拟机VM的访问服务。
[0113]
所有的节点都连接在三大平面上,集群管理模块102,即图中的Etcd分别对应各个平面组建对应的集群。
[0114]
每个计算节点装置300除安装有云计算虚拟机VM程序301,即图中的VM之外,还具有Nova-computer计算机模块302、Libvirt管理模块303、Lock管理模块304、高可用计算节点模块305。
[0115]
Nova-computer计算机模块302,即图中的Nova-compute,用于直接响应管理端装置各管理进程来控制云计算虚拟机VM的运行状态,并与Hypervisor API进行通信。
[0116]
Libvirt管理模块303,即图中Libvirt,用于在KVM上提供标准的Hypervisor API接口的管理进程。
[0117]
Lock管理模块304,即图中的Lock,与Libvirt管理模块配合,用于对共享存储装置的的锁心跳进行更新和监控。
[0118]
高可用计算节点模块305,即图中的HaStack-agent,至少用于将锁心跳上报给管理端装置。
[0119]
以下对管理端装置100、计算节点装置300中涉及的OpenStack虚拟机的云 计算虚拟机Nova的各个组件和服务进行解释。
[0120]
Nova-controller,由Nova模块101来运行,包括Nova-api、Nova-conductor或Nova-scheduler等虚拟机管理进程,设置在管理端装置100中,主要用来对虚拟机VM的生命周期进行管理操作。
[0121]
HaStack,由高可用模块103来运行,设置在管理端装置100中,用来管理全局的HA行为。
[0122]
集群软件,由集群管理模块102来运行,使用的软件包括Etcd、Consul等,本实施例使用Etcd。与HaStack组件结合使用,设置在管理端装置100中,用于感知整个集群的健康状态供HA决策,且作为高可用模块103与高可用计算节点模块305间的信息桥梁。
[0123]
Nova-compute,原生Nova进程,由Nova-computer计算机模块302运行就,设置在计算节点装置300中,用于响应控制节点各管理进程,是虚拟机生命周期管理操作的真正执行者,直接负责与Hypervisor进行各种通信。
[0124]
HaStack-agent,本发明创新的组件,与nova-compute进程结合使用,由高可用计算节点模块305运行,设置在计算节点装置300中,主要负责挂载共享目录,上报本节点锁心跳状态,并配合HaStack组件完成部分HA动作的管理功能。
[0125]
Libvirt,设置在计算节点装置300中,由Libvirt管理模块303运行,在虚拟机VM之上提供标准的Hypervisor API接口的管理进程。
[0126]
Lock,由Lock管理模块304运行,设置在计算节点装置300中,与libvirt组件配合,位于共享存储装置500的架构上层,完成各种锁心跳的更新与监控。用于提供分布式读写锁,来控制和管理对同一存储的并发写入。本实施例中创新的Lock模块,是参考原生Lock功能而新发明的分布式读写锁管理器。也可根据需要,使用原生Lock模块,或对原生Lock进行适应性二次开发。
[0127]
共享存储系统,由共享存储装置400运行,采用的软件程序包括CephFS、NFS,提供共享文件系统存储。
[0128]
如图2所示,高可用模块103运行高可用管理的方法,该方法包括以下操作:
[0129]
操作A-1,通过集群管理模块收集的运行状况信息检查集群状态是否正常, 如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2。
[0130]
具体就是HaStack检查集群状态是否正常,如果异常,则触发集群异常告警,结束此轮检查;如果正常,则转到操作A-2。
[0131]
操作A-2,检查各个计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3。
[0132]
具体就是,HaStack检查各节点通过HaStack-agent上报的管理网络三平面状态,如果均正常,则此轮检查终止;否则转到操作A-3。
[0133]
操作A-3,根据每个计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4。
[0134]
具体就是,HaStack逐个处理有异常的节点,根据各节点具体是哪个网络平面中断,比对HA策略矩阵,确定后续处理策略;如果无需处理,则该节点异常处理结束,转回操作A-3;否则,如果需要后续处理,则转到操作A-4。
[0135]
操作A-4,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过Nova模块控制该计算节点装置上运行的云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5。
[0136]
具体就是,HaStack检查共享存储装置400的工作状态,如果共享存储装置400此时异常则不能触发HA,即云计算虚拟机VM不运行。此轮处理结束;否则,若存储正常则转到操作A-5。
[0137]
操作A-5,向所连接的共享存储装置状态正常的计算节点装置下发Fencing请求,fencing即kill关闭或是隔离该节点的云计算虚拟机VM程序。
[0138]
操作A-6,向Nova模块下发命令,触发该计算节点装置上运行的云计算虚拟机VM程序运行。
[0139]
实施例2
[0140]
在实施例1-2的基础上,如图3所示,当管理端装置100向所连接的共享存储装置状态正常的计算节点装置下发Fencing请求后,HaStack需根据环境现状确实如何响应底层HaStack-agent端上报的存储中断事件,为此高可用模块还运行以下操作:
[0141]
操作B-1,持续监听计算节点装置上报的Fencing事件,一旦收到消息则转 到操作B-2。
[0142]
具体就是,HaStack持续监听HaStack-agent上报的Fencing事件,一旦收到消息则转到操作B-2。
[0143]
操作B-2,通过集群管理模块收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3。
[0144]
具体就是,HaStack检查集群状态是否正常,如果异常,则触发集群异常告警,结束此轮检查;如果正常,则转到操作B-3。
[0145]
操作B-3,检查各个计算节点装置通过管理网络上报的网络状态,如果正常,则此轮检查终止,否则转到操作B-4。
[0146]
具体就是,HaStack检查各节点通过HaStack-agent上报的管理网络三平面状态。
[0147]
操作B-4,根据每个计算节点装置通过管理网络上报的异常状态,判断是否需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5。
[0148]
HaStack逐个处理有异常的节点,根据各节点具体中断类型,比对HA策略矩阵,确定后续Fencing处理策略;如果无需处理,则转到操作B-6;否则若需要后续处理,则转到操作B-5。
[0149]
操作B-5,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需Fencing并转到操作B-6,并结束,否则,转到操作B-7。
[0150]
具体就是,HaStack检查存储状态,若存储异常则无需Fencing,转到操作B-6;否则转到操作B-7。
[0151]
操作B-6,针对无需Fencing的场景,向对应的计算节点装置下发停止Fencing请求。
[0152]
具体就是,针对无需Fencing的场景,HaStack向HaStack-agent下发停止Fencing请求。
[0153]
操作B-7,针对需要Fencing的场景,向对应的计算节点装置下发执行Fencing请求。
[0154]
具体就是,针对需要Fencing的场景,HaStack向HaStack-agent下发执行Fencing请求。
[0155]
实施例3
[0156]
在实施例1的基础上,如图4所示,由于底层的共享存储装置400的存储故障会导致Lock的锁心跳无法按时写入,此时需要HaStack-agent与HaStack之间确认是否需执行Fencing,此时就需要高可用计算节点模块运行包括以下操作的方法:
[0157]
操作C-1,当云计算虚拟机VM持续更新并存储锁心跳时,若写入正常则无需处理,否则一旦锁心跳写入异常,则转到操作C-2。
[0158]
具体就是,在计算节点装置上,虚拟机VM持续更新Lock的锁心跳并存储;若存储中写入正常则无需处理;否则一旦锁心跳写入异常超过预定时间,则转到操作C-2。
[0159]
操作C-2,Lock管理模块向管理端装置上报存储异常事件,并等待管理端装置反馈处理结果。
[0160]
具体就是,Lock通知HaStack-agent,向HaStack上报底层存储异常事件,并等待HaStack提供处理结果。
[0161]
操作C-3,若管理端装置在规定时间内返回了处理结果,则转到操作C-5,否则转到操作C-4。
[0162]
具体就是,若HaStack在预定时间内返回了处理意见,则转到操作C-5;否则转到操作C-4。
[0163]
操作C-4,若管理端装置未在规定时间内返回处理结果,则Lock管理模块执行Fencing操作,即kill关闭该计算节点装置的云计算虚拟机VM程序。
[0164]
具体就是,一旦HaStack未按时返回结果,则Lock就按照默认设定执行Fencing操作,即kill掉该计算节点上运行的所有虚拟机VM。
[0165]
操作C-5,Lock管理模块按照管理端装置返回的处理结果,判断是否需要Fencing。
[0166]
实施例4
[0167]
在实施例1-3的基础上,如图5所示,由于Lock大量数据是存储在内存中的,未做持久化。因此如果Lock模块/进程异常重启后,原来所有挂载在锁空间下的所有资源均会被清空,这种情况会导致原虚拟机VM全部脱管,此时需要由Lock管理模块进程重启后恢复,该恢复过程包括以下操作:
[0168]
操作D-1,在Libvirt管理模块启动时,通过Lock管理模块注册并获取锁心跳,如注册失败则转到操作D-2。
[0169]
具体就是,Libvirt在启动时通过Lock注册并获取锁心跳,一旦失败则转到操作D-2。
[0170]
操作D-2,一旦锁心跳注册失败,则kill关闭该计算节点装置的云计算虚拟机VM程序。
[0171]
操作D-3,Libvirt管理模块记录所有被kill关闭云计算虚拟机VM程序的计算节点装置,并记录在Fencing log隔离日志文件中。
[0172]
操作D-4,定期检查Fencing log文件,发现有更新则转到操作D-5。
[0173]
具体就是,HaStack-agent定期检查节点上的Fencing log,一旦发现有更新则转到操作D-5。
[0174]
操作D-5,向管理端装置上报所有计算节点装置的Fencing log文件,若上报失败,则此次处理结束,留待下次上报;否则,上报给管理端装置后,由管理端装置发出指示进行恢复。
[0175]
具体就是,HaStack-agent向HaStack上报所有Fencing log,若上报失败,则此次处理结束,留待下次上报。
[0176]
实施例5
[0177]
在实施例4的基础上,其中,在上报给管理端装置后,管理端装置进行以下的具体操作:
[0178]
操作D-6,管理端装置收到agent计算节点装置上报的Fencing log文件,判断是否要进行自动处理,若自动处理转向操作D-8,若无需自动处理,转向操作D-7。
[0179]
具体就是,HaStack收到agent上报的Fencing log,根据提前配置好的处理开关,确定是否要进行自动处理:若自动处理转向操作D-8,若无需自动处理,转向操作D-7。
[0180]
操作D-7,管理端装置告警待由人工处理。
[0181]
具体就是,HaStack不自动恢复所有Fencing虚拟机,只上报告警,交由后续管理员手动恢复。
[0182]
操作D-8,管理端装置自动处理被Fencing的云计算虚拟机VM程序,调用 Nova接口控制云计算虚拟机VM程序再次恢复运行。
[0183]
具体就是,HaStack需要自动处理Fencing虚拟机,会逐个调用Nova接口触发HA恢复流程。
[0184]
实施例6
[0185]
进一步的,在上述实施例1-5的基础上,云计算虚拟机VM程序具有VM GuestOS操作系统,该操作系统在Fencing后进行以下的恢复操作:
[0186]
操作E-1,VM GuestOS中的Qga与计算节点装置的高可用计算节点模块持续保持锁心跳,当云计算虚拟机VM程序出现故障时,转到操作E-2。
[0187]
具体就是,VM GuestOS中的Qga会与计算节点的HaStack-agent持续保持心跳,一旦当虚拟机内蓝屏或卡死时,转到操作E-2。
[0188]
操作E-2,当高可用计算节点模块接收到异常事件的报告时,上报给管理端装置。
[0189]
具体就是,当HaStack-agent接收到异常事件时,会立即上报给HaStack。
[0190]
操作E-3,管理端装置收到异常事件的报告后,直接调用Nova接口控制云计算虚拟机VM程序再次恢复运行。
[0191]
具体就是,HaStack收到虚拟机VM内部异常事件后,直接向Nova下发HA命令,触发HA恢复。
[0192]
实施例7
[0193]
如图2所示,本实施例提供一种防脑裂的OpenStack虚拟机高可用的管理端装置的管理方法,包括以下操作:
[0194]
操作A-1,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2;
[0195]
操作A-2,检查各个计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3;
[0196]
操作A-3,根据每个计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4;
[0197]
操作A-4,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过Nova模块控制该计算节点装置 上运行的云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5;
[0198]
操作A-5,向所连接的共享存储装置状态正常的计算节点装置下发Fencing请求;
[0199]
操作A-6,向Nova模块下发命令,触发该计算节点装置上运行的云计算虚拟机VM程序运行。
[0200]
实施例8
[0201]
在实施例7提供的方法的基础上,如图3所示,当向所连接的共享存储装置状态正常的计算节点装置下发Fencing请求后,还运行以下操作:
[0202]
操作B-1,持续监听计算节点装置上报的Fencing事件,一旦收到消息则转到操作B-2;
[0203]
操作B-2,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3;
[0204]
操作B-3,检查各个计算节点装置通过管理网络上报的网络状态,如果正常,则此轮检查终止,否则转到操作B-4;
[0205]
操作B-4,根据每个计算节点装置通过管理网络上报的异常状态,判断是否需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5;
[0206]
操作B-5,对于需要处理的异常状态的计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需Fencing并转到操作B-6,并结束,否则,转到操作B-7;
[0207]
操作B-6,针对无需Fencing的场景,向对应的计算节点装置下发停止Fencing请求;
[0208]
操作B-7,针对需要Fencing的场景,向对应的计算节点装置下发执行Fencing请求。
[0209]
实施例9
[0210]
如图4所示,本实施例提供一种防脑裂的OpenStack虚拟机高可用的计算节点装置的管理方法,包括以下操作:
[0211]
操作C-1,当虚拟机VM持续更新并存储锁心跳时,若写入正常则无需处理,否则一旦锁心跳写入异常,则转到操作C-2;
[0212]
操作C-2,Lock管理模块向管理端装置上报存储异常事件,并等待管理端装 置反馈处理结果;
[0213]
操作C-3,若管理端装置在规定时间内返回了处理结果,则转到操作C-5,否则转到操作C-4;
[0214]
操作C-4,若管理端装置未在规定时间内返回处理结果,则Lock管理模块执行Fencing操作,即kill关闭该计算节点装置的云计算虚拟机VM程序;
[0215]
操作C-5,Lock管理模块按照管理端装置返回的处理结果,判断是否需要Fencing。
[0216]
实施例10
[0217]
在实施例9的基础上,Lock管理模块的进程重启后恢复的过程包括以下操作:
[0218]
操作D-1,在Libvirt管理模块启动时,通过Lock管理模块注册并获取锁心跳,如注册失败则转到S2;
[0219]
操作D-2,一旦锁心跳注册失败,则kill关闭该计算节点装置的云计算虚拟机VM程序;
[0220]
操作D-3,Libvirt管理模块记录所有被kill关闭云计算虚拟机VM程序的计算节点装置,并记录在Fencing log文件中;
[0221]
操作D-4,定期检查Fencing log文件,发现有更新则转到操作D-5;
[0222]
操作D-5,向管理端装置上报所有计算节点装置的Fencing log文件,若上报失败,则此次处理结束,留待下次上报;否则,上报给管理端装置后,由管理端装置发出指示进行恢复。
[0223]
实施例11
[0224]
在实施例9、10的基础上,在Fencing后进行以下的恢复操作:
[0225]
操作E-1,VM GuestOS中的Qga与计算节点装置的高可用计算节点模块持续保持锁心跳,当云计算虚拟机VM程序出现故障时,转到操作E-2;
[0226]
操作E-2,当高可用计算节点模块接收到异常事件的报告时,上报给管理端装置;
[0227]
操作E-3,管理端装置收到异常事件的报告后,直接调用Nova接口控制云计算虚拟机VM程序再次恢复运行。
[0228]
故障包括云计算虚拟机VM程序运行所在的计算节点装置蓝屏或卡死、死机。
[0229]
实施例的作用与效果
[0230]
本发明基于原生OpenStack版本进行了二次开发,通过对几种关键技术进行整合,在OpenStack外围自主开发了一套独立的防脑裂的OpenStack虚拟机高可用系统。摆脱了传统HA方案中对IPMI平面探测/硬件狗等依赖,实现了电信级可靠性的完整虚拟机高可用(HA)技术方,为此本发明中提供了一种改进的防脑裂的OpenStack虚拟机高可用管理端装置及管理方法,用于实现管理端装置即作为server服务器的控制节点的高可用性。
[0231]
在云计算系统中,脑裂(split-brain),指在一个高可用(HA)系统中,当联系着的两个控制节点或计算节点断开联系时,本来为一个整体的系统,分裂为两个独立节点,这时两个节点开始争抢共享资源,结果会导致系统混乱,数据损坏,通过本发明的改进所提供的改进的防脑裂的OpenStack虚拟机高可用管理端装置及管理方法即可以解决这个问题。
[0232]
根据实施例提供的防脑裂的OpenStack虚拟机高可用管理端装置,因为具有高可用模块,其能够运行高可用管理的方法,通过A-1到A-6的一系列操作,实时检测连接的计算节点装置以及共享存储装置的状态,根据获知的异常状态的类型:计算节点装置的异常还是共享存储装置的异常,具体的是管理网络中的管理网络平面、存储网络平面、业务网络平面哪一部分的异常,并判断后决定是否进行Fencing操作来关闭对应出现异常的计算节点装置的云计算虚拟机VM程序,从而保证系统中的计算节点装置的云计算虚拟机VM程序的高可用性。
[0233]
通过锁心跳来禁止多个虚拟机同时写磁盘,从根本上解决“脑裂”的发生。
[0234]
将Lock分布式读写锁的锁保护力度,由计算节点装置的主机级别细化到虚拟机VM级别,能够针对单个虚拟机进行并发读写保护。
[0235]
通过自主发明的全流程的VM Fencing保护机制,防止由于共享存储装置异常等故障影响底层锁心跳而导致的虚拟机被异常终止。
[0236]
过程中,采用异步通知机制,解决Lock重启导致的HA VM的脱管问题,实现了自动恢复。
[0237]
进一步,独立于原生OpenStack,自主开发的HaStack服务,用于管理HA整个调度,HaStack通过集成Etcd及Qga,实现了对下层全主机的管理网络三平面(管理网络平面、业务网络平面、存储网络平面)的健康状态,及虚拟机VM 内部运行状态的精确感知:
[0238]
1.通过调整心跳打点周期与消息来快速确认计算节点装置物理平面的各故障点,提供高精度的判断依据供HaStack决策。
[0239]
2.针对单个计算节点装置管理网络三平面的各类异常,通过可配置的HA故障对应处理的方案,支持用户对对应的方案进行自设置的定制化HA恢复策略。
[0240]
3.通过集成Qga来进行虚拟机VM健康监测,一旦发生虚拟机VM内部蓝屏、卡死等故障则立刻触发HA恢复,实现自愈。
[0241]
4.针对各种集群、存储、网络连线异常,均添加了相应的保护机制。
[0242]
上述实施方式为本发明的优选案例,并不用来限制本发明的保护范围。

权利要求书

[权利要求 1]
一种防脑裂的OpenStack虚拟机高可用管理端装置,通过管理网络和连接有共享存储装置的计算节点装置连接,该计算节点装置安装有云计算虚拟机VM程序,其特征在于: 至少两个所述管理端装置之间能通过管理网络进行通信而组成管理集群, 每个管理端装置包括: Nova模块,包括Nova原生的虚拟机VM管理进程,用于对虚拟机VM的生命周期进行管理操作; 集群管理模块,用于收集所述集群的运行状况信息;以及 高可用模块,用于对所有的所述计算节点装置进行高可用管理, 其中,所述高可用模块运行高可用管理的方法,该方法包括以下操作: 操作A-1,通过所述集群管理模块收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2; 操作A-2,检查各个所述计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3; 操作A-3,根据每个所述计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4; 操作A-4,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过所述 Nova模块控制该计算节点装置上运行的所述云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5; 操作A-5,向所连接的共享存储装置状态正常的所述计算节点装置下发隔离请求; 操作A-6,向所述Nova模块下发命令,触发该计算节点装置上运行的所述云计算虚拟机VM程序运行。
[权利要求 2]
根据权利要求1所述的管理端装置,其特征在于: 其中,当管理端装置向所连接的共享存储装置状态正常的所述计算节点装置下发隔离请求后,所述高可用模块还运行以下操作: 操作B-1,持续监听所述计算节点装置上报的隔离事件,一旦收到消息则转到操作B-2; 操作B-2,通过所述集群管理模块收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3; 操作B-3,检查各个所述计算节点装置通过管理网络上报的网络状态,如果正常,则此轮检查终止,否则转到操作B-4; 操作B-4,根据每个所述计算节点装置通过管理网络上报的异常状态,判断是否需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5; 操作B-5,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需隔离 并转到操作B-6,并结束,否则,转到操作B-7; 操作B-6,针对无需隔离的场景,向对应的所述计算节点装置下发停止隔离请求; 操作B-7,针对需要隔离的场景,向对应的所述计算节点装置下发执行隔离请求。
[权利要求 3]
根据权利要求1所述的管理端装置,其特征在于: 其中,所述虚拟机VM管理进程包括Nova-api、Nova-conductor或Nova-scheduler。
[权利要求 4]
根据权利要求1所述的管理端装置,其特征在于: 其中,所述集群管理模块包括Etcd或Consul。
[权利要求 5]
根据权利要求1所述的管理端装置,其特征在于: 其中,所述共享存储装置为CephFS或NFS文件管理程序管理运行。
[权利要求 6]
根据权利要求1所述的管理端装置,其特征在于: 其中,所述管理网络包括: 管理网络平面,用于对接所述管理端装置,用于提供管理服务; 存储网络平面,用于对接后端的所述共享存储装置,用于提供存储服务; 业务网络平面,用于对接所述计算节点装置,用于提供云计算虚拟机VM的访问服务。
[权利要求 7]
根据权利要求6所述的管理端装置,其特征在于: 其中,当所述管理网络的管理网络平面、存储网络平面以及业务网络平面均正常时,操作A-2中所述计算节点装置通过管理网络上报的网络状态才判断为正常,否则根据异常的所述计算节点装置的具体中断类型是管理网络平面、存储网络平面以及业务网络平面中的哪一种或几种进行相应的处理。
[权利要求 8]
根据权利要求2所述的管理端装置,其特征在于: 其中,其中,所述管理网络包括: 管理网络平面,用于对接所述管理端装置,用于提供管理服务; 存储网络平面,用于对接后端的所述共享存储装置,用于提供存储服务; 业务网络平面,用于对接所述计算节点装置,用于提供虚拟机VM的访问服务, 对应的,当所述管理网络的管理网络平面、存储网络平面以及业务网络平面均正常时,操作B-3中所述计算节点装置通过管理网络上报的网络状态才判断为正常,否则根据异常的所述计算节点装置的具体中断类型是管理网络平面、存储网络平面以及业务网络平面中的哪一种或几种进行相应的隔离处理。
[权利要求 9]
防脑裂的OpenStack虚拟机高可用的管理端装置的管理方法,包括以下操作: 操作A-1,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作A-2; 操作A-2,检查各个所述计算节点装置通过管理网络上报的状态,如果正常,则此轮检查终止,否则转到下一步操作A-3; 操作A-3,根据每个所述计算节点装置通过管理网络上报的异常状态,逐个判断是否需要进行处理,如果无需处理,则该计算节点装置异常处理结束,转回上一步操作A-2;否则转到下一步操作A-4; 操作A-4,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,通过所述Nova模块控制该计算节点装置上运行的所述云计算虚拟机VM程序不运行,并结束,否则,转到下一步操作A-5; 操作A-5,向所连接的共享存储装置状态正常的所述计算节点装置下发隔离请求; 操作A-6,向所述Nova模块下发命令,触发该计算节点装置上运行的所述云计算虚拟机VM程序运行。
[权利要求 10]
根据权利要求9所述的管理方法,其特征在于: 其中,向所连接的共享存储装置状态正常的所述计算节点装置下发隔离请求后,还运行以下操作: 操作B-1,持续监听所述计算节点装置上报的隔离事件,一旦收到消息则转到操作B-2; 操作B-2,通过收集的运行状况信息检查集群状态是否正常,如果异常,则触发集群异常告警并结束,如果正常,则转到操作B-3; 操作B-3,检查各个所述计算节点装置通过管理网络上报的网络状态,如果正常,则此轮检查终止,否则转到操作B-4; 操作B-4,根据每个所述计算节点装置通过管理网络上报的异常状态,判断是否需要进行处理,如果无需处理,则进行操作B-6;否则转到操作B-5; 操作B-5,对于需要处理的异常状态的所述计算节点装置,检查与之连接的共享存储装置的状态,当共享存储装置异常时,无需隔离并转到操作B-6,并结束,否则,转到操作B-7; 操作B-6,针对无需隔离的场景,向对应的所述计算节点装置下发停止隔离请求; 操作B-7,针对需要隔离的场景,向对应的所述计算节点装置下发执行隔离请求。

附图

[ 图 1]
[ 图 2]   [根据细则26改正 06.03.2019] 
[ 图 3]   [根据细则26改正 06.03.2019] 
[ 图 4]   [根据细则26改正 06.03.2019] 
[ 图 5]   [根据细则26改正 06.03.2019] 
[ 图 6]   [根据细则26改正 06.03.2019]