本文和大家重点讨论一下Perl多进程技术在自动化测试中的应用,主要包括Perl多Perl线程介绍,自动化测试场景介绍和应用Perl多进程技术到自动化测试脚本三大部分内容,希望通过本文的介绍你对Perl多线程技术有深刻的认识。
Perl多进程技术在自动化测试中的应用
在IT产品系统测试的自动化项目中,经常有并行处理多个子任务的需求,为了提高测试效率,就需要用到Perl多进程或者多Perl线程编程。文章介绍了Perl多进程的用法和适用场景,以及Perl多进程和多Perl线程的关系。同时结合企业级IT产品系统测试的自动化特点,介绍了Perl多进程在这方面的应用。
Perl多进程
Perl语言是一种非常强大的脚本语言,其广泛应用于系统维护,CGI(CommonGatewayInterface)编程,数据库编程和自动化测试中。
多任务和并发处理一度被看作是判定优异操作系统的一个特性;同样任何优秀从而流行的编程语言都会有并发的应用,而且都有各自的实现方法。Perl最开始在并发方面的应用就是多进程。
Perl多进程的用户接口是fork()函数以及对系统fork函数封装的一些module。我们在使用Perl语言编程时,如果一个任务的某一个段可以或者需要并发很多执行,那么我们就会使用Perl的多进程编程,例如同时向数据库递交多个记录的查询,同时完成多个系统信息的收集等等。
Perl的多进程是这样实现的:主进程每fork一个子进程,会把当前(主进程的)内存空间的所有变量都复制一份传到新的进程里面,达到数据共享的目的。此外,主进程和子进程可以通过信号、管道等来通信。
在处理并发的方案中,多进程依靠内存空间独享提供了优秀的容错性和健壮性。一个多进程的系统不会由于其中一个进程的状态不良而崩溃,每个进程都相对独立地运作,很少会相互影响。
内存空间独享也造就了多进程不可避免的劣势:资源负荷以及通信复杂,对于Perl来说,每个子进程都可以看作主进程的拷贝,这多少有些内存浪费,而且主进程的关键变量如果是“浅复制”到子进程的话,将会带来一些意想不到的错误。另外,进程的创建和回收会带来许多额外的负载,因此应当尽量避免频繁地创建进程。
多进程之间的通信方式有socket,管道,信号量等。在Linux平台上,对于进程间大量信息的交互情况,最常用的是文件;这在用户空间进程和系统内核空间进程之间的通信中的最为常用。
在谈起Perl多进程的时候,不可避免的要说说它与Perl多Perl线程的关系。
Perl的多Perl线程和多Perl线程的关系
如果我们需要执行一些各异的小任务,他们可能数量较多,但生存周期都比较短,或者他们可能共享大量数据,只有小部分的变量是自身的。这个时候,很自然就想到了多Perl线程。
从Perl5.005开始,多Perl线程的概念被引入Perl语言了;不过仅仅是概念而已。在Perl5.005中,Perl线程模型默认共享所有的数据,而且数据的共享访问需要明确的同步操作。这个模型被称为“5005threads”,其实就是多进程,只不过换了个“多Perl线程”的概念。
到了Perl5.6,一个新的Perl线程模型引入了,各个Perl线程的数据默认是私有的,而且共享数据的访问需要显式地调用相关的函数来保证同步。这个模型称为“ithreads”。在Perl5.6中,ithreads模型并没有提供一些API供用户调用,仅作为一个内部的API供扩展使用。
到了Perl5.8,ithreads模型通过Perl的threads模块供用户使用,但是Perl5.8同时也保留了5005threads模型。这里,用户可以通过配置来选择使用哪一种模型。
对于最新的Perl5.10,5005threads模型就不再使用了,已从Perl解释器中移除了。所以要使用真正意义的、稳定的多Perl线程模块,建议使用Perl5.10解释器。2009年3月release的SLES11的安装包已经默认使用Perl5.10了。至此,多进程和多Perl线程应该是区别开来了。
Perl的threads模块提供的多Perl线程,应用于我们经典的多Perl线程编程例如SocketServer编程、硬件驱动或者适配层编程十分有效,然而对于非Perl线程安全的一些函数或者模块调用就无能为力了,会导致不可预知的错误或者主进程的吊死、崩溃。#p#
自动化测试场景介绍
很多大型IT公司都以版本控制来发布一系列的企业级系统产品,为此,周期性地更新产品的每个新版本和已有产品版本间的兼容性和互操作性测试结果,对客户而言,尤为重要。而这类测试由于重复性强,工作量大,所以经常采用自动化。下面举Perl多进程中一个自动化测试中的常见场景例子。
假设有一个团队从事企业级产品系统之间的兼容性和互操作性测试,需要在以1个月为周期的时间内完成一组配置的兼容性测试,团队成员很少,但是负责的设备却很多,往往每个人需要负责数十台甚至数百台机器,那么就必须采用多任务并发处理的自动化测试。该团队测试存储网络中的服务器,交换机和存储之间的互操作性。服务器包括很多个硬件平台,操作系统包括Linux,Unix,Windows和VMware等,光纤交换机、主机总线适配器卡和存储产品都涵盖多个厂商品牌。这个团队就需要建立一个端到端的自动化测试流程来支撑其测试任务。
下面是一个典型测试环境的简化图示。
图1.测试硬件环境概览图
Perl多进程中,服务器有不同CPU架构的众多品牌;它们上面运行的测试操作系统有Linux、Windows、VMware和各类虚拟机。物理层的光纤交换机(FCPhysicalLayerSwitch)是测试工具仪器,用于控制光纤的链路通断等异常测试。
下面是自动化测试环境框图。
图2.自动化测试环境框图
用一台运行RedHatEnterpriseLinux系统的xServer作为Testconsole,上面安装IBMRationalBuildForge用于测试的执行和管理。Testconsole通过以太网络与各个server,switch,physical-layerswitch和storage进行通信,包括测试脚本的传送,测试命令的信息交互。
这里说明一个测试用例,从而讲述一个典型测试过程。“主机和光纤交换机之间的光纤断开测试”:
Testconsole发命令到所有的主机,让每个主机发现存储磁盘,分区,格式化文件系统,mount或者分windows盘符,配置IO程序等;然后检查各个被测应用程序以及系统的运行状态,把结果返回Testconsole;
Testconsole发命令到所有的光纤交换机,让每个光纤交换机检查自身当前的运行状态,然后返回结果到Testconsole;
Testconsole发命令到所有的存储,让每个存储机器检查自身当前的运行状态,然后返回结果到Testconsole;
Testconsole在保证所有主机,交换机和存储设备都进入要求的测试状态后,开始进入测试,否则退出;
Testconsole发命令让每个physical-layerswitch开始进行相关的光纤连接的断开,然后等待一定的时间,再合上;
Testconsole发命令到所有的主机,检测它们的状态,等待所有的主机都恢复正常;
重复5、6两步,测试持续24小时,完成。
可见,在这样的自动化测试过程中,很多次需要Testconsole和几十个或者几百个机器进行命令交互,检查状态或者执行任务。这些操作当然可以是一个系统接着一个系统的执行;但是大多数任务是可以并发的,或者是可以同时进行从而提高测试效率的,比如同时访问多个主机去启动IO程序、检查机器状态,在登录存储上执行一个脚本的同时在多个主机上面执行一些应用程序,同时登录所有的光纤交换机执行一些配置命令等。
另外,Testconsole和被测系统(Server、Switch、Storage等)之间的命令交互操作,需要使用PerlExpect模块,或其它基于Expect的模块例如Perl::SSH::Expect,Perl::Telnet::Expect等。很可惜,Expect模块并不是Perl线程安全的。
显然,这就需要应用Perl的多进程技术到自动化测试中。#p#
应用Perl多进程技术到自动化测试脚本
在自动化测试中,利用RationalBuildForge作为测试管理和监控工具,90%以上的测试脚本都采用Perl脚本。采用了模块化编程,并大量使用CPAN提供的module。由于很多module都不是Perl线程安全的,同时为了提高脚本开发效率,也会在一个脚本中直接调用另外一个脚本,所以选择在自动化测试框架中应用Perl多进程。
自动化测试脚本使用多进程大致分为两种情况。一种是Testconsole需要同时操作十几个设备,例如用于主机和存储互连的光纤交换机,用于光纤物理层断开测试的交换机APCON等。这类测试的特点是需要同时操作10几个或者20几个的测试对象,对它们的操作是配置操作,而且配置脚本都会成功,主进程只需要所有子进程执行完毕就认为所有子任务已经完成,然后可以进行后续的操作。因此采用一种较为简单的多进程编程方式。下面是针对这种情况的多进程处理的代码示例。
清单1.Perl多进程处理的代码
- our@cmd=("./apcon_2052.exp119.11.217.27A15B15",
- "./apcon_2058.exp119.11.217.65adminteamw0rkA05A06",
- "./apcon_2052.exp119.11.217.27B09D09");
- our$zombies=0;
- our$kid_proc_num=0;
- $SIG{CHLD}=sub{$zombies++};
- for(my$i=0;$i<@cmd;$i++){
- my$pid=fork();
- if(!defined($pid)){exit1;}
- unless($pid){
- system"$cmd[$i]";
- exit0;
- }
- $kid_proc_num++;
- }
- while(1){
- if($zombies>0){
- $zombies=0;
- my$collect;
- while(($collect=waitpid(-1,WNOHANG))>0){
- $kid_proc_num--;
- }
- }
- if($kid_proc_num==0){last;}
- else{next;}
- }
以上的代码采用多进程方式同时处理了对3个测试设备的配置操作,然后主进程等待所有配置操作完成,再进行后续的测试。
另外一种情况较为复杂,就是经常需要针对数百个主机和存储进行配置、状态查询等,而且配置结果和查询状态需要返回主进程处理,然后根据结果数据再决定如何继续。对于这种情况,主进程需要生成数百个子进程,而且每个子进程都有大量的信息返回给主进程来处理。这样处理数百个子进程的生成:由于多进程方式占用系统资源较多,因此设定一个允许主进程同时运行的最多子进程数目,然后在有子进程结束时,主进程再生成新的子进程至所有的子任务完成。这样处理主进程和子进程的通信和信息交互:由于测试Perl脚本运行平台为Linux,它是带有BSD风格的POSIX兼容的系统,会提供可靠的信号,所以仍然使用系统提供信号的来获取子进程结束的消息;对于子进程的返回信息,采用为每个子进程产生一个临时文件用于存储返回的所有信息,最后主进程来处理这些文件从而获取每个子任务的结果信息。如下是为这种情况设计的多进程处理方式的软件流图。
图3.软件流图
小结
根据常见的设备系统测试自动化平台的特点和要求,把Perl的多进程技术应用到了测试脚本中,极大地提高了测试效率。
Perl多进程已经很长的发展历史,而且应用广泛,技术成熟。多进程在健壮性和容错性方面表现更好,每个进程都拥有独立的内存空间,并行的几个进程一般来说不会相互干扰;当然,相应的,多进程的系统开销也比较大,而且进程间通信也变得复杂一些。妥善地处理多进程生成和进程间的通信,会很好地改善自动化测试的运行效率以及稳定性。
【编辑推荐】