让Python程序快30%的技巧

开发 后端
一直以来Python性能是遭人诟病的问题之一,抱怨执行慢,没法用。虽然再性能上语言的差异确实存在着明显差异,但是我认为一个非常流行的语言,运行的快慢不会成为阻扰人们使用的因素。

 一直以来Python性能是遭人诟病的问题之一,抱怨执行慢,没法用。虽然再性能上语言的差异确实存在着明显差异,但是我认为一个非常流行的语言,运行的快慢不会成为阻扰人们使用的因素。如果是的话,可能是由于编写的程序有问题,需要优化。本文虫虫就给大家介绍一下如何调试Python应用的性能,以及怎么对其进行优化。

 

 

 

[[312018]]

 

Python性能调试

要进行Python性能,前提条件是要找出程序中的性能瓶颈。找出程序中影响程序性能的代码。有经验的开发者一般都能很容易能找出程序的瓶颈,但对于普通码农找出系统的问题代码则很难,为了能快捷有效的发现程序的性能瓶颈就需要进行性能调试,此处我们以一个实际例子进行介绍,以下程序是计算e的x(1..n)次的幂,其代码如下:

 

  1. # performance.py 
  2.  
  3. from decimal import * 
  4.  
  5. def exp(x): 
  6.  
  7. getcontext().prec += 2 
  8.  
  9. i, lasts, s, fact, num = 0, 0, 1, 1, 1 
  10.  
  11. while s != lasts: 
  12.  
  13. lasts = s 
  14.  
  15. i += 1 
  16.  
  17. fact *= i 
  18.  
  19. num *= x 
  20.  
  21. s += num / fact 
  22.  
  23. getcontext().prec -= 2 
  24.  
  25. return +s 
  26.  
  27. print(exp(Decimal(150))) 
  28.  
  29. print(exp(Decimal(400))) 
  30.  
  31. print(exp(Decimal(3000))) 

 

最简单的调试

最简单且实用的调试性能调试的方法是使用Linux的time命令,time可以计算程序执行的时间:

 

让Python程序快30%的技巧

 

 

  1. time python3 performance.py 
  2.  
  3. 1.393709580666379697318341937E+65 
  4.  
  5. 5.221469689764143950588763007E+173 
  6.  
  7. 7.646200989054704889310727660E+1302 
  8.  
  9. real 0m15.185s 
  10.  
  11. user 0m15.100s 
  12.  
  13. sys 0m0.004s 

 

计算前两个数的(150,400)很快,而第三个大一点时会很慢,总共要15秒多才算完,是有点卡顿(慢)。

time虽然很便捷有用,但是不能给我们详细的代码性能细节。

详细性能分析cProfile

性能分析另一个常用的方法是使用cProfile,它可以提供很多性能信息

 

  1. python3 -m cProfile -s time performance.py 

 

让Python程序快30%的技巧

 

 

例子中,我们使用了cProfile模块和time参数运行测试脚本,以便按内部时间(cumtime)对行进行排序。如上图所示,使用cProfile可以给很多内部的具体信息,通过我们可以知道主要耗时是由exp函数导致。知道了程序的性能瓶颈所在,我们就再说明Python性能分析和优化。

优化特定功能

知道了将性能的瓶颈所在(实例中是exp函数),我们为了进一步具体问题具体分析,我们使用一个简单装饰器,以便跳过其他代码,专门分析性能瓶颈所设计的函数。然后使用装饰器进行测试,具体代码如下:

 

  1. def timeit_wrapper(func): 
  2.  
  3. @wraps(func) 
  4.  
  5. def wrapper(*args, **kwargs): 
  6.  
  7. start = time.perf_counter() # Alternatively, you can use time.process_time() 
  8.  
  9. func_return_val = func(*args, **kwargs) 
  10.  
  11. end = time.perf_counter() 
  12.  
  13. print('{0:<10}.{1:<8} : {2:<8}'.format(func.__module__, func.__name__, end - start)) 
  14.  
  15. return func_return_val 
  16.  
  17. return wrapper 

 

我们用这个装饰器来测试exp:

 

  1. @timeit_wrapper 
  2.  
  3. def exp(x): 
  4.  
  5. ... 
  6.  
  7. print('{0:<10} {1:<8} {2:^8}'.format('module''function''time')) 
  8.  
  9. exp(Decimal(150)) 
  10.  
  11. exp(Decimal(400)) 
  12.  
  13. exp(Decimal(3000)) 

 

 

 

结果:

 

  1. module function time 
  2.  
  3. __main__ .exp : 0.00920036411844194 
  4.  
  5. __main__ .exp : 0.09822067408822477 
  6.  
  7. __main__ .exp : 15.228459489066154 

 

代码中,我们用到了time包提供time.perf_counter函数,它还提供了另外一个函数time.process_time。两者的区别在于perf_counter返回的绝对时间,包括Python程序进程未运行时的时间,它可能会受到计算机负载的影响。而process_time仅返回用户时间(不包括系统时间),这仅是程序过程时间。

性能优化

最后是Python程序的性能优化,为了让Python程序运行得更快,我们提供一些可供参考的性能优化构想和策略的,通过这些策略我们一半可以提高应用的运行速度,最高情况下可以让你的应用快30%。

使用内建数据类型

很明显,内建数据类型非常快,尤其是与自定义类型相比,比如树或者链表。因为内建程序是用C实现的,所以其性能优势是Python代码所无法比拟的。

使用lru_cache缓存/记忆

很多时候缓存非常有效,可以极大的提高性能,尤其在数值计算和涉及大量重复调用(递归)时。考虑一个例子:

 

让Python程序快30%的技巧

 

上面的函数使用time.sleep(2)模拟一个耗时的代码。第一次使用参数1调用时,它将等待2秒,然后返回结果。再次调用时,由于结果已被缓存,将跳过函数的执行,直返回。用3调用时候由于参数不一样会耗时2秒,总体耗时应该为4s,我们用time 验证:

 

  1. real 0m4.061s 
  2.  
  3. user 0m0.040s 
  4.  
  5. sys 0m0.015s 

 

这和我们设想的一致。

使用局部变量

基于变量作用域中查找速度相关,在函数的局部变量具有很高的速度。其次是类级属性(如self.name)和最慢的是全局变量,如time.time(最慢)。所以我们可以通过避免使用不必要的全局变量来提高性能。

使用函数

这似乎有点出乎意料,因为涉及函数的内存占用都在堆栈上,而函数返回也会有开销。但是使用函数,可以避免使用全局变量,可以提高性能。因此,可以通过将整个代码包装在main函数中只调用一次来加速代码。

避免使用属性

另一个可以是影响程序性能的操作是点运算符访问对象属性。点运算符使用__getattribute__触发会字典查找,会在代码中产生额外的开销。我们可以通过一些使用函数而不是类方法的方式避免点操作,比如下面例子

#慢代码:

 

  1. import re 
  2.  
  3. def slow_func(): 
  4.  
  5. for i in range(10000): 
  6.  
  7. re.findall(regex, line) 

 

#快代码

 

  1. from re import findall 
  2.  
  3. def fast_func(): 
  4.  
  5. for i in range(10000): 
  6.  
  7. findall(regex, line) 

 

使用f-string

在循环中使用格式符(%s)或.format()时,字符串操作可能会变得非常缓慢。为了进行性能优化,我们应该使用f-string。它是Python 3.6引入的很具可读性,简洁性和最快的方法。比如:

 

  1. s + ' ' + t 
  2.  
  3. ' '.join((s, t)) 
  4.  
  5. '%s %s' % (s, t) 
  6.  
  7. '{} {}'.format(s, t) 
  8.  
  9. Template('$s $t').substitute(s=s, t=t) # 慢代码 
  10.  
  11.  
  12. f'{s} {t}' # 快代码 

 

总结

性能的调试和优化是非常重要的码农技术之一。本文中,我们提供了Python应用性能调试和优化的技巧和策略,希望能对大家有所帮助。

责任编辑:华轩 来源: 今日头条
相关推荐

2021-06-07 11:40:26

Python命令代码

2020-05-28 08:59:40

Python机器学习开发

2021-02-07 23:08:29

Python开发Java

2020-06-23 07:50:13

Python开发技术

2019-01-23 17:08:03

开发

2024-08-02 16:20:06

2018-09-12 21:44:32

Linux命令行操作系统

2010-01-18 08:59:13

Windows 7系统速度

2014-03-25 09:56:42

程序员30岁后

2019-09-09 16:30:42

Redis架构数据库

2024-01-08 17:09:07

Python解释器CPython

2024-11-11 17:00:27

字典压缩Python代码

2020-02-03 12:25:35

Python工具服务器

2022-02-18 11:51:36

Python代码编程语言

2020-04-20 15:07:50

性能优化低效循环程序

2014-04-10 13:15:54

PythonPython技巧

2023-12-06 13:43:00

python代码

2022-01-06 22:31:21

Python技巧代码

2024-10-08 10:24:41

Python编程语言

2009-05-06 09:56:22

Ruby性能改进
点赞
收藏

51CTO技术栈公众号