高效的10个Pandas函数,你都用过了吗?

开发 后端
andas是python中最主要的数据分析库之一,它提供了非常多的函数、方法,可以高效地处理并分析数据。这篇文章将会配合实例,讲解20个重要的pandas函数。

andas是python中最主要的数据分析库之一,它提供了非常多的函数、方法,可以高效地处理并分析数据。让pandas如此受欢迎的原因是它简洁、灵活、功能强大的语法。

这篇文章将会配合实例,讲解20个重要的pandas函数。其中有一些很常用,相信你可能用到过。还有一些函数出现的频率没那么高,但它们同样是分析数据的得力帮手。

介绍这些函数之前,第一步先要导入pandas和numpy。

  1. import numpy as np 
  2. import pandas as pd 

高效的10个Pandas函数,你都用过了吗?

1. Query

Query是pandas的过滤查询函数,使用布尔表达式来查询DataFrame的列,就是说按照列的规则进行过滤操作。

用法:

  1. pandas.DataFrame.query(self, expr, inplace = False, **kwargs) 

参数作用:

  • expr:要评估的查询字符串;
  • inplace=False:查询是应该修改数据还是返回修改后的副本
  • kwargs:dict关键字参数

首先生成一段df:

  1. values_1 = np.random.randint(10, size=10
  2. values_2 = np.random.randint(10, size=10
  3. years = np.arange(2010,2020) 
  4. groups = ['A','A','B','A','B','B','C','A','C','C'] 
  5. df = pd.DataFrame({'group':groups, 'year':years, 'value_1':values_1, 'value_2':values_2}) 
  6. df 

高效的10个Pandas函数,你都用过了吗?

过滤查询用起来比较简单,比如要查列value_1<value_2的行记录:

  1. df.query('value_1 < value_2') 

高效的10个Pandas函数,你都用过了吗?

查询列year>=2016的行记录:

  1. df.query('year >= 2016 ') 

高效的10个Pandas函数,你都用过了吗?

2. Insert

Insert用于在DataFrame的指定位置中插入新的数据列。默认情况下新列是添加到末尾的,但可以更改位置参数,将新列添加到任何位置。

用法:

  1. Dataframe.insert(loc, column, value, allow_duplicates=False

参数作用:

  • loc:int型,表示插入位置在第几列;若在第一列插入数据,则 loc=0
  • column:给插入的列取名,如 column='新的一列'
  • value:新列的值,数字、array、series等都可以
  • allow_duplicates:是否允许列名重复,选择Ture表示允许新的列名与已存在的列名重复

接着用前面的df:

高效的10个Pandas函数,你都用过了吗?

在第三列的位置插入新列:

  1. #新列的值 
  2. new_col = np.random.randn(10) 
  3. #在第三列位置插入新列,从0开始计算 
  4. df.insert(2, 'new_col', new_col) 
  5. df 

高效的10个Pandas函数,你都用过了吗?

3. Cumsum

Cumsum是pandas的累加函数,用来求列的累加值。

用法:

  1. DataFrame.cumsum(axis=Noneskipna=True, args, kwargs) 

参数作用:

  • axis:index或者轴的名字
  • skipna:排除NA/null值

以前面的df为例,group列有A、B、C三组,year列有多个年份。我们只知道当年度的值value_1、value_2,现在求group分组下的累计值,比如A、2014之前的累计值,可以用cumsum函数来实现。

当然仅用cumsum函数没办法对groups (A, B, C)进行区分,所以需要结合分组函数groupby分别对(A, B, C)进行值的累加。

  1. df['cumsum_2'] = df[['value_2','group']].groupby('group').cumsum() 
  2. df 

高效的10个Pandas函数,你都用过了吗?

4. Sample

Sample用于从DataFrame中随机选取若干个行或列。

用法:

  1. DataFrame.sample(n=Nonefrac=Nonereplace=Falseweights=Nonerandom_state=Noneaxis=None

参数作用:

(1) n:要抽取的行数

(2) frac:抽取行的比例

  • 例如frac=0.8,就是抽取其中80%

(3) replace:是否为有放回抽样,

  • True:有放回抽样
  • False:未放回抽样

(4) weights:字符索引或概率数组

(5) random_state :随机数发生器种子

(6) axis:选择抽取数据的行还是列

  • axis=0:抽取行
  • axis=1:抽取列

比如要从df中随机抽取5行:

  1. sample1 = df.sample(n=5
  2. sample1 

高效的10个Pandas函数,你都用过了吗?

从df随机抽取60%的行,并且设置随机数种子,每次能抽取到一样的样本:

  1. sample2 = df.sample(frac=0.6,random_state=2
  2. sample2 

高效的10个Pandas函数,你都用过了吗?

5. Where

Where用来根据条件替换行或列中的值。如果满足条件,保持原来的值,不满足条件则替换为其他值。默认替换为NaN,也可以指定特殊值。

用法:

  1. DataFrame.where(cond, other=naninplace=Falseaxis=Nonelevel=Noneerrors='raise'try_cast=Falseraise_on_error=None

参数作用:

  • cond:布尔条件,如果 cond 为真,保持原来的值,否则替换为other
  • other:替换的特殊值
  • inplace:inplace为真则在原数据上操作,为False则在原数据的copy上操作
  • axis:行或列

将df中列value_1里小于5的值替换为0:

  1. df['value_1'].where(df['value_1'] > 5 , 0) 

高效的10个Pandas函数,你都用过了吗?

Where是一种掩码操作。

掩码(英语:Mask)在计算机学科及数字逻辑中指的是一串二进制数字,通过与目标数字的按位操作,达到屏蔽指定位而实现需求。

6. Isin

Isin也是一种过滤方法,用于查看某列中是否包含某个字符串,返回值为布尔Series,来表明每一行的情况。

用法:

  1. Series.isin(values) 
  2. 或者 
  3. DataFrame.isin(values) 

筛选df中year列值在['2010','2014','2017']里的行:

  1. years = ['2010','2014','2017'] 
  2. df[df.year.isin(years)] 

高效的10个Pandas函数,你都用过了吗?

7. Loc and iloc

Loc和iloc通常被用来选择行和列,它们的功能相似,但用法是有区别的。

用法:

  1. years = ['2010','2014','2017'] 
  2. df[df.year.isin(years)] 
  • loc:按标签(column和index)选择行和列
  • iloc:按索引位置选择行和列

选择df第1~3行、第1~2列的数据,使用iloc:

  1. df.iloc[:3,:2] 

高效的10个Pandas函数,你都用过了吗?

使用loc:

  1. df.loc[:2,['group','year']]1 
高效的10个Pandas函数,你都用过了吗?

提示:使用loc时,索引是指index值,包括上边界。iloc索引是指行的位置,不包括上边界。

选择第1、3、5行,year和value_1列:

  1. df.loc[[1,3,5],['year','value_1']] 

高效的10个Pandas函数,你都用过了吗?

8. Pct_change

Pct_change是一个统计函数,用于表示当前元素与前面元素的相差百分比,两元素的区间可以调整。

比如说给定三个元素[2,3,6],计算相差百分比后得到[NaN, 0.5, 1.0],从第一个元素到第二个元素增加50%,从第二个元素到第三个元素增加100%。

用法:

  1. DataFrame.pct_change(periods=1fill_method=‘pad’, limit=Nonefreq=None, **kwargs) 

参数作用:

  • periods:间隔区间,即步长
  • fill_method:处理空值的方法

对df的value_1列进行增长率的计算:

  1. df.value_1.pct_change() 

高效的10个Pandas函数,你都用过了吗?

9. Rank

Rank是一个排名函数,按照规则(从大到小,从小到大)给原序列的值进行排名,返回的是排名后的名次。

比如有一个序列[1,7,5,3],使用rank从小到大排名后,返回[1,4,3,2],这就是前面那个序列每个值的排名位置。

用法:

  1. rank(axis=0, method: str = 'average', numeric_only: Union[bool, NoneType] = None, na_option: str = 'keep', ascending: bool = True, pct: bool = False

参数作用:

(1) axis:行或者列

(2) method:返回名次的方式,可选{‘average’, ‘min’, ‘max’, ‘first’, ‘dense’}

  • method=average 默认设置: 相同的值占据前两名,分不出谁是1谁是2,那么去中值即1.5,下面一名为第三名
  • method=max: 两人并列第 2 名,下一个人是第 3 名
  • method=min: 两人并列第 1 名,下一个人是第 3 名
  • method=dense: 两人并列第1名,下一个人是第 2 名
  • method=first: 相同值会按照其在序列中的相对位置定值

(3) ascending:正序和倒序

对df中列value_1进行排名:

  1. df['rank_1'] = df['value_1'].rank() 
  2. df 
高效的10个Pandas函数,你都用过了吗?

10. Melt

Melt用于将宽表变成窄表,是 pivot透视逆转操作函数,将列名转换为列数据(columns name → column values),重构DataFrame。

简单说就是将指定的列放到铺开放到行上变成两列,类别是variable(可指定)列,值是value(可指定)列。

高效的10个Pandas函数,你都用过了吗?

用法:

  1. pandas.melt(frame, id_vars=Nonevalue_vars=Nonevar_name=Nonevalue_name='value'col_level=None

参数作用:

  • frame:它是指DataFrame
  • id_vars [元组, 列表或ndarray, 可选]:不需要被转换的列名,引用用作标识符变量的列
  • value_vars [元组, 列表或ndarray, 可选]:引用要取消透视的列。如果未指定, 请使用未设置为id_vars的所有列
  • var_name [scalar]:指代用于”变量”列的名称。如果为None, 则使用- - frame.columns.name或’variable’
  • value_name [标量, 默认为’value’]:是指用于” value”列的名称
  • col_level [int或string, 可选]:如果列为MultiIndex, 它将使用此级别来融化

例如有一串数据,表示不同城市和每天的人口流动:

  1. import pandas as pd 
  2. df1 = pd.DataFrame({'city': {0: 'a', 1: 'b', 2: 'c'}, 
  3.                      'day1': {0: 1, 1: 3, 2: 5}, 
  4.                      'day2': {0: 2, 1: 4, 2: 6}}) 
  5. df1 
高效的10个Pandas函数,你都用过了吗?

现在将day1、day2列变成变量列,再加一个值列:

  1. pd.melt(df1, id_vars=['city']) 

高效的10个Pandas函数,你都用过了吗?

 

责任编辑:赵宁宁 来源: 今日头条
相关推荐

2020-08-16 10:58:20

Pandaspython开发

2023-12-22 16:39:47

Java函数式接口开发

2010-11-26 09:45:56

2021-02-22 09:10:10

数字人民币DCEP区块链

2022-05-27 09:02:31

Openbase开源前端

2010-07-09 09:01:55

2020-12-02 14:50:50

Windows 10Windows微软

2022-06-01 06:12:29

Windows应用

2023-10-10 08:33:40

编程范式命令式编程

2022-02-04 23:34:22

Windows 10技巧微软

2023-11-22 07:42:01

2020-11-30 05:51:52

Windows10

2018-06-06 09:10:34

编程语言Python库

2009-07-20 10:18:49

PHP 5.3命名空间

2023-01-28 10:27:04

2011-07-06 09:27:55

Linux命令

2017-11-01 10:31:08

Docker

2019-01-10 16:52:26

华为

2023-10-12 15:02:21

PythonPandas数据分析

2021-03-20 07:20:49

Windows10操作系统微软
点赞
收藏

51CTO技术栈公众号