Pandas数据处理功能强大,可以方便的实现数据的合并与拼接,具体是如何实现的呢?
一、DataFrame.concat:沿着一条轴,将多个对象堆叠到一起
语法:
- concat(objs, axis=0, join='outer', join_axes=None, ignore_index=False,
- keys=None, levels=None, names=None, verify_integrity=False, copy=True):
pd.concat()只是单纯的把两个表拼接在一起,参数axis是关键,它用于指定合并的轴是行还是列,axis默认是0。
- axis=0代表纵向合并;
- axis=1代表横向合并。
参数介绍:
- objs:需要连接的对象集合,一般是列表或字典;
- axis:连接轴向;
- join:参数为‘outer’或‘inner’;
- ignore_index=True:重建索引
举例:
默认纵向拼接
横向全拼接(默认索引全保留)
横向关联拼接(只保留左右都存在的索引行)
二、DataFrame.merge:类似 vlookup
语法:
- merge(left, right, how='inner', on=None, left_on=None, right_on=None,
- left_index=False, right_index=False, sort=True,
- suffixes=('_x', '_y'), copy=True, indicator=False)
类似于关系型数据库的连接方式,可以根据一个或多个键将不同的DatFrame连接起来。该函数的典型应用场景是,针对同一个主键存在两张不同字段的表,根据主键整合到一张表里面。
参数介绍:
- left和right:两个不同的DataFrame;
- how:连接方式,有inner、left、right、outer,默认为inner;
- on:指的是用于连接的列索引名称,必须存在于左右两个DataFrame中,如果没有指定且其他参数也没有指定,则以两个DataFrame列名交集作为连接键;
- left_on:左侧DataFrame中用于连接键的列名,这个参数左右列名不同但代表的含义相同时非常的有用;
- right_on:右侧DataFrame中用于连接键的列名;
- left_index:使用左侧DataFrame中的行索引作为连接键;
- right_index:使用右侧DataFrame中的行索引作为连接键;
- sort:默认为True,将合并的数据进行排序,设置为False可以提高性能;
- suffixes:字符串值组成的元组,用于指定当左右DataFrame存在相同列名时在列名后面附加的后缀名称,默认为('_x', '_y');
- copy:默认为True,总是将数据复制到数据结构中,设置为False可以提高性能;
- indicator:显示合并数据中数据的来源情况
举例:
没有指定连接键,默认用重叠列名,没有指定连接方式,默认inner内连接(取key的交集)
通过how,指定连接方式
多键连接时将连接键组成列表传入,例:pd.merge(df1,df2,on=['key1','key2']
如果两个对象的列名不同,可以使用left_on,right_on分别指定
三、DataFrame.join:主要用于索引上的合并
语法:
- join(self, other, on=None, how='left', lsuffix='', rsuffix='',sort=False):
其参数的意义与merge方法中的参数意义基本一样。该方法最为简单,主要用于索引上的合并。
举例:
使用join,默认使用索引进行关联
使用merge,指定使用索引进行关联,代码更复杂
使用concat,默认索引全部保留
四、Series.append:纵向追加Series
语法:
- (self, to_append, ignore_index=False, verify_integrity=False)
举例:
五、DataFrame.append:纵向追加DataFrame
语法:
- (self, other, ignore_index=False, verify_integrity=False, sort=False)
举例:
总结
- join 最简单,主要用于基于索引的横向合并拼接
- merge 最常用,主要用于基于指定列的横向合并拼接
- concat最强大,可用于横向和纵向合并拼接
- append,主要用于纵向追加