再见！不再使用 Pandas 中的 Merge 方法-pandas merge用法

Pandas 中的merge()方法无疑是数据科学家在其数据科学项目中最常用的方法之一。

该方法源自 SQL 中的表连接思想并扩展到在 Python 环境中连接表，该方法基于一列或多列中的匹配值合并两个 Pandas DataFrame。

如下图所示：

连接表的图解概述

Merge()方法的直观特性使其成为Pandas用户合并数据框的理想选择。

但是，在运行时方面，Pandas 中有一个相对更好的替代方法，甚至已经超过该 merge()方法了。

合并表的方法

方法一：使用merge()

如上所述，在 Pandas 中合并 DataFrame 的传统和最常见的方法是使用该merge()方法。

df = pd.merge(df1, df2, 
              how = "left", 
              left_on = "df1_col_name", 
              right_on = "df2_col_name")

如上面的代码块所示，该方法接受两个DataFrames, df1和df2。

此外，我们使用 how 参数指定我们希望执行的连接类型（在上面的例子中是 left）。

最后，我们用left_on参数指定要考虑与第一个DataFrame(df1) 的值匹配的列，用right_on参数指定与第二个DataFrame(df2)的值匹配的列。

方法二：使用 join()

Join() 方法在目标上与 Pandas 中的 merge() 方法相似，但在实现上有一些区别。

Join()方法在df2和df1的索引上执行查找。然而，merge()方法主要用于使用列中的条目进行连接。

Join()方法默认执行的是左键连接。而merge()方法在其默认行为中采用了内联接。

连接索引值的表

下面的代码块演示了该join()方法。

df = df1.join(df2, how = "inner")

如上所述，join()方法执行了一个索引查询来连接两个DataFrame。也就是说，对应于相同索引值的行被合并。

因此，在使用join()方法时，你应该首先设置你希望执行join的列作为DataFrame的索引，然后再调用join()方法。

df1.set_index("df1_col_name", inplace = True)
df2.set_index("df2_col_name", inplace = True)

df = df1.join(df2, how = "inner")

实验验证

为了评估 Pandas 中 merge() 方法的运行时性能，我们将把它与 join() 方法进行比较。

具体来说，我们将创建两个假的DataFrames，并使用 merge() 和 join() 这两种方法进行连接。

本实验的实现如下。

首先，我们将整数的值设置为(-high, +high)。我们将比较两种方法在不同大小的DataFrame上的表现，行数为 rows_list，列数为 n_columns。最后，我们将重复运行每个实验。

high = 10000
rows_list = [(i+1)*1_000_000 for i in range(10)] 
n_columns = 5
repeat = 5

该create_df 方法接受一系列参数并返回一个随机数据框。

def create_df(n_rows, n_columns, col_names):

    data = np.random.randint(low = -high, high = high, size = (n_rows, n_columns))
    return pd.DataFrame(data, columns = col_names)

在下面的代码中，我们测量了merge() 方法和 join() 方法在同一个DataFrame df1 和 df2 上的运行时间。

result = []
for n_rows in rows_list:
    
    sum_time_merge1 = 0
    sum_time_merge2 = 0
    
    for _ in range(repeat):
        
        df1 = create_df(n_rows, n_columns, [f"col_{i}" for i in range(n_columns)])
        df2 = create_df(n_rows, n_columns, [f"Col_{i}" for i in range(n_columns)])
        
        ## Method 1
        start = time()
        df = pd.merge(df1, df2, how = "left", left_on = "col_0", right_notallow="Col_0")
        sum_time_merge1 += (time()-start)
        
        ## Method 2
        start = time()
        df1.set_index("col_0", inplace = True)
        df2.set_index("Col_0", inplace = True)
        df = df1.join(df2)
        sum_time_merge2 += (time()-start)
        
    result.append([df1.shape[0], sum_time_merge1/repeat, sum_time_merge2/repeat])

注意，要使用join()方法，你应该首先将列作为DataFrame的索引。

结果

Join vs Merge 方法的实验结果

蓝色线图描述了merge()方法的运行时间，黄色线图表示join()方法的运行时间。

我们将行数从 100 万变化到 1000 万，注意到两种方法的运行时间都与行数呈正相关。

然而，与传统的merge()方法相比，join()方法的运行时间有明显的改善。

随着行数的增加，两种方法的运行时间的差异也在增加。这表明你应该始终使用join()方法来合并DataFrames，特别是在较大的数据集的情况下。

写在最后

最后，在这篇文章中，我们比较了Pandas的merge()和join()方法在一个假的DataFrame上的性能。

实验结果表明，使用join()方法在索引列上进行合并，在运行时间上比merge()方法高效——提供了高达4到5倍的性能提升。