Pandas的Merge函数详解向前索引代码序列mergedataframe

在日常工作中,我们可能会从多个数据集中获取数据,并且希望合并两个或多个不同的数据集。这时就可以使用Pandas包中的Merge函数。在本文中,我们将介绍用于合并数据的三个函数merge、merge_ordered、merge_asof

merge

merge函数是Pandas中执行基本数据集合并的首选函数。函数将根据给定的数据集索引或列组合两个数据集。

我们使用下面试示例:

importpandasaspdcustomer=pd.DataFrame({'cust_id':[1,2,3,4,5],'cust_name':['Maria','Fran','Dominique','Elsa','Charles'],'country':['German','Spain','Japan','Poland','Argentina']})order=pd.DataFrame({'order_id':[200,201,202,203,204],'cust_id':[1,3,3,4,2],'order_date':['2014-07-05','2014-07-06','2014-07-07','2014-07-07','2014-07-08'],'order_value':[10.1,20.5,18.7,19.1,13.5]})

我们尝试模拟两个不同的数据集:客户和订单数据,其中cust_id列同时存在于两个DataFrame中。

pd.merge(customer,order)

默认情况下,merge函数是这样工作的:

将按列合并,并尝试从两个数据集中找到公共列,使用来自两个DataFrame(内连接)的列值之间的交集。

列和索引合并

在上面合并的数据集中,merge函数在cust_id列上连接两个数据集,因为它是唯一的公共列。我们也可以指定要在两个数据集上连接的列名。

如果两个列的名称都存在于两个DataFrame中,则可以使用参数on。

pd.merge(customer,order,on='cust_id')

结果与前面的示例类似,因为cust_id是唯一的公共列。但是如果两个DataFrame都包含两个或多个具有相同名称的列,则这个参数就很重要。

我们来创建一个包含两个相似列的数据。

customer=pd.DataFrame({'cust_id':[1,2,3,4,5],'cust_name':['Maria','Fran','Dominique','Elsa','Charles'],'country':['German','Spain','Japan','Poland','Argentina']})order=pd.DataFrame({'order_id':[200,201,202,203,204],'cust_id':[1,3,3,4,2],'order_date':['2014-07-05','2014-07-06','2014-07-07','2014-07-07','2014-07-08'],'order_value':[10.1,20.5,18.7,19.1,13.5],'country':['German','Indonesia','Armenia','Singapore','Japan']})

数据集现在包含两个名称相似的列:cust_id和country。让我们看看如果使用默认方法合并两个DataFrame会发生什么。

只剩下一行了,这是因为merge函数将使用与键名相同的所有列来合并两个数据集。所以现在是通过cust_id和country中找到的相同值来实现合并的。

还有一个问题,我们指定一个列后,其他的重复列(这里是country),现在存在country_x和country_y列。这两列是来自各自数据集的国家列。country_x来自Customer数据集,country_y来自Order数据集。

为了帮助区分合并过程中相同列名的结果,我们可以将一个元组对象传递给suffix参数。

pd.merge(customer,order,on='cust_id',suffixes=('_customer','_order'))

使用suffix参数,可以让我们避免混淆,或者在合并前我们直接将列改名

customer=customer.rename(columns={'country':'customer_country'})order=order.rename(columns={'country':'delivery_country'})

这样就不会造成混淆了。

然是如果我们要合并的列名在两个数据集不同时,on参数就没有效果了,这时就需要使用left_on和right_on参数,我们这里以刚刚改名的country列为例:

pd.merge(customer,order,left_on='customer_country',right_on='delivery_country',suffixes=('_customer','_order'))

在上面的代码中,我们将左侧数据集(Customer)上想要合并的列传递给left_on参数,将右侧数据集(Order)的列名传递给right_on参数。

left_on和right_on参数是串联工作的,因此我们不能在left_on参数中传递列名,而将right_on参数保留为空。

我们也可以使用left_index和right_index来替换left_on和right_on参数。right_index和left_index参数控制merge函数,以根据索引而不是列连接数据集。

pd.merge(customer,order,left_index=True,right_on='cust_id',suffixes=('_customer','_order'))

在上面的代码将True值传递给left_index参数,表示希望使用左侧数据集上的索引作为连接键。合并过程类似于下图。

当我们按索引和列合并时,DataFrame结果将由于合并(匹配的索引)会增加一个额外的列。

合并类型介绍

默认情况下,当我们合并数据集时,merge函数将执行InnerJoin。在InnerJoin中,根据键之间的交集选择行。匹配在两个键列或索引中找到的相同值。

下图显示了InnerJoin图,其中只选择了Customer和Order数据集上的列和/或索引之间匹配的值。

pd.merge(customer,order,left_on='customer_country',right_on='delivery_country',suffixes=('_customer','_order'),how='inner')

我们也可以使用左连接和右连接来保留想要的DataFrame。

pd.merge(customer,order,left_on='customer_country',right_on='delivery_country',suffixes=('_customer','_order'),how='left',indicator=True)

上面的代码,所有与订单数据值不匹配的客户数据值都用NaN值填充。

indicator=True参数,将创建_merge列。在上面的结果中,可以看到两个值都表明该行来自DataFrame和left_only的交集,其中该行来自第一个DataFrame(左侧)。

如果要执行右连接,可以使用以下代码。

pd.merge(customer,order,left_on='customer_country',right_on='delivery_country',suffixes=('_customer','_order'),how='right',indicator=True)

还可以在合并过程中使用外连接来保留两个DataFrame。我们可以把外连接看作是同时进行的左连接和右连接。

最后就是交叉连接,将合并两个DataFrame之间的每个数据行。

让我们用下面的代码尝试交叉连接。

pd.merge(customer,order,how='cross',suffixes=('_customer','_order'))

DataFrame将Customer数据中的每一行都与Order数据结合起来。

merge_ordered

pd.merge_ordered(customer,order)

默认情况下,merge_ordered将执行OuterJoin并根据连接键对数据进行排序。我们也可以像更改合并类型一样调整how参数。

order=pd.DataFrame({'order_id':[200,201,202,203,204],'cust_id':[1,3,3,4,2],'order_date':['2014-07-05','2014-07-06','2014-07-07','2014-07-07','2014-07-08'],'order_value':[10.1,20.5,18.7,19.1,13.5],'delivery_country':['German','Indonesia','Armenia','Singapore','Japan']})delivery=pd.DataFrame({'delivery_date':['2014-07-06','2014-07-08','2014-07-09','2014-07-10'],'product':['Apple','Apple','Orange','Orange']})

order['order_date']=pd.to_datetime(order['order_date'])delivery['delivery_date']=pd.to_datetime(delivery['delivery_date'])

让我们尝试按日期列合并两个数据集。

pd.merge_ordered(order,delivery,left_on='order_date',right_on='delivery_date')

合并的DataFrame是按连接键排序的Order和Delivery数据集的OuterJoin结果。

由于是外连接,一些数据点是空的。对于merge_ordered,有一个选项可以通过使用fill_method参数来填充缺失的值。

pd.merge_ordered(order,delivery,left_on='order_date',right_on='delivery_date',fill_method='ffill')

在上面的DataFrame中执行前向填充方法来计算缺失的值。

最后merge_ordered函数还可以基于数据集列执行DataFrame分组,并将它们一块一块地合并到另一个数据集。

pd.merge_ordered(order,delivery,left_on='order_date',right_on='delivery_date',right_by='product')

在上面的代码中将product列传递给right_by参数,这样product列中的每个值都映射到每个可用行,并且用于对数据进行分组的同一DataFrame中不存在的数据用NaN填充。

为了进一步理解,我们在合并之前添加日期来对数据进行分组。

pd.merge_ordered(order,delivery,left_on='order_date',right_on='delivery_date',right_by=['delivery_date','product'])

在上面的合并过程中,我们最终得到了4个不同的组:

['2014–07–06','Apple'],['2014–07–08','Apple'],['2014–07–09','Orange'],['2014–07–10','Orange']

该组基于所使用列中的现有行,因此它不是所有惟一值的组合。例如,没有['2014-07-09','Apple']组,因为此数据不存在。

在上面的DataFrame中可以看到Order数据集中的每一行都映射到Delivery数据集中的组。

merge_asof

order=pd.DataFrame({'order_id':[199,200,201,202,203,204],'cust_id':[1,1,3,3,4,2],'order_date':['2014-07-01','2014-07-05','2014-07-06','2014-07-07','2014-07-07','2014-07-08'],'order_value':[11,10.1,20.5,18.7,19.1,13.5],'delivery_country':['Poland','German','Indonesia','Armenia','Singapore','Japan']})delivery=pd.DataFrame({'delivery_date':['2014-07-06','2014-07-08','2014-07-09','2014-07-10'],'product':['Apple','Apple','Orange','Orange']})

使用merge_asof函数的一个注意事项是,必须按键对两个DataFrame进行排序。这是因为它将根据键的距离合并键,而未排序的DataFrame将抛出错误消息。

使用merge_asof类似于其他的合并操作,需要传递想要合并的DataFrame及其键名称。

pd.merge_asof(order,delivery,left_on='order_date',right_on='delivery_date')

我们可以看到一些数据被合并了,但不是精确的值匹配。比如在第三行和第四行,order_date值为“2014-07-07”,但delivery_date为“2014-07-06”。

使用merge_asof会丢失数据。默认情况下它查找最接近匹配的已排序的键。在上面的代码中,与delivery_date不完全匹配的order_date试图在delivery_date列中找到与order_date值较小或相等的键。

delivery_date中小于等于order_date'2014-07-07'的值为'2014-07-06'。这就是为什么合并发生在这个键上。而order_date'2017-04-01'和'2017-04-05'根本没有匹配,因为在delivery_date中没有小于或等于它们的值的值。

如果在正确的DataFrame中有多个重复的键,则只有最后一行用于合并过程。例如将更改delivery_date数据,使其具有多个不同产品的“2014-07-06”值。

delivery=pd.DataFrame({'delivery_date':['2014-07-06','2014-07-06','2014-07-08','2014-07-10'],'product':['Apple','Orange','Apple','Orange']})

然后我们将执行与之前相同的合并过程。

可以看到,合并过程对Orange产品而不是Apple产品使用delivery_date,尽管两者具有相同的键值。另外具有精确匹配的键也会受到影响,它们会选择最后一行键。

可以通过设置allow_exact_matches=False来关闭精确匹配合并。

pd.merge_asof(order,delivery,left_on='order_date',right_on='delivery_date',allow_exact_matches=False)

通过使用direction参数来改变查找键的策略。例如使用向前策略:

pd.merge_asof(order,delivery,left_on='order_date',right_on='delivery_date',direction='forward')

向前策略与向后策略类似,不同之处在于该函数将通过查看大于或等于正确DataFrame键的值来尝试合并。

另一个可以使用的策略是就近策略。在这个策略中使用向后或向前策略;取绝对距离中最近的那个。如果有多个最接近的键或精确匹配,则使用向后策略。

pd.merge_asof(order,delivery,left_on='order_date',right_on='delivery_date',direction='nearest')

最后还可以通过使用tolerance参数来控制键之间的距离。

pd.merge_asof(order,delivery,left_on='order_date',right_on='delivery_date',direction='forward',tolerance=pd.Timedelta(1,'d'))

在上面的示例中,只有第一行包含缺失值。这是因为order_date第一行与最近的日期delivery_date之间的距离大于一天。第二行成功合并,因为只差一天。

总结

Pandas函数提供了Merge函数可以轻松的帮助我们合并数据,而merge_ordered函数和merge_asof可以帮助我们进行更加定制化的合并工作,虽然这两个函数可能并不常见,但是它们的确在一些特殊的需求上非常的好用。

THE END
1.pandas数据合并之append与concatother: 是要添加的数据,append很不挑食,这个other可以是dataframe,dict,Seris,list等等。 ignore_index: 参数为True时将在数据合并后,按照0,1,2,3的顺序重新设置索引,忽略了旧索引。 verify_integrity:参数为True时,如果合并的数据与原数据包含索引相同的行,将报错。 我们https://www.jianshu.com/p/29f5c6792f61
2.数据分析必备:DataFrame联合与合并数据集df3 = pd.DataFrame({'C': [9, 10]})df4 = pd.DataFrame({'D': [11, 12]}) result_col = pd.concat([df3, df4], axis=1)result_col# --- 输出 ---# C D# 0 9 11# 1 10 12 4. 联合重叠数据 combine_first combine_first 是 Pandas 中一个非常有用的方法,它用于合并两个 DataFrahttp://www.360doc.com/content/24/1120/14/57935769_1139837599.shtml
3.pythonpandas:DataFrame合并技巧详解dataframe合并在数据分析过程中,经常需要将多个数据集合并为一个统一的数据集。Pandas库提供了多种合并DataFrame的方法,以满足不同场景下的需求。本文将详细介绍这些合并方法,并通过示例展示其用法。 二、基于键的合并(merge) 基于键的合并是最常用的DataFrame合并方法之一。它类似于SQL中的JOIN操作,可以根据两个DataFrame之间的共同https://blog.csdn.net/MAOZI8/article/details/139740784
4.Pandas中DataFrame合并的几种方法在使用join合并方法时,可以设置不同的参数,如how(指定连接方式,'left'、'right'、'outer'、'inner')、on(指定连接的键)、sort(是否根据键排序)等,以适应不同的数据合并需求。以上就是pandas中DataFrame合并的几种方法,实际上,我们可以根据具体的数据结构和合并需求,选择合适的方法。https://developer.aliyun.com/article/1614372
5.python数据分析——多表合并有的时候,我们需要将一些数据片段进行组合拼接,形成更加丰富的数据集。Python的Pandas库为数据合并操作提供了多种合并方法,如merge()、join()和concat()等方法。 1.使用merge()方法合并数据集 Pandas提供了一个函数merge,作为DataFrame对象之间所有标准数据库连接操作的入口点。merge()是Python最常用的函数之一,类似于https://open.alipay.com/portal/forum/post/161101048
6.pythonDataFrame数据合并merge()concat()方法物联沃python DataFrame数据合并 merge()、concat()方法 文章目录 merge() 1.常规合并 ①方法1 ②方法2 重要参数 合并方式 left right outer inner 准备数据‘ inner(默认) outer left right 2.多对一合并 3.多对多合并 concat() 1.相同字段的表首位相连https://www.iotword.com/3651.html
7.同一单元格中数据分析怎么合并到一起帆软数字化转型知识库以下是一个使用pandas库进行数据合并的示例代码: import pandas as pd 创建示例数据 data = {'col1': ['Hello', 'Good'], 'col2': ['World', 'Morning']} df = pd.DataFrame(data) 合并列数据 df['combined'] = df['col1'] + ' ' + df['col2'] https://www.fanruan.com/blog/article/452921/
8.pythondataframe将一条数据重复多遍jiecho的技术博客pandas包的merge、join和concat方法来完成数据的合并和拼接,merge方法主要是基于两个dataframe的共同列进行合并,join方法主要是基于两个dataframe的索引进行合并,concat方法是对series或dataframe进行行拼接或列拼接,本文详细分析了上面三种方法的合并和拼接操作。 https://blog.51cto.com/u_12902/13720959