公众号:尤而小屋 作者:Peter 编辑:Peter
大家好,我是Peter~
图解pandas数据合并:concat+join+append
在上一篇文章中介绍过pandas中最为常用的一个合并函数merge的使用,本文中介绍的是另外3个与合并操作相关的函数:
Pandas连载
本文是Pandas数据分析库的第15篇,欢迎阅读:
模拟数据
首先是模拟几份不同的数据:
import pandas as pd
import numpy as np
concat
concat也是一个常用的合并函数,下面通过具体例子来介绍它的使用。
参数
pandas.concat(objs,
axis=0,
join='outer',
ignore_index=False,
keys=None,
levels=None,
names=None,
verify_integrity=False,
sort=False,
copy=True
)
默认情况
默认情况是直接在纵向上进行合并
axis
指定合并的方向
如果某个数据框中不存在,则会显示为NaN:
- 根据实际数据调整合并的方向,默认是axis=0
- 某个数据库中不存在的数据,用NaN代替
参数ignore_index
是否保留原表索引,默认保留,为 True 会自动增加自然索引。
参数join
指定取得交集inner还是并集outer,默认是并集outer
df3和df4只有地址这个字段是相同的,所以保留了它,其他的舍弃了:
参数keys
当我们设置了索引重排(ignore_index=True),keys参数就无效啦
参数name
指定每个层级索引的名字
我们可以检查下df6的索引,发现是层级索引:
合并多个DataFrame
同时合并df1、df2、df5
pd.concat([pd.concat([df1,df2],axis=0,ignore_index=True),df5],axis=1)
分两步来实现:先合并df1、df2,将得到的结果和df5合并
join
参数
来自官网的参数说明:
dataframe.join(other,
on=None,
how='left',
lsuffix='',
rsuffix='',
sort=False)
模拟数据
为了解释join的操作,再模拟下数据:
参数 lsuffix、rsuffix
功能是为了添加指定的后缀
如果不指定的话,会报错:
参数how
how参数默认是left,保留左边的全部字段。右边不存在的数据用NaN
改成right之后,保留右边的全部数据:
可以在默认的参数结果中,name字段被分成了name_left和name_right,如何进行字段的合并呢???
- 先把键当做行索引
- 通过join合并
- 通过reset_index()重新设置索引
合并两个数据:
最后进行索引重置的功能:
还有一种更为简便的方法:
合并多个DataFrame
利用join来实现多个DataFrame的合并:
如果我们想要用merge函数来实现呢?
使用how=“outer”,保留全部字段的数据信息
append
字面意思是“追加”。向dataframe对象中添加新的行,如果添加的列名不在dataframe对象中,将会被当作新的列进行添加
参数
DataFrame.append(other,
ignore_index=False,
verify_integrity=False,
sort=False)
参数解释:
- other:待合并的数据。可以是pandas中的DataFrame、series,或者是Python中的字典、列表这样的数据结构
- ignore_index:是否忽略原来的索引,生成新的自然数索引
- verify_integrity:默认是False,如果值为True,创建相同的index则会抛出异常的错误
- sort:boolean,默认是None。如果self和other的列没有对齐,则对列进行排序,并且属性只在版本0.23.0中出现。
模拟数据
添加不同类型数据
1、Python字典
2、Series类型
3、最常用的DataFrame
默认合并
df12和df13默认合并的结果:
参数ignore_index
改变生成的索引值
参数verify_integrity
默认是False,如果值为True,创建相同的index则会抛出异常的错误
案例实战
假设现在一个excel表中有3个sheet:订单表、订单商品表、商品信息表:
1、订单表
2、订单商品表
3、商品信息表
现在我们通过合并函数将3个sheet中的内容关联起来:
import pandas as pd
import numpy as np
df1 = pd.read_excel("水果订单商品信息3个表.xlsx",sheet_name=0)
df1
df2 = pd.read_excel("水果订单商品信息3个表.xlsx",sheet_name=1)
df3 = pd.read_excel("水果订单商品信息3个表.xlsx",sheet_name="商品信息")
df3
第一步:订单表和订单商品表的合并
第二步:将上面的结果和商品信息表合并
当我们得到上面的结果后,就可以完成很多的需求,举2个例子说明:
1、不同水果的销量和订单数:根据水果进行分组统计数量和订单数
2、不同区域的水果销售额和客户数
总结
两篇关于pandas数据合并的文章,详细介绍了4个函数:merge、concat、join、append的使用;其中,merge和concat最为常用。它们可以是实现SQL中join的功能。不管是交集、并集、还是左右连接,甚至是全连接都是可以直接实现的。
上面的实战案例数据是存放在一个Excel表中。在pandas中,我们可以从不同的来源:Excel、数据库、本地文件夹等获取来进行数据合并,方便后续实现我们的需求,希望本文对读者有所帮助。
|