【文末送书 - 数据分析之pandas篇④】- DataFrame数据合并

向阳花花花花 - 个人主页

迄今所有人生都大写着失败,但并不妨碍我继续向前

Python 数据分析专栏  正在火热更新中 🔥


文章目录

  • 一、concat
  • 二、append
  • 三、merge
    • 3.1 没有属性相同时
    • 3.2 只有一个属性相同时
        • 1.一对一合并
        • 2.一对多合并
        • 3.多对多合并
    • 3.3 有多个属性相同时
    • 3.4 merge连接模式
  • 结语
  • 文末送书

一、concat

pd.concat() 函数可以沿着指定的轴将多个 dataframe 或者 series 拼接到一起,这一点和另一个常用的 pd.merge() 函数不同,pd.merge()函数只能实现两个表的拼接。

concat 默认是上下合并,下面讲解该函数的常用参数。

参数作用
axis控制轴,值为0为横轴,1为纵轴
ignore_index忽略行索引,将行索引重置(0-N-1)
keys设置多层索引
joinjoin=outer,相当于取并集,补NaN模式,是默认模式;join=inner,相当于取交集,只连接匹配的项

首先导入包:

import numpy as np
import pandas as pd

定义一个返回 dataframe 对象的函数:

def make_df(indexs,columns):data = [[str(j)+str(i) for j in columns] for i in indexs]df = pd.DataFrame(data=data,index=indexs,columns=columns)return df

获取两个 dataframe 对象:

df1 = make_df([1,2],['A','B'])
df2 = make_df([3,4],['A','B'])
display(df1,df2)

展示 df1 和 df2 :

将 df1 和 df2 使用 concat 合并:

pd.concat([df1,df2])

得到如下结果:

使用 axis 控制合并方向:

pd.concat([df1,df2],axis=1)

得到如下结果:

使用 ignore_index 重置索引:

pd.concat([df1,df2],ignore_index=True)

运行结果如下:

使用 keys 设置多层索引:

pd.concat([df1,df2],keys=['one','two'])

结果如下:

为了演示 join 参数,重新构建两个 dataframe 对象,演示结果如下。

构建两个 dataframe 对象:

df1 = make_df(indexs=[1,2,3],columns=['A','B','C'])
df2 = make_df(indexs=[2,3,4],columns=['B','C','D'])
display(df1,df2)

展示 df1 和 df2 :

外连接:

pd.concat([df1,df2],join='outer',sort=True)

得到如下结果:

其中,sort = True 是为了解决如下警告而添加的:


内连接:

pd.concat([df1,df2],join='inner')

结果如下:

二、append

pd.append() 函数专门用于在 dataframe 对象后 添加新的行,如果添加的列名不在 dataframe 对象中,将会被当作新的列进行添加。

还是使用上面的 df1 和 df2 对象,先查看一下:

display(df1,df2)


然后使用 append 追加:

df1.append(df2,sort=True)

结果如下:

三、merge

pd.merge() 的使用需要分 3 种情况讨论:当需要合并的两个 dataframe 对象,没有属性相同时,只有一个属性相同时,有多个属性相同时。

3.1 没有属性相同时

如果两个 dataframe 对象没有相同的属性,则需要使用 left_onright_on 分别来指定2个表中不同列作为连接的字段。

首先构建两个 dataframe 对象:

df1 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,2],'age':[22,33,44]
})
df2 = pd.DataFrame({'sex':['男','女','男'],'job':['Saler','CEO','Programmer']
})
display(df1,df2)

展示 df1 和 df2 结果如下:


可以看到两个 df 对象没有相同字段,下面使用 merge 连接:

df1.merge(df2,left_on='id',right_index=True)

注意:要合并的两个列,必须要有相同的值才能合并,否则报错,下面是错误示例:

df1.merge(df2,left_on='name',right_on='sex')

报错部分截图如下:

也可以使用行索引作为连接的字段:left_index=True 左表使用行索引作为连接字段,right_index=True 右表使用行索引作为连接字段。

3.2 只有一个属性相同时

只有一个属性列相同时,也分为三种情况,分别是一对一合并,一对多合并,多对多合并。

1.一对一合并

当属性值在一个 dataframe 对象中不重复时,为一对一合并。

首先构建两个 dataframe 对象:

df1 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,3],'age':[22,33,44]
})
df2 = pd.DataFrame({'id':[2,3,4],'sex':['男','女','男'],'job':['Saler','CEO','Programmer']
})
display(df1,df2)

查看 df1 和 df2 :


两个 dataframe 对象,只有一个相同的属性列 id ,并且两个 df 对象的 id 列都是唯一的,不重复。

下面使用 merge 合并:

df1.merge(df2)

结果如下:

2.一对多合并

当属性值在一个 dataframe 对象中有两个或以上相同值时,为一对多合并。

重新构建两个 dataframe 对象:

df3 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,2],'age':[22,33,44]
})
df4 = pd.DataFrame({'id':[2,3,4],'sex':['男','女','男'],'job':['Saler','CEO','Programmer']
})
display(df3,df4)

查看 df3 和 df4 :

可以看到,两个 dataframe 对象,只有一个相同的属性列 id,并且只有 df3 的 id 有重复值。

下面使用 merge 合并:

df3.merge(df4)

得到如下结果:

3.多对多合并

两个 dataframe 对象同一个属性都有两个或以上相同值,为多对多合并。

重新构建两个 dataframe 对象:

df5 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,2],'age':[22,33,44]
})
df6 = pd.DataFrame({'id':[2,2,4],'sex':['男','女','男'],'job':['Saler','CEO','Programmer']
})
display(df5,df6)

查看 df5 和 df6 :

可以看到,两个 dataframe 对象,只有一个相同的属性列 id,并且 df5 和 df6 的 id 均有重复值。

下面使用 merge 合并:

df5.merge(df6)

得到如下结果:

3.3 有多个属性相同时

如果不止一个属性相同,那么merge合并,只有多个属性值相同才能合并,否则报错;
此时需要使用参数 on 指定一个属性作为连接的字段。

重新构建两个 dataframe 对象:

df1 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,2],'age':[22,33,44]
})
df2 = pd.DataFrame({'id':[2,3,4],'age':[2,3,4],'job':['Saler','CEO','Programmer']
})
display(df1,df2)

查看 df1 和 df2:

可以看到,两个 df 对象有两个相同的列 idage,如果我们直接合并:

df1.merge(df2)

会报如下错误(只截取部分):


此时,需要使用 on 参数指定连接的属性,这里指定 id 为连接属性:

df1.merge(df2,on='id')

查看结果:

因为 age 字段重复了,所以 pandas 自动给 age 用 _x _y 的形式区分开来了,我们可以通过 suffixes 属性指定重复时的后缀名。

df1.merge(df2,on='id',suffixes=['_1','_2'])

结果如下:

3.4 merge连接模式

merge 连接模式类似于关系型数据库表的连接方式,包括内连接(交、how = inner)、外连接(并,how = outer)、左外连接(how = left)、右外连接(how = right)。通过 how 属性可以指定连接模式,默认是外连接。

首先构建两个 dataframe 对象:

df5 = pd.DataFrame({'name':['张三','李四','王五'],'id':[1,2,2],'age':[22,33,44]
})
df6 = pd.DataFrame({'id':[2,2,4],'sex':['男','女','男'],'job':['Saler','CEO','Programmer']
})
display(df5,df6)

查看 df5 和 df6 :

外连接:

df5.merge(df6,how='outer')


内连接:

df5.merge(df6,how='inner')

左外连接:

df5.merge(df6,how='left')

右外连接:

df5.merge(df6,how='right')

由于篇幅原因,这里不再演示每一个的结果,大家可以自己动手实践。

结语

本文主要带大家了解 pandas 中的数据合并3个函数,在后面的学习中会经常使用到。


您的支持是我创作的动力

希望我的文章能成为您的有用参考

我会继续改进和分享更好的内容


🔥 如果文中有些地方不清楚的话,欢迎联系我,我会给大家提供思路及解答。🔥

文章直达链接
上期回顾【数据分析 - 基础入门之pandas篇③】- pandas数据结构——DataFrame
下期预告【数据分析 - 基础入门之pandas篇⑤】- pandas 数据清洗

文末送书

这是博主第一次开展送书活动,是和出版社谈了好久才谈成的给予粉丝的福利。

《Python从入门到精通》(第三版)是“软件开发视频大讲堂”丛书中的三剑客之一,代码基于Python 3.11,涵盖语言新特性,如:match…case语句、类型联合运算符、异步编程等。

本书配套了41小时同步微课视频,让学习更轻松);127个实例,随学随练;还有32个“实践与练习”,可以帮助我们巩固所学技能;还有Python六大热门应用方向,每个方向都在剖析技术储备之后设计并实现对应的热门项目,具体包括游戏开发与项目、爬虫开发与项目、数据可视化与项目、Web开发与项目、Python自动化办公、人工智能初探,可使读者将所学的Python基础知识与当前的Python开发热点无缝对接,成就Python开发无限可能;更有在线开发资源库,随查随用,可以快速提升编程水平和解决实际问题的能力。

京东购买链接:点我去往京东购买

  • 本次送书一本
  • 活动时间:截止到2023年7月25日
  • 参与方式:关注博主、点赞、收藏并评论 “人生苦短,我用Python
  • 抽奖方式:利用程序产生随机数,对应哪条评论即为中奖
  • 如何查看自己是否获奖:如果获奖我会私信你们哟,记得关注我,不然中奖了联系不上!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/27711.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Ceph 应用

Ceph 应用 一、创建 CephFS 文件系统 MDS 接口 1.服务端操作 1)在管理节点创建 mds 服务 cd /etc/ceph ceph-deploy mds create node01 node02 node032)查看各个节点的 mds 服务 ssh rootnode01 systemctl status ceph-mdsnode01 ssh rootnode02 syst…

ELK 企业级日志分析系统(三)

ELK 一、Zookeeper理论部分zookeeper的定义与工作机制zookeeper的特点Zookeeper 数据结构Zookeeper 应用场景Zookeeper 选举机制 二、zookeeper部署实验三、Kafka消息队列为什么需要消息队列(MQ)使用消息队列的好处消息队列的两种模式 Kafka 定义Kafka 简…

笔试题之地区经济数据分析

数据分析通常应用于商业领域,但对于政府、非盈利组织等机构而言,在考量城市发展、监控环境质量等方面,也会涉及到数据分析。这时,就需要我们根据实际场景,结合数据分析的理论知识,发现其中的规律&#xff0…

人工智能发展前夜,基于控制论的杂谈

谢邀。 目录 《What the Frogs Eye Tells the Frogs Brain?》简介我是怎么理解这篇文章的?被后世频繁引用的「青蛙」从「青蛙」再重新转向控制论 《What the Frog’s Eye Tells the Frog’s Brain?》简介 帕斯克在实践和理论中,将人类的适应性行为引入…

怎样优雅地增删查改(八):按用户关系查询

文章目录 原理实现正向用户关系反向用户关系 使用测试 用户关系(Relation)是描述业务系统中人员与人员之间的关系,如:签约、关注,或者朋友关系。 之前我们在扩展身份管理模块的时候,已经实现了用户关系管理…

EC200A-CN移植

Platform: RK3588 OS: Debian11 Kernel: v5.10.160 Module :EC200A-CN 国内版 Linux USB 驱动架构 USB 主机控制器驱动在分层结构的最底层,直接与硬件交互。USB 核心是整个 USB 主机驱动的核心,用于管理 USB 总线、USB 总线设备和 USB 总线…

springboot整合eureka、config搭建注册中心和配置中心

目录 一 、springboot整合eureka实现注册中心 二、springboot整合config实现配置中心 三、从配置中心拉取配置 这篇文章详细介绍怎么通过eureka和config分别搭建一个注册中心和配置中心的服务。 一 、springboot整合eureka实现注册中心 1、创建一个springboot项目&#xff…

vue3 兄弟子组件相互调用方法的实现思路及解决方法

需求背景: vue实际开发过程中,可能需要在某一个子组件调用另一个子组件的方法,从而实现业务需求。 例如以下的一个业务场景。 如上就涉及到到组件B需要调用组件A的form验证方法。 解决思路: 利用共同的父组件C,我…

Spark 4:Spark Core 共享变量

广播变量 # coding:utf8 import timefrom pyspark import SparkConf, SparkContext from pyspark.storagelevel import StorageLevelif __name__ __main__:conf SparkConf().setAppName("test").setMaster("local[*]")sc SparkContext(confconf)stu_inf…

ES6——Promise

promise 含义:异步编程解决方案 特点:1、状态不受外界影响,状态有三种:pending、fulfilled、rejected 2、状态不可逆,只能pending -> fulfilled、pending -> rejected 缺点:无法取消、不设置回调函…

mysql数字开头字符串排序

表结构 CREATE TABLE building (id bigint NOT NULL,name varchar(255) CHARACTER SET utf8mb3 COLLATE utf8_general_ci DEFAULT NULL COMMENT 名称,full_name varchar(255) CHARACTER SET utf8mb3 COLLATE utf8_general_ci DEFAULT NULL COMMENT 全称,PRIMARY KEY (id) USIN…

javascript 将json数据导出excel

<el-button type"primary" plain v-on:click"jsonToExcel();">导出</el-button>jsonToExcel() {const data this.AlarmData;let head "城市,站点,时间,A相电流(A),B相电流(A),C相电流(A),SO2压力(MPa),CO压力(MPa),NOX压力(MPa),A相电压…