Pandas教程（四）—— 分层索引及数据联合

1.分层索引

分层索引就是在一个轴上拥有多个（两个及以上）索引级别，能以低维度形式处理高维度数据。

行索引有两层

 1.1 分层索引的创建

   1.1.1 方式一：直接设置

• 1）在创建series、dataframe或读取文件时时，行名或列名输入一个二维的列表；
• 2）使用语句：data.set_index（ ）    括号中输入一个含多个列名的列表

     set_index会生成一个新的dataframe，使用一个或多个列作为索引

     reset_index是它的反函数，分层索引中的索引层级会被移动到列中

import pandas as pd
data = {"城市":["北京","上海","深圳","广州"],"同比":[120.7,127.3,119.4,140.9],"环比":[101.5,101.2,101.3,120.0],"定基":[121.4,127.8,120.0,145.5]}# 法一
data1 = pd.DataFrame(data,index = [["A","A","B","B"],[1,2,1,4]],  #第一层中相同的要放在一起columns =["城市","同比","环比","定基"])# 法二
data2 = pd.DataFrame(data,columns =["城市","同比","环比","定基"])
data2 = data2.set_index(['城市','同比'])

输出结果如下：

我们得到的就是一个以 MutiIndex 对象 作为索引的 美化视图

print(data.index) #打印dataframe的索引

返回结果如下： 

   1.1.2 利用方法属性创建 

• 以下方法只是创建出多维索引 Mutiindex 对象，还需要在定义时将其赋给Dataframe

       创建语法：pd. MutiIndex.下述方法（）

方法	描述
from_arrays	接收一个多维数组，高维指定高层索引，低维指定底层索引
from_tuples	接收一个元组的列表，每个元组指定每个对应索引 （高维索引，低维索引）    如上图
from_product	接收一个可迭代对象的列表，使用笛卡尔积的方式创建

• 补充：笛卡尔积

两个集合X和Y的笛卡尔积（X × Y）是指  第一个对象是X的成员而第二个对象是Y的所有可能有序对的其中一个成员

例如：A={a, b}，B={0, 1, 2}，则笛卡尔积为{(a, 0), (a, 1), (a, 2), (b, 0), (b, 1), (b, 2)}

import pandas as pd
# 利用数组设置
mult1 = pd.MultiIndex.from_arrays([['a', 'a', 'b', 'b'], [1, 2, 1, 2]],names = ["x","y"])
print(mult1)# 利用元组设置
mult2 = pd.MultiIndex.from_tuples([('a', 1),('a', 2),('b', 1),('b', 2)],names = ["x","y"])
print(mult2)# 推荐：利用可迭代对象设置
mult3 = pd.MultiIndex.from_product([[2019,2020],[1,2]])
mult3.names = ["年","月"] # 也可以这样设置索引名
print(mult3)# 将mutiindex赋给数据
mult4 = pd.MultiIndex.from_product([["山东","北京"],["土豆","茄子"]],names=['城市', '蔬菜'])
data = pd.DataFrame(np.random.random(size=(4,4)),index = mult3,columns = mult4)
print(data)

 1.2 分层索引的切片或索引

    首先我们先创建一个多层索引的dataframe，并以此为例讲解

（参考了该文章：https://blog.csdn.net/qq_35318838/article/details/102469320）

import pandas as pd
mult3 = pd.MultiIndex.from_product([[2019,2020],[1,2]])
mult3.names = ["年","月"]
mult4 = pd.MultiIndex.from_product([["山东","北京"],["土豆","茄子"]],names=['城市', '蔬菜'])
data = pd.DataFrame(np.random.random(size=(4,4)),index = mult3,columns = mult4)
print(data)

上述代码结果

    1.2.1 对列标签层次化索引

• 最外层列标签的索引：data  [ "外层列名" ] 
• 内层列标签的索引：   data [ "外层标签"，"内层标签" ]

print(data["山东"]) # 索引山东列
print("-"*50)
print(data["山东","土豆"]) #索引山东的土豆列

    1.2.2 对行标签层次化索引

• 最外层行标签的索引：data.loc  [ "外层行名" ] 
• 内层行标签的索引：   data.loc [ "外层标签"，"内层标签" ]

print(data.loc[2019]) # 索引2019年 行
print("-"*50)
print(data.loc[2019,1]) # 索引2019一月 行

    1.2.3 使用xs进行索引

      pandas 中的 xs 方法在索引时可以直接指定层次化索引中元素和层级 

• 语法：data.xs（ x ,  level=, axis=1)

参数说明：

          x：标签或标签的元组

          level：层级名（本例中行索引层级包括：蔬菜、城市          列索引层级包括：年、月）

          axis：哪个轴向上的层级

print(data.xs(1,level="月",axis=0)) # 列切片 月层级上所有1月
print("-"*50)
print(data.xs("土豆",level="蔬菜",axis=1))  # 行切片 蔬菜层级上所有土豆

    1.2.4 使用loc和slice方法切片

    在列索引中，“ ：”代表选取全部列，但冒号不能在行索引中使用；

    行索引中应该使用slice（None）代表选取所有行

print(data.loc[(slice(None),1),:]) # 选取所有1月
print(data.loc[slice(None),(slice(None),"茄子")]) # 选取所有的茄子

 1.3 重排序和层级排序

方法	描述
data.swaplevel（“key1”，“key2”）	传入两个层级序号或层级名称，互换这两个层级的位置
data.sort_index（level =）	传入一个层级，使结果按照层级进行字典排序

2.联合与合并数据集

• 基础知识：四种连接方式

        内连接(inner)、左连接(left)、右连接(right)、全外连接（outer  全部都要)

内连接、左连接、右连接

 2.1 Merge函数

   merge函数有点类似sql中的join，主要用于将两个Dataframe根据一些共有的列连接起来

• 语法： pd.merge（data1，data2，参数） 

常用参数：

         

           how： 数据连接的方式：inner（默认）、left、right、outer（即上面四种）

           on：    用来连接的列名，必须是在两边的df中都有的列名；若使用多个键进行合并，

                       传入一个含多个列名的列表，把多个键看作一个元组数据当作单个键处理即可

           

           suffixes：对于左右表中的重名列，添加后缀进行区分，默认为（"_x"，"_y"）

           left_on / right_on：  左（右）表中用作连接键的列名

           left_index / right_index： 将左（右）表的行索引index用作连接键，布尔值 默认F    

   2.1.1 根据单个连接键合并

• pd.merge(数据1,数据2,on='姓名',how='inner')

import pandas as pd
数据1= pd.DataFrame({'姓名':['叶问','李小龙','孙兴华','李小龙','叶问','叶问'],'出手次数1':np.arange(6)})
数据2 = pd.DataFrame({'姓名':['黄飞鸿','孙兴华','李小龙'],'出手次数2':[1,2,3]})
数据3 = pd.merge(数据1,数据2,on='姓名',how='inner')
print(数据3)

以姓名为连接键，进行内连接

   2.1.2 根据多个连接键合并

• 根据多个键进行合并时，on参数需传入一个含多个列名的列表，把多个键看作一个元组数据当作单个键处理即可

import pandas as pd
数据1 = pd.DataFrame({'姓名': ['张三', '张三', '王五'],'班级': ['1班', '2班', '1班'],'分数': [10,20,30]})
数据2 = pd.DataFrame({'姓名': ['张三', '张三', '王五','王五'],'班级': ['1班', '1班', '1班','2班'],'分数': [40,50,60,70]})数据3 = pd.merge(数据1,数据2,on=['姓名','班级'],how='outer',suffixes=('_left','_right'))   # 外连接（并集）的结果
print(数据3)

以姓名和班级作为连接键，进行外连接，并处理了重复名

   2.1.3 索引作为键进行合并

• 如果我们希望以df的索引作为合并的键，只需传递参数 left_index / right_index = True 即可

import pandas as pd
import numpy as np
data1 = pd.DataFrame({"key1":["Ohio","Ohio","Ohio","Nevada","Nevada"],"key2":[2000,2001,2002,2001,2002],"data":np.arange(5)})data2 = pd.DataFrame(np.arange(12).reshape(6,2),index = [["Nevada","Nevada","Ohio","Ohio","Ohio","Ohio"],[2001,2000,2000,2000,2001,2002]],columns = ["first","second"])data3 = pd.merge(data1,data2,left_on=["key1","key2"],right_index=True,how="outer")
print(data3)

data2以多层索引为连接键，进行外连接

 2.2 join函数

      join函数可以便捷的进行横向连接，它默认以索引为连接键，且默认左连接

• 语法：left_data . join（right_data，on = None，how = 'left'） 
• 若要一次组合多个dataframe，只需传入一个列表即可。例如：result = left.join([right, right2]) 

import pandas as pd
left = pd.DataFrame({'姓名1':['叶问','李小龙','孙兴华'],'年龄1':[127,80,20]})
right = pd.DataFrame({'姓名2':['大刀王五','霍元甲','陈真'],'年龄2':[176,152,128]})print(left.join(right))

 2.3 concat函数

       contact函数主要负责数据组合中的拼接、绑定或堆叠，也可以总结为沿轴向对数据进行连接

• 语法：contact（[ data1，data2... ]，axis = ，join = ，keys = ...）

 常用参数：

 

                 axis ：沿哪个轴进行数据连接，默认为0，纵向连接

                 join ：选择连接方式，inner（默认）或outer

                 join_axes ：可以指定根据那个轴来对齐数据，代替join的作用

                 ignore_index：是否忽略原索引，产生一段新的索引（默认False，不忽略）

                 keys：输入一个列表，增加一个区分数据组的键，形成分层索引

 

    2.3.1 纵向拼接 / 分层索引

      contact函数默认（axis = 0）就是纵向拼接，即首尾相连

      此时我们可以通过 添加一个keys或传入字典 来区分拼接后的数据到底来自哪个表

• 语法1：contact（[ df1，df2，df3 ]，axis = 0，keys=['x', 'y', 'z']） 
• 语法2：contact（ { 'x': df1,  'y': df2,  'z': df3 }，axis = 0）

 

    2.3.2 横向拼接 / 指定拼接键

      当axis = 1的时候，concat就是行对齐，即横向合并

      我们也可以通过传入join_axes，来指定根据那个轴来对齐数据

• 语法：pd.concat ( [ df1, df4 ] , axis = 1 ,  join_axes = [df1.index] )

根据df1的index 对齐数据

    2.3.3 无视原来的index

        如果两个表的index都没有实际含义，或拼接后变得混乱，我们可以传入 ignore_index 参数来生成一个新的index 

• 语法： pd.concat ( [ df1, df4 ] , axis = 1 , ignore_index = True）

 

 2.4 联合重叠的数据 

      在数据操作中，我们经常需要去联合一些重叠的数据，进而去填补一些缺失值

 

• 方法一：np.where（condition，x，y） 等价于 x if condition else y

       语法：np.where（pd.isnull（data1），data2，data1） 

该语法相当于先判断data1中的数据是否为空值，如果为空就用data2的数据，如果不为空，就用data1的数据 

• 方法二：combine_first

       语法：data1.combine_first（data2）

改语法是逐列对df做相同的操作，可以认为是根据data2 来修补 data1的缺失值