Pandas之Dropna滤除缺失数据

时间:2023-03-09 13:24:22
Pandas之Dropna滤除缺失数据
import pandas as pd
import numpy as np
from numpy import nan as NaN

一、处理Series对象

  • 通过dropna()滤除缺失数据
from numpy import nan as NaN
se1=pd.Series([4,NaN,8,NaN,5])
print(se1)
se1.dropna()

结果如下:

0    4.0
1 NaN
2 8.0
3 NaN
4 5.0
dtype: float64 0 4.0
1 NaN
2 8.0
3 NaN
4 5.0
dtype: float64
  • 通过布尔序列也能滤除:
se1[se1.notnull()]

结果如下:

0    4.0
2 8.0
4 5.0
dtype: float64

二、处理DataFrame对象

处理DataFrame对象比较复杂,因为你可能需要丢弃所有的NaN或部分NaN

df1=pd.DataFrame([[1,2,3],[NaN,NaN,2],[NaN,NaN,NaN],[8,8,NaN]])
print(df1)

结果如下:

     0    1    2
0 1.0 2.0 3.0
1 NaN NaN 2.0
2 NaN NaN NaN
3 8.0 8.0 NaN
  • 默认滤除所有包含NaN:
df1.dropna()

结果如下

     0    1    2
0 1.0 2.0 3.0
1 NaN NaN 2.0
2 NaN NaN NaN
3 8.0 8.0 NaN
  • 传入how=’all’滤除全为NaN的行
df1.dropna(how='all')

结果如下

     0    1    2
0 1.0 2.0 3.0
1 NaN NaN 2.0
2 NaN NaN NaN
3 8.0 8.0 NaN
  • 传入axis=1滤除列
df1[3]=NaN
df1

结果如下

     0    1    2   3
0 1.0 2.0 3.0 NaN
1 NaN NaN 2.0 NaN
2 NaN NaN NaN NaN
3 8.0 8.0 NaN NaN
df1.dropna(axis=1,how="all")

结果如下

     0    1    2
0 1.0 2.0 3.0
1 NaN NaN 2.0
2 NaN NaN NaN
3 8.0 8.0 NaN
  • 传入thresh=n滤除n行
df1.dropna(thresh=1)

结果如下

0	1	2	3
0 1.0 2.0 3.0 NaN
1 NaN NaN 2.0 NaN
3 8.0 8.0 NaN NaN
df1.dropna(thresh=3)

结果如下

	  0	 1	 2 	  3
0 1.0 2.0 3.0 NaN