这20个Pandas函数,堪称“数据清洗”杀手!

时间:2022-01-27 12:03:58

今天准备介绍一篇超级肝货!

Pandas 是基于NumPy 的一种工具,该工具是为解决数据分析任务而创建的。它提供了大量能使我们快速便捷地处理数据的函数和方法。

这20个Pandas函数,堪称“数据清洗”杀手!

本文介绍的这20个【被分成了15组】函数,绝对是数据处理杀手,用了你会爱不释手。

这20个Pandas函数,堪称“数据清洗”杀手!

构造数据集

这里为大家先构造一个数据集,用于为大家演示这20个函数。

  1. import pandas as pd 
  2. df ={'姓名':[' 黄同学','黄至尊','黄老邪 ','陈大美','孙尚香'], 
  3.      '英文名':['Huang tong_xue','huang zhi_zun','Huang Lao_xie','Chen Da_mei','sun shang_xiang'], 
  4.      '性别':['男','women','men','女','男'], 
  5.      '身份证':['463895200003128433','429475199912122345','420934199110102311','431085200005230122','420953199509082345'], 
  6.      '身高':['mid:175_good','low:165_bad','low:159_bad','high:180_verygood','low:172_bad'], 
  7.      '家庭住址':['湖北广水','河南信阳','广西桂林','湖北孝感','广东广州'], 
  8.      '电话号码':['13434813546','19748672895','16728613064','14561586431','19384683910'], 
  9.      '收入':['1.1万','8.5千','0.9万','6.5千','2.0万']} 
  10. df = pd.DataFrame(df) 
  11. df 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

1. cat函数

这个函数主要用于字符串的拼接;

  1. df["姓名"].str.cat(df["家庭住址"],sep='-'*3) 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

2. contains函数

这个函数主要用于判断某个字符串是否包含给定字符;

  1. df["家庭住址"].str.contains("广"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

3. startswith、endswith函数

这个函数主要用于判断某个字符串是否以...开头/结尾;

  1. # 第一个行的“ 黄伟”是以空格开头的 
  2. df["姓名"].str.startswith("黄")  
  3. df["英文名"].str.endswith("e"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

4. count函数

这个函数主要用于计算给定字符在字符串中出现的次数;

  1. df["电话号码"].str.count("3"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

5. get函数

这个函数主要用于获取指定位置的字符串;

  1. df["姓名"].str.get(-1) 
  2. df["身高"].str.split(":"
  3. df["身高"].str.split(":").str.get(0) 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

6. len函数

这个函数主要用于计算字符串长度;

  1. df["性别"].str.len() 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

7. upper、lower函数

这个函数主要用于英文大小写转换;

  1. df["英文名"].str.upper() 
  2. df["英文名"].str.lower() 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

8. pad+side参数/center函数

这个函数主要用于在字符串的左边、右边或左右两边添加给定字符;

  1. df["家庭住址"].str.pad(10,fillchar="*")      # 相当于ljust() 
  2. df["家庭住址"].str.pad(10,side="right",fillchar="*")    # 相当于rjust() 
  3. df["家庭住址"].str.center(10,fillchar="*"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

9. repeat函数

这个函数主要用于重复字符串几次;

  1. df["性别"].str.repeat(3) 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

10. slice_replace函数

这个函数主要用于使用给定的字符串,替换指定的位置的字符;

  1. df["电话号码"].str.slice_replace(4,8,"*"*4) 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

11. replace函数

这个函数主要用于将指定位置的字符,替换为给定的字符串;

  1. df["身高"].str.replace(":","-"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

这个函数还接受正则表达式,将指定位置的字符,替换为给定的字符串。

  1. df["收入"].str.replace("\d+\.\d+","正则"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

12. split方法+expand参数

这个函数主要用于将一列扩展为好几列;

  1. # 普通用法 
  2. df["身高"].str.split(":"
  3. # split方法,搭配expand参数 
  4. df[["身高描述","final身高"]] = df["身高"].str.split(":",expand=True
  5. df 
  6. # split方法搭配join方法 
  7. df["身高"].str.split(":").str.join("?"*5) 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

13. strip、rstrip、lstrip函数

这个函数主要用于去除空白符、换行符;

  1. df["姓名"].str.len() 
  2. df["姓名"] = df["姓名"].str.strip() 
  3. df["姓名"].str.len() 

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

14. findall函数

这个函数主要用于利用正则表达式,去字符串中匹配,返回查找结果的列表;

  1. df["身高"
  2. df["身高"].str.findall("[a-zA-Z]+"

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

15. extract、extractall函数

这个函数主要用于接受正则表达式,抽取匹配的字符串(一定要加上括号);

  1. df["身高"].str.extract("([a-zA-Z]+)"
  2. # extractall提取得到复合索引 
  3. df["身高"].str.extractall("([a-zA-Z]+)"
  4. # extract搭配expand参数 
  5. df["身高"].str.extract("([a-zA-Z]+).*?([a-zA-Z]+)",expand=True

效果图:

这20个Pandas函数,堪称“数据清洗”杀手!

原文地址:https://mp.weixin.qq.com/s/NAiuSjAi1ssGxCEmupkruw