总结了pandas提取数据的15种方法,统统只需1行代码,真香!

小dull鸟 python数据分析之禅 1月18日

图片

pandas是python数据分析必备工具,它有强大的数据清洗能力,往往能用非常少的代码实现较复杂的数据处理

今天,鸟哥总结了pandas筛选数据的15个常用技巧,主要包括5个知识点:

1.比较运算:==、<、>、>=、<=、!=2.范围运算:between(left,right)3.字符筛选:str.contains(pattern或字符串,na=False)4.逻辑运算:&(与)、|(或)、not(取反)5.比较函数:eq, ne, le, lt, ge, gt(相当于==,=!,<=,<,>=,>)6.apply和isin函数

下面以超市运营数据为例,给大家逐个讲解

首先读取数据:

import pandas as pd
data=pd.read_excel('超市运营数据模板.xlsx')
data

图片

先看一下各列的数据类型:

data.dtypes
商品ID             int64
类别ID int64
门店编号 object
单价 float64
销量 float64
订单ID object
日期 datetime64[ns]
时间 object
dtype: object

下面以实际应用场景为例开始讲解:

1.筛选门店编号为'CDXL'的运营数据

①第一种方法,用比较运算符‘==’:

data[data.门店编号=='CDXL']

图片

②第二种方法,用比较函数'eq':

data[data['门店编号'].eq('CDXL')]

图片

2.筛选单价小于等于10元的运营数据

③第一种方法,用比较运算符‘<=’:

data[data.单价<=10]

图片

④第二种方法,用比较函数'le':

data[data['单价'].le(10)]

图片

3.筛选销量大于2000的运营数据

⑤第一种方法,用比较运算符‘>=’:

data[data.销量>2]

图片

⑥第二种方法,用比较函数'ge':

data[data['销量'].ge(2)]

图片

4.筛选除门店'CDXL'外的运营数据

⑦第一种方法,用比较运算符‘!=’:

data[data.门店编号!='CDXL']

图片

⑧第二种方法,用比较函数'ne':

data[data['门店编号'].ne('CDXL')]

图片

5.筛选2020年5月的运营数据

首先将日期格式化:

data['日期']=data["日期"].values.astype('datetime64')  #如果已为日期格式则此步骤可省略
data['日期']
import datetime
s_date = datetime.datetime.strptime('2020-04-30''%Y-%m-%d').date()  #起始日期
e_date = datetime.datetime.strptime('2020-06-01''%Y-%m-%d').date()  #结束日期

⑨第一种方法,用逻辑运算符号'>' '<'和'&':

Pandasdatetime64[ns]不能直接与datetime.date相比,需要用pd.Timestamp进行转化

data[(data.日期>pd.Timestamp(s_date))&(data.日期<pd.Timestamp(e_date))]

图片

⑩第二种,用比较函数'gt''lt'和'&':

data[(data['日期'].lt(pd.Timestamp(e_date)))&(data['日期'].gt(pd.Timestamp(s_date)))]

图片

⑪第三种,用apply函数实现:

id_a=data.日期.apply(lambda x: x.year ==2020  and x.month==5)
data[id_a]

图片

⑫第四种,用between函数实现:

id_b=data.日期.between(pd.Timestamp(s_date),pd.Timestamp(e_date))
data[id_b]

图片

6.筛选“类别ID”包含'000'的数据

⑬第一种,用contains函数:

data['类别ID']=data['类别ID'].values.astype('str')  #将该列转换为字符数据类型
id_c=data.类别ID.str.contains('000',na=False)
data[id_c]

图片

⑭第二种,用isin函数:

id_i=data.类别ID.isin(['000'])  #接受一个列表
data[id_i]

很遗憾,isin函数搞不定,因为它只能判断该列中元素是否在列表中

7.筛选商品ID以“301”开头的运营数据

⑮需要用contains函数结合正则表达式使用:

data['商品ID']=data['商品ID'].values.astype('str')  #将该列转换为字符数据类型
id_c2=data.商品ID.str.contains('301\d{5}',na=False)
data[id_c2]

图片

如果觉得文章写的不错,请点个“在看”支持一下鸟哥!



本文数据及代码已打包,请在后台回复“筛选数据”获取。

最后,为了方便大家学习,鸟哥给大家准备一份pandas视频教程。这套视频即生动有趣,又通俗易懂,而且是高清视频,非常适合pandas学习者,总共30个课时,而且附带源码和数据素材,已经给大家打包准备好,获取方式如下:

获取视频:

1.扫码下面的公众号

2.输入:pandas

图片

长按输入:pandas







图片
更多推荐


用同事电脑登了一次百度账号,搜索框就被他用python监控了,我哭了

Python爬取所有人位置信息,制作任意区域人流量显示图

太强了,1行python代码干了妹子一天的工作

好看的 BI 大屏, Pyecharts 也可以做

24个简单、好看到极致的可视化图表,瞬间让老板看傻!

爱了爱了,三步就能做出可视化大屏的python工具,真香!

python分析10万条基金数据,探索基金定投的奥秘

python做的交互式动态大图,真漂亮!


    收录于话题 #自动化办公
    10
    上一篇 再见excel,pandas实现表格最常用的10个函数 下一篇 装上后这 14 个插件后,PyCharm 真的是无敌的存在
    阅读原文

    微信扫一扫
    关注该公众号