Pandas

Pandas是一个Python语言的开源软件库，用于数据分析，可以方便对数据进行处理、计算、分析、存储及可视化。

简介

时间轴

• 2008年，开发者Wes McKinney在AQR Capital Management开始制作pandas来满足在财务数据上进行定量分析对高性能、灵活工具的需要。在离开AQR之前他说服管理者允许他将这个库开放源代码。
• 2011年10月24日，发布Pandas 0.5
• 2012年，另一个AQR雇员Chang She加入了这项努力并成为这个库的第二个主要贡献者。
• 2015年，Pandas签约了NumFOCUS的一个财务赞助项目，它是美国的501(c)(3)非营利慈善团体。
• 2019年7月18日，发布Pandas 0.25.0
• 2020年1月29日，发布Pandas 1.0.0
• 2020年7月2日，发布Pandas 1.3.0

了解更多 >> Pandas 发布日志 Pandas Github：发行

安装和升级

使用pip安装Pandas，如果使用的是Anaconda等计算科学软件包，已经包含了pandas库。

pip install pandas   #安装最新版本
pip install pandas==0.25.0  #安装特定版本

验证是否安装好，可以导入Pandas，使用__version__属性查看Pandas版本：

import pandas as pd

pd.__version__

升级：

pip install --upgrade pandas

了解更多 >> Pandas 开始：安装

数据结构

pandas定义了2种数据类型，Series和DataFrame，大部分操作都在这两种数据类型上进行。

了解更多 >> Pandas 用户指南：数据结构

Series

Series是一个有轴标签（索引）的一维数组，能够保存任何数据类型（整数，字符串，浮点数，Python对象等）。轴标签称为index。和Python字典类似。

创建Series的基本方法为，使用pandas.Series类新建一个Series对象，格式如下：

pandas.Series(data=None, index=None, dtype=None, name=None, copy=False, fastpath=False)

轴标签index不是必须，如果省略，轴标签默认为从0开始的整数数组。一些示例如下：

s = pd.Series(["foo", "bar", "foba"])
print(type(s))   #<class 'pandas.core.series.Series'>

s2 = pd.Series(["foo", "bar", "foba"], index=['b','d','c'])

# 创建日期索引
date_index = pd.date_range("2020-01-01", periods=3, freq="D")
s3 = pd.Series(["foo", "bar", "foba"], index=date_index)

了解更多 >> Pandas 用户指南：Series Pandas API：Series

DataFrame

DataFrame是有标记的二维的数据结构，具有可能不同类型的列。由数据，行标签（索引，index），列标签（列，columns）构成。类似电子表格或SQL表或Series对象的字典。它通常是最常用的Pandas对象。

创建DataFrame对象有多种方法：

• 使用pandas.DataFrame()构造方法
• 使用pandas.DataFrame.from_dict()方法，类似构造方法
• 使用pandas.DataFrame.from_records()方法，类似构造方法
• 使用函数从导入文件创建，如使用pandas.read_csv()函数导入csv文件创建一个DataFrame对象。

构造方法pandas.DataFrame()的格式为：

pandas.DataFrame(data=None, index=None, columns=None, dtype=None, copy=False)

示例：

df = pd.DataFrame([['foo', 22], ['bar', 25], ['test', 18]],columns=['name', 'age'])

了解更多 >> Pandas 用户指南：DataFrame Pandas API：DataFrame

查看数据

表示例中s为一个Series对象，df为一个DataFrame对象：

>>> s = pd.Series(['a', 'b', 'c'])
>>> s
0    a
1    b
2    c
dtype: object

>>> df = pd.DataFrame([['foo', 22], ['bar', 25], ['test', 18]],columns=['name', 'age'])
>>> df

属性/方法	描述	支持对象	示例
head()	返回前n行数据，默认前5行	Series DataFrame	df.head()返回df前5行数据 df.head(10)返回df前10行数据。
tail()	返回最后n行数据，默认最后5行	Series DataFrame	df.tail()返回df最后5行数据 df.tail(10)返回df最后10行数据。
dtypes	返回数据的Numpy数据类型（dtype对象）	Series DataFrame	s.dtypes df.dtypes
dtype	返回数据的Numpy数据类型（dtype对象）	Series	s.dtype
array	返回 Series 或 Index 数据的数组，该数组为pangdas扩展的python数组.	Series	s.array 返回：<PandasArray> ['a', 'b', 'c'] Length: 3, dtype: object
attrs	此对象全局属性字典。	Series DataFrame	s.attrs返回{}
hasnans	如果有任何空值（如Python的None，np.NaN）返回True，否则返回False。	Series	s.hasnans 返回False
values	返回ndarray（NumPy的多维数组）或类似ndarray的形式。	Series DataFrame	s.values返回array(['a', 'b', 'c'], dtype=object)
ndim	返回数据的维数，Series返回1，DataFrame返回2	Series DataFrame	s.ndim返回1 df.ndim返回2
size	返回数据中元素的个数	Series DataFrame	s.size返回3 df.ndim返回6
shape	返回数据形状（行数和列数）的元组	Series DataFrame	s.shape返回(3, ) df.shape返回(3, 2)
empty	返回是否为空，为空返回Ture	Series DataFrame	s.empty返回False df.empty返回False
name	返回Series的名称。	Series	s.name返回空
memory_usage()	返回Series或DataFrame的内存使用情况，单位Bytes。参数index默认为True，表示包含index。 参数deep默认为False，表示不通过查询dtypes对象来深入了解数据的系统级内存使用情况	Series DataFrame	s.memory_usage()返回空152 df.memory_usage(index=False)
info()	打印DataFrame的简要信息。	DataFrame	df.info()
select_dtypes()	根据列的dtypes返回符合条件的DataFrame子集	DataFrame	df.select_dtypes(include=['float64'])

索引

查看索引

属性/方法	描述	支持对象	示例
index	索引（行标签），可以查看和设置	Series DataFrame	s.index返回RangeIndex(start=0, stop=3, step=1) s.index[0] 返回第一个索引值 df.index
columns	列标签，Series无，可以查看和设置	DataFrame	df.columns
keys()	列标签，没有就返回索引	Series DataFrame	df.keys()返回列标签
axes	返回轴标签（行标签和列标签）的列表。 Series返回[index] DataFrame返回[index, columns]	Series DataFrame	s.axes返回[RangeIndex(start=0, stop=3, step=1)] df.axes返回索引和列名。
idxmax()	返回第一次出现最大值的索引位置。	Series DataFrame	df.idxmax()
idxmin()	返回第一次出现最小值的索引位置。	Series DataFrame	s.idxmin()

设置与重置索引

Series对象和DataFrame对象可以通过.index或.columns属性设置，还可以通过以下方法来设置与重置。

属性/方法	描述	支持对象	示例
set_index()	将某列设置为索引	DataFrame	df.set_index('col_3')将‘col_3’列设置为索引。
reset_index()	重置索引，默认从0开始整数。参数： drop是否删除原索引，默认不删除 level重置多索引的一个或多个级别。	Series DataFrame
reindex()	用Series或DataFrame匹配新索引。对于新索引有旧索引无的默认使用NaN填充，新索引无旧索引有的删除。	Series DataFrame
reindex_like()	Return an object with matching indices as other object.	Series DataFrame
rename()	修改轴（索引或列）标签。	Series DataFrame Index	df.rename(columns={"date": "日期", "A": "a"}) 修改部分列名 df.rename(index={0: "x", 1: "y", 2: "z"}) 将原来索引012修改为xyz df.rename(index=str) 将索引转换为字符串 df.rename(str.lower, axis='columns')列名小写
rename_axis()	Set the name of the axis for the index or columns.	Series DataFrame
set_axis()	Assign desired index to given axis.	Series DataFrame	df.set_axis(['a', 'b', 'c'], axis='index') df.set_axis(['I', 'II'], axis='columns')
add_prefix()	索引或列标签添加前缀	Series DataFrame	s.add_prefix('item_') df.add_prefix('col_')
add_suffix()	索引或列标签添加后缀	Series DataFrame

多层索引

属性/方法	描述	函数	示例
MultiIndex.from_arrays()	创建多层索引	pandas.MultiIndex.from_arrays(arrays, sortorder=None, names=NoDefault.no_default)	arrays = [['手机', '手机', '手机', '电脑'], ['黑色', '白色', '灰色', '黑色']] pd.MultiIndex.from_arrays(arrays, names=('类别', '颜色'))
MultiIndex.from_tuples()	创建多层索引
MultiIndex.from_product()	创建多层索引
MultiIndex.from_frame()	创建多层索引

了解更多 >> Pandas 用户指南：MultiIndex / advanced indexing

选取与迭代

概览

方法	描述	示例
索引运算符 [ ]	Python中序列对象使用self[key]是在调用对象的特殊方法__getitem__() 。Python运算符[ ]有3种通用序列操作： self[i] 取第i项(起始为0) self[i:j] 从 i 到 j 的切片 self[i:j:k] s 从 i 到 j 步长为 k 的切片 Pandas支持NumPy扩展的一些操作： self[布尔索引]，如s[s>5]	s[1] 取s的第二个值 df[1:-1]切片，返回df第二行到倒数第二行组成的DataFrame对象
属性运算符 .	同Python字典属性获取	df.a返回df的名称为a的列
按标签选择 loc[ ]	通过对象调用.loc属性生成序列对象，序列对象调用索引运算符[]。	df.loc[2]选取索引（行标签）值为2的行 df.loc[1:2] 选取索引值为1到2的行 df.loc[[1,2]]选取索引值为1和2的行 df.loc[1,'name']选取行标签值为1，列标签值为'name'的单个值 df.loc[[1:2],'name']选取行标签值为1到2，列标签值为'name'的数据
按位置选择 iloc[ ]	纯粹基于整数位置的索引方法，通过对象调用.iloc属性生成序列对象，然后序列对象调用索引运算符[]。	s.iloc[2]选取行标签位置为2的行 s.iloc[:2] 选取索引为0到2（不包含2）的值 s.iloc[[True,False,True]]选取索引位置为True的值 s.iloc[lambda x: x.index % 2 == 0]选取索引为双数的值
按标签选择单个 at[ ]	通过行轴和列轴标签对获取或设置单个值。	s.at[1]返回'b' s.at[2]='d'设置索引位置为第三的值等于'd' df.at[2, 'name']'获取index=2，columns='name'点的值
按位置选择单个 iat[ ]	通过行轴和列轴整数位置获取或设置单个值。	s.iat[1] s.iat[2]='d'
查询方法 query()	DataFrame对象query()方法，使用表达式进行选择。 DataFrame.query(expr, inplace=False, **kwargs)	df.query('A > B')相当于df[df.A > df.B]
通过行列标签筛选 filter()	通过行列标签筛选 Series.filter(items=None, like=None, regex=None, axis=None) DataFrame.filter(items=None, like=None, regex=None, axis=None)	df.filter(like='bbi', axis=0)选取行标签包含'bbi'的行。
多索引选择 xs()	只能用于选择数据，不能设置值。可以使用iloc[ ]或loc[ ]替换。 Series.xs(key, axis=0, level=None, drop_level=True) DataFrame.xs(key, axis=0, level=None, drop_level=True)	df.xs('a', level=1)
选择一列 get()	选择某一列 Series.get(key, default=None) DataFrame.get(key, default=None)	df.get('a')返回a列
选择指定标签列并删除 pop()	返回某一列，并从数据中删除，如果列名没找到抛出KeyError。 Series.pop(item) DataFrame.pop(item)	df.pop('a')返回a列并从df中删除。
删除指定标签列 drop()	返回删除指定标签列后的数据 Series.drop(labels=None, axis=0, index=None, columns=None, level=None, inplace=False, errors='raise') DataFrame.drop(labels=None, axis=0, index=None, columns=None, level=None, inplace=False, errors='raise')
抽样 sample()	返回抽样数据 Series.sample(n=None, frac=None, replace=False, weights=None, random_state=None, axis=None) DataFrame.sample(n=None, frac=None, replace=False, weights=None, random_state=None, axis=None)

了解更多 >> Pandas 指南：索引与选择数据 Python 3 文档：序列类型 - 通用序列操作 Python 3 文档：数据模型 - 特殊方法名称 NumPy 文档：初学者基础知识 - 索引和切片

按标签选择

pandas提供基于标签的索引方法，通过对象调用.loc属性生成序列对象，序列对象调用索引运算符[]。该方法严格要求，每个标签都必须在索引中，否则会抛出KeyError错误。切片时，如果索引中存在起始边界和终止边界，则都将包括在内。整数是有效的标签，但它们引用的是标签，而不是位置（索引顺序）。

.loc索引输入值	描述	Series示例	DataFrame示例
单个标签	例如5或'a'（注意，5被解释为索引的标签，而不是整数位置。）	s.loc['a'] 返回s索引为'a'的值	df.loc['b'] 返回df索引（行标签）为'b'的行（Series对象）
标签列表或标签数组	如['a', 'c']（注意：这种方式会有两组方括号[[]]，里面是生成列表，外面是索引取值操作）	s.loc[['a', 'c']]返回s索引为'a'和'c'的值（Series对象）	df.loc[['a', 'c']]返回df索引（行标签）为'a'和'c'的行（DataFrame对象）
带标签的切片对象	切片如 'a':'f'表示标签'a'到标签'f'，步长切片如 'a':'f':2表示标签'a'到标签'f'按步长2选取（注意：和Python切片不同，这里包含开始标签和结束标签），还有一些常用示例如： 'f':从标签'f'开始到最后 :'f'从最开始到标签'f' :全部标签	s.loc[a:c] 返回s索引'a'到'c'的值	df.loc[b:f] 返回df索引（行标签）'b'到'f'的行（DataFrame对象）
行标签,列标签	只有DataFrame可用，格式行标签,列标签，行标签或列标签可以使用切片或数组等。	−	df.loc['a','name']选取索引为'a'，列标签为'name'的单个值。 df.loc['a':'c','name' ]返回Series对象 df.loc['a':'c','id':'name' ]返回DataFrame对象
布尔数组	如[True, False, True]。注意布尔数组长度要与轴标签长度相同，否则会抛出IndexError错误。	s.loc[[True, False, True]] 返回s的第1个和第3个值	df.loc[[False, True, True]] 返回df的第2行和第3行
callable function	会返回上面的一种索引形式

了解更多 >> Pandas 指南：索引与选择数据 - 按标签选择 Pandas 参考：DataFrame对象 - DataFrame.loc Pandas 参考：Series对象 - Series.loc

按位置选择

pandas还提供纯粹基于整数位置的索引方法，通过对象调用.iloc属性生成序列对象，然后序列对象调用索引运算符[]。尝试使用非整数，即使有效标签也会引发IndexError。索引是从0开始的整数。切片时，包含起始索引，不包含结束索引。

.iloc索引输入值	描述	Series示例	DataFrame示例
单个整数	例如3	s.iloc[0] 返回s位置索引为0的值，即第一值	df.iloc[5] 返回df索引为5的行（Series对象），即df的第六行的
整数列表或数组	如[0,5]（注意：这种方式会有两组方括号[[]]，里面是生成列表，外面是索引取值操作）	s.iloc[[0,5]]返回s索引为0和5的值（Series对象）	df.iloc[[2,5]]返回df索引为2和5的行（DataFrame对象）
带标签的切片对象	切片如 3:5表示索引3到索引5，步长切片如 0:5:2表示索引0到索引5按步长2选取，还有一些常用示例如： 2:从索引2开始到最后 :6从最开始到索引6 :全部索引	s.iloc[3:5] 返回s索引3到索引5的值	df.iloc[3:5] 返回df索引3到索引5的行（DataFrame对象）
行位置索引,列位置索引	只有DataFrame可用，格式行位置索引,列位置索引，行位置或列位置可以使用切片或数组等。	−	df.iloc[0, 2]选取第1行第3列的单个值。 df.iloc[2:5, 6 ]返回第3行到5行中的第7列（Series对象） df.iloc[2:5, 0:2 ]返回Data第3行到5行中的第1列到第2列（Frame对象）
布尔数组	如[True, False, True]。注意布尔数组长度要与轴标签长度相同，否则会抛出IndexError错误。	s.iloc[[True, False, True]] 返回s的第1个和第3个值	df.iloc[[False, True, True]] 返回df的第2行和第3行
callable function	会返回上面的一种索引形式

了解更多 >> Pandas 指南：索引与选择数据 - 按位置选择 Pandas 参考：DataFrame对象 - DataFrame.iloc Pandas 参考：Series对象 - Series.iloc

迭代

属性/方法	描述	示例
__iter__()	Series返回值的迭代器 DataFrame返回轴的迭代器 Series.__iter__() DataFrame.__iter__()	s.__iter__()
items()	Series遍历，返回索引和值的迭代器 DataFrame按列遍历，返回列标签和列的Series对迭代器。 Series.items() DataFrame.__iter__()	s.items() df.items() for label, content in df.items():
iteritems()	返回可迭代的键值对，Series返回索引和值，DataFrame返回列名和列。 Series.iteritems() DataFrame.iteritems()
iterrows()	Iterate over DataFrame rows as (index, Series) pairs. DataFrame.iterrows()
itertuples()	DataFrame.itertuples(index=True, name='Pandas')
apply()	也可以使用apply()	打印每一列： def test(x): print(x) df.apply(test) 打印每一行的price： def test(x): print(x['price']) df.apply(test, axis=1)

处理

重复数据

如果要标识或删除重复的行，可以使用duplicated和drop_duplicates方法。

方法	描述	不同对象的方法	示例
duplicated	标识重复行，返回一个布尔值序列。参数： keep：默认为keep='first'标记第一次出现的重复项为False，其他都为Ture。keep='last'标记最后出现的重复项为False，其他都为Ture。keep=False标记所有重复项为Ture。
drop_duplicates	删除重复行，返回删除后的对象。参数： keep：默认为keep='first'保留第一次出现的重复项，其他都删除。keep='last'保留最后出现的重复项，其他都删除。keep=False重复项都删除。	Series.drop_duplicates(keep='first', inplace=False) DataFrame.drop_duplicates(subset=None, keep='first', inplace=False, ignore_index=False) Index.drop_duplicates(keep='first')	df.drop_duplicates()删除df中所有列的值都相同的行。 df.drop_duplicates(['日期', '品种'])删除df中日期和品种列都相同的行

了解更多 >> Pandas 指南：索引和数据选择 - 重复数据 Pandas 参考：DataFrame.drop_duplicates

缺失值 NA

名称	描述	示例
缺失值表示	NaN，Python的float类型，可以使用float('nan')创建，NaN是not a number的缩写。Numpy中的np.nan一样是Python的float类型，np.NaN和np.NAN是别名。 pandas使用其用来表示缺失值。 None，Python一种数据类型（NoneType） NA， Pandas 1.0开始实验的使用该类型来表示缺失值。 NaT
判断缺失值	NaN类型缺失值是浮点数，不能直接比较。 pd.isnull()，判断单个值， pd.isna() 判断单个值 df.isnull()、s.isnull() 判断DataFrame或Series空值，返回每个值是否空值 df.isnull().any()、s..isnull().any() 返回布尔值，是否有空值	pd.isna(pd.NA)
填充缺失值	fillna()，填充缺失值 常用参数：method pad或ffill向前填充，backfill或bfill向后填充	fillna(0)缺失值填充0 df.fillna(method="pad")缺失值向前填充 df.fillna(method="pad", limit=1)缺失值向前填充，但限制1次
	dropna()

了解更多 >> Pandas 指南：处理缺失数据 Numpy API：numpy.nan

类型转换

了解更多 >> Pandas 指南：基础 - dtypes Numpy 参考：标量 Numpy 参考：数据类型对象(dtype) Pandas 参考：DataFrame.astype

文本数据

Series和Index配备了一组字符串处理方法，这些方法使您可以轻松地对数组的每个元素进行操作。也许最重要的是，这些方法会自动排除丢失/ NA值。这些可以通过str属性访问。

方法	描述	示例
upper( )	字符串全部大写	s.str.upper( )s字符串全部转为大写
lower( )	字符串全部小写	s.str.lower( )s字符串全部转为小写 df.columns.str.lower()df的列索引全部转为小写
strip() lstrip() rstrip()	删除字符串开始和结束位置某些字符，默认删除空格。 lstrip()删除左边，rstrip()删除右边	s.str.strip删除s两端的空格。 s.str.lstrip( ) 删除开始位置的所有空格。 s.str.lstrip('12345.') 删除s开始位置包含'12345.'中任意的字符，如'1.开始'返回'开始'。 s.str.rstrip( ) 删除字符串结束位置的所有空格。 s.str.rstrip('\n\t')删除字符串后面的'\n'或'\t'
split() rsplit()	字符拆分。 rsplit()从结束位置开始拆分。参数： pat：拆分依据，字符串或正则表达式，默认空格。 n：拆分次数，默认全部拆分。 expand：是否将拆分的每一组展开为一列，默认不展开。	s.str.split()s按空格全部拆分。 s.str.split('/', n=2)s按'/'拆分，且只拆前面两个'/'。 s.str.split('/', n=2, expand=True)拆分后并按组展开列。 s.str.rsplit('/', n=2)s按'/'拆分，且只拆最后两个'/'。
contains( )	测试字符串是否包含在序列中，默认使用正则表达式。 na如果有空值，需要使用na参数指定空值为True或False，否者会报错误：ValueError: Cannot mask with non-boolean array containing NA / NaN values	df['code'].str.contains('TC', na=False) code列是否包含'TC'，遇到Nan值为False，返回值是bool的序列。 df[df['code'].str.contains('TC', na=False)] 筛选出df的'code'列中包含'TC'的行 s.str.contains('TC',regex=False ) 仅使用文字模式，测试是否包含'TC'
match( )	从开头位置测试是否匹配正则表达式，返回值是bool的序列。 contains()在字符串中间位置匹配也会返回True，而match()需要从字符串开始位置匹配。	AF') s中是否以'abc'或'AF'开头。
replace()	替换，默认使用正则表达式。参数：	s.str.replace('f.', 'ba', regex=False) 将s列中的'f.'替换成'ba'。
extract( )	提取，正则表达式匹配到的分组。
extractall( )	Extract capture groups in the regex pat as columns in DataFrame.
findall( )	Find all occurrences of pattern or regular expression in the Series/Index.
cat( )	Concatenate strings in the Series/Index with given separator.
center( )	Pad left and right side of strings in the Series/Index.
count( )	Count occurrences of pattern in each string of the Series/Index.
decode()	Decode character string in the Series/Index using indicated encoding.
encode( )	Encode character string in the Series/Index using indicated encoding.
endswith( )	Test if the end of each string element matches a pattern.
find( )	Return lowest indexes in each strings in the Series/Index.
get(i)	Extract element from each component at specified position.
index( )	Return lowest indexes in each string in Series/Index.
join( )	Join lists contained as elements in the Series/Index with passed delimiter.
len( )	Compute the length of each element in the Series/Index.
ljust( )	Pad right side of strings in the Series/Index.
normalize( )	Return the Unicode normal form for the strings in the Series/Index.
pad( )	Pad strings in the Series/Index up to width.
partition( )	Split the string at the first occurrence of sep.
repeat( )	Duplicate each string in the Series or Index.
rfind( )	Return highest indexes in each strings in the Series/Index.
rindex( )	Return highest indexes in each string in Series/Index.
rjust( )	Pad left side of strings in the Series/Index.
rpartition( )	Split the string at the last occurrence of sep.
slice()	Slice substrings from each element in the Series or Index.
slice_replace( )	Replace a positional slice of a string with another value.
startswith( )	Test if the start of each string element matches a pattern.
swapcase( )	Convert strings in the Series/Index to be swapcased.
title( )	Convert strings in the Series/Index to titlecase.
translate( )	Map all characters in the string through the given mapping table.
wrap( )	Wrap strings in Series/Index at specified line width.
zfill( )	Pad strings in the Series/Index by prepending ‘0’ characters.
isalnum( )	Check whether all characters in each string are alphanumeric.
isalpha( )	Check whether all characters in each string are alphabetic.
isdigit( )	Check whether all characters in each string are digits.
isspace( )	Check whether all characters in each string are whitespace.
islower( )	Check whether all characters in each string are lowercase.
isupper( )	Check whether all characters in each string are uppercase.
istitle( )	Check whether all characters in each string are titlecase.
isnumeric( )	Check whether all characters in each string are numeric.
isdecimal( )	Check whether all characters in each string are decimal.
get_dummies( )	Return DataFrame of dummy/indicator variables for Series.
capitalize( )	转为首字母大写，其余全部小写的字符串	s.str.capitalize()
casefold( )	全部小写	s.str.casefold()

数据转换

方法或属性	描述	格式	示例
replace()	替换。参数： to_replace 需要替换，可以是1.字符串，数字，正则表达式。 2.列表，其值为1中的标量，当替换值与需要替换个数相等按顺序替换，替换值只有一个则全部替换为该值。3字典。 value 替换值 inplace 是否在原数据上保存修改，默认否	Series.replace(to_replace=None, value=None, inplace=False, limit=None, regex=False, method='pad') DataFrame.replace(to_replace=None, value=None, inplace=False, limit=None, regex=False, method='pad')	df.replace(0, 5) 将df中0替换为5 df.replace([1, 2, 3], 0)将df中1,2,3替换为0 df.replace([1, 2, 3], [3, 2, 1])将df中1,2,3替换为3,2,1
apply()	在行或列上应用函数，可以使用聚合函数或简单转换函数。参数： func 处理函数，可以是Python函数（自定义函数，lambda函数），或NumPy ufunc函数（如np.mean），或函数名（如'mean'） axis 轴，默认axis=0表示在每一列上应用函数，axis=1表示在每行上应用函数。	Series.apply(func, convert_dtype=True, args=(), **kwargs) DataFrame.apply(func, axis=0, raw=False, result_type=None, args=(), **kwargs)	df.apply(np.mean)返回df每列的平均值。 df.apply(np.mean, axis=1)返回df每行的平均值。 df.apply(lambda x:x['价格']+100, , axis =1)返回一个series，价格列每个值+100 df.apply(lambda x:x+100)df每个元素值+100。 df.apply(myfunc)其中myfunc是自定义函数，按照myfunc函数处理返回结果。 df.apply(['mean', 'sum'])返回df每列的平均值和每列总和。
applymap()	在每个元素上应用函数。使用聚合函数没有意义。	Series无 DataFrame.applymap(func, na_action=None, **kwargs)	df.applymap(lambda x:x+100)df每个元素值+100。
agg() aggregate()	聚合，在行或列上使用一项或多项操作进行汇总。	Series.aggregate(func=None, axis=0, *args, **kwargs) DataFrame.aggregate(func=None, axis=0, *args, **kwargs)	df.agg(np.mean)返回df每列的平均值 df.agg([np.mean, np.sum])返回df每列的平均值和每列总和。 df.agg({'A' : [np.mean, np.sum], 'B' : ['mean', 'max']}) A列计算平均值和总和，B列计算平均值和最大值。
transform()	在行或列上使用一项或多项操作。转化前和转化后形状要一样，不能使用聚合函数。	Series.transform(func, axis=0, *args, **kwargs) DataFrame.transform(func, axis=0, *args, **kwargs)
pipe()	将自身（Series，DataFrame）传给函数并返回结果，用于在链中调用函数。如df.pipe(myfunc, a=100)就相当于myfunc(df, a=100)	Series.pipe(func, *args, **kwargs) DataFrame.pipe(func, *args, **kwargs)	df.agg(['mean', 'sum']).pip(my_table_style, theme='light')数据汇总后再传入自定义的my_table_style()函数进行处理。

了解更多 >> pandas 用户指南：基础功能 - 函数应用 pandas API：DataFrame - 函数应用、GroupBy和窗口函数

重塑

方法或属性	描述	格式	示例
T	转置，即行列互换。Series转置后不变。	Series.T DataFrame.T	df.Tdf的行变列，列变行。
stack	堆叠，将列索引转为行索引。对于多层列索引的DataFrame数据改变形状有用， 当为一层列索引的DataFrame堆叠后变为Series。 参数：level 索引级别，可为正数或列表。默认level=- 1表示最后一层列索引，即最里层索引。level=0表示第一层索引。	Series无 DataFrame.stack(level=- 1, dropna=True)	df.stack() 将最后一层列索引堆叠到行索引上 df.stack(0) 将第一层列索引堆叠到行索引上 df.stack([0, 1]) 将第一层和第二层列索引堆叠到行索引上
unstack	不堆叠，将行索引转为列索引。	Series.unstack(level=- 1, fill_value=None) DataFrame.unstack(level=- 1, fill_value=None)	df.unstack() 将最后一层行索引转到列索引上。 df.unstack(0) 将第一层行索引转到列索引上。
pivot	透视，通过指定的行或列的值来重塑。	DataFrame.pivot(index=None, columns=None, values=None)	df.pivot(index='col_1', columns='col_2', values='col_3') 将col_1作为索引，col_2作为列标签，col_3作为值。

了解更多 >> pandas 用户指南：重塑与数据透视 pandas API：Series - 重塑和排序 pandas API：DataFrame - 重塑和排序

排序

方法或属性	描述	格式	示例
sort_values()	值按行或列排序。 参数： axis：按行还是列排序，默认axis=0表示按列排序，axis=1表示按行排序 by ascending 是否升序，默认ascending=True表示升序，ascending=False表示降序。	Series.sort_values(axis=0, ascending=True, inplace=False, kind='quicksort', na_position='last', ignore_index=False, key=None) DataFrame.sort_values(by, axis=0, ascending=True, inplace=False, kind='quicksort', na_position='last', ignore_index=False, key=None)	s.sort_values()按s的值升序排列 df.sort_values(by='col_1') df按col_1列的值升序排序 df.sort_values(by=['col_1', 'col_2'], ascending=False) df按col_1列的值降序排列，相同时再按col_2值降序。
sort_index()	行标签或列标签排序。	Series.sort_index(axis=0, level=None, ascending=True, inplace=False, kind='quicksort', na_position='last', sort_remaining=True, ignore_index=False, key=None) DataFrame.sort_index(axis=0, level=None, ascending=True, inplace=False, kind='quicksort', na_position='last', sort_remaining=True, ignore_index=False, key=None)	s.sort_index()按s的索引升序排列 df.sort_values(by='col_1') df按col_1列的值升序排序
nlargest()	返回前n个最大的元素。等效df.sort_values(columns, ascending=False).head(n)，但性能好点。	Series.nlargest(n=5, keep='first') DataFrame.nlargest(n, columns, keep='first')	df.nlargest(5, 'col_1') 返回col_1列降序后前5行。
nsmallest()	返回前n个最小的元素。	Series.nlargest(n=5, keep='first') DataFrame.nsmallest(n, columns, keep='first')	df.nsmallest(10,columns='col_2') 返回col_2列升序后前5行。

了解更多 >> pandas API：Series - 重塑和排序 pandas API：DataFrame - 重塑和排序

合并

方法	描述	对象的方法	示例
concat()	沿指定轴合并Series或DataFrame。 参数： objs,由Series或DataFrame组成的列表或字典。 axis，指定轴{0，1，…}，默认为axis=0表示沿行标签合并，axis=1表示沿列标签合并。 join, {'inner','outer'}，默认'outer'表示沿轴取并集，'inner'沿轴取交集。 ignore_index，布尔值，默认为False表示使用轴原来的标签（索引），True表示原来轴标签都不用，使用0开始递增的整数。 keys，列表，默认无。使用列表在轴标签（索引）外层再构造一层标签（索引）。	pandas.concat(    objs,    axis=0,    join='outer',    ignore_index=False,    keys=None,    levels=None,    names=None,    verify_integrity=False,    sort=False,    copy=True )	pd.concat([df1,df2])沿行标签合并 pd.concat([df1, df4], axis=1)沿列标签合并 pd.concat([df1,df2,df3], keys=["x", "y", "z"])按行标签合并，并再添加一层行标签(由x,y,z组成)。对结果调用loc["y"]可选取df2数据 pd.concat([df1, df4], axis=1, join="inner")沿列标签取交集合并 pd.concat([s1, s2, s3], axis=1, keys=["time", "code", "price"])
append()	加入，Series的append方法用于连接多个Series。DataFrame的append方法用于从其他DataFrame对象加入多行，并返回一个新的DataFrame对象。	Series.append(to_append, ignore_index=False, verify_integrity=False) DataFrame.append(other, ignore_index=False, verify_integrity=False, sort=False)	s1.append(s2)s1后加入s2 df1.append(df2)df1后加入df2，返回加入后的DataFrame对象。 df1.append(df2, ignore_index=True) 忽略原来行标签，结果为从0开始递增的整数。
merge()	将DataFrame或命名的Series合并，与数据库join操作类似。 参数： left，DataFrame或命名的Series对象。 right，另一个DataFrame或命名的Series对象。 how 连接方式，{‘left’, ‘right’, ‘outer’, ‘inner’, ‘cross’}， 默认‘inner’ on，连接的条件，要连接的列或索引级别名称，左右列名要相同。 left_on right_on 连接的条件，列名不同时可以分开指定。	pandas.merge(    left,    right,    how='inner',    on=None,    left_on=None,    right_on=None,    left_index=False,    right_index=False,    sort=False,    suffixes=('_x', '_y'),    copy=True,    indicator=False,    validate=None    )	pd.merge(df1, df2, how='left', on=["年", "月"], suffixes=("_左", "_右"),) df1.merge(df2, left_on='lkey', right_on='rkey')
join()	连接另一个DataFrame的多列。	DataFrame.join(other, on=None, how='left', lsuffix=, rsuffix=, sort=False)
merge_ordered()
merge_asof()
assign()	Assign new columns to a DataFrame.	DataFrame.assign(**kwargs)
update()	Modify in place using non-NA values from another DataFrame.	Series.update(other) DataFrame.update(other, join='left', overwrite=True, filter_func=None, errors='ignore')
insert()	在指定位置插入列。	DataFrame.insert(loc, column, value, allow_duplicates=False)

了解更多 >> pandas 用户指南：合并、加入、连接和比较 pandas API：DataFrame 合并/比较/加入/合并 pandas API：Series 合并/比较/加入/合并

比较

属性/方法	描述	Series	DataFrame	示例
compare()	比较两个Series或DataFrame差异并返回，V1.1.0新增。	Series.compare(other, align_axis=1, keep_shape=False, keep_equal=False)	DataFrame.compare(other, align_axis=1, keep_shape=False, keep_equal=False)	s1.compare(s2) df.compare(df2)
isin()	Whether each element in the Series/DataFrame is contained in values.	Series.isin(values)	DataFrame.isin(values)
equals()	Test whether two objects contain the same elements.	Series.equals(other)	DataFrame.equals(other)	df.equals(df2)

了解更多 >> pandas 用户指南：合并、加入、连接和比较 pandas API：DataFrame 合并/比较/加入/合并 pandas API：Series 合并/比较/加入/合并

分组聚合

GroupBy分组聚合

使用GroupBy分组聚合的一般步骤：

• 分组：将数据按条件拆分为几组。
• 应用：在每组上应用聚合函数、转换函数或过滤。

了解更多 >> Pandas 用户指南：Group by: split-apply-combine Pandas 参考：GroupBy

创建GroupBy对象

类名	创建对象方法	格式	示例
SeriesGroupBy	Series.groupby()	Series.groupby(by=None, axis=0, level=None, as_index=True, sort=True, group_keys=True, squeeze=<object object>, observed=False, dropna=True)
DataFrameGroupBy	DataFrame.groupby()	DataFrame.groupby(by=None, axis=0, level=None, as_index=True, sort=True, group_keys=True, squeeze=<object object>, observed=False, dropna=True)	df.groupby('code')或df.groupby(by='code')按code列分组，创建一个GroupBy对象

选取与迭代

属性/方法	描述	示例
GroupBy.__iter__（）	Groupby迭代器
GroupBy.groups	Dict{组名->组数据}	for name, group in grouped:     print(name)     print(group )
GroupBy.indices	Dict{组名->组索引}
GroupBy.get_group(name, obj=None)	通过组名选取一个组，返回DataFrame格式。	grouped.get_group('AAPL')
pandas.Grouper(*args, **kwargs)	x.describe()

功能应用

属性/方法	描述	Series	DataFrame	示例
GroupBy.apply()	应用，按组应用函数func，并将结果组合在一起。	GroupBy.apply（func，* args，** kwargs）	GroupBy.apply（func，* args，** kwargs）	grouped['C'].apply(lambda x: x.describe())
GroupBy.agg()	聚合，等效aggregate()	GroupBy.agg(func，* args，** kwargs)	GroupBy.agg(func，* args，** kwargs)
aggregate()	聚合，在指定轴上使用一项或多项操作进行汇总。	SeriesGroupBy.aggregate(func=None, *args, engine=None, engine_kwargs=None, **kwargs)	DataFrameGroupBy.aggregate(func=None, *args, engine=None, engine_kwargs=None, **kwargs)
transform()	转换，按组调用函数，并将原始数据替换为转换后的结果	SeriesGroupBy.transform(func, *args, engine=None, engine_kwargs=None, **kwargs)	DataFrameGroupBy.transform(func, *args, engine=None, engine_kwargs=None, **kwargs)
GroupBy.pipe()	将带有参数的函数func应用于GroupBy对象，并返回函数的结果。	GroupBy.pipe（func，* args，** kwargs）	GroupBy.pipe（func，* args，** kwargs）

计算/描述统计

属性/方法	描述	Series	DataFrame	示例
GroupBy.all()	Return True if all values in the group are truthful, else False.	GroupBy.all(skipna=True)	DataFrameGroupBy.all(skipna=True)
GroupBy.any()	Return True if any value in the group is truthful, else False.	GroupBy.any(skipna=True)	DataFrameGroupBy.any(skipna=True)
GroupBy.backfill()	Backward fill the values.	GroupBy.backfill(limit=None)	DataFrameGroupBy.backfill(limit=None)
GroupBy.bfill()	同 GroupBy.backfill()	GroupBy.bfill(limit=None)	DataFrameGroupBy.bfill(limit=None)
GroupBy.count()	统计每组值的个数，不包含缺失值。	GroupBy.count()	DataFrameGroupBy.count()	grouped.count()
GroupBy.cumcount()	Number each item in each group from 0 to the length of that group - 1.	GroupBy.cumcount(ascending=True)	DataFrameGroupBy.cumcount(ascending=True)
GroupBy.cummax()	Cumulative max for each group.	GroupBy.cummax(axis=0, **kwargs)	DataFrameGroupBy.cummax(axis=0, **kwargs)
GroupBy.cummin()	Cumulative min for each group.	GroupBy.cummin(axis=0, **kwargs)	DataFrameGroupBy.cummin(axis=0, **kwargs)
GroupBy.cumprod()	Cumulative product for each group.	GroupBy.cumprod(axis=0, *args, **kwargs)	DataFrameGroupBy.cumprod(axis=0, *args, **kwargs)
GroupBy.cumsum()	Cumulative sum for each group.	GroupBy.cumsum(axis=0, *args, **kwargs)	DataFrameGroupBy.cumsum(axis=0, *args, **kwargs)
GroupBy.ffill()	Forward fill the values.	GroupBy.ffill(limit=None)	DataFrameGroupBy.ffill(limit=None)
GroupBy.first()	Compute first of group values.	GroupBy.first(numeric_only=False, min_count=- 1)
GroupBy.head()	返回每组的前n行，默认5行	GroupBy.head(n=5)
GroupBy.last()	Compute last of group values.	GroupBy.last(numeric_only=False, min_count=- 1)
GroupBy.max()	Compute max of group values.	GroupBy.max(numeric_only=False, min_count=- 1)
GroupBy.mean()	Compute mean of groups, excluding missing values.	GroupBy.mean(numeric_only=True)
GroupBy.median()	Compute median of groups, excluding missing values.	GroupBy.median(numeric_only=True)
GroupBy.min([numeric_only, min_count])	Compute min of group values.	GroupBy.min(numeric_only=False, min_count=- 1)
GroupBy.ngroup([ascending])	Number each group from 0 to the number of groups - 1.	GroupBy.ngroup(ascending=True)
GroupBy.nth(n[, dropna])	如果参数n是一个整数，则取每个组的第n行；如果n是一个整数列表，则取每组行的子集。	GroupBy.nth(n, dropna=None)
GroupBy.ohlc()	计算组的开始值，最高值，最低值和末尾值，不包括缺失值。	GroupBy.ohlc()
GroupBy.pad()	Forward fill the values.	GroupBy.pad(limit=None)	DataFrameGroupBy.pad(limit=None)
GroupBy.prod([numeric_only, min_count])	Compute prod of group values.	GroupBy.prod(numeric_only=True, min_count=0)
GroupBy.rank([method, ascending, na_option, …])	Provide the rank of values within each group.	GroupBy.rank(method='average', ascending=True, na_option='keep', pct=False, axis=0)	DataFrameGroupBy.rank(method='average', ascending=True, na_option='keep', pct=False, axis=0)
GroupBy.pct_change([periods, fill_method, …])	Calculate pct_change of each value to previous entry in group.	GroupBy.pct_change(periods=1, fill_method='pad', limit=None, freq=None, axis=0)	DataFrameGroupBy.pct_change(periods=1, fill_method='pad', limit=None, freq=None, axis=0)
GroupBy.size()	Compute group sizes.	GroupBy.size()	DataFrameGroupBy.size()
GroupBy.sem()	Compute standard error of the mean of groups, excluding missing values.	GroupBy.sem(ddof=1)
GroupBy.std()	Compute standard deviation of groups, excluding missing values.	GroupBy.std(ddof=1)
GroupBy.sum([numeric_only, min_count])	Compute sum of group values.	GroupBy.sum(numeric_only=True, min_count=0)
GroupBy.var([ddof])	Compute variance of groups, excluding missing values.	GroupBy.var(ddof=1)
GroupBy.tail()	返回每组的最后n行，默认5行	GroupBy.tail(n=5)

pivot_table数据透视表

pandas还提供pivot_table()函数，类似于Excel的数据透视表。

了解更多 >> pandas 用户指南：数据透视表

计算统计

计算/描述统计

属性/方法	描述	Series	DataFrame	示例
abs()	返回 Series/DataFrame 每个元素的绝对值。	Series.abs()	DataFrame.abs()	s.abs() df.abs()
all()	Return whether all elements are True, potentially over an axis.	Series.all(axis=0, bool_only=None, skipna=True, level=None, **kwargs)	DataFrame.all(axis=0, bool_only=None, skipna=True, level=None, **kwargs)
any()	Return whether any element is True, potentially over an axis.	Series.any(axis=0, bool_only=None, skipna=True, level=None, **kwargs)	DataFrame.any(axis=0, bool_only=None, skipna=True, level=None, **kwargs)
clip()	Trim values at input threshold(s).	Series.clip(lower=None, upper=None, axis=None, inplace=False, *args, **kwargs)	DataFrame.clip(lower=None, upper=None, axis=None, inplace=False, *args, **kwargs)
corr()	Compute pairwise correlation of columns, excluding NA/null values.	Series.corr(other, method='pearson', min_periods=None)	DataFrame.corr(method='pearson', min_periods=1)
corrwith()	Compute pairwise correlation.		DataFrame.corrwith(other, axis=0, drop=False, method='pearson')
count()	统计每行或每列值的个数，不包括NA值。	Series.count(level=None)	DataFrame.count(axis=0, level=None, numeric_only=False)	s.count() df.count() df.count(axis='columns')
cov()	Compute pairwise covariance of columns, excluding NA/null values.	Series.cov(other, min_periods=None, ddof=1)	DataFrame.cov(min_periods=None, ddof=1)
cummax()	Return cumulative maximum over a DataFrame or Series axis.	Series.cummax(axis=None, skipna=True, *args, **kwargs)	DataFrame.cummax(axis=None, skipna=True, *args, **kwargs)
cummin()	Return cumulative minimum over a DataFrame or Series axis.	Series.cummin(axis=None, skipna=True, *args, **kwargs)	DataFrame.cummin(axis=None, skipna=True, *args, **kwargs)
cumprod()	Return cumulative product over a DataFrame or Series axis.	Series.cumprod(axis=None, skipna=True, *args, **kwargs)	DataFrame.cumprod(axis=None, skipna=True, *args, **kwargs)
cumsum()	Return cumulative sum over a DataFrame or Series axis.	Series.cumsum(axis=None, skipna=True, *args, **kwargs)	DataFrame.cumsum(axis=None, skipna=True, *args, **kwargs)
describe()	Generate descriptive statistics.	Series.describe(percentiles=None, include=None, exclude=None, datetime_is_numeric=False)	DataFrame.describe(percentiles=None, include=None, exclude=None, datetime_is_numeric=False)
diff()	First discrete difference of element.	Series.diff(periods=1)	DataFrame.diff(periods=1, axis=0)
eval()	Evaluate a string describing operations on DataFrame columns.		DataFrame.eval(expr, inplace=False, **kwargs)
kurt()	Return unbiased kurtosis over requested axis.	Series.kurt(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.kurt(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
kurtosis()	Return unbiased kurtosis over requested axis.	Series.kurtosis(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.kurtosis(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
mad()	Return the mean absolute deviation of the values for the requested axis.	Series.mad(axis=None, skipna=None, level=None)	DataFrame.mad(axis=None, skipna=None, level=None)
max()	Return the maximum of the values for the requested axis.	Series.max(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.max(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
mean()	Return the mean of the values for the requested axis.	Series.mean(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.mean(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
median()	Return the median of the values for the requested axis.	Series.median(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.median(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
min()	Return the minimum of the values for the requested axis.	Series.min(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.min(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
mode()	Get the mode(s) of each element along the selected axis.	Series.mode(dropna=True)	DataFrame.mode(axis=0, numeric_only=False, dropna=True)
pct_change()	Percentage change between the current and a prior element.	Series.pct_change(periods=1, fill_method='pad', limit=None, freq=None, **kwargs)	DataFrame.pct_change(periods=1, fill_method='pad', limit=None, freq=None, **kwargs)
prod()	Return the product of the values for the requested axis.	Series.prod(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)	DataFrame.prod(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)
product()	Return the product of the values for the requested axis.	Series.product(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)	DataFrame.product(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)
quantile()	Return values at the given quantile over requested axis.	Series.quantile(q=0.5, interpolation='linear')	DataFrame.quantile(q=0.5, axis=0, numeric_only=True, interpolation='linear')
rank()	Compute numerical data ranks (1 through n) along axis.	Series.rank(axis=0, method='average', numeric_only=None, na_option='keep', ascending=True, pct=False)	DataFrame.rank(axis=0, method='average', numeric_only=None, na_option='keep', ascending=True, pct=False)
round()	Round a DataFrame to a variable number of decimal places.	Series.round(decimals=0, *args, **kwargs)	DataFrame.round(decimals=0, *args, **kwargs)
sem()	Return unbiased standard error of the mean over requested axis.	Series.sem(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)	DataFrame.sem(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)
skew()	Return unbiased skew over requested axis.	Series.skew(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)	DataFrame.skew(axis=None, skipna=None, level=None, numeric_only=None, **kwargs)
sum()	Return the sum of the values for the requested axis.	Series.sum(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)	DataFrame.sum(axis=None, skipna=None, level=None, numeric_only=None, min_count=0, **kwargs)
std()	Return sample standard deviation over requested axis.	Series.std(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)	DataFrame.std(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)
var()	Return unbiased variance over requested axis.	Series.var(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)	DataFrame.var(axis=None, skipna=None, level=None, ddof=1, numeric_only=None, **kwargs)
nunique()	Count distinct observations over requested axis.	Series.nunique(dropna=True)	DataFrame.nunique(axis=0, dropna=True)
value_counts()	Return a Series containing counts of unique rows in the DataFrame.	Series.value_counts(normalize=False, sort=True, ascending=False, bins=None, dropna=True)	DataFrame.value_counts(subset=None, normalize=False, sort=True, ascending=False)

二元运算功能

属性/方法	描述	Series	DataFrame	示例
add()	Get Addition of dataframe and other, element-wise (binary operator add).	Series.add(other, level=None, fill_value=None, axis=0)	DataFrame.add(other, axis='columns', level=None, fill_value=None)
sub()	Get Subtraction of dataframe and other, element-wise (binary operator sub).	Series.sub(other, level=None, fill_value=None, axis=0)	DataFrame.sub(other, axis='columns', level=None, fill_value=None)
mul()	Get Multiplication of dataframe and other, element-wise (binary operator mul).	Series.mul(other, level=None, fill_value=None, axis=0)	DataFrame.mul(other, axis='columns', level=None, fill_value=None)
div()	Get Floating division of dataframe and other, element-wise (binary operator truediv).	Series.div(other, level=None, fill_value=None, axis=0)	DataFrame.div(other, axis='columns', level=None, fill_value=None)
truediv()	Get Floating division of dataframe and other, element-wise (binary operator truediv).	Series.truediv(other, level=None, fill_value=None, axis=0)	DataFrame.truediv(other, axis='columns', level=None, fill_value=None)
floordiv()	Get Integer division of dataframe and other, element-wise (binary operator floordiv).	Series.floordiv(other, level=None, fill_value=None, axis=0)	DataFrame.floordiv(other, axis='columns', level=None, fill_value=None)
mod()	Get Modulo of dataframe and other, element-wise (binary operator mod).	Series.mod(other, level=None, fill_value=None, axis=0)	DataFrame.mod(other, axis='columns', level=None, fill_value=None)
pow()	Get Exponential power of dataframe and other, element-wise (binary operator pow).	Series.pow(other, level=None, fill_value=None, axis=0)	DataFrame.pow(other, axis='columns', level=None, fill_value=None)
dot()	Compute the matrix multiplication between the DataFrame and other.	Series.dot(other)	DataFrame.dot(other)
radd()	Get Addition of dataframe and other, element-wise (binary operator radd).	Series.radd(other, level=None, fill_value=None, axis=0)	DataFrame.radd(other, axis='columns', level=None, fill_value=None)
rsub()	Get Subtraction of dataframe and other, element-wise (binary operator rsub).	Series.rsub(other, level=None, fill_value=None, axis=0)	DataFrame.rsub(other, axis='columns', level=None, fill_value=None)
rmul()	Get Multiplication of dataframe and other, element-wise (binary operator rmul).	Series.rmul(other, level=None, fill_value=None, axis=0)	DataFrame.rmul(other, axis='columns', level=None, fill_value=None)
rdiv()	Get Floating division of dataframe and other, element-wise (binary operator rtruediv).	Series.rdiv(other, level=None, fill_value=None, axis=0)	DataFrame.rdiv(other, axis='columns', level=None, fill_value=None)
rtruediv()	Get Floating division of dataframe and other, element-wise (binary operator rtruediv).	Series.rtruediv(other, level=None, fill_value=None, axis=0)	DataFrame.rtruediv(other, axis='columns', level=None, fill_value=None)
rfloordiv()	Get Integer division of dataframe and other, element-wise (binary operator rfloordiv).	Series.rfloordiv(other, level=None, fill_value=None, axis=0)	DataFrame.rfloordiv(other, axis='columns', level=None, fill_value=None)
rmod()	Get Modulo of dataframe and other, element-wise (binary operator rmod).	Series.rmod(other, level=None, fill_value=None, axis=0)	DataFrame.rmod(other, axis='columns', level=None, fill_value=None)
rpow()	Get Exponential power of dataframe and other, element-wise (binary operator rpow).	Series.rpow(other, level=None, fill_value=None, axis=0)	DataFrame.rpow(other, axis='columns', level=None, fill_value=None)
lt()	Get Less than of dataframe and other, element-wise (binary operator lt).	Series.lt(other, level=None, fill_value=None, axis=0)	DataFrame.lt(other, axis='columns', level=None)
gt()	Get Greater than of dataframe and other, element-wise (binary operator gt).	Series.gt(other, level=None, fill_value=None, axis=0)	DataFrame.gt(other, axis='columns', level=None)
le()	Get Less than or equal to of dataframe and other, element-wise (binary operator le).	Series.le(other, level=None, fill_value=None, axis=0)	DataFrame.le(other, axis='columns', level=None)
ge()	Get Greater than or equal to of dataframe and other, element-wise (binary operator ge).	Series.ge(other, level=None, fill_value=None, axis=0)	DataFrame.ge(other, axis='columns', level=None)
ne()	Get Not equal to of dataframe and other, element-wise (binary operator ne).	Series.ne(other, level=None, fill_value=None, axis=0)	DataFrame.ne(other, axis='columns', level=None)
eq()	Get Equal to of dataframe and other, element-wise (binary operator eq).	Series.eq(other, level=None, fill_value=None, axis=0)	DataFrame.eq(other, axis='columns', level=None)
combine()	Perform column-wise combine with another DataFrame.	Series.combine(other, func, fill_value=None)	DataFrame.combine(other, func, fill_value=None, overwrite=True)
combine_first()	Update null elements with value in the same location in other.	Series.combine_first(other)	DataFrame.combine_first(other)

时间序列

概览

Pandas把时间相关分为4种概念，用8个类来表示。

概念	描述	标量类	数组类	pandas数据类型	主要创建方法	示例
日期时间	支持时区的特定日期时间点。 类似Python标准库的datetime.datetime。	Timestamp	DatetimeIndex	datetime64[ns] 或 datetime64[ns, tz]	to_datetime() date_range()	pd.to_datetime('2020-01-01')生成：Timestamp('2020-01-01 00:00:00') pd.to_datetime(df['date'], format='%Y%m%d') 将date列数据（格式如20201220）转为DatetimeIndex格式 pd.date_range("2018-01-01", periods=5, freq="D") 生成DatetimeIndex，从2018-01-01到2018-01-05。
时间增量	持续时间，即两个日期或时间的差值。 类似Python标准库的datetime.timedelta。	Timedelta	TimedeltaIndex	timedelta64[ns]	to_timedelta() timedelta_range()
时间跨度	由时间点及其关联的频率定义的时间跨度。	Period	PeriodIndex	period[freq]	Period() period_range()
日期偏移	日期增量	DateOffset	None	None	DateOffset()

了解更多 >> pandas 用户指南：时间序列

日期时间属性

以下是Timestamp类和DatetimeIndex类的一些属性或方法。Seriess使用.dt来访问。如df['date'].dt.month返回该列月份Seriess

属性	描述	示例
year	年	s.dt.year 返回s序列年 pd.to_datetime('2020-01-01').year返回2020
month	月	s.dt.month 返回s序列月
day	日
hour	小时
minute	分钟
second	秒
microsecond	微秒
nanosecond	纳秒
date	日期（不包含时区信息）
time	时间（不包含时区信息）
timetz()	时间（包含本地时区信息）
day_of_year / dayofyear	一年里的第几天
week / weekofyear	一年里的第几周
day_of_week / dayofweek / weekday	一周里的第几天，Monday（星期一）=0，Sunday（星期天）=6
quarter	日期所处的季度，如（1月、2月、3月）=1，（4月、5月、6月）=2
days_in_month	日期所在的月有多少天
is_month_start	是否月初（由频率定义）
is_month_end	是否月末（由频率定义）
is_quarter_start	是否季初（由频率定义）
is_quarter_end	是否季末（由频率定义）
is_year_start	是否年初（由频率定义）
is_year_end	是否年末（由频率定义）
is_leap_year	是否闰年

了解更多 >> pandas 用户指南：时间序列 Time/date components pandas 用户指南：基础/dt accessor

日期偏移

DateOffset对象用来处理日期偏移。

日期偏移量	频率字符串	描述	示例
DateOffset	无	通用偏移类，默认为24小时
Day	'D'	一天
Hour	'H'	一小时
Minute	'T' 或 'min'	一分钟
Second	'S'	一秒
Milli	'L' 或 'ms'	一毫秒
Micro	'U' 或 'us'	一微秒
Nano	'N'	一纳秒
BDay 或 BusinessDay	'B'	工作日
CDay 或 CustomBusinessDay	'C'	自定义工作日
Week	'W'	一周，可选锚定周几
WeekOfMonth	'WOM'	每月第几周的第几天
LastWeekOfMonth	'LWOM'	每月最后一周的第几天
MonthEnd	'M'	日历月末
MonthBegin	'MS'	日历月初
BMonthEnd 或 BusinessMonthEnd	'BM'	工作日月末
BMonthBegin 或 BusinessMonthBegin	'BMS'	工作日月初
CBMonthEnd 或 CustomBusinessMonthEnd	'CBM'	自定义工作日月末
CBMonthBegin 或 CustomBusinessMonthBegin	'CBMS'	自定义工作日月初
SemiMonthEnd	'SM'	月第15天（或其他天数）与日历月末
SemiMonthBegin	'SMS'	日历月初与月第15天（或其他天数）
QuarterEnd	'Q'	日历季末
QuarterBegin	'QS'	日历季初
BQuarterEnd	'BQ	工作季末
BQuarterBegin	'BQS'	工作季初
FY5253Quarter	'REQ'	零售（又名 52-53 周）季
YearEnd	'A'	日历年末
YearBegin	'AS' 或 'BYS'	日历年初
BYearEnd	'BA'	工作日年末
BYearBegin	'BAS'	工作日年初
FY5253	'RE'	零售（又名 52-53 周）年
Easter	无	复活节假日
BusinessHour	'BH'	工作小时
CustomBusinessHour	'CBH'	自定义工作小时

时间序列相关

属性/方法	描述	Series	DataFrame	示例
asfreq()	Convert TimeSeries to specified frequency.	Series.asfreq(freq, method=None, how=None, normalize=False, fill_value=None)	DataFrame.asfreq(freq, method=None, how=None, normalize=False, fill_value=None)
asof()	Return the last row(s) without any NaNs before where.	Series.asof(where, subset=None)	DataFrame.asof(where, subset=None)
shift()	Shift index by desired number of periods with an optional time freq.	Series.shift(periods=1, freq=None, axis=0, fill_value=None)	DataFrame.shift(periods=1, freq=None, axis=0, fill_value=None)
slice_shift()	Equivalent to shift without copying data.	Series.slice_shift(periods=1, axis=0)	DataFrame.slice_shift(periods=1, axis=0)
tshift()	(DEPRECATED) Shift the time index, using the index’s frequency if available.	Series.tshift(periods=1, freq=None, axis=0)	DataFrame.tshift(periods=1, freq=None, axis=0)
first_valid_index()	Return index for first non-NA/null value.	Series.first_valid_index()	DataFrame.first_valid_index()
last_valid_index()	Return index for last non-NA/null value.	Series.last_valid_index()	DataFrame.last_valid_index()
resample()	Resample time-series data.	Series.resample(rule, axis=0, closed=None, label=None, convention='start', kind=None, loffset=None, base=None, on=None, level=None, origin='start_day', offset=None)	DataFrame.resample(rule, axis=0, closed=None, label=None, convention='start', kind=None, loffset=None, base=None, on=None, level=None, origin='start_day', offset=None)
to_period()	Convert DataFrame from DatetimeIndex to PeriodIndex.	Series.to_period(freq=None, copy=True)	DataFrame.to_period(freq=None, axis=0, copy=True)
to_timestamp()	Cast to DatetimeIndex of timestamps, at beginning of period.	Series.to_timestamp(freq=None, how='start', copy=True)	DataFrame.to_timestamp(freq=None, how='start', axis=0, copy=True)
tz_convert()	Convert tz-aware axis to target time zone.	Series.tz_convert(tz, axis=0, level=None, copy=True)	DataFrame.tz_convert(tz, axis=0, level=None, copy=True)
tz_localize()	Localize tz-naive index of a Series or DataFrame to target time zone.	Series.tz_localize(tz, axis=0, level=None, copy=True, ambiguous='raise', nonexistent='raise')	DataFrame.tz_localize(tz, axis=0, level=None, copy=True, ambiguous='raise', nonexistent='raise')

绘图

pandas绘图基于Matplotlib，pandas的DataFrame和Series都自带生成各类图表的plot方法，能够方便快速生成各种图表。

了解更多 >> pandas 用户指南：可视化

基本图形

折线图

plot方法默认生成的就是折线图。如prices是一个DataFrame的含有收盘价close列，绘制收盘价的折线图：

s = prices['close']
s.plot() 

#设置图片大小，使用figsize参数
s.plot(figsize=(20,10))

条形图

对于不连续标签，没有时间序列的数据，可以绘制条形图，使用以下两种方法：

• 使用plot()函数，设置kind参数为‘bar’ or ‘barh’，
• 使用plot.bar()函数，plot.barh()函数

df.plot(kind='bar')    #假设df为每天股票数据  
df.plot.bar()          
df.resample('A-DEC').mean().volume.plot(kind='bar')    #重采集每年成交量平均值，绘制条形图（volume为df的成交量列）

df.plot.bar(stacked=True)    #stacked=True表示堆积条形图
df.plot.barh(stacked=True)    #barh 表示水平条形图 </nowiki>

直方图

直方图使用plot.hist()方法绘制，一般为频数分布直方图，x轴分区间，y轴为频数。组数用参数bins控制，如分20组bins=20

df.volume.plot.hist()    #df股票数据中成交量volume的频数分布直方图。
df.plot.hist(alpha=0.5)    #alpha=0.5 表示柱形的透明度为0.5
df.plot.hist(stacked=True, bins=20)    #stacked=True表示堆积绘制，bins=20表示分20组。
df.plot.hist(orientation='horizontal')    #orientation='horizontal' 表示水平直方图
df.plot.hist(cumulative=True)    #表示累计直方图  

df['close'].diff().hist()    #收盘价上应用diff函数，再绘制直方图
df.hist(color='k', bins=50)     #DataFrame.hist函数将每列绘制在不同的子图形上。

箱型图

箱型图可以使用plot.box()函数或DataFrame的boxplot()绘制。 参数：

• color，用来设置颜色，通过传入颜色字典，如color={'boxes': 'DarkGreen', 'whiskers': 'DarkOrange', 'medians': 'DarkBlue', 'caps': 'Gray'}
• sym，用来设置异常值样式，如sym='r+'表示异常值用'红色+'表示。

df.plot.box()
df[['close','open', 'high']].plot.box()
#改变箱型颜色，通过传入颜色字典
color={'boxes': 'DarkGreen', 'whiskers': 'DarkOrange', 'medians': 'DarkBlue', 'caps': 'Gray'}
df.plot.box(color=color, sym='r+')    #sym用来设置异常值样式，'r+'表示'红色+'
df.plot.box(positions=[1, 4, 5, 6, 8])    #positions表示显示位置，df有5个列， 第一列显示在x轴1上，第二列显示在x轴4上，以此类推
df.plot.box(vert=False)    #表示绘制水平箱型图
df.boxplot()   

#绘制分层箱型图，通过设置by关键词创建分组，再按组，分别绘制箱型图。如下面例子，每列按A组，B组分别绘制箱型图。
df = pd.DataFrame(np.random.rand(10, 2), columns=['Col1', 'Col2'])
df['x'] = pd.Series(['A', 'A', 'A', 'A', 'A', 'B', 'B', 'B', 'B', 'B'])
df.boxplot(by='x')

#还可以再传入一个子分类，再进一步分组绘制。如：
df.boxplot(column=['Col1', 'Col2'], by=['X', 'Y'])

散点图

散点图使用DataFrame.plot.scatter()方法绘制。通过参数x，y指定x轴和y轴的数据列。

df.plot.scatter(x='close', y='volume')    #假如df为每日股票数据，图表示收盘价与成交量的散点图

#将两组散点图绘制在一张图表上，重新ax参数如
ax = df.plot.scatter(x='close', y='volume', color='DarkBlue', label='Group 1')    #设置标签名label设置标名
df.plot.scatter(x='open', y='value', color='DarkGreen', label='Group 2', ax=ax)

#c参数表示圆点的颜色按按volume列大小来渐变表示。
df.plot.scatter(x='close', y='open', c='volume', s=50)    #s表示原点面积大小
df.plot.scatter(x='close', y='open', s=df['volume']/50000)  #圆点的大小也可以根据某列数值大小相应设置。

饼图

饼图使用DataFrame.plot.pie()或Series.plot.pie()绘制。如果数据中有空值，会自动使用0填充。

其他绘图函数

这些绘图函数来自pandas.plotting模块。

矩阵散点图（Scatter Matrix Plot）

矩阵散点图（Scatter Matrix Plot）使用scatter_matrix()方法绘制

from pandas.plotting import scatter_matrix     #使用前需要从模块中导入该函数
scatter_matrix(df, alpha=0.2, figsize=(6, 6), diagonal='kde')    #假设df是每日股票数据，会每一列相对其他每一列生成一个散点图。

密度图（Density Plot）

密度图使用Series.plot.kde()和DataFrame.plot.kde()函数。

df.plot.kde()

安德鲁斯曲线（Andrews Curves）

安德鲁斯曲线

自相关图（Autocorrelation Plot）

自相关图

绘图格式

预设置图形样式

matplotlib 从1.5开始，可以预先设置样式，绘图前通过matplotlib.style.use(my_plot_style)。如matplotlib.style.use('ggplot') 定义ggplot-style plots.

样式参数

大多数绘图函数，可以通过一组参数来设置颜色。

标签设置

可通过设置legend参数为False来隐藏图片标签，如

df.plot(legend=False)

尺度

• logy参数用来将y轴设置对数标尺
• logx参数用来将x轴设置对数标尺
• loglog参数用来将x轴和y轴设置对数标尺

ts.plot(logy=True)

双坐标图

两组序列同x轴，但y轴数据不同，可以通过第二个序列设置参数：secondary_y=True，来设置第二个y轴。

#比如想在收盘价图形上显示cci指标：
prices['close'].plot()
prices['cci'].plot(secondary_y=True)

#第二个坐标轴要显示多个，可以直接传入列名
ax = df.plot(secondary_y=['cci', 'RSI'], mark_right=False)    #右边轴数据标签默认会加个右边，设置mark_right为False取消显示
ax.set_ylabel('CD scale')     #设置左边y轴名称
ax.right_ax.set_ylabel('AB scale')    #设置右边y轴名称

子图

DataFrame的每一列可以绘制在不同的坐标轴(axis）中，使用subplots参数设置，例如：

df.plot(subplots=True, figsize=(6, 6))

子图布局

子图布局使用关键词layout设置，

输入输出

pandas的读取函数是顶层函数，如pandas.read_csv()一般返回一个pandas对象。写入函数是相应对象的方法，如DataFrame.to_csv()将DataFrame对象写入到csv文件。下表是可用的读取和写入函数。

数据描述	格式类型	读取函数	写入函数	示例
CSV	text	read_csv	to_csv	pd.read_csv('test.csv') 读取test.csv文件。 pd.read_csv('test.csv', sep='\t', header=0, dtype={'a': np.float64, 'b': np.int32, 'c': 'Int64'} ) df.to('out.csv')将df保存到out.csv。
Fixed-Width Text File	text	read_fwf
JSON	text	read_json	to_json
HTML	text	read_html	to_html
Local clipboard	text	read_clipboard	to_clipboard
MS Excel		read_excel	to_excel	pd.read_excel(r'D:\data\test.xlsx', sheet_name="Sheet1") 读取test.xlsx文件的Sheet1 pd.read_excel('test.xlsx', converters={'日期':lambda x: pd.to_datetime(x, unit='d', origin='1899-12-30') }) 直接读取日期会变数字，日期列转换以下。
OpenDocument	binary	read_excel
HDF5 Format	binary	read_hdf	to_hdf
Feather Format	binary	read_feather	to_feather
Parquet Format	binary	read_parquet	to_parquet
ORC Format	binary	read_orc
Msgpack	binary	read_msgpack	to_msgpack
Stata	binary	read_stata	to_stata
SAS	binary	read_sas
SPSS	binary	read_spss
Python Pickle Format	binary	read_pickle	to_pickle
SQL	SQL	read_sql	to_sql
Google BigQuery	SQL	read_gbq	to_gbq

了解更多 >> Pandas 教程：IO tools

CSV

CSV读取

read_csv 常用参数：

参数名称	描述	示例
sep	分隔符。str,默认 ','	pd.read_csv('test.csv', sep='\t')

CSV写入

to_csv

常见问题：

UnicodeDecodeError: 'utf-8' codec can't decode byte 0xd0 in position 0: invalid continuation byte

使用pd.read_csv()函数时，csv文本的编码格式不是UTF-8。一种是将csv文件编码格式改为'utf-8'，另一种是尝试几种常见的编码格式如：

df = pd.read_csv('test.csv', encoding='gbk')
df = pd.read_csv('test.csv', encoding='gb18030')
df = pd.read_csv('test.csv', encoding='ISO-8859-1')
df = pd.read_csv('test.csv', encoding='utf-16')

类似错误，有时也可能文件格式错误，文件原本是excel格式，将文件后缀改成.xls或.xlsx后使用pd.read_excel()尝试。

了解更多 >> Pandas 教程：IO tools/CSV & text files

Excel

了解更多 >> Pandas 教程：IO tools/Excel files stackoverflow：Convert Excel style date with pandas

设置

Pandas提供一些设置API，可以改变DataFrame的显示等。如pd.options.display.max_rows = 300DataFrame最多显示300行。通过pandas 的5个相关函数来设置，这些函数都接受正则表达式模式（样式）作为参数，以匹配明确的子字符串：

名称	描述	示例
get_option（） set_option（）	获取/设置单个选项的值。	pd.set_option("display.max_rows", 5)或pd.options.display.max_rows = 5 设置最多显示5行 pd.set_option("display.max_columns", None) 列全部显示
reset_option（）	将一个或多个选项重置为其默认值。	pd.reset_option("display.max_rows") 重置最多显示行数
describe_option（）	打印一个或多个选项的说明。
option_context（）	执行一个代码块，其中包含一组选项，这些选项在执行后恢复到以前的设置。

了解更多 >> Pandas 用户指南：选项和设置

资源

官网

• Pandas官网：https://pandas.pydata.org/
• Pandas文档：https://pandas.pydata.org/docs/
• Pandas 用户指南 - 10分钟入门Pandas：https://pandas.pydata.org/docs/user_guide/10min.html
• Pandas 用户指南：https://pandas.pydata.org/docs/user_guide/index.html
• Pandas API参考：https://pandas.pydata.org/docs/reference/index.html
• Pandas 源代码：https://github.com/pandas-dev/pandas

网站

• 维基百科：Pandas
• 维基百科：Pandas（英）

教程

• 老虎量化：pandas 介绍
• 盖若：Pandas教程
• pypandas.cn：Pandas文档
• 易百教程：Pandas

书籍

《利用Python进行数据分析 第2版》 - Wes McKinney