【Python基礎(chǔ)】高效的10個(gè)Pandas函數(shù),你都用過(guò)嗎?
文章來(lái)源:towardsdatascience
?
作者:Soner Y?ld?r?m
翻譯\編輯:Python大數(shù)據(jù)分析
Pandas是python中最主要的數(shù)據(jù)分析庫(kù)之一,它提供了非常多的函數(shù)、方法,可以高效地處理并分析數(shù)據(jù)。讓pandas如此受歡迎的原因是它簡(jiǎn)潔、靈活、功能強(qiáng)大的語(yǔ)法。
這篇文章將會(huì)配合實(shí)例,講解10個(gè)重要的pandas函數(shù)。其中有一些很常用,相信你可能用到過(guò)。還有一些函數(shù)出現(xiàn)的頻率沒(méi)那么高,但它們同樣是分析數(shù)據(jù)的得力幫手。
介紹這些函數(shù)之前,第一步先要導(dǎo)入pandas和numpy。
import?numpy?as?np
import?pandas?as?pd
1. Query
Query是pandas的過(guò)濾查詢函數(shù),使用布爾表達(dá)式來(lái)查詢DataFrame的列,就是說(shuō)按照列的規(guī)則進(jìn)行過(guò)濾操作。
用法:
pandas.DataFrame.query(self,?expr,?inplace?=?False,?**kwargs)
參數(shù)作用:
expr:要評(píng)估的查詢字符串; inplace=False:查詢是應(yīng)該修改數(shù)據(jù)還是返回修改后的副本 kwargs:dict關(guān)鍵字參數(shù)
首先生成一段df:
values_1?=?np.random.randint(10,?size=10)
values_2?=?np.random.randint(10,?size=10)
years?=?np.arange(2010,2020)
groups?=?['A','A','B','A','B','B','C','A','C','C']
df?=?pd.DataFrame({'group':groups,?'year':years,?'value_1':values_1,?'value_2':values_2})
df

過(guò)濾查詢用起來(lái)比較簡(jiǎn)單,比如要查列value_1<value_2的行記錄:
df.query('value_1?)

查詢列year>=2016的行記錄:
df.query('year?>=?2016?')

2. Insert
Insert用于在DataFrame的指定位置中插入新的數(shù)據(jù)列。默認(rèn)情況下新列是添加到末尾的,但可以更改位置參數(shù),將新列添加到任何位置。
用法:
Dataframe.insert(loc,?column,?value,?allow_duplicates=False)
參數(shù)作用:
loc: ?int型,表示插入位置在第幾列;若在第一列插入數(shù)據(jù),則 loc=0 column: 給插入的列取名,如 column='新的一列' value:新列的值,數(shù)字、array、series等都可以 allow_duplicates: 是否允許列名重復(fù),選擇Ture表示允許新的列名與已存在的列名重復(fù)
接著用前面的df:
在第三列的位置插入新列:
#新列的值
new_col?=?np.random.randn(10)
#在第三列位置插入新列,從0開始計(jì)算
df.insert(2,?'new_col',?new_col)
df

3. Cumsum
Cumsum是pandas的累加函數(shù),用來(lái)求列的累加值。用法:
DataFrame.cumsum(axis=None,?skipna=True,?args,?kwargs)
參數(shù)作用:
axis:index或者軸的名字 skipna:排除NA/null值
以前面的df為例,group列有A、B、C三組,year列有多個(gè)年份。我們只知道當(dāng)年度的值value_1、value_2,現(xiàn)在求group分組下的累計(jì)值,比如A、2014之前的累計(jì)值,可以用cumsum函數(shù)來(lái)實(shí)現(xiàn)。
當(dāng)然僅用cumsum函數(shù)沒(méi)辦法對(duì)groups (A, B, C)進(jìn)行區(qū)分,所以需要結(jié)合分組函數(shù)groupby分別對(duì)(A, B, C)進(jìn)行值的累加。
df['cumsum_2']?=?df[['value_2','group']].groupby('group').cumsum()
df

4. Sample
Sample用于從DataFrame中隨機(jī)選取若干個(gè)行或列。用法:
DataFrame.sample(n=None,?frac=None,?replace=False,?weights=None,?random_state=None,?axis=None)
參數(shù)作用:
n:要抽取的行數(shù) frac:抽取行的比例 例如frac=0.8,就是抽取其中80% replace:是否為有放回抽樣, True:有放回抽樣 False:未放回抽樣 weights:字符索引或概率數(shù)組 random_state :隨機(jī)數(shù)發(fā)生器種子 axis:選擇抽取數(shù)據(jù)的行還是列 axis=0:抽取行 axis=1:抽取列
比如要從df中隨機(jī)抽取5行:
sample1?=?df.sample(n=5)
sample1

從df隨機(jī)抽取60%的行,并且設(shè)置隨機(jī)數(shù)種子,每次能抽取到一樣的樣本:
sample2?=?df.sample(frac=0.6,random_state=2)
sample2

5. Where
Where用來(lái)根據(jù)條件替換行或列中的值。如果滿足條件,保持原來(lái)的值,不滿足條件則替換為其他值。默認(rèn)替換為NaN,也可以指定特殊值。
用法:
DataFrame.where(cond,?other=nan,?inplace=False,?axis=None,?level=None,?errors='raise',?try_cast=False,?raise_on_error=None)
參數(shù)作用:
cond:布爾條件,如果 cond 為真,保持原來(lái)的值,否則替換為other other:替換的特殊值 inplace:inplace為真則在原數(shù)據(jù)上操作,為False則在原數(shù)據(jù)的copy上操作 axis:行或列
將df中列value_1里小于5的值替換為0:
df['value_1'].where(df['value_1']?>?5?,?0)

Where是一種掩碼操作。
「掩碼」(英語(yǔ):Mask)在計(jì)算機(jī)學(xué)科及數(shù)字邏輯中指的是一串二進(jìn)制數(shù)字,通過(guò)與目標(biāo)數(shù)字的按位操作,達(dá)到屏蔽指定位而實(shí)現(xiàn)需求。
6. Isin
Isin也是一種過(guò)濾方法,用于查看某列中是否包含某個(gè)字符串,返回值為布爾Series,來(lái)表明每一行的情況。
用法:
Series.isin(values)
或者
DataFrame.isin(values)
篩選df中year列值在['2010','2014','2017']里的行:
years?=?['2010','2014','2017']
df[df.year.isin(years)]

7. Loc and iloc
Loc和iloc通常被用來(lái)選擇行和列,它們的功能相似,但用法是有區(qū)別的。
用法:
DataFrame.loc[]
或者
DataFrame.iloc[]
loc:按標(biāo)簽(column和index)選擇行和列 iloc:按索引位置選擇行和列
選擇df第1~3行、第1~2列的數(shù)據(jù),使用iloc:
df.iloc[:3,:2]

使用loc:
df.loc[:2,['group','year']]1

提示:使用loc時(shí),索引是指index值,包括上邊界。iloc索引是指行的位置,不包括上邊界。
選擇第1、3、5行,year和value_1列:
df.loc[[1,3,5],['year','value_1']]

8. Pct_change
Pct_change是一個(gè)統(tǒng)計(jì)函數(shù),用于表示當(dāng)前元素與前面元素的相差百分比,兩元素的區(qū)間可以調(diào)整。
比如說(shuō)給定三個(gè)元素[2,3,6],計(jì)算相差百分比后得到[NaN, 0.5, 1.0],從第一個(gè)元素到第二個(gè)元素增加50%,從第二個(gè)元素到第三個(gè)元素增加100%。
用法:
DataFrame.pct_change(periods=1,?fill_method=‘pad’,?limit=None,?freq=None,?**kwargs)
參數(shù)作用:
periods:間隔區(qū)間,即步長(zhǎng) fill_method:處理空值的方法
對(duì)df的value_1列進(jìn)行增長(zhǎng)率的計(jì)算:
df.value_1.pct_change()

9. Rank
Rank是一個(gè)排名函數(shù),按照規(guī)則(從大到小,從小到大)給原序列的值進(jìn)行排名,返回的是排名后的名次。
比如有一個(gè)序列[1,7,5,3],使用rank從小到大排名后,返回[1,4,3,2],這就是前面那個(gè)序列每個(gè)值的排名位置。
用法:
rank(axis=0,?method:?str?=?'average',?numeric_only:?Union[bool,?NoneType]?=?None,?na_option:?str?=?'keep',?ascending:?bool?=?True,?pct:?bool?=?False)
參數(shù)作用:
axis:行或者列 method:返回名次的方式,可選{‘a(chǎn)verage’, ‘min’, ‘max’, ‘first’, ‘dense’}
method=average 默認(rèn)設(shè)置: 相同的值占據(jù)前兩名,分不出誰(shuí)是1誰(shuí)是2,那么去中值即1.5,下面一名為第三名
method=max: 兩人并列第 2 名,下一個(gè)人是第 3 名
method=min: 兩人并列第 1 名,下一個(gè)人是第 3 名
method=dense: 兩人并列第1名,下一個(gè)人是第 2 名
method=first: 相同值會(huì)按照其在序列中的相對(duì)位置定值ascending:正序和倒序
對(duì)df中列value_1進(jìn)行排名:
df['rank_1']?=?df['value_1'].rank()
df

10. Melt
Melt用于將寬表變成窄表,是 pivot透視逆轉(zhuǎn)操作函數(shù),將列名轉(zhuǎn)換為列數(shù)據(jù)(columns name → column values),重構(gòu)DataFrame。
簡(jiǎn)單說(shuō)就是將指定的列放到鋪開放到行上變成兩列,類別是variable(可指定)列,值是value(可指定)列。

用法:
pandas.melt(frame,?id_vars=None,?value_vars=None,?var_name=None,?value_name='value',?col_level=None)
參數(shù)作用:
frame:它是指DataFrame id_vars [元組, 列表或ndarray, 可選]:不需要被轉(zhuǎn)換的列名,引用用作標(biāo)識(shí)符變量的列 value_vars [元組, 列表或ndarray, 可選]:引用要取消透視的列。如果未指定, 請(qǐng)使用未設(shè)置為id_vars的所有列 var_name [scalar]:指代用于”變量”列的名稱。如果為None, 則使用- - frame.columns.name或’variable’ value_name [標(biāo)量, 默認(rèn)為’value’]:是指用于” value”列的名稱 col_level [int或string, 可選]:如果列為MultiIndex, 它將使用此級(jí)別來(lái)融化
例如有一串?dāng)?shù)據(jù),表示不同城市和每天的人口流動(dòng):
import?pandas?as?pd
df1?=?pd.DataFrame({'city':?{0:?'a',?1:?'b',?2:?'c'},
?????????????????????'day1':?{0:?1,?1:?3,?2:?5},
?????????????????????'day2':?{0:?2,?1:?4,?2:?6}})
df1

現(xiàn)在將day1、day2列變成變量列,再加一個(gè)值列:
pd.melt(df1,?id_vars=['city'])

往期精彩回顧
獲取一折本站知識(shí)星球優(yōu)惠券,復(fù)制鏈接直接打開:
https://t.zsxq.com/662nyZF
本站qq群1003271085。
加入微信群請(qǐng)掃碼進(jìn)群(如果是博士或者準(zhǔn)備讀博士請(qǐng)說(shuō)明):
