吹爆這個(gè) pandas GUI 神器，自動(dòng)轉(zhuǎn)代碼！
大家好，我是帥東哥
。
關(guān)于pandas的GUI工具，我之前介紹過pandasgui。可以說(shuō)，有了GUI可視化界面，操作就和Excel一樣簡(jiǎn)單，本次再介紹一款功能更加強(qiáng)大的GUI神器：D-Tale。
這個(gè)庫(kù)的名字為啥要D-Tale呢？東哥好信還去查了下，它是detail的諧音，初衷是要提供數(shù)據(jù)的所有詳細(xì)信息。下面介紹下如何使用它。
啟動(dòng)、數(shù)據(jù)加載
D-Tale支持多種文件格式，包括CSV、TSV、XLS、XLSX。它是一個(gè)以Flask 為后端，React 作為前端構(gòu)建的，通過pip安裝即可。
pip?install?dtale
兩種啟動(dòng) D-Tale 的方式：
將DataFrame對(duì)象傳遞給 D-Tale 函數(shù)，在 Jupyter 單元中實(shí)例化 GUI。 不導(dǎo)入DataFrame對(duì)象的情況下初始化 D-Tale，顯示為一個(gè)帶有 GUI 的交互菜單來(lái)加載數(shù)據(jù)并提供各種其他選項(xiàng)。
為了更好地演示，這里選擇第二種。
import?dtale
dtale.show(open_browser=True)
運(yùn)行代碼后，將獲得下面的 GUI 菜單：
數(shù)據(jù)的導(dǎo)入有幾種方式，
從文件加載數(shù)據(jù) 從網(wǎng)站加載數(shù)據(jù)。需要傳遞網(wǎng)站的鏈接，可以從中獲取 CSV、JSON、TSV 或 Excel 等文件。 加載示例數(shù)據(jù)集。這些數(shù)據(jù)集可能需要一些后臺(tái)下載才能從服務(wù)器獲取數(shù)據(jù)集。
本文以一個(gè)電影的示例數(shù)據(jù)集展示如何使用。加載數(shù)據(jù)集后，就會(huì)像 pandas一樣呈現(xiàn)一個(gè)表格。表里的所有單元格都可以編輯，就像在 excel 中一樣直接更改值。
列菜單功能
當(dāng)單擊列標(biāo)題時(shí)，可以獲得一個(gè)選項(xiàng)列表，選項(xiàng)的內(nèi)容取決于該列的數(shù)據(jù)類型。比如下面3個(gè)類型：datatime64、int64、str，3個(gè)選項(xiàng)列表的共同點(diǎn)是按升序或降序排序。除此之外，對(duì)于不同類型的數(shù)據(jù)會(huì)有不同的過濾方法。
具體探索一下項(xiàng)目里的功能。
1. 凍結(jié)
鎖定功能類似于excel中的首行凍結(jié)，將列鎖定在最左側(cè)，這樣可以自由地滾動(dòng)表格同時(shí)看到鎖定的列了。
2.隱藏和刪除
隱藏選項(xiàng)將會(huì)去掉表格中的某列，但它不會(huì)從實(shí)際地刪除。當(dāng)然，也可以從右上角的條中取消隱藏列。
刪除選項(xiàng)將從數(shù)據(jù)框中永久刪除列。它類似于 pandas 的 drop 函數(shù)。
3. 替換和類型轉(zhuǎn)換
替換選項(xiàng)可以替換表中某些固定值或者填充空值。可以inplace=True替換某列或者創(chuàng)建一個(gè)新列。同時(shí)，替換類型可以定義為：特定值、空格或特定字符串的替換。
例如下面，date_published列應(yīng)包含所有日期類型的字符串，但存在了不應(yīng)存在的文本 TV Movie 2019，這時(shí)候可以用 numpy nan 來(lái)替換這個(gè)異常值。
現(xiàn)在，我可以使用類型轉(zhuǎn)換選項(xiàng)輕松地將date_published列的數(shù)據(jù)類型從字符串更改為日期時(shí)間，同時(shí)提供了inplace或new columns更改的選項(xiàng)：
4. 描述性統(tǒng)計(jì)
pandas 中的describe函數(shù)有助于提供列或數(shù)據(jù)集的統(tǒng)計(jì)摘要。這里的 describe 一樣，并且提供的信息比普通的 pandas 函數(shù)更多，它為每種數(shù)據(jù)類型提供了唯一的describe摘要。
對(duì)于日期時(shí)間類型 column，它提供以下詳細(xì)信息：
另外，它還為特征生成了histogram和 value_counts 圖：
對(duì)于整數(shù)類型的列，它提供了中心性、頻率、峰度和偏度。它還表示箱線圖、直方圖、value_count 圖和 QQ 圖中的數(shù)據(jù)。
對(duì)于字符串類型的列，它提供最常用的詞及其頻率、字符的詳細(xì)摘要、詞值計(jì)數(shù)圖和值計(jì)數(shù)圖。
5. 篩選過濾
在 D-Tale 中過濾數(shù)據(jù)非常簡(jiǎn)單，只需要指定所需的過濾器類型。下面的示例顯示按年份 > 2000 和年份 == 2001 過濾數(shù)據(jù)集：
在篩選日期時(shí)間類型列中的數(shù)據(jù)時(shí)，也可以按日期范圍篩選數(shù)據(jù)。對(duì)于字符串類型的列，可以通過以下方式過濾數(shù)據(jù)：
6. 方差報(bào)告
這個(gè)選項(xiàng)不適用于字符串類型值。方差報(bào)告基于以下兩點(diǎn)來(lái)決定特征是否具有低方差：
特征中的唯一值計(jì)數(shù)/樣本大小 < 10% 最常用值的計(jì)數(shù)/第二常用值的計(jì)數(shù) > 20
顯示計(jì)算結(jié)果，并用直方圖以呈現(xiàn)結(jié)果。
7. 文本清洗
這個(gè)選項(xiàng)僅適用于字符串類型的值。文本清洗是數(shù)據(jù)科學(xué)項(xiàng)目的主要部分，如果使用正確的類型，它可以提高模型性能。D-Tale 提供了可以應(yīng)用于文本的所有可能的文本清理方法，我們只需選擇要應(yīng)用于文本的方法，工作將在后端即可完成。
主菜單選項(xiàng)
在主菜單中，其實(shí)包含了列菜單的全部功能，但在主菜單中使用時(shí)，更加普適。比如，可以在單個(gè)或者多個(gè)列，而非手動(dòng)選擇了。下面是幾個(gè)核心功能介紹。
1. 創(chuàng)建列
可以創(chuàng)建新列或者從已有的列中創(chuàng)建列。像我們建模前的特征工程也可以使用它來(lái)實(shí)現(xiàn)，比如使用兩列執(zhí)行算數(shù)運(yùn)算來(lái)創(chuàng)建新列。同時(shí)，我們可以給創(chuàng)建的新列提供名稱，以及設(shè)置數(shù)據(jù)類型。
2. 匯總數(shù)據(jù)
在 pandas 中，我們通過分組或數(shù)據(jù)透視表匯總數(shù)據(jù)。我們也可以用 D-Tale 做同樣的事情。我們直接可以選擇列、聚合函數(shù)以及最終數(shù)據(jù)集中所需的列即可，無(wú)需任何代碼。下面是一個(gè)例子。
3. 缺失率分析
缺失數(shù)據(jù)是所有數(shù)據(jù)集中都會(huì)經(jīng)常出現(xiàn)的問題，因?yàn)闆]有數(shù)據(jù)集是完美的，它有意或無(wú)意地有很多缺失值。D-Tale 集成了 missingno 庫(kù)來(lái)可視化數(shù)據(jù)集中存在的缺失值，同時(shí)它也提供矩陣、條形圖、熱圖和樹狀圖。
4. 繪圖
繪圖是數(shù)據(jù)科學(xué)EDA探索性分析階段的重要步驟。D-Tale 集成 plotly 來(lái)創(chuàng)建交互式繪圖。它可以提供折線圖、條形圖、散點(diǎn)圖、餅圖、詞云圖、熱圖、3D 散點(diǎn)圖、表面圖、地圖、燭臺(tái)圖、樹狀圖和漏斗圖。不同類型的數(shù)據(jù)支持不同類型的繪圖，像下面這樣。
5. 高亮功能
用于突出顯示數(shù)據(jù)集的某些部分，就像我們?cè)?pandas 中使用 stylers 來(lái)顯示特殊值一樣，highlighters 也可以完成同樣的功能。比如，我們可以高亮缺失值、數(shù)據(jù)類型、異常值或者范圍。下面的示例顯示了如何高亮顯示缺失值和異常值：
6. 代碼導(dǎo)出、數(shù)據(jù)導(dǎo)出
在 D-Tale 中對(duì)數(shù)據(jù)框執(zhí)行的所有操作都會(huì)自動(dòng)轉(zhuǎn)換為它們的 python/pandas/plotly 等效代碼。可以通過單擊每個(gè)操作和圖表 GUI 中出現(xiàn)的導(dǎo)出代碼選項(xiàng)來(lái)查看它們。下面是自動(dòng)生成的一些代碼。
import?pandas?as?pd
from?dtale.datasets?import?{dataset}
df?=?{dataset}()
if?isinstance(df,?(pd.DatetimeIndex,?pd.MultiIndex)):
?df?=?df.to_frame(index=False)
#?remove?any?pre-existing?indices?for?ease?of?use?in?the?D-Tale?code,?but?this?is?not?required
df?=?df.reset_index().drop('index',?axis=1,?errors='ignore')
df.columns?=?[str(c)?for?c?in?df.columns]??#?update?columns?to?strings?in?case?they?are?numbers
df?=?df[[c?for?c?in?df.columns?if?c?!=?'imdb_title_id']]
df?=?df.rename(columns={'title':?'Movie_title'})
s?=?df['date_published']
s?=?df['date_published']
s?=?s.replace({
?'TV?Movie?2019':?np.nan})
df.loc[:,?'date_published']?=?s
df.loc[:,?'date_published']?=?pd.Series(pd.to_datetime(df['date_published'],?infer_datetime_format=True),?name='date_published',?index=df['date_published'].index)
最后，我們也可以使用導(dǎo)出選項(xiàng)更改為 CSV 或 TSV 后導(dǎo)出數(shù)據(jù)集。
結(jié)論
D-Tale 這個(gè)GUI強(qiáng)大功能真的是香，以后不想敲代碼的時(shí)候可以進(jìn)行可視化操作了，然后轉(zhuǎn)成代碼如果需要的話。和之前介紹過的其他類似工具的比較來(lái)看，比如pandasGUI、Mito，D-Tale 的功能更加強(qiáng)大。
參考：https://www.analyticsvidhya.com/blog/2021/06/exploring-pandas-dataframe-with-d-tale/
相關(guān)閱讀：