推薦收藏：50個最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集

外國自媒體mlmemoirs根據(jù)github、福布斯、CMU官網(wǎng)等信息，整理了一張50個最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集的榜單，為大家分享一下~

提前說下須知：

一、尋找數(shù)據(jù)集的意義

根據(jù)CMU的說法，尋找一個好用的數(shù)據(jù)集需要注意一下幾點(diǎn)：

數(shù)據(jù)集不混亂，否則要花費(fèi)大量時間來清理數(shù)據(jù)。

數(shù)據(jù)集不應(yīng)包含太多行或列，否則會難以使用。

數(shù)據(jù)越干凈越好，清理大型數(shù)據(jù)集可能非常耗時。

應(yīng)該預(yù)設(shè)一個有趣的問題，而這個問題又可以用數(shù)據(jù)來回答。

二、去哪里找數(shù)據(jù)集

• Kaggle：愛競賽的盆友們應(yīng)該很熟悉了，Kaggle上有各種有趣的數(shù)據(jù)集，拉面評級、籃球數(shù)據(jù)、甚至西雅圖的寵物許可證。
  https://www.kaggle.com/

• UCI機(jī)器學(xué)習(xí)庫：最古老的數(shù)據(jù)集源之一，是尋找有趣數(shù)據(jù)集的第一站。雖然數(shù)據(jù)集是用戶貢獻(xiàn)的，因此具有不同的清潔度，但絕大多數(shù)都是干凈的，可以直接從UCI機(jī)器學(xué)習(xí)庫下載，無需注冊。
  http://mlr.cs.umass.edu/ml/

• VisualData：分好類的計算機(jī)視覺數(shù)據(jù)集，可以搜索~
  https://www.visualdata.io/

好了，下面就是那50個數(shù)據(jù)集了，由于后期加上了一些補(bǔ)充，所以總數(shù)已經(jīng)超過了50。

?機(jī)器學(xué)習(xí)數(shù)據(jù)集

圖片

• Labelme：帶注釋的大型圖像數(shù)據(jù)集。
  http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.php

• ImageNet：大家熟悉的ImageNet，女神李飛飛參與創(chuàng)建，同名比賽影響整個計算機(jī)視覺界。
  http://image-net.org/

• LSUN：場景理解與許多輔助任務(wù)（房間布局估計，顯著性預(yù)測等）
  http://lsun.cs.princeton.edu/2016/

• MS COCO：同樣也是知名計算機(jī)視覺數(shù)據(jù)集，同名比賽每年都被中國人屠榜。
  http://mscoco.org/

• COIL 100?：100個不同的物體在360度旋轉(zhuǎn)的每個角度成像。
  http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php

• 視覺基因組：非常詳細(xì)的視覺知識庫。
  http://visualgenome.org/

• 谷歌開放圖像：在知識共享下的900萬個圖像網(wǎng)址集合“已經(jīng)注釋了超過6000個類別的標(biāo)簽”。
  https://research.googleblog.com/2016/09/introducing-open-images-dataset.html

• 野外標(biāo)記面：13000張人臉標(biāo)記圖像，用于開發(fā)涉及面部識別的應(yīng)用程序。
  http://vis-www.cs.umass.edu/lfw/

• 斯坦福狗子數(shù)據(jù)集：20580張狗子的圖片，包括120個不同品種。
  http://vision.stanford.edu/aditya86/ImageNetDogs/

• 室內(nèi)場景識別：包含67個室內(nèi)類別，15620個圖像。
  http://web.mit.edu/torralba/www/indoor.html

情緒分析

• 多域情緒分析數(shù)據(jù)集：一個稍老一點(diǎn)的數(shù)據(jù)集，用到了來自亞馬遜的產(chǎn)品評論。
  http://www.cs.jhu.edu/~mdredze/datasets/sentiment/

• IMDB評論：用于二元情緒分類的數(shù)據(jù)集，不過也有點(diǎn)老、有點(diǎn)小，有大約25000個電影評論。
  http://ai.stanford.edu/~amaas/data/sentiment/

• 斯坦福情緒樹庫：帶有情感注釋的標(biāo)準(zhǔn)情緒數(shù)據(jù)集。
  http://nlp.stanford.edu/sentiment/code.html

• Sentiment140：一個流行的數(shù)據(jù)集，它使用160,000條預(yù)先刪除表情符號的推文。
  http://help.sentiment140.com/for-students/

• Twitter美國航空公司情緒：2015年2月美國航空公司的Twitter數(shù)據(jù)，分類為正面，負(fù)面和中性推文。
  https://www.kaggle.com/crowdflower/twitter-airline-sentiment

自然語言處理

• HotspotQA數(shù)據(jù)集：具有自然、多跳問題的問答數(shù)據(jù)集，具有支持事實(shí)的強(qiáng)大監(jiān)督，以實(shí)現(xiàn)更易于解釋的問答系統(tǒng)。
  https://hotpotqa.github.io/

• 安然數(shù)據(jù)集：來自安然高級管理層的電子郵件數(shù)據(jù)。
  https://www.cs.cmu.edu/~./enron/

• 亞馬遜評論：包含18年來亞馬遜上的大約3500萬條評論，數(shù)據(jù)包括產(chǎn)品和用戶信息，評級和文本審核。
  https://snap.stanford.edu/data/web-Amazon.html

• Google Books Ngrams：Google Books中的一系列文字。
  https://aws.amazon.com/datasets/google-books-ngrams/

• Blogger Corpus：收集了來自blogger.com的681,288篇博文，每篇博文至少包含200個常用英語單詞。
  http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm

• 維基百科鏈接數(shù)據(jù)：維基百科的全文，包含來自400多萬篇文章的近19億個單詞，可以按段落、短語或段落本身的一部分進(jìn)行搜索。
  https://code.google.com/p/wiki-links/downloads/list

• Gutenberg電子書列表：Gutenberg項(xiàng)目中帶注釋的電子書書單。
  http://www.gutenberg.org/wiki/Gutenberg:Offline_Catalogs

• Hansards加拿大議會文本：來自第36屆加拿大議會記錄的130萬組文本。
  http://www.isi.edu/natural-language/download/hansard/

• Jeopardy：來自問答節(jié)目Jeopardy的超過200,000個問題的歸檔。
  http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/

• 英文垃圾短信收集：由5574條英文垃圾短信組成的數(shù)據(jù)集。
  http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/

• Yelp評論：Yelp，就是美國的“大眾點(diǎn)評”，這是他們發(fā)布的一個開放數(shù)據(jù)集，包含超過500萬條評論。
  https://www.yelp.com/dataset

UCI的Spambase：一個大型垃圾郵件數(shù)據(jù)集，對垃圾郵件過濾非常有用。
https://archive.ics.uci.edu/ml/datasets/Spambase

自動駕駛

• Berkeley DeepDrive BDD100k：目前最大的自動駕駛數(shù)據(jù)集，包含超過100,000個視頻，其中包括一天中不同時段和天氣條件下超過1,100小時的駕駛體驗(yàn)。其中帶注釋的圖像來自紐約和舊金山地區(qū)。
  http://bdd-data.berkeley.edu/

• 百度Apolloscapes：度娘的大型數(shù)據(jù)集，定義了26種不同物體，如汽車、自行車、行人、建筑物、路燈等。
  http://apolloscape.auto/

• Comma.ai：超過7小時的高速公路駕駛，細(xì)節(jié)包括汽車的速度、加速度、轉(zhuǎn)向角和GPS坐標(biāo)。
  https://archive.org/details/comma-dataset

• 牛津的機(jī)器人汽車：這個數(shù)據(jù)集來自牛津的機(jī)器人汽車，它于一年時間內(nèi)在英國牛津的同一條路上，反反復(fù)復(fù)跑了超過100次，捕捉了天氣、交通和行人的不同組合，以及建筑和道路工程等長期變化。
  http://robotcar-dataset.robots.ox.ac.uk/

• 城市景觀數(shù)據(jù)集：一個大型數(shù)據(jù)集，記錄50個不同城市的城市街景。
  https://www.cityscapes-dataset.com/

• CSSAD數(shù)據(jù)集：此數(shù)據(jù)集對于自動駕駛車輛的感知和導(dǎo)航非常有用。不過，數(shù)據(jù)集嚴(yán)重偏向發(fā)達(dá)國家的道路。
  http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-dataset

• KUL比利時交通標(biāo)志數(shù)據(jù)集：來自比利時法蘭德斯地區(qū)數(shù)以千計的實(shí)體交通標(biāo)志的超過10000條注釋。
  http://www.vision.ee.ethz.ch/~timofter/traffic_signs/

• MIT AGE Lab：在AgeLab收集的1,000多小時多傳感器駕駛數(shù)據(jù)集的樣本。
  http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/

• LISA：UC圣迭戈智能和安全汽車實(shí)驗(yàn)室的數(shù)據(jù)集，包括交通標(biāo)志、車輛檢測、交通信號燈和軌跡模式。
  http://cvrr.ucsd.edu/LISA/datasets.html

• 博世小交通燈數(shù)據(jù)集：用于深度學(xué)習(xí)的小型交通燈的數(shù)據(jù)集。
  https://hci.iwr.uni-heidelberg.de/node/6132

• LaRa交通燈識別：巴黎的交通信號燈數(shù)據(jù)集。
  http://www.lara.prd.fr/benchmarks/trafficlightsrecognition

• WPI數(shù)據(jù)集：交通燈、行人和車道檢測的數(shù)據(jù)集。
  http://computing.wpi.edu/dataset.html

臨床

• MIMIC-III：MIT計算生理學(xué)實(shí)驗(yàn)室的公開數(shù)據(jù)集，標(biāo)記了約40000名重癥監(jiān)護(hù)患者的健康數(shù)據(jù)，包括人口統(tǒng)計學(xué)、生命體征、實(shí)驗(yàn)室測試、藥物等維度。
  https://mimic.physionet.org/

一般數(shù)據(jù)集

除了機(jī)器學(xué)習(xí)專用的數(shù)據(jù)集，還有一些其他的一般數(shù)據(jù)集，可能很有趣~

公共政府?dāng)?shù)據(jù)集

• Data.gov：該網(wǎng)站可以從多個美國政府機(jī)構(gòu)下載數(shù)據(jù)，包括各種奇怪的數(shù)據(jù)，從政府預(yù)算到考試分?jǐn)?shù)都有。不過，其中大部分?jǐn)?shù)據(jù)需要進(jìn)一步研究。
  https://www.data.gov/

• 食物環(huán)境地圖集：本地食材如何影響美國飲食的數(shù)據(jù)。
  https://catalog.data.gov/dataset/food-environment-atlas-f4a22

• 學(xué)校財務(wù)系統(tǒng)：美國學(xué)校財務(wù)系統(tǒng)的調(diào)查。
  https://catalog.data.gov/dataset/annual-survey-of-school-system-finances

• 慢性病數(shù)據(jù)：美國各地區(qū)慢性病指標(biāo)數(shù)據(jù)。
  https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9

• 美國國家教育統(tǒng)計中心：教育機(jī)構(gòu)和教育人口統(tǒng)計數(shù)據(jù)，不僅有美國的數(shù)據(jù)，也有一些世界上其他地方的數(shù)據(jù)。
  https://nces.ed.gov/

• 英國數(shù)據(jù)服務(wù)：英國最大的社會、經(jīng)濟(jì)和人口數(shù)據(jù)集。
  https://www.ukdataservice.ac.uk/

• 數(shù)據(jù)美國：全面可視化的美國公共數(shù)據(jù)。
  http://datausa.io/

• 中國國家統(tǒng)計局。
  http://www.stats.gov.cn/

金融與經(jīng)濟(jì)

• Quandl：經(jīng)濟(jì)和金融數(shù)據(jù)的良好來源，有助于建立預(yù)測經(jīng)濟(jì)指標(biāo)或股票價格的模型。
  https://www.quandl.com/

• 世界銀行開放數(shù)據(jù)：全球人口統(tǒng)計數(shù)據(jù)，還有大量經(jīng)濟(jì)和發(fā)展指標(biāo)的數(shù)據(jù)集。
  https://data.worldbank.org/

• 國際貨幣基金組織數(shù)據(jù)：國際貨幣基金組織公布的有關(guān)國際金融，債務(wù)利率，外匯儲備，商品價格和投資的數(shù)據(jù)。
  https://www.imf.org/en/Data

• 金融時報市場數(shù)據(jù)：來自世界各地的金融市場的最新信息，包括股票價格指數(shù)，商品和外匯。
  https://markets.ft.com/data/

• Google Trends：世界各地的互聯(lián)網(wǎng)搜索行為和熱門新聞報道的數(shù)據(jù)。
  http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0

• 美國經(jīng)濟(jì)協(xié)會：美國宏觀經(jīng)濟(jì)數(shù)據(jù)。
  https://www.aeaweb.org/resources/data/us-macro-regional

備注：有一些網(wǎng)址需要科學(xué)上網(wǎng)才能打開。

暫時手頭沒有工具怎么辦？先收藏呀！