【機(jī)器學(xué)習(xí)】50個(gè)最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集
外國(guó)自媒體mlmemoirs根據(jù)github、福布斯、CMU官網(wǎng)等信息,整理了一張50個(gè)最佳機(jī)器學(xué)習(xí)公共數(shù)據(jù)集的榜單,為大家分享一下~
Kaggle:愛(ài)競(jìng)賽的盆友們應(yīng)該很熟悉了,Kaggle上有各種有趣的數(shù)據(jù)集,拉面評(píng)級(jí)、籃球數(shù)據(jù)、甚至西雅圖的寵物許可證。
https://www.kaggle.com/UCI機(jī)器學(xué)習(xí)庫(kù):最古老的數(shù)據(jù)集源之一,是尋找有趣數(shù)據(jù)集的第一站。雖然數(shù)據(jù)集是用戶(hù)貢獻(xiàn)的,因此具有不同的清潔度,但絕大多數(shù)都是干凈的,可以直接從UCI機(jī)器學(xué)習(xí)庫(kù)下載,無(wú)需注冊(cè)。
http://mlr.cs.umass.edu/ml/VisualData:分好類(lèi)的計(jì)算機(jī)視覺(jué)數(shù)據(jù)集,可以搜索~
https://www.visualdata.io/
圖片
Labelme:帶注釋的大型圖像數(shù)據(jù)集。
http://labelme.csail.mit.edu/Release3.0/browserTools/php/dataset.phpImageNet:大家熟悉的ImageNet,女神李飛飛參與創(chuàng)建,同名比賽影響整個(gè)計(jì)算機(jī)視覺(jué)界。
http://image-net.org/LSUN:場(chǎng)景理解與許多輔助任務(wù)(房間布局估計(jì),顯著性預(yù)測(cè)等)
http://lsun.cs.princeton.edu/2016/MS COCO:同樣也是知名計(jì)算機(jī)視覺(jué)數(shù)據(jù)集,同名比賽每年都被中國(guó)人屠榜。
http://mscoco.org/COIL 100 :100個(gè)不同的物體在360度旋轉(zhuǎn)的每個(gè)角度成像。
http://www1.cs.columbia.edu/CAVE/software/softlib/coil-100.php視覺(jué)基因組:非常詳細(xì)的視覺(jué)知識(shí)庫(kù)。
http://visualgenome.org/谷歌開(kāi)放圖像:在知識(shí)共享下的900萬(wàn)個(gè)圖像網(wǎng)址集合“已經(jīng)注釋了超過(guò)6000個(gè)類(lèi)別的標(biāo)簽”。
https://research.googleblog.com/2016/09/introducing-open-images-dataset.html野外標(biāo)記面:13000張人臉標(biāo)記圖像,用于開(kāi)發(fā)涉及面部識(shí)別的應(yīng)用程序。
http://vis-www.cs.umass.edu/lfw/斯坦福狗子數(shù)據(jù)集:20580張狗子的圖片,包括120個(gè)不同品種。
http://vision.stanford.edu/aditya86/ImageNetDogs/室內(nèi)場(chǎng)景識(shí)別:包含67個(gè)室內(nèi)類(lèi)別,15620個(gè)圖像。
http://web.mit.edu/torralba/www/indoor.html
情緒分析
多域情緒分析數(shù)據(jù)集:一個(gè)稍老一點(diǎn)的數(shù)據(jù)集,用到了來(lái)自亞馬遜的產(chǎn)品評(píng)論。
http://www.cs.jhu.edu/~mdredze/datasets/sentiment/IMDB評(píng)論:用于二元情緒分類(lèi)的數(shù)據(jù)集,不過(guò)也有點(diǎn)老、有點(diǎn)小,有大約25000個(gè)電影評(píng)論。
http://ai.stanford.edu/~amaas/data/sentiment/斯坦福情緒樹(shù)庫(kù):帶有情感注釋的標(biāo)準(zhǔn)情緒數(shù)據(jù)集。
http://nlp.stanford.edu/sentiment/code.htmlSentiment140:一個(gè)流行的數(shù)據(jù)集,它使用160,000條預(yù)先刪除表情符號(hào)的推文。
http://help.sentiment140.com/for-students/Twitter美國(guó)航空公司情緒:2015年2月美國(guó)航空公司的Twitter數(shù)據(jù),分類(lèi)為正面,負(fù)面和中性推文。
https://www.kaggle.com/crowdflower/twitter-airline-sentiment
自然語(yǔ)言處理
HotspotQA數(shù)據(jù)集:具有自然、多跳問(wèn)題的問(wèn)答數(shù)據(jù)集,具有支持事實(shí)的強(qiáng)大監(jiān)督,以實(shí)現(xiàn)更易于解釋的問(wèn)答系統(tǒng)。
https://hotpotqa.github.io/安然數(shù)據(jù)集:來(lái)自安然高級(jí)管理層的電子郵件數(shù)據(jù)。
https://www.cs.cmu.edu/~./enron/亞馬遜評(píng)論:包含18年來(lái)亞馬遜上的大約3500萬(wàn)條評(píng)論,數(shù)據(jù)包括產(chǎn)品和用戶(hù)信息,評(píng)級(jí)和文本審核。
https://snap.stanford.edu/data/web-Amazon.htmlGoogle Books Ngrams:Google Books中的一系列文字。
https://aws.amazon.com/datasets/google-books-ngrams/Blogger Corpus:收集了來(lái)自blogger.com的681,288篇博文,每篇博文至少包含200個(gè)常用英語(yǔ)單詞。
http://u.cs.biu.ac.il/~koppel/BlogCorpus.htm維基百科鏈接數(shù)據(jù):維基百科的全文,包含來(lái)自400多萬(wàn)篇文章的近19億個(gè)單詞,可以按段落、短語(yǔ)或段落本身的一部分進(jìn)行搜索。
https://code.google.com/p/wiki-links/downloads/listGutenberg電子書(shū)列表:Gutenberg項(xiàng)目中帶注釋的電子書(shū)書(shū)單。
http://www.gutenberg.org/wiki/Gutenberg:Offline_CatalogsHansards加拿大議會(huì)文本:來(lái)自第36屆加拿大議會(huì)記錄的130萬(wàn)組文本。
http://www.isi.edu/natural-language/download/hansard/Jeopardy:來(lái)自問(wèn)答節(jié)目Jeopardy的超過(guò)200,000個(gè)問(wèn)題的歸檔。
http://www.reddit.com/r/datasets/comments/1uyd0t/200000_jeopardy_questions_in_a_json_file/英文垃圾短信收集:由5574條英文垃圾短信組成的數(shù)據(jù)集。
http://www.dt.fee.unicamp.br/~tiago/smsspamcollection/Yelp評(píng)論:Yelp,就是美國(guó)的“大眾點(diǎn)評(píng)”,這是他們發(fā)布的一個(gè)開(kāi)放數(shù)據(jù)集,包含超過(guò)500萬(wàn)條評(píng)論。
https://www.yelp.com/dataset
https://archive.ics.uci.edu/ml/datasets/Spambase
自動(dòng)駕駛
Berkeley DeepDrive BDD100k:目前最大的自動(dòng)駕駛數(shù)據(jù)集,包含超過(guò)100,000個(gè)視頻,其中包括一天中不同時(shí)段和天氣條件下超過(guò)1,100小時(shí)的駕駛體驗(yàn)。其中帶注釋的圖像來(lái)自紐約和舊金山地區(qū)。
http://bdd-data.berkeley.edu/百度Apolloscapes:度娘的大型數(shù)據(jù)集,定義了26種不同物體,如汽車(chē)、自行車(chē)、行人、建筑物、路燈等。
http://apolloscape.auto/Comma.ai:超過(guò)7小時(shí)的高速公路駕駛,細(xì)節(jié)包括汽車(chē)的速度、加速度、轉(zhuǎn)向角和GPS坐標(biāo)。
https://archive.org/details/comma-dataset牛津的機(jī)器人汽車(chē):這個(gè)數(shù)據(jù)集來(lái)自牛津的機(jī)器人汽車(chē),它于一年時(shí)間內(nèi)在英國(guó)牛津的同一條路上,反反復(fù)復(fù)跑了超過(guò)100次,捕捉了天氣、交通和行人的不同組合,以及建筑和道路工程等長(zhǎng)期變化。
http://robotcar-dataset.robots.ox.ac.uk/城市景觀(guān)數(shù)據(jù)集:一個(gè)大型數(shù)據(jù)集,記錄50個(gè)不同城市的城市街景。
https://www.cityscapes-dataset.com/CSSAD數(shù)據(jù)集:此數(shù)據(jù)集對(duì)于自動(dòng)駕駛車(chē)輛的感知和導(dǎo)航非常有用。不過(guò),數(shù)據(jù)集嚴(yán)重偏向發(fā)達(dá)國(guó)家的道路。
http://aplicaciones.cimat.mx/Personal/jbhayet/ccsad-datasetKUL比利時(shí)交通標(biāo)志數(shù)據(jù)集:來(lái)自比利時(shí)法蘭德斯地區(qū)數(shù)以千計(jì)的實(shí)體交通標(biāo)志的超過(guò)10000條注釋。
http://www.vision.ee.ethz.ch/~timofter/traffic_signs/MIT AGE Lab:在AgeLab收集的1,000多小時(shí)多傳感器駕駛數(shù)據(jù)集的樣本。
http://lexfridman.com/automated-synchronization-of-driving-data-video-audio-telemetry-accelerometer/LISA:UC圣迭戈智能和安全汽車(chē)實(shí)驗(yàn)室的數(shù)據(jù)集,包括交通標(biāo)志、車(chē)輛檢測(cè)、交通信號(hào)燈和軌跡模式。
http://cvrr.ucsd.edu/LISA/datasets.html博世小交通燈數(shù)據(jù)集:用于深度學(xué)習(xí)的小型交通燈的數(shù)據(jù)集。
https://hci.iwr.uni-heidelberg.de/node/6132LaRa交通燈識(shí)別:巴黎的交通信號(hào)燈數(shù)據(jù)集。
http://www.lara.prd.fr/benchmarks/trafficlightsrecognitionWPI數(shù)據(jù)集:交通燈、行人和車(chē)道檢測(cè)的數(shù)據(jù)集。
http://computing.wpi.edu/dataset.html
臨床
MIMIC-III:MIT計(jì)算生理學(xué)實(shí)驗(yàn)室的公開(kāi)數(shù)據(jù)集,標(biāo)記了約40000名重癥監(jiān)護(hù)患者的健康數(shù)據(jù),包括人口統(tǒng)計(jì)學(xué)、生命體征、實(shí)驗(yàn)室測(cè)試、藥物等維度。
https://mimic.physionet.org/
公共政府?dāng)?shù)據(jù)集
Data.gov:該網(wǎng)站可以從多個(gè)美國(guó)政府機(jī)構(gòu)下載數(shù)據(jù),包括各種奇怪的數(shù)據(jù),從政府預(yù)算到考試分?jǐn)?shù)都有。不過(guò),其中大部分?jǐn)?shù)據(jù)需要進(jìn)一步研究。
https://www.data.gov/食物環(huán)境地圖集:本地食材如何影響美國(guó)飲食的數(shù)據(jù)。
https://catalog.data.gov/dataset/food-environment-atlas-f4a22學(xué)校財(cái)務(wù)系統(tǒng):美國(guó)學(xué)校財(cái)務(wù)系統(tǒng)的調(diào)查。
https://catalog.data.gov/dataset/annual-survey-of-school-system-finances慢性病數(shù)據(jù):美國(guó)各地區(qū)慢性病指標(biāo)數(shù)據(jù)。
https://catalog.data.gov/dataset/u-s-chronic-disease-indicators-cdi-e50c9美國(guó)國(guó)家教育統(tǒng)計(jì)中心:教育機(jī)構(gòu)和教育人口統(tǒng)計(jì)數(shù)據(jù),不僅有美國(guó)的數(shù)據(jù),也有一些世界上其他地方的數(shù)據(jù)。
https://nces.ed.gov/英國(guó)數(shù)據(jù)服務(wù):英國(guó)最大的社會(huì)、經(jīng)濟(jì)和人口數(shù)據(jù)集。
https://www.ukdataservice.ac.uk/數(shù)據(jù)美國(guó):全面可視化的美國(guó)公共數(shù)據(jù)。
http://datausa.io/中國(guó)國(guó)家統(tǒng)計(jì)局。
http://www.stats.gov.cn/
金融與經(jīng)濟(jì)
Quandl:經(jīng)濟(jì)和金融數(shù)據(jù)的良好來(lái)源,有助于建立預(yù)測(cè)經(jīng)濟(jì)指標(biāo)或股票價(jià)格的模型。
https://www.quandl.com/世界銀行開(kāi)放數(shù)據(jù):全球人口統(tǒng)計(jì)數(shù)據(jù),還有大量經(jīng)濟(jì)和發(fā)展指標(biāo)的數(shù)據(jù)集。
https://data.worldbank.org/國(guó)際貨幣基金組織數(shù)據(jù):國(guó)際貨幣基金組織公布的有關(guān)國(guó)際金融,債務(wù)利率,外匯儲(chǔ)備,商品價(jià)格和投資的數(shù)據(jù)。
https://www.imf.org/en/Data金融時(shí)報(bào)市場(chǎng)數(shù)據(jù):來(lái)自世界各地的金融市場(chǎng)的最新信息,包括股票價(jià)格指數(shù),商品和外匯。
https://markets.ft.com/data/Google Trends:世界各地的互聯(lián)網(wǎng)搜索行為和熱門(mén)新聞報(bào)道的數(shù)據(jù)。
http://www.google.com/trends?q=google&ctab=0&geo=all&date=all&sort=0美國(guó)經(jīng)濟(jì)協(xié)會(huì):美國(guó)宏觀(guān)經(jīng)濟(jì)數(shù)據(jù)。
https://www.aeaweb.org/resources/data/us-macro-regional
作者:mlmemoirs 郭一璞 編譯
往期精彩回顧
適合初學(xué)者入門(mén)人工智能的路線(xiàn)及資料下載 (圖文+視頻)機(jī)器學(xué)習(xí)入門(mén)系列下載 機(jī)器學(xué)習(xí)及深度學(xué)習(xí)筆記等資料打印 《統(tǒng)計(jì)學(xué)習(xí)方法》的代碼復(fù)現(xiàn)專(zhuān)輯 機(jī)器學(xué)習(xí)交流qq群955171419,加入微信群請(qǐng)掃碼
