Python大數據為啥一定要用Numpy Array?
Numpy 是Python科學計算的一個核心模塊。它提供了非常高效的數組對象，以及用于處理這些數組對象的工具。一個Numpy數組由許多值組成，所有值的類型是相同的。
Python的核心庫提供了 List 列表。列表是最常見的Python數據類型之一，它可以調整大小并且包含不同類型的元素，非常方便。
那么List和Numpy Array到底有什么區(qū)別？為什么我們需要在大數據處理的時候使用Numpy Array？答案是性能。
Numpy數據結構在以下方面表現更好：
1.內存大小—Numpy數據結構占用的內存更小。
2.性能—Numpy底層是用C語言實現的，比列表更快。
3.運算方法—內置優(yōu)化了代數運算等方法。
下面分別講解在大數據處理時，Numpy數組相對于List的優(yōu)勢。
1.內存占用更小
適當地使用Numpy數組替代List，你能讓你的內存占用降低20倍。
對于Python原生的List列表，由于每次新增對象，都需要8個字節(jié)來引用新對象，新的對象本身占28個字節(jié)（以整數為例）。所以列表 list 的大小可以用以下公式計算：
64 + 8 * len(lst) + len(lst) * 28 字節(jié)
而使用Numpy，就能減少非常多的空間占用。比如長度為n的Numpy整形Array，它需要：
96 + len(a) * 8 字節(jié)
可見，數組越大，你節(jié)省的內存空間越多。假設你的數組有10億個元素，那么這個內存占用大小的差距會是GB級別的。
2.速度更快、內置計算方法
運行下面這個腳本，同樣是生成某個維度的兩個數組并相加，你就能看到原生List和Numpy Array的性能差距。
import?time
import?numpy as?np
size_of_vec = 1000
def?pure_python_version():
????t1 = time.time()
????X = range(size_of_vec)
????Y = range(size_of_vec)
????Z = [X[i] + Y[i] for?i in?range(len(X)) ]
????return?time.time() - t1
def?numpy_version():
????t1 = time.time()
????X = np.arange(size_of_vec)
????Y = np.arange(size_of_vec)
????Z = X + Y
????return?time.time() - t1
t1 = pure_python_version()
t2 = numpy_version()
print(t1, t2)
print("Numpy is in this example "?+ str(t1/t2) + " faster!")結果如下：
0.00048732757568359375?0.0002491474151611328
Numpy is?in?this?example 1.955980861244019?faster!
可以看到，Numpy比原生數組快1.95倍。
如果你細心的話，還能發(fā)現，Numpy array可以直接執(zhí)行加法操作。而原生的數組是做不到這點的，這就是Numpy 運算方法的優(yōu)勢。
我們再做幾次重復試驗，以證明這個性能優(yōu)勢是持久性的。
import?numpy as?np
from?timeit import?Timer
size_of_vec = 1000
X_list = range(size_of_vec)
Y_list = range(size_of_vec)
X = np.arange(size_of_vec)
Y = np.arange(size_of_vec)
def?pure_python_version():
????Z = [X_list[i] + Y_list[i] for?i in?range(len(X_list)) ]
def?numpy_version():
????Z = X + Y
timer_obj1 = Timer("pure_python_version()",
???????????????????"from __main__ import pure_python_version")
timer_obj2 = Timer("numpy_version()",
???????????????????"from __main__ import numpy_version")
print(timer_obj1.timeit(10))
print(timer_obj2.timeit(10)) # Runs Faster!
print(timer_obj1.repeat(repeat=3, number=10))
print(timer_obj2.repeat(repeat=3, number=10)) # repeat to prove it!結果如下：
0.0029753120616078377
0.00014940369874238968
[0.002683573868125677, 0.002754641231149435, 0.002803879790008068]
[6.536301225423813e-05, 2.9387418180704117e-05, 2.9171351343393326e-05]
可以看到，第二個輸出的時間總是小得多，這就證明了這個性能優(yōu)勢是具有持久性的。
所以，如果你在做一些大數據研究，比如金融數據、股票數據的研究，使用Numpy能夠節(jié)省你不少內存空間，并擁有更強大的性能。
參考文獻：https://webcourses.ucf.edu/courses/1249560/pages/python-lists-vs-numpy-arrays-what-is-the-difference
我們的文章到此就結束啦，如果你喜歡今天的Python 實戰(zhàn)教程，請持續(xù)關注我們。
推薦閱讀:
入門:?最全的零基礎學Python的問題? |?零基礎學了8個月的Python??|?實戰(zhàn)項目?|學Python就是這條捷徑
干貨:爬取豆瓣短評，電影《后來的我們》?|?38年NBA最佳球員分析?|? ?從萬眾期待到口碑撲街！唐探3令人失望? |?笑看新倚天屠龍記?|?燈謎答題王?｜用Python做個海量小姐姐素描圖?｜碟中諜這么火，我用機器學習做個迷你推薦系統電影
趣味:彈球游戲? |?九宮格? |?漂亮的花?|?兩百行Python《天天酷跑》游戲!
AI:?會做詩的機器人?|?給圖片上色?|?預測收入?|?碟中諜這么火，我用機器學習做個迷你推薦系統電影
小工具:?Pdf轉Word，輕松搞定表格和水??！?|?一鍵把html網頁保存為pdf！|??再見PDF提取收費！?|?用90行代碼打造最強PDF轉換器，word、PPT、excel、markdown、html一鍵轉換?|?制作一款釘釘低價機票提示器！?｜60行代碼做了一個語音壁紙切換器天天看小姐姐！｜
年度爆款文案
點閱讀原文，看200個Python案例!
