Mincemeat-node極簡MapReduce框架
Mincemeat-node 是使用Node.js實現(xiàn)的極簡MapReduce框架,可以快速的部署投入工作,免去Hadoop繁瑣的配置,享受隨心大數(shù)據。
Mincemeatpy實現(xiàn)的是一種非常簡單的MapReduce模型,僅僅實現(xiàn)了任務的分布計算,并沒有類似HDFS這樣的支撐,因此只適合做計算量很 大的工作,但是相對于Hadoop的好處在于部署非常的方便,單文件隨處運行,在實際使用中非常的方便,這也是我想用Node.js去實現(xiàn)的原因之一。 Node.js的網絡異步處理模型非常適合于這種突發(fā)通信量較大,性能要求比較高的場景,并且也是單文件隨處運行的典型。相對的,Node.js也有一個 很嚴重的缺點:無法很好的利用多核CPU。因此在代碼的實現(xiàn)上,我還是使用了多進程的方式來達到最大化的利用計算資源,并且對Client的負載進行檢測 以便做負載均衡。
評論
圖片
表情
