獨(dú)家 | 線性代數(shù)：每個(gè)數(shù)據(jù)科學(xué)家的必知概念（下）
共 5442字，需瀏覽 11分鐘
·
2024-07-26 17:00
作者：Benedict Neo
翻譯：陳之炎
校對(duì)：ZRX
本文約2900字，建議閱讀8分鐘
本文將探討上述線性代數(shù)概念、視覺解釋和代碼示例。
本文（上篇）目錄
-
單位向量
-
向量相加 -
標(biāo)量相乘 -
點(diǎn)積
-
零空間（核） -
張成空間 -
基 -
線性獨(dú)立
-
矩陣作為函數(shù) -
線性變換 -
逆矩陣 -
奇異矩陣 -
單位矩陣 -
對(duì)角矩陣 -
正交矩陣 -
矩陣乘法 -
跡 -
決定值 -
秩 -
特征向量和特征值
矩陣
矩陣是按行和列組織輸入和操作方式。
圖片由作者提供
這是一個(gè)2行2列的矩陣，矩陣是一種數(shù)學(xué)工具，可以以結(jié)構(gòu)化的方式解決實(shí)際問題。
矩陣作為函數(shù)
可以將矩陣視為函數(shù)，Python函數(shù)接收輸入矩陣，經(jīng)過處理之后返回輸出矩陣， 矩陣變換通過線性變換將輸入向量轉(zhuǎn)換為輸出向量。
圖片由作者提供
線性變換
線性變換是在兩個(gè)向量空間V和W之間的映射，它保留了向量加法和標(biāo)量乘法的操作。將矩陣A應(yīng)用于向量x以得到另一個(gè)向量y（通過操作Ax = y）是一種線性變換。這種變換在數(shù)據(jù)科學(xué)中得到大量使用：
-
降維：PCA使用線性變換將高維數(shù)據(jù)映射到低維空間 -
數(shù)據(jù)轉(zhuǎn)換：歸一化或標(biāo)準(zhǔn)化數(shù)據(jù)集是一種線性變換 特征工程：通過組合現(xiàn)有特征來創(chuàng)建新特征。
以下是一些特殊形式的矩陣：
逆矩陣
當(dāng)矩陣與其逆矩陣相乘時(shí)，結(jié)果為單位矩陣。
奇異矩陣
奇異矩陣是沒有一個(gè)逆矩陣的方陣，即矩陣的決定值為零或其秩小于其大小。
單位矩陣
單位矩陣是一個(gè)方陣，其對(duì)角線上的元素值為1，其余位置元素值為零，它在矩陣乘法中作為乘法恒等元素， 就像數(shù)字1一樣，不改變矩陣中任何元素的值。
對(duì)角矩陣
對(duì)角矩陣是一個(gè)方陣，其中主對(duì)角線外的所有元素均為零，。它用于求解特征值， 并用于決定值計(jì)算。
正交矩陣
如果一個(gè)方陣的轉(zhuǎn)置等于它的逆陣，那么認(rèn)為它是正交的。
正式地說，如果矩陣A滿足 A?A=AA? = I，其中I是單位矩陣，那么A就是正交的。
從幾何意義上講，如果一個(gè)矩陣的列和行是正交單位向量，即它們是相互垂直的并且大小為1， 那么該矩陣就是正交的。回想一下，如果兩個(gè)向量互相垂直（90度），并且它們之間的點(diǎn)積為0，則它們就是正交的。
矩陣乘法
如何使用矩陣來執(zhí)行矩陣乘法？ 這里有一個(gè)很好的可視化圖，摘自《線性代數(shù)直觀指南》
想象你正在對(duì)每個(gè)輸入數(shù)據(jù)實(shí)施不同的操作。
舉個(gè)操作的例子。
經(jīng)過操作后，得到以下結(jié)果。
輸入是一個(gè)[3 x 2] 矩陣，對(duì)輸入實(shí)施操作的矩陣是 [2 x 3]；結(jié)果是 [2 x 3] [3 x 2] = [2 x 2]。輸入的大小必須與操作的大小相匹配。
跡
矩陣的跡是其所有對(duì)角線元素的和，它在基變換下是不變的， 提供了關(guān)于矩陣的值信息，即，跡是矩陣的特征值之和。
決定值
決定值是輸出變換的大小， 如果輸入是單位向量（面積或體積為1），那么決定值就是變換后的面積或體積的大小。 以下述矩陣為例，如果A的面積放大了6倍，那么變換的決定值就是6。
負(fù)決定值意味著整個(gè)空間被翻轉(zhuǎn)了，這種變換就像是把一堆紙翻轉(zhuǎn)到另一邊。
注意紅色軸和綠色軸的方向是如何反轉(zhuǎn)的，決定值為0意味著矩陣是“破壞性的”，并且無法逆轉(zhuǎn)。類似于乘以零，信息丟失了。 決定值可以告訴我們矩陣是否可逆，如果det(A)是0，那么逆矩陣不存在；矩陣是奇異的。
秩
矩陣中線性獨(dú)立列/行向量的最大數(shù)量，它表示由其行或列張成的向量空間的維度，由此得出線性變換后的輸出維度數(shù)量。當(dāng)變換的輸出是單一向量（它是一維的），說明變換的秩是1。如果所有向量都落在某個(gè)二維平面上，則說變換的秩是2。對(duì)于2x2矩陣來說，秩為2是它所能達(dá)到的最好情況，稱之為滿秩，它意味著基向量可以張成整個(gè)2D空間，并且決定值非零。 對(duì)于3x3矩陣來說，秩為2意味著它已經(jīng)坍塌了，但還沒有秩為1那么嚴(yán)重。
特征向量和特征值
特征向量和特征值表示變換的“軸”。特征向量是在線性變換后方向不變的輸入，即便方向沒變，但是大小可能會(huì)變。 這個(gè)大小則是特征向量放大或縮小的程度，即特征值。 想象一下當(dāng)旋轉(zhuǎn)一個(gè)地球儀，每個(gè)位置都面向一個(gè)新的方向，但極點(diǎn)除外，極點(diǎn)的方向始終沒有改變。
特征向量
對(duì)于矩陣A和向量v，如果Av = λv，那么λ是特征值，v是A的特征向量。還有一種說法是，方陣A的特征向量是滿足矩陣乘法 = 標(biāo)量乘法的向量。
感謝撥冗閱讀！
資源
-
程序員必學(xué)計(jì)算線性代數(shù) -
應(yīng)用機(jī)器學(xué)習(xí)的線性代數(shù)入門
-
圖形線性代數(shù)-一種新的LA方法 -
線性代數(shù)的本質(zhì)3BluelBrown-驚人的動(dòng)畫，可視化的概念 -
矢量化 -
洞察數(shù)學(xué)
-
深度學(xué)習(xí)所需的矩陣演算 -
數(shù)據(jù)分析、信號(hào)處理和機(jī)器中的矩陣方法 |麻省理工學(xué)院開放式課程 -
線性代數(shù)全答對(duì) -
4頁線性代數(shù).Pdf
保持聯(lián)絡(luò)！
務(wù)必關(guān)注 bitgrit 數(shù)據(jù)科學(xué)出版物以保持更新！想和其他數(shù)據(jù)科學(xué)家討論數(shù)據(jù)科學(xué)和人工智能的最新發(fā)展嗎？加入我們的discord服務(wù)器！關(guān)注 Bitgrit 以獲取有關(guān)研討會(huì)和即將到來的比賽的更新！
作者簡介：
本博由 Benedict Neo 撰寫 ，bitgrit 數(shù)據(jù)科學(xué)出版物的編輯，40K 關(guān)注， Python ∩ 數(shù)據(jù)科學(xué) ∩ AI
譯者簡介
陳之炎，北京交通大學(xué)通信與控制工程專業(yè)畢業(yè)，獲得工學(xué)碩士學(xué)位，歷任長城計(jì)算機(jī)軟件與系統(tǒng)公司工程師，大唐微電子公司工程師，現(xiàn)任北京吾譯超群科技有限公司技術(shù)支持。目前從事智能化翻譯教學(xué)系統(tǒng)的運(yùn)營和維護(hù)，在人工智能深度學(xué)習(xí)和自然語言處理（NLP）方面積累有一定的經(jīng)驗(yàn)。業(yè)余時(shí)間喜愛翻譯創(chuàng)作，翻譯作品主要有：IEC-ISO 7816、伊拉克石油工程項(xiàng)目、新財(cái)稅主義宣言等等，其中中譯英作品“新財(cái)稅主義宣言”在GLOBAL TIMES正式發(fā)表。能夠利用業(yè)余時(shí)間加入到THU 數(shù)據(jù)派平臺(tái)的翻譯志愿者小組，希望能和大家一起交流分享，共同進(jìn)步
翻譯組招募信息
工作內(nèi)容：需要一顆細(xì)致的心，將選取好的外文文章翻譯成流暢的中文。如果你是數(shù)據(jù)科學(xué)/統(tǒng)計(jì)學(xué)/計(jì)算機(jī)類的留學(xué)生，或在海外從事相關(guān)工作，或?qū)ψ约和庹Z水平有信心的朋友歡迎加入翻譯小組。
你能得到：定期的翻譯培訓(xùn)提高志愿者的翻譯水平，提高對(duì)于數(shù)據(jù)科學(xué)前沿的認(rèn)知，海外的朋友可以和國內(nèi)技術(shù)應(yīng)用發(fā)展保持聯(lián)系，THU數(shù)據(jù)派產(chǎn)學(xué)研的背景為志愿者帶來好的發(fā)展機(jī)遇。
其他福利：來自于名企的數(shù)據(jù)科學(xué)工作者，北大清華以及海外等名校學(xué)生他們都將成為你在翻譯小組的伙伴。
點(diǎn)擊文末“閱讀原文”加入數(shù)據(jù)派團(tuán)隊(duì)~
轉(zhuǎn)載須知
如需轉(zhuǎn)載，請(qǐng)?jiān)陂_篇顯著位置注明作者和出處（轉(zhuǎn)自：數(shù)據(jù)派ID：DatapiTHU），并在文章結(jié)尾放置數(shù)據(jù)派醒目二維碼。有原創(chuàng)標(biāo)識(shí)文章，請(qǐng)發(fā)送【文章名稱-待授權(quán)公眾號(hào)名稱及ID】至聯(lián)系郵箱，申請(qǐng)白名單授權(quán)并按要求編輯。
發(fā)布后請(qǐng)將鏈接反饋至聯(lián)系郵箱（見下方）。未經(jīng)許可的轉(zhuǎn)載以及改編者，我們將依法追究其法律責(zé)任。
點(diǎn)擊“閱讀原文”擁抱組織