1. 范數(shù)的含義與定義

范數(shù)(norm)是數(shù)學中的一種基本概念，是具有“長度”概念的函數(shù)。
??在泛函分析中，它定義在賦范線性空間中，并滿足一定的條件，即①非負性；②齊次性；③三角不等式。它常常被用來度量某個向量空間（或矩陣）中的每個向量的長度或大小。
??在線性代數(shù)、泛函分析及相關的數(shù)學領域，范數(shù)是一個函數(shù)，是矢量空間內的所有矢量賦予非零的正長度或大小。半范數(shù)可以為非零的矢量賦予零長度。

2. 常見范數(shù)

2.1 向量范數(shù)

通俗的理解，向量范數(shù)就是在這個向量空間中向量的大小
一般向量范數(shù)常使用L-P范數(shù)
其通用公式為：

注意，上述公式中X_i外應該有絕對值符號。
聰明的你應該已經(jīng)發(fā)現(xiàn)了：
??L₀范數(shù)表示向量中非零元素個數(shù)

??L₁范數(shù)表示向量元素絕對值之和，L1范數(shù)有很多的名字，例如我們熟悉的曼哈頓距離、最小絕對誤差等。使用L1范數(shù)可以度量兩個向量間的差異，如絕對誤差和（Sum of Absolute Difference）
??由于L1范數(shù)的天然性質，對L1優(yōu)化的解是一個稀疏解，因此L1范數(shù)也被叫做稀疏規(guī)則算子。通過L1可以實現(xiàn)特征的稀疏，去掉一些沒有信息的特征，例如在對用戶的電影愛好做分類的時候，用戶有100個特征，可能只有十幾個特征是對分類有用的，大部分特征如身高體重等可能都是無用的，利用L1范數(shù)就可以過濾掉。

??L₂范數(shù)讓人想到歐幾里得距離，L2范數(shù)通常會被用來做優(yōu)化目標函數(shù)的正則化項，防止模型為了迎合訓練集而過于復雜造成過擬合的情況，從而提高模型的泛化能力。

??L_∞通常用來度量元素的最大值。

2.2 矩陣范數(shù)

矩陣可以看作向量空間上的一次向量的線性變換，矩陣范數(shù)就是用來衡量變化幅度大小的。

2.2.1 誘導范數(shù)

由向量范數(shù)的L-P范數(shù)誘導而來，故曰誘導范數(shù)

列和范數(shù)，即所有矩陣列向量絕對值之和的最大值

譜范數(shù)，即ATA矩陣的最大特征值的開平方。（快去復習矩陣特征值怎么求）

行和范數(shù)，即所有矩陣行向量絕對值之和的最大值。

2.2.2 非誘導范數(shù)

Frobenius范數(shù)，即矩陣元素絕對值的平方和再開平方（上圖公式漏了絕對值的平方，百度害人）

核范數(shù)，是指矩陣奇異值的和（快去復習什么叫矩陣奇異值）
作用：約束低秩
https://www.zhihu.com/question/26471536

總結

以上是生活随笔為你收集整理的【数学知识】||x||（范数 norm）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內容還不錯，歡迎將生活随笔推薦給好友。