UA MATH567 高維統(tǒng)計IV Lipschitz組合1 Lipschitz函數(shù)

高維統(tǒng)計的第二部分與第三部分分別討論了基于亞高斯性導出的隨機向量與隨機矩陣的concentration inequality，這條推導路徑需要獨立性的假設；在第一部分的第十二講我們介紹過McDiarmid不等式，它給出了比內(nèi)積、范數(shù)更廣義的Lipschitz組合的concentration inequality，盡管我們當時沒有做深入討論，使用Lipschitz的假設可以替換獨立性的假設，進一步討論隨機向量與隨機矩陣在沒有獨立性假設時的concentration inequality，高維統(tǒng)計的第四部分會介紹一些相關(guān)的結(jié)果。

---

我們從Lipschitz函數(shù)開始介紹：

$(X,d_X),(Y,d_Y)$是兩個度量空間，$f:X\to Y$是Lipschitz函數(shù)如果$?L\ge 0$，（這個$L$被稱為Lipschitz常數(shù)）
$$d_Y(f(u),f(v))\le L{d}_X(u,v),?u,v\in X$$

稱${\Vert f\Vert }_{Lip}$為Lipschitz函數(shù)$f$的Lipschitz范數(shù)，
$${\Vert f\Vert }_{Lip}=\inf \{L\ge 0:d_Y(f(u),f(v))\le L{d}_X(u,v),?u,v\in X\}$$

說明
我們先驗證一下Lipschitz范數(shù)滿足范數(shù)的定義：用$Lip$表示$(X,d_X)$到$(Y,d_Y)$的所有Lipschitz函數(shù)，不難驗證$Lip$是一個線性空間，下面說明${\Vert f\Vert }_{Lip}$滿足范數(shù)的定義，

非負性：因為Lipschitz常數(shù)非負，所以${\Vert f\Vert }_{Lip}$非負，并且，如果${\Vert f\Vert }_{Lip}$為0，那么$?u,v$，$d_Y(f(u),f(v))\le 0$，根據(jù)度量的定義，$d_Y(f(u),f(v))\le 0$等價于$d_Y(f(u),f(v))=0$等價于$f(u)=f(v)$，于是$f$是常數(shù)，因為所有常值函數(shù)的Lipschitz范數(shù)都是0，在賦范線性空間$(Lip,{\Vert \Vert }_{Lip})$中，我們可以認為所有的常值函數(shù)等價；

正齊次性：$${\Vert \lambda f\Vert }_{Lip}=\inf \{L\ge 0:d_Y(\lambda f(u),\lambda f(v))\le L{d}_X(u,v),?u,v\in X\}$$其中$d_Y(\lambda f(u),\lambda f(v))\le |\lambda |d_Y(f(u),f(v))$，所以$d_Y(\lambda f(u),\lambda f(v))\le |\lambda |d_Y(f(u),f(v))\le |\lambda |L{d}_X(u,v)$，于是$${\Vert \lambda f\Vert }_{Lip}=|\lambda |{\Vert f\Vert }_{Lip}$$

三角不等式：$$\begin{gathered} {\Vert f+g\Vert }_{Lip}=\inf \{L\ge 0:d_Y((f+g)(u),(f+g)(v)) \\ \le L{d}_X(u,v),?u,v\in X\} \end{gathered}$$根據(jù)Minkowski不等式
$$d_Y((f+g)(u),(f+g)(v))\le d_Y(f(u),f(v))+d_Y(g(u),g(v))$$于是$$d_Y((f+g)(u),(f+g)(v))\le {\Vert f\Vert }_{Lip}{d}_X(u,v)+{\Vert g\Vert }_{Lip}{d}_X(u,v)$$

---

Lipschitz函數(shù)的分析性質(zhì)

Lipschitz函數(shù)一致連續(xù)；

緊集上的$C^1$函數(shù)是Lipschitz函數(shù)（事實上我們需要的是一階導有界）；

說明
這兩個性質(zhì)說明Lipschitz介于$C^0$與$C^1$之間。

有的時候第二條性質(zhì)容易被簡單理解成可微函數(shù)就是Lipschitz函數(shù)，但這個說法并不嚴謹，比如$f(x)=x^{1/3},x\in [?1,1]$，顯然$f$是可微的，但它不是Lipschitz函數(shù)，因為在$x=0$處，$f^{\prime }(0)=+\infty$，所以$??>0$，
$$f(0^{+})?f(0^{?})>?$$

顯然它不會是Lipschitz函數(shù)，因此可微且一階導有界的函數(shù)才是Lipschitz函數(shù)。

另外，Lipschitz函數(shù)一定是一致連續(xù)但不一定是可微的，比如$f(x)=|x|,x\in [?1,1]$，它是一致連續(xù)的函數(shù)也是Lipschitz函數(shù)，但它在0處不可微。

總結(jié)

以上是生活随笔為你收集整理的UA MATH567 高维统计IV Lipschitz组合1 Lipschitz函数的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。