次導數(shù)

設(shè)f在實數(shù)域上是一個凸函數(shù)，定義在數(shù)軸上的開區(qū)間內(nèi)。
這種函數(shù)不一定是處處可導的，例如絕對值函數(shù)f(x) = |x| 。
對于下圖來說，對于定義域中的任何x0，我們總可以作出一條直線，它通過點(x0, f(x0))，并且要么接觸f的圖像，要么在它的下方。
直線(紅線)的斜率稱為函數(shù)的次導數(shù)。次導數(shù)的集合稱為函數(shù)f在x0處的次微分。

定義

對于所有x，我們可以證明在點x_0 的次導數(shù)的集合（這個集合里面的元素是無限多的，因為這里的紅線可以不停地搖擺）是一個非空閉區(qū)間[a,b]，其中a和b是單測極限。
$$a=\underset{x?>x_0^{?}}{\lim }\frac{f(x)?f(x_0)}{x?x_0}$$
$$b=\underset{x?>x_0^{+}}{\lim }\frac{f(x)?f(x_0)}{x?x_0}$$
一定存在，且a<=b，在[a,b]內(nèi)的所有次導數(shù)是f在x0的次微分。

例子

凸函數(shù)f(x)=|x|。在原點的次微分是[-1,1]。當x0<0時，次微分是單元素集合{-1},而x0>0時，次微分單元素集合是{1}。

性質(zhì)

當函數(shù)在x0處可導時，次微分只有一個點組成，這個點就是函數(shù)在x0處的導數(shù)。

次梯度法

次梯度方法(subgradient method)是傳統(tǒng)的梯度下降方法的拓展，用來處理不可導的凸函數(shù)。它的優(yōu)勢是比傳統(tǒng)方法處理問題范圍大，劣勢是算法收斂速度慢。但它對不可導函數(shù)有很好的處理方法。
通過求函數(shù)在點的每一分量的次導數(shù)可以求出函數(shù)在該點的次梯度。

---

本文來自 changtingwai58 的CSDN 博客 ，全文地址請點擊：https://blog.csdn.net/sinat_27612639/article/details/70049715?utm_source=copy

總結(jié)

以上是生活随笔為你收集整理的次梯度（subgradient）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。