書-深度學習的數學
●鏈式法則
○複合函數
●單變數函數的鏈式法則
鏈式法則
用於複雜的函數求導,有助於理解反像誤差傳播法。
複合函數
函數:
y=f(u),當u表示為u=g(x),y作為x的函數可以表示為y=f(g(x))的嵌套結構(u、x為多變數)。
f(g(x))稱f(u)、g(x)的複合函數。
例:
多輸入,將a(x)作為激活函數,y為神經元輸出。
b:為偏置
w:為各個權重
單變數函數的鏈式法則
單變數y=f(u),當u表示u=g(x)時,複合函數y=f(g(x))的導函數表示如下:
這公式稱為單變量函數的複合函數求導公式,也稱鏈式法則。
例:
y為u的函數,u為v的函數,v為x的函數。
例: