2020年11月29日星期日

深度學習的數學-複合函數、單變數函數的鏈式法則

 書-深度學習的數學

 

●鏈式法則

○複合函數

●單變數函數的鏈式法則

 

 

 

鏈式法則

 

用於複雜的函數求導,有助於理解反像誤差傳播法。

 

複合函數

 

函數: 

y=f(u),當u表示為u=g(x),y作為x的函數可以表示為y=f(g(x))的嵌套結構(u、x為多變數)。

 

f(g(x))稱f(u)、g(x)的複合函數。

 

image

 

image

 

例:

多輸入image,將a(x)作為激活函數,y為神經元輸出。

 

image

 

b:為偏置

w:為各個權重

 

image

 

單變數函數的鏈式法則

 

 

單變數y=f(u),當u表示u=g(x)時,複合函數y=f(g(x))的導函數表示如下:

 

image

這公式稱為單變量函數的複合函數求導公式,也稱鏈式法則。

 

image

 

image

 

例:

y為u的函數,u為v的函數,v為x的函數。

 

image

 

image

 

 

例:

image

 

image

 

 

image

image

image

 

image

没有评论:

发表评论

Arduino UNO電源選擇電路之設計機制

如文章標題,這偏要探討Arduino UNO板子的電源選擇電路之動作原理分析 & 實際以手上的Arduino UNO板子(可能與官方版本UNO有差異)量測實驗,先從原理面來分析。 Arduino官方的Arduino UNO開發板的電路圖[1],請將此電路圖開啟並參照比對,...