mlpnlp / mlpnlp

機械学習プロフェッショナルシリーズ 深層学習による自然言語処理

Home Page:https://sites.google.com/view/mlpdeeplearning4nlp

Geek Repo:Geek Repo

Github PK Tool:Github PK Tool

p.24末尾の微分係数に関する記述について

shirayu opened this issue · comments

p24末尾に,
「新しい関数の微分は以下のようにの微分に1を足したものになり必ず微分係数が1以上になります」
とありますが,
の微分」
が0以上になることは保証されているのでしょうか?

次のページで「は1に近い値になります」との記述との整合性が気になります.

ありがとうございます。fの微分の絶対値が大きい場合には全体としても大きな値になるので、ご指摘のとおり正しい表現ではありませんでした。ここでは、通常では勾配消失が起きる場合を扱いたかったので、

必ず微分係数が1以上になります

は以下のように訂正させていただきます。
p24-flの微分の絶対値が小さくても全体の微分係数は1に近い値になります

第4刷で修正予定です.ご報告ありがとうございました.