初心者用 テイラー展開解説について、更に超初心者である私が、読みながら書き連ねたメモを…。

もともとは、(1.0007)^{15}を求めたい、という問題。

これを、f(x) = x^{15}としたとき、f(1.0007)の値を求めるという問題であると捉える。

ここで、1.0007は1にとても近いので、a=1とすると、(x-a)は微小であるといえる。したがって、aの周りでテイラー展開をする。

ここで、テイラー展開によって、f(x)f(a) + f'(a)(x-a)の式に一次近似をする。

f(a) = f(1) = 1^{15} = 1であり、f'(a)(x-a) = f'(1)(1.0007 - 1) = 15(0.0007)。したがって、f(1.0007) \sim 1 + 15 \times 0.0007となり、「1.0007の15乗は、だいたい 1 + 15かける0.0007だから、1.0105くらい」という冒頭の一次近似の話につながる。


aの周り」でいうところのaというのは、実際に求めたい変数の値に近い値。また、「aの周り」というキーワードによって、近似式は(x-a)のべき乗の項を含む形とすることが表される。

また、特に、a=0の場合をマクローリン展開という。

最急降下法は、関数の傾きから、最小値・最大値を求めていくという最も単純な勾配法、だそうです。最急降下法の改良をしたものとして、確率的勾配降下法があります。

また一方で、最急降下法の収束の遅さを改善した方法として、ニュートン法があります。

最急降下法は1階微分をするのに対し、ニュートン法は2階微分をするところが大きな違い。


ニュートン法に含まれるヘッセ行列は、テイラー展開と関係があるので、テイラー展開などについて、以下参考文献。

あとでちゃんと読み直します…。

  • https://mathwords.net/saikyukouka
  • https://qiita.com/junichiro/items/527b1f211ed814528ded
  • https://qiita.com/kenmatsu4/items/d282054ddedbd68fecb0
  • https://qiita.com/ruka38/items/bd212cb1741d35d8dde3
  • http://www.birdland.co.jp/wordpress/?p=664
  • http://nonbiri-tereka.hatenablog.com/entry/2014/06/24/124455
  • http://minus9d.hatenablog.com/entry/2015/01/27/231820