机器学习基础知识学习微积分之微分泰勒多项式导数详解（一）

　　终于把机器学习要复习的线性代数的几个知识点学习完了，现在开始学习微分、积分、导数、泰勒展开公式、梯度、概率论等。学习过程中会发现微分、积分、导数、泰勒展开公式联系非常紧密。
　　这次学习微积分找到了单维彰教授的视频，单从技术领域来说，单维彰教授的微积分讲的还是挺好的。
　　现在开始学习微积分函数 VS 微分
　　函数 x = x(t)，设x为位置(km)、t为时间(hr)。如果位置和时间变化很大的话，很容易得出结果；如果位置和时间变化非常非常小，无法用常规方法识别，这种情况下该怎么办呢？
　　对于瞬间变化引入了微分的概念：
　　x (速度)=
　　一滴代表瞬间的变化，这里将d作为变量，那么就将瞬间的变化叫做一滴滴的变化。一滴滴x的变化除以一滴滴t的变化，就求出了单位要求下的瞬间变化，求瞬间变化率也就是x的结果的这个过程，就是微分的求解方式。
　　求 (平均速度)，分析下 ，若 t = a，则分母不能为0，这个式子不成立。微分上对 定义表达式为
　　面积 VS 积分
　　已知有 y = f(x)，x ∈ [a,b]；求x轴上f(x)垂直下来线段的面积，一个直线的面积按照常理推论不好求，但是将直线无限放大，它也是有宽、高的。设宽有一滴滴x长，即dx。则垂直线段一滴滴面积为dx*f(x)。求解垂直线段面积这种形式的解题过程就是(定)积分的表现。
　　积分符号 由summation演变而来：Summation --> S -->
　　表示一滴滴的x面积
　　这里延伸一下： 表示离线的一大堆东西加在一起； 表示连续的一大堆东西加在一起多项式函数的局部圆形像直线
　　附近的函数图形以点(a,f(a))为中心的小正方形内所画的函数图形就叫做f(x)在 x = a 的局部图形
　　f(x)在x=a的局部图形
　　放大上图中f(x)=x²中，以(1,1)为中心，边长为1的正方形，正方形中的线段有点直。如果再以(1,1)为中心，边长为0.1画正方形。放大该正方形，则线段几乎就像一条直线。
　　数学家们经过多次论证，证明：多项式函数的局部图形像一条直线泰勒多项式
　　由除法原理 F ÷ P = Q ... r 得 F = PQ+r。或许对这个公式不是很理解，下面举一个例子，证明一下。比如，17 ÷ 3 = 5 ... 2 等价于 17 = 3 × 5 + 2 这个公式在处理复杂计算题时会频繁用到，等后面用到F ÷ P = Q ... r 得 F = PQ+r时会有豁然开朗的感觉。
　　下面看一个3次方得除法化简，已知( +  + x + 1 ) ÷ ( x - 1)
　　通过下图中得综合除法得( +  + x + 1 ) ÷ ( x - 1) =   + 2x + 3（商）... 4（余）
　　综合除法
　　由 F ÷ P = Q ... r 推出 F = PQ + r 推出：
　　( +  + x + 1 ) ÷ ( x - 1) =   + 2x + 3 ... 4
　　( +  + x + 1 ) = (  + 2x + 3 ) ( x - 1) + 4
　　继续优化(  + 2x + 3 ) ÷ ( x - 1 )得
　　(  + 2x + 3 ) ÷ ( x - 1 ) = ( x + 3 )...6
　　(  + 2x + 3 ) = ( x + 3 )( x - 1 ) + 6
　　(x² + 2x + 3 ) ÷ ( x-1 )综合除法求解
　　继续对( x + 3 ) ÷ ( x - 1 )进行优化得
　　( x + 3 ) ÷ ( x - 1 ) = 1 ... 4
　　( x + 3 ) = ( x - 1) + 4
　　( x + 3 ) ÷ ( x - 1 )综合除法求解
　　由以上例题推论可得出
　　+  + x + 1
　　= (  + 2x + 3 ) ( x - 1) + 4
　　= ( ( x + 3 )( x - 1 ) + 6 )( x - 1) + 4
　　= ( x + 3 )( x - 1 )² + 6( x - 1 ) + 4
　　= ( ( x - 1 ) + 4 )( x - 1 )² + 6( x - 1 ) + 4
　　=  + 4( x - 1 )² + 6( x - 1 ) + 4
　　由上得出 +  + x + 1为 + 4( x - 1 )² + 6( x - 1 ) + 4降幂排列得式子
　　常数项为第一次运算得余数，一次项系数为第二次运算得余数，二次项系数为最后一次运算得余数，三次项系数为最后一次运算得出的系数
　　将得出的式子按升序排列， +  + x + 1 = 4 + 6( x - 1 ) + 4( x - 1 )² +  ,升序排列的式子和上图做比照是不是更清晰了呢？
　　由此可得出：  +  + x + 1是以1为参考点的泰勒(Taylor)多项式，泰勒形式是4 + 6( x - 1 ) + 4( x - 1 )² +
　　经过一系列推算求导引出了泰勒多项式，为了加深印象，再看一个例题：
　　- x² - x + 1是以 -1 为参考点的泰勒多项式 -1 + 7(x+1) - 7(x+1)² +
　　先分析一下上面的式子： - x² - x + 1是以 -1 为参考点的泰勒多项式先理解为( - x² - x + 1) ÷ ( x + 1 )，还是利用综合除法进行求解
　　由上图综合除法可知： - x² - x + 1以 -1 为参考点的泰勒多项式等于
　　-1 + 7( x + 1 ) - 7(x+1)² +
　　做完这个例子，是不是感觉泰勒多项式很有意思呢！
　　前面两个例子可以看出，泰勒多项式第一次算法的余数就是函数值，下图可以更直观的展现
　　泰勒形式的一次系数
　　已知f(x) =  +  + x + 1 ，求f(0.98)的百分位估计值
　　对该题进行分析：
　　①f(x) =
　　=
　　由上面的式子可知，求f(0.98)的百分位估计值，只求到f(x) =  即可，后面的式子可省略。
　　②f(x) =  +  + x + 1
　　=  + (x-1) +  (x-1)² +
　　求f(0.98)的百分位估计值，可以令x=1,求出f(1) =   = 4
　　现在已经知道 f(0.98) =  + (x-1) = 4 +  ( 0.98 - 1 )
　　= 4 + 0.02
　　③接下来求一次项的系数
　　f(x) =  + + +...+
　　当x=a时f(x) = f(a)且f(0.98)的百位估计值可求到一次项
　　则f(x)=f(a)+ +
　　f(x)=f(a)+  等价于 f(x) =  × ( x - a ) + f(a)
　　(注：根据F ÷ P = Q ... r 得 F = PQ+r得出上式)
　　∵ Q ÷ ( x - a ) = R (商)...  (余数)
　　∴ Q = R ( x - a ) +
　　∴f(x) =  × ( x - a ) + f(a)
　　= (R ( x - a ) + )( x - a ) + f(a)
　　= R( x - a )² +  ( x - a ) + f(a)
　　= f(a) +  ( x - a ) + R( x - a )²
　　∵ 求解百分位，所以二次方以后得数可以省略
　　∴ f(x) = f(a) +  ( x - a )关键在这， 是以a为参考点得商式
　　由f(x) =  +  + x + 1 = ( x² + 2x + 3)( x - 1 ) + 4得
　　就等于 ( x² + 2x + 3)
　　前面说到f(0.98) =  + (x-1) = 4 +  ( 0.98 - 1 )= 4 + 0.02
　　当x取1时，   = x² + 2x + 3 = 6  （这种求法是不是和综合除法求出得一次项系数值一样呢，对，是一样的）
　　则f(0.98) ≈ 3.88
　　通过计算机算出得f(0.98)得真实值为3.881592，近似值是不是和真实值很接近呢
　　本次是求解百位数得近似值，泰勒多项式一次项后边的式子可以省略。实际需求中若求百万位，那后面得式子都要算，根据项目估算式子求到哪一步泰勒一次项系数即导数
　　f(x) =  得以a为参考点得泰勒表达式为
　　+
　　则称 是f以a为参考点得泰勒形式之一次项系数
　　是由f和a决定得一个数，给它一个符号：  =
　　是由f和a导出来得一个数，称为f在a的导数多项式函数的切线与导数
　　多项式函数f(x)以a为参考点的泰勒多项式f(a)+m(x-a)+...在a的切线方程式为 y = m(x-a)+f(a)
　　f在a的切线斜率称为f在a的导数，记作
　　f(x)在a的切线方程式为 y =  ( x - a ) + f(a)
　　f(x) =  - 3x² + 2x + 1以0为参考点的泰勒多项式为 1 + 2x - 3x² +
　　在 x = 0的切线方程式为 y = 2x + 1
　　f在0的导数： = 2
　　如下图，x=0时，f(a) = 1，切线与曲线相交部分近乎直线
　　f(x)以1为参考点的泰勒多项式为 1- ( x - 1 ) + ...
　　在 x = 1的切线方程式为 y = 1 - ( x - 1 ) = 2 - x
　　则
　　f(x)以2为参考点的泰勒多项式 1 + 2( x - 2 ) + ...在 x = 2的切线方程式y = 1 + 2(x - 2) = 2x -3
　　则  = 2
　　导数基本公式
　　当f(x) =  (该式子为单项函数，且n≥2），做q(x)是f(x) ÷ ( x-a )的商,求
　　÷ ( x - a ) = (   ) ...
　　f(x)综合除法求解
　　=  +(   )( x - a )
　　=  +  ( x - a ) + ......
　　在泰勒形式的一次系数中推到过 等于对第一次除(x-a)的得到的商进行第二次除(x-a)得到的余数，这个余数也等于当 x = a 时的第一次除(x-a)的得到的商
　　高中时学过一个公式：
　　当x=a时， 第一次除(x-a)的得到的商：
　　(   )
　　=（ ）
　　=
　　∴   =
　　推出基本公式：当 f(x) =  时， =
　　看几个例子：
　　当f(x) = x²时，  = 2 *  = 4
　　当f(x) =  时，  = 3 *   = 3
　　当f(x) =  时，  = 4 * ( ) =
　　做了上面三个例题是不是感觉有点别扭，当x得到具体值需要换算成a还要看n是多少？有没有简单便捷的推导式呢？继续往下看
　　代入 x = a
　　令 则 就是 代入 x = a时的数值，新的导出来的的函数 称做 f 的一阶导函数
　　基本公式(导函数形式)
　　当f(x) =  时， =
　　故 =
　　(1)若f(x) = x²， f＂(x) = 2 , f＂(2) = 2 × 2 = 4
　　(2)若f(x) =  , f＂(x) = 3  =3 * x² , f＂(-1) = 3
　　(3)若f(x) =  , f＂(x) = 4   = 4* ,f＂( ) =  微分的系数积法则
　　看第一个性质：[c*f(x)]＂ = c*f＂(x)
　　f(x) ÷ （ x - a ）= q(x) ... f(a)  f(x) - f(a) = q(x) * ( x - a )
　　(c * f(x)) - (c * f(a)) = c * q(x) * ( x - a)则(c * f(x)) ÷ ( x - a ) = c * q(x)...c * f(a)
　　所以 c * f(x) = c * q(x) ( x - a) + c * f(a)
　　注：c ≠ 0
　　一阶导数的值是对商进行处理，代入常数a求值
　　f＂(a) = q(a)
　　(c * f(x))＂ = c * q(a) = c * f＂(a)
　　例 当f(x) = 3x²
　　f＂(x) = (3 * x²)＂
　　= 3 * (x²)＂
　　= 3 * (2x)
　　= 6x
　　当 f(x) = -
　　f＂(x) = (-1 *  )＂
　　= -1 * ( )＂
　　=-1 * (4 )
　　f＂( ) = -1 * (4 *  ) = -  微分的加法性质
　　1的导数是0
　　有两种方法可证明1的导数为0
　　① 1 =
　　∵ 等式左边只有常数项，没有一次项，二次项...n次项
　　∴  = 1,
　　∴ [1]＂ =   = 0
　　② f(x) = 1 =
　　f＂(x) = n *  = 0 *  = 0
　　微分的性质2 [f(x)+g(x)]＂ = f＂(x) + g＂(x)
　　当 f(x) = x² + 1
　　f＂(x) = [ x² + 1 ]＂
　　=(x²)＂ + [1]＂
　　= 2x + 0
　　=2x
　　当f(x) =  + x² + 2x + 1
　　f＂(x) = ( + x² + 2x + 1)＂
　　= ( )＂ + (x²)＂ + (2x)＂ + [1]＂
　　= 3x² + 2x + 2*(x)＂ + 0
　　= 3x² + 2x + 2* 1 + 0
　　= 3x² + 2x + 2
　　看了两个例子，推导一下性质2
　　若f(x) ÷ ( x - a ) = q(x) ... f(a)
　　则f(x)-f(a) = q(x)( x - a )
　　若g(x) ÷ ( x - a ) = p(x) ...g(a)
　　则g(x)-g(a) = p(x) * (x-a)
　　(f(x)+g(x))-(f(a)+g(a)) = (q(x)+p(x))( x - a )
　　则(f(x)+g(x)) ÷ ( x - a ) = (q(x)+p(x))...(f(a)+g(a))
　　商为q(x) +p(x)，(f(x)+g(x))＂ = q(x) + p(x)
　　∵ q(x)、p(x)是f(x)+g(x)的商
　　所以(f(x)+g(x))＂ = f(x)＂ + g(x)＂
　　导数的极限记号
　　微分是求导数的过程，是一个动词、程序
　　（1）除法程序
　　设f(x)是一个多项式函数，则 f(x) ÷ ( x - a ) = q(x) ... f(a)；f＂(a) = q(a)
　　再温习下一个公式，2个性质：
　　一个公式：[ ]＂ = n*
　　两个性质：①[c*f(x)]＂ = c*f＂(x) ②[f(x)+g(x)]＂ = f＂(x) + g＂(x)
　　例 f(x) =  + 2x - 1
　　f＂(x) = 3x² + 2
　　则f＂(-2) = 3*(-2)² + 2 = 14
　　做导函数比做多项式除法简单很多
　　（2）极限记号
　　f(x) - f(a) = g(x) * ( x - a )
　　当 x ≠ a 时，同除以 x - a
　　g(x) =
　　欲代入 x = a，用 = f＂(a)切线与一次估计
　　(一阶)导数的应用
　　（1）求 y = f(x)的曲线在x=a处的切线方程式f(x) =  + ...
　　切线方程式 y = f＂(a)( x - a ) + f(a)
　　例 f(x) =  + x² + x + 1
　　f＂(x) = 3x² + 2x + 1
　　当x = 1时，f(1) = 4 f＂(x) = 6
　　y = f＂(1)(x-1) + f(1)
　　= 6(x-1) + 4
　　则f(x) ≈ 6(x-1) + 4
　　当 x = 0.97时，f(0.97) ≈ 6(-0.03) + 4 = 3.82
　　真值是3.823573
　　（2）一次估计
　　f(x) ≈  ,求f(0.97),精确到百分位
　　f(x) ≈ f＂(a)(x-a) + f(a)是f在a的一次估算
　　用f在1的一次估算后求解f(0.97)扩张的基本公式
　　先熟悉一个微分乘法公式：[fg]＂ = f＂g + fg＂，这个公式在后面扩张的基本公式证明时会用到
　　现在说该部分的重点内容：扩张的基本公式
　　由  =  得扩张公式 =
　　例： =
　　扩张公式是不是很简单呢？它不止简单也很实用，下面证明扩张公式
　　证明用到了数学归纳法：
　　当n=0为非正整数时
　　∴当n=0时检查成立
　　当n=1时
　　= =  - 0 = 1
　　= 1 *
　　∴当n=1时检查成立
　　假设当n=k-1时成立，则考虑n=k的情况
　　=
　　=
　　= +
　　注：上式用到微分乘法公式[fg]＂ = f＂g + fg＂
　　=1 * +
　　注：上式中假定n=k-1成立，得出
　　= 1 * +
　　=( 1 + k - 1 )
　　= k
　　∴ 公式对所有正正数都成立
　　经过证明推导，  =  得扩张公式=  ，也可以理解为 为平移的单项函数高阶导数与泰勒系数
　　一阶导数记做 ，二阶导数记做 ,三阶导数就是 记做 ,那么四阶导数、五阶导数、六阶导数等等怎么表示呢？四阶导数： ,五阶导数： ,六阶导数： ......
　　例：
　　已知：f＂＂＂(x) = [ 6x + 2 ]＂ = 6 + 0 = 6
　　则： = [f＂＂＂(x)]＂ = [ 6 ]＂ = 0
　　高阶导数的一般公式为
　　下面证明
　　f(x) =
　　代入x=a，发现f(a) =
　　左右微分 f＂(x) =
　　代入x=a，发现f＂(a) =
　　再对f＂(x)左右微分 f＂＂(x) =
　　代入x=a，发现f＂＂(a) = 2  ,  =  f＂＂(a)
　　再对f＂＂(x)左右微分 f＂＂＂(x) =
　　代入x=a，发现f＂＂＂(a) = 6 ,  =  f＂＂＂(a)
　　......
　　概括：   =  * (a)；  =  ； =  ......
　　即
　　例： f(x) =  + x² + x + 1 求f(0.97)
　　①估算
　　∵ f(x)的泰勒多项式为4+6(x - 1)+4(x - 1)²+
　　注：泰勒多项式综合除法求得
　　∴ f(0.97) ≈ 4 + 6(x - 1) = 3.82
　　②确算
　　f(x)以1为参考点的泰勒多项式为
　　当x=1时 ，f(1) = 4 =
　　怎么求呢？这次运用 求解
　　∵ f(x) =  + x² + x + 1
　　左右微分f＂(x) = 3x² + 2x + 1
　　∴  = f＂(x)
　　左右微分f＂＂(x) = 6x + 2
　　∴   =  f＂＂(x)
　　左右微分f＂＂＂(x) = 6
　　∴  =  * 6 = 1
　　当x=1时， = 6，  = 4
　　所以f(x) = 4 + 6(x-1) + 4(x-1)² +
　　f(0.97) = 4 + 6(0.97-1) + 4(0.97-1)² +
　　= 4 - 0.18 + 0.0036 - 0.000027
　　= 3.823573
　　好了，本篇先到这了，下一篇继续学习交流微积分
　　#头条创作挑战赛#