极限

直观定义

当函数 $y=f(x)$ 在 $x_{0}$ 的某个去心邻域内有定义，若当 $x$ “无限趋近于” $x_{0}$ 时，其对应的函数值 $f(x)$ “无限趋于” 一个确定的常数 $A$ ，则称 $A$ 是当 $x$ 趋于 $x_0$ 时函数 $y=f(x)$ 的极限，记作 $\lim_{x\to x_0}f(x)=A$。这里所说的“直观定义”主要指“无限趋于”，是一种直观的说法，并没有给出确切的数学定义。

精确定义

设 $f(x)$ 定义在 $x_0$ 的某个去心领域 $N^*(x_0)$ ，若存在常数 $A$ ，对于任意给定的 $\varepsilon>0$ ，存在 $\delta>0$ ，使得对于任意的 $x\in N^*(x_0,\delta)$，即当 $0<|x-x_0|<\delta$ 时，恒有 $|f(x)-A|<\varepsilon$，则称 $A$ 为 $f(x)$ 当 $x\to x_0$ 时的极限，记作$\lim_{x\to x_0}f(x)=A$。

常数 $e$

$\lim_{x \to 0}(1+x)^{\frac {1}{x}}=e$

导数

设函数 $y=f(x)$ 在点 $x_0$ 的某邻域内有定义，如果极限 $\lim_{\Delta x \to 0}\frac {f(x_0 + \Delta x) - f(x_0)}{\Delta x}$ 存在，则称函数 $f(x)$ 在 $x_0$ 可导，并且称这个极限值为函数 $f(x)$ 在点 $x_0$ 处的导数，记作 $f^\prime (x_0)$。

微分

设函数 $y=f(x)$ 在点 $x_0$ 的某邻域内有定义，$\Delta x$ 是自变量 $x$ 在 $x_0$ 处的增量，如果存在一个与 $\Delta x$ 无关的常数 $a$，使得 $\Delta y=f(x_0 + \Delta x) - f(x_0) = a \Delta x + o(\Delta x)$，则称函数 $f(x)$ 在点 $x_0$ 出可微（differentiable），关于 $\Delta x$ 的线性部分 $a\Delta x$ 是函数 $f(x)$ 在点 $x_0$ 处的微分。记作 $df(x_0)$。

显然有 $f^\prime(x_0)=a$。

导数的四则运算

设函数 $f(x)$，$g(x)$，在 $x$ 处可导，则：

$(f(x)+g(x))^\prime =f^\prime (x) + g^\prime (x)$

$(f(x) \bullet g(x))^\prime = f^\prime (x)g(x) + f(x)g^\prime (x)$

$ (\frac {f(x)}{g(x))^\prime = \frac {f^\prime (x)g(x) - f(x)g^\prime (x)} {g^2(x)} $

复合函数求导

偏导数

方向导数

梯度

泰勒展开

一元函数 $f(x)$ 在 $x=x_0$ 处的展开式为：

$f(x)=f(x_0)+\frac {f^\prime (x_0)}{1!}(x-x_0)+\frac {f^\prime \prime (x_0)}{2!}(x-x_0)^2+\frac {f^3(x_0)}{3!}(x-x_0)^3+\ldots$

$e^x$ 在 $x=0$ 处的展式为 $e^x=\sum_{n=0}^\infty \frac {x^n} {n!}=1+x+\frac {x^2}{2!}+\frac {x^3}{3!}+\ldots$

多元函数 $f(x_1,x_2, \ldots, x_d)$ 在 $x=(x_{10},x_{20},\ldots , x_{d0})$ 处的展开式为：

$f(x_1,x_2, \ldots, x_d)=f(x_{10},x_{20},\ldots , x_{d0})+ \sum_{i=1}^{d} \frac {\partial f(x_{10},x_{20},\ldots , x_{d0})}{\partial x_i}(x_i-x_{i0}) + \frac {1}{2!} \sum_{i=1}^{d} \sum_{j=1}{d}\frac {\partial f(x_{10},x_{20},\ldots , x_{d0})}{\partial x_i \partial x_j}(x_i-x_{i0})(x_j-x_{j0}) + \ldots $

http://en.wikipedia.org/wiki/Taylor_series

数学基础