这些算法，如果需要搞透，数学知识越多越好。算法导论，随机过程，概率论，数理统计是基础，矩阵论也很重要。还有一个最重要的是有关优化方法的基本理论，很多的模式识别的问题，就是一个求最优解的问题。以前是有一本《计算方法》的书，里面就是用牛顿法等，来解线性方程之类，书很薄，如果搞懂了，很有启发作用。
有关优化的基本理论, 可以看看统筹学, 其中有很多基本概念, 然后对其中的具体问题, 再深入学习.
