机器学习精讲 基础、算法及应用2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载

机器学习精讲 基础、算法及应用PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 引言1

1.1教计算机区分猫和狗1

1.2预测学习问题5

1.2.1回归5

1.2.2分类7

1.3特征设计9

1.4数值优化11

1.5小结13

第一部分 基本工具及概念16

第2章 数值优化基础16

2.1微积分定义的最优性16

2.1.1泰勒级数逼近16

2.1.2最优性的一阶条件17

2.1.3凸性的便利19

2.2优化数值方法20

2.2.1概览20

2.2.2停止条件21

2.2.3梯度下降22

2.2.4牛顿法24

2.3小结28

2.4习题28

第3章 回归34

3.1线性回归基础34

3.1.1符号和建模34

3.1.2用于线性回归的最小二乘代价函数35

3.1.3最小二乘代价函数的最小化36

3.1.4所学模型的效力37

3.1.5预测新输入数据的值37

3.2知识驱动的回归特征设计38

3.3非线性回归和l2正则化41

3.3.1逻辑回归41

3.3.2非凸代价函数和l2正则化43

3.4小结45

3.5习题46

第4章 分类53

4.1感知机代价函数53

4.1.1基本感知机模型53

4.1.2 softmax代价函数55

4.1.3间隔感知机57

4.1.4间隔感知机的可微近似58

4.1.5所学分类器的精度60

4.1.6预测新输入数据的标签60

4.1.7哪个代价函数会产生最好的结果61

4.1.8感知机和计数代价的关联62

4.2逻辑回归视角下的softmax代价63

4.2.1阶梯函数和分类64

4.2.2凸逻辑回归64

4.3支持向量机视角下的间隔感知机66

4.3.1寻找最大间隔超平面66

4.3.2硬间隔支持向量机问题68

4.3.3软间隔支持向量机问题68

4.3.4支持向量机和逻辑回归69

4.4多分类69

4.4.1一对多的多分类70

4.4.2多分类softmax分类72

4.4.3所学多分类器的精度75

4.4.4哪种多分类方法表现最好76

4.5面向分类的知识驱动特征设计76

4.6面向真实数据类型的直方图特征78

4.6.1文本数据的直方图特征79

4.6.2图像数据的直方图特征81

4.6.3音频数据的直方图特征85

4.7小结85

4.8习题86

第二部分 完全数据驱动的机器学习工具96

第5章 回归的自动特征设计96

5.1理想回归场景中的自动特征设计96

5.1.1向量逼近97

5.1.2从向量到连续函数97

5.1.3连续函数退近98

5.1.4连续函数遇近的常见基99

5.1.5获取权重103

5.1.6神经网络的图表示103

5.2真实回归场景中的自动特征设计104

5.2.1离散化的连续函数逼近104

5.2.2真实回归场景105

5.3回归交叉验证108

5.3.1诊断过拟合与欠拟合问题110

5.3.2留出交叉验证110

5.3.3留出交叉验证的计算112

5.3.4 k折交叉验证112

5.4哪个基最好115

5.4.1理解数据背后的现象115

5.4.2实践方面的考虑115

5.4.3什么时候可任意选择基116

5.5小结117

5.6习题117

5.7关于连续函数逼近的注释122

第6章 分类中的自动特征设计123

6.1理想分类场景中的自动特征设计123

6.1.1分段连续函数遇近123

6.1.2指示函数的形式化定义124

6.1.3指示函数逼近126

6.1.4获取权重126

6.2真实分类场景中的自动特征设计126

6.2.1离散化的指示函数逼近126

6.2.2真实的分类场景128

6.2.3分类器精度和边界定义132

6.3多分类132

6.3.1一对多的多分类132

6.3.2多分类softmax分类133

6.4分类交叉验证133

6.4.1留出交叉验证134

6.4.2留出交叉验证的计算136

6.4.3 k折交叉验证136

6.4.4一对多多分类的k折交叉验证138

6.5哪个基最好139

6.6小结140

6.7习题140

第7章 核、反向传播和正则化交叉验证145

7.1固定特征核145

7.1.1线性代数基本定理145

7.1.2核化代价函数146

7.1.3核化的价值147

7.1.4核的例子148

7.1.5核作为相似矩阵149

7.2反向传播算法150

7.2.1计算两层网络代价函数的梯度150

7.2.2计算三层神经网络的梯度152

7.2.3动量梯度下降153

7.3 l2正则化交叉验证155

7.3.1 l2正则化和交叉验证156

7.3.2回归的k折正则化交叉验证156

7.3.3分类的正则化交叉验证157

7.4小结157

7.5更多的核计算158

7.5.1核化不同的代价函数158

7.5.2傅里叶核——标量输入159

7.5.3傅里叶核——向量输入159

第三部分 大规模数据机器学习方法162

第8章 高级梯度算法162

8.1梯度下降法的固定步长规则162

8.1.1梯度下降法和简单的二次代理162

8.1.2有界曲率函数和最优保守步长规则164

8.1.3如何使用保守固定步长规则165

8.2梯度下降的自适应步长规则167

8.2.1回溯线性搜索的自适应步长规则167

8.2.2如何使用自适应步长规则168

8.3随机梯度下降169

8.3.1梯度分解169

8.3.2随机梯度下降迭代170

8.3.3随机梯度下降的价值171

8.3.4随机梯度下降的步长规则172

8.3.5在实践中如何使用随机梯度下降法172

8.4梯度下降方案的收敛性证明173

8.4.1利普希茨常数固定步长梯度下降的收敛性173

8.4.2回溯线性搜索梯度下降的收敛性174

8.4.3随机梯度法的收敛性174

8.4.4面向凸函数的固定步长梯度下降的收敛速度176

8.5计算利普希茨常数177

8.6小结178

8.7习题178

第9章 降维技术180

9.1数据的降维技术180

9.1.1随机子采样180

9.1.2 K均值聚类181

9.1.3 K均值问题的优化183

9.2主成分分析184

9.3推荐系统188

9.3.1矩阵填充模型189

9.3.2矩阵填充模型的优化189

9.4小结190

9.5习题190

第四部分 附录194

附录A 基本的向量和矩阵运算194

附录B 向量微积分基础197

附录C 基本的矩阵分解及伪逆202

附录D 凸几何205

参考文献207

索引212