《深度学习入门 基于Python的理论与实现》

斋藤康毅（作者）

东京工业大学毕业，并完成东京大学研究生院课程。现从事计算机视觉与机器学习相关的研究和开发工作。是Introducing Python、Python in Practice、The Elements of Computing Systems、Building Machine Learning Systems with Python的日文版译者。

《深度学习的数学》

涌井良幸（作者）

1950年生于东京，毕业于东京教育大学（现筑波大学）数学系，现为自由职业者。著有《用Excel学深度学习》（合著）、《统计学有什么用？》等。

涌井贞美（作者）

1952年生于东京，完成东京大学理学系研究科硕士课程，现为自由职业者。著有《用Excel学深度学习》（合著）、《图解贝叶斯统计入门》等。

《Python深度学习》

本书由Keras之父、现任Google人工智能研究员的弗朗索瓦?肖莱（Franc.ois Chollet）执笔，详尽介绍了用Python和Keras进行深度学习的探索实践，包括计算机视觉、自然语言处理、产生式模型等应用。书中包含30多个代码示例，步骤讲解详细透彻。由于本书立足于人工智能的可达性和大众化，读者无须具备机器学习相关背景知识即可展开阅读。在学习完本书后，读者将具备搭建自己的深度学习环境、建立图像识别模型、生成图像和文字等能力。

1.日本深度学习入门经典畅销书，原版上市不足2年印刷已达100 000册。长期位列日亚“人工智能”类图书榜首，众多五星好评。

2.使用Python 3，尽量不依赖外部库或工具，从零创建一个深度学习模型。

3.示例代码清晰，源代码可下载，需要的运行环境非常简单。读者可以一边读书一边执行程序，简单易上手。

4.使用平实的语言，结合直观的插图和具体的例子，将深度学习的原理掰开揉碎讲解，简明易懂。

5.使用计算图介绍复杂的误差反向传播法，非常直观。

6.相比“花书”，本书更合适入门。

对于非AI方向的技术人员，本书将大大降低入门深度学习的门槛；对于在校大学生、研究生，本书不失为学习深度学习的一本好教材；即便是在工作中已经熟练使用框架开发各类深度学习模型的读者，也可以从本书中获得新的体会。——摘自本书译者序

一本书掌握深度学习的数学基础知识！

结合235幅插图和大量示例

基于Excel实践，直击神经网络根本原理

1.图文直观

穿插235幅插图和大量具体示例讲解，对易错点、重点反复说明，通俗易懂。

2.结合Excel实践

书中使用Excel进行理论验证，读者可下载随书附带的Excel示例文件，亲自动手操作，直观地体验深度学习。

3.只需基础的数学知识

适合数学基础薄弱的深度学习初学者阅读，有一定基础的读者也可以通过本书加深理解。

《Python深度学习》由Keras之父、现任Google人工智能研究员的Franc.ois Chollet执笔，详尽展示了用Python、Keras、TensorFlow进行深度学习的探索实践，涉及计算机视觉、自然语言处理、生成式模型等应用。在学习完本书后，读者将了解深度学习、机器学习和神经网络的关键概念，具备搭建自己的深度学习环境、建立图像识别模型、生成图像和文字等能力，学会解决现实世界中的深度学习问题。除此之外，本书还深刻剖析了当前的"人工智能热"，从理性的视角展望了深度学习在未来的可能性。

　　● 30多个代码示例，带你全面掌握如何用深度学习解决实际问题

　　● Keras框架速成的明智之选

　　● 夯实深度学习基础，在实践中培养对深度神经网络的良好直觉

　　● 无须机器学习经验和高等数学背景

《深度学习入门基于Python的理论与实现》

前言　xv

第1章Python入门　1

1．1　Python是什么　1

1．2　Python的安装　2

1．3　Python解释器　4

1．4　Python脚本文件　9

1．5　NumPy　11

1．6　Matplotlib　16

1．7　小结　19

第2章感知机　21

2．1　感知机是什么　21

2．2　简单逻辑电路　23

2．3　感知机的实现　25

2．4　感知机的局限性　28

2．5　多层感知机　31

2．6　从与非门到计算机　35

2．7　小结　36

第3章神经网络　37

3．1　从感知机到神经网络　37

3．2　激活函数　42

3．3　多维数组的运算　50

3．4　3层神经网络的实现　56

3．5　输出层的设计　63

3．6　手写数字识别　69

3．7　小结　79

第4章神经网络的学习　81

4．1　从数据中学习　81

4．2　损失函数　85

4．3　数值微分　94

4．4　梯度　100

4．5　学习算法的实现　109

4．6　小结　118

第5章误差反向传播法　121

5．1　计算图　121

5．2　链式法则　126

5．3　反向传播　130

5．4　简单层的实现　135

5．5　激活函数层的实现　139

5．6　Affine/Softmax层的实现　144

5．7　误差反向传播法的实现　154

5．8　小结　161

第6章与学习相关的技巧　163

6．1　参数的更新　163

6．2　权重的初始值　176

6．3　BatchNormalization　184

6．4　正则化　188

6．5　超参数的验证　195

6．6　小结　200

第7章卷积神经网络　201

7．1　整体结构　201

7．2　卷积层　202

7．3　池化层　214

7．4　卷积层和池化层的实现　216

7．5　CNN的实现　224

7．6　CNN的可视化　228

7．7　具有代表性的CNN　231

7．8　小结　233

第8章深度学习　235

8．1　加深网络　235

8．2　深度学习的小历史　242

8．3　深度学习的高速化　248

8．4　深度学习的应用案例　253

8．5　深度学习的未来　258

8．6　小结　264

附录A　Softmax-with-Loss层的计算图　267

A．1　正向传播　268

A．2　反向传播　270

A．3　小结　277

参考文献　279

《深度学习的数学》

第1章　神经网络的思想

1-1　神经网络和深度学习2

1-2　神经元工作的数学表示6

1-3　激活函数：将神经元的工作一般化12

1-4　什么是神经网络18

1-5　用恶魔来讲解神经网络的结构23

1-6　将恶魔的工作翻译为神经网络的语言31

1-7　网络自学习的神经网络36

第2章　神经网络的数学基础

2-1　神经网络所需的函数40

2-2　有助于理解神经网络的数列和递推关系式46

2-3　神经网络中经常用到的Σ符号51

2-4　有助于理解神经网络的向量基础53

2-5　有助于理解神经网络的矩阵基础61

2-6　神经网络的导数基础65

2-7　神经网络的偏导数基础72

2-8　误差反向传播法必需的链式法则76

2-9　梯度下降法的基础：多变量函数的近似公式80

2-10　梯度下降法的含义与公式83

2-11　用Excel体验梯度下降法91

2-12　最优化问题和回归分析94

第3章　神经网络的最优化

3-1　神经网络的参数和变量102

3-2　神经网络的变量的关系式111

3-3　学习数据和正解114

3-4　神经网络的代价函数119

3-5　用Excel体验神经网络127

第4章　神经网络和误差反向传播法

4-1　梯度下降法的回顾134

4-2　神经单元误差141

4-3　神经网络和误差反向传播法146

4-4　用Excel体验神经网络的误差反向传播法153

第5章　深度学习和卷积神经网络

5-1　小恶魔来讲解卷积神经网络的结构168

5-2　将小恶魔的工作翻译为卷积神经网络的语言174

5-3　卷积神经网络的变量关系式180

5-4　用Excel体验卷积神经网络193

5-5　卷积神经网络和误差反向传播法200

5-6　用Excel体验卷积神经网络的误差反向传播法212

附录　

A　训练数据（1）222

B　训练数据（2）223

C　用数学式表示模式的相似度225

《Python深度学习》

第一部分　深度学习基础

第1章什么是深度学习　2

1.1　人工智能、机器学习与深度学习　2

1.2　深度学习之前：机器学习简史　11

1.3　为什么是深度学习，为什么是现在　15

第2章神经网络的数学基础　20

2.1　初识神经网络　20

2.2　神经网络的数据表示　23

2.3　神经网络的“齿轮”：张量运算　29

2.4　神经网络的“引擎”：基于梯度的优化　36

2.5　回顾第一个例子　41

本章小结　42

第3章　神经网络入门　43

3.1　神经网络剖析　43

3.2　Keras简介　46

3.3　建立深度学习工作站　49

3.4　电影评论分类：二分类问题　51

3.5　新闻分类：多分类问题　59

3.6　预测房价：回归问题　66

本章小结　73

第4章　机器学习基础　74

4.1　机器学习的四个分支　74

4.2　评估机器学习模型　76

4.3　数据预处理、特征工程和特征学习　80

4.4　过拟合与欠拟合　83

4.5　机器学习的通用工作流程　89

本章小结　92

第二部分　深度学习实践

第5章　深度学习用于计算机视觉　94

5.1　卷积神经网络简介　94

5.2　在小型数据集上从头开始训练一个卷积神经网络　102

5.3　使用预训练的卷积神经网络　115

5.4　卷积神经网络的可视化　130

本章小结　146

第6章　深度学习用于文本和序列　147

6.1　处理文本数据　147

6.2　理解循环神经网络　162

6.3　循环神经网络的高级用法　172

6.4　用卷积神经网络处理序列　188

本章总结　195

第7章　高级的深度学习最佳实践　196

7.1　不用Sequential模型的解决方案：Keras函数式API　196

7.2　使用Keras回调函数和TensorBoard来检查并监控深度学习模型　210

7.3　让模型性能发挥到极致　219

本章总结　225

第8章　生成式深度学习　226

8.1　使用LSTM生成文本　227

8.2　DeepDream　235

8.3　神经风格迁移　241

8.4　用变分自编码器生成图像　249

8.5　生成式对抗网络简介　257

本章总结　264

第9章　总结　265

9.1　重点内容回顾　265

9.2　深度学习的局限性　273

9.3　深度学习的未来　277

9.4　了解一个快速发展领域的最新进展　281

9.5　结束语　282

附录A　在Ubuntu上安装Keras及其依赖　283

附录B　在EC2GPU实例上运行Jupyter笔记本　287