邢梦来，擅长量化分析理论，深入研究多空对比分析，对多空趋势平衡有独特的见解，形成一套多空对比体系。同时对对交易心理状况、人工智能与区块链技术也有较深的研究。

王硕，资深软件工程师，具有9年的Java企业应用开发经验和4年的教育培训经验，曾主持多个B/S项目开发，项目经验丰富，擅长Java EE（Struts2、Spring3、Hibernate3）项目开发、Python（程序GUI、数据分析、网络爬虫）项目开发，是极宽TOP开源团队核心成员，也是《PyQt5快速开发与实战》一书的作者之一。

孙洋洋，《PyQt5快速开发与实战》一书的作者之一，擅长网络爬虫、机器学习、量化投资与程序GUI开发设计。有多年量化投资实盘操作经历，现就职于某期货公司做量化研究员。

本书选用Facebook开源深度学习库PyTorch作为深度学习框架，读者可以通过实战操作，快速创建经典卷积神经网络、循环神经网络、自编码模型、对抗生成网络等模型。开启海绵模式，尽可能多地学习深度学习原理知识，并有针对性地进行实际训练，相信一定会有所收获。

选择适合自己的深度学习开源平台，实现深度学习算法，利用深度学习开源平台，了解人工智能行业的发展动态，掌握前沿科学技术。

日常生活中，人工智能悄悄地影响着我们。

随着人工智能的技术的发展，现代几乎各种技术的发展都涉及了人工智能技术，可以说人工智能已经广泛应用到许多领域，其典型的应用包括：信息检索应用、推荐系统、语音识别、自然语言处理、图像识别、智能家居等。以人工智能在语音识别，语音合成上的结果看，2016年10月份由微软美国研究院发布的一个语音识别的最新结果实现了错误率为5.9%的新突破，这是第一次用人工智能技术取得了跟人类似的语音识别的错误率。

人工智能一直处于计算机技术的前沿，人工智能研究的理论和发现在很大程度上将决定计算机技术的发展方向。为了适应新一轮的科技发展，培养高端人才，人工智能进入国家发展战略。

2017年7月，国务院印发《新一代人工智能发展规划》，其中提到，新一代人工智能发展分三步走的战略目标，到2030年使中国人工智能理论、技术与应用总体达到世界领先水平，成为世界主要人工智能创新中心。

为此，我们积极学习人工智能前沿知识，适应科技进步。

本书选用Facebook开源深度学习库PyTorch作为深度学习框架。常用的深度学习开源平台有TensorFlow、Theano、Keras、Caffe等。在TensorFlow的官网上，它被定义为一个用于机器智能的开源软件库，使用TensorFlow需要编写大量的代码，个人觉得不适合初学者。

Theano是比较老牌和最稳定的库之一。由于Theano不支持多GPU扩展，在深度学习开源平台快速更新迭代的浪潮下，Theano已然开始慢慢被遗忘了。

Keras句法比较明晰，文档完善，使用非常简单轻松。Keras强调极简主义，只需几行代码就能构建一个神经网络，适合新人学习。

Caffe是老牌中的老牌框架。起初的时候它仅仅关注计算机视觉，但它具有非常好的通用性。Caffe的缺点是它不够灵活，同时Caffe的文档非常贫乏。

张量是PyTorch的一个完美组件，和NumPy类似。将张量从NumPy转换至PyTorch非常容易。可以把它作为NumPy的替代品。PyTorch这种框架可以获得GPU加速，以便快速进行数据预处理，或其他任务。PyTorch同时也提供了变量，我们在构建神经网络的时候，在张量之上的封装，构建自己的计算图，并自动计算梯度。PyTorch建立的是动态图，TensorFlow建立的是静态图。PyTorch更加符合一般的编程习惯，而不是像TensorFlow那样需要先定义计算图。

虽然开源平台众多，但更多的时候，我们考虑实现算法的简捷性，通常选择容易上手的，能快速实现算法的开源平台。为此，我们需要选择适合自己的深度学习开源平台，实现深度学习算法。

学习深度学习理论知识，了解人工智能行业发展动态，掌握前沿科学技术。利用PyTorch开源平台快速实现经典卷积神经网络、循环神经网络、自编码模型、对抗生成网络等模型。开启海绵模式，尽可能多学原理知识，掌握机器学习的基础理论知识，然后针对性地训练。通常从收集数据，预处理和清洗数据，到搭建模型，训练和调试模型，再到最后评估模型。逐渐培养出对于什么样的数据适合用什么类型的模型的判断能力，并增强实践能力。经过学习，逐渐从“小白”，慢慢到专业人士。有兴趣的读者欢迎加入本书交流群，一起交流学习。同时，本书所有案例的代码统一放在QQ群文件里，群号为662443475，或在博文视点官网下载：www.broadview.com.cn。

致谢

感谢电子工业出版社的黄爱萍编辑，在选题策划和稿件整理方面做出的大量工作。

感谢极宽开源量化团队给予的技术支持。

在本书的创作中，特别感谢张建辉、刘笑俐、王丽颖、刘晓峰、刘婷、沈雨涵的协助，为他们的付出表示感谢。

邢梦来

2018年6月

目 录

第一部分 理论部分

第1章 深度学习简介

1.1 深度学习

1.2 神经网络的发展

1.3 深度学习的应用

1.4 常用的数学知识和机器学习算法

1.5 PyTorch简介

1.5.1 PyTorch介绍

1.5.2 使用PyTorch的公司

1.5.3 PyTorch API

1.5.4 为什么选择Python语言

1.5.5 Python语言的特点

1.6 常用的机器学习、深度学习开源框架

1.7 其他常用的模块库

1.8 深度学习常用名词

第2章 PyTorch环境安装

2.1 基于Ubuntu环境的安装

2.1.1 安装Anaconda

2.1.2 设置国内镜像

2.2 Conda命令安装PyTorch

2.3 pip命令安装PyTorch

2.4 配置CUDA

第3章 PyTorch基础知识

3.1 张量

3.2 数学操作

3.3 数理统计

3.4 比较操作

第4章 简单案例入门

4.1 线性回归

4.2 逻辑回归

第5章 前馈神经网络

5.1 实现前馈神经网络

5.2 数据集

5.3 卷积层

5.4 Functional函数

5.5 优化算法

5.6 自动求导机制

5.7 保存和加载模型

5.8 GPU加速运算

第6章 PyTorch可视化工具

6.1 Visdom介绍

6.2 Visdom基本概念

6.2.1 Panes（窗格）

6.2.2 Environments（环境）

6.2.3 State（状态）

6.3 安装Visdom

6.4 可视化接口

6.4.1 Python函数属性提取技巧

6.4.2 vis.text

6.4.3 vis.image

6.4.4 vis.scatter

6.4.5 vis.line

6.4.6 vis.stem

6.4.7 vis.heatmap

6.4.8 vis.bar

6.4.9 vis.histogram

6.4.10 vis.boxplot

6.4.11 vis.surf

6.4.12 vis.contour

6.4.13 vis.mesh

6.4.14 vis.svg

第二部分 实战部分

第7章 卷积神经网络

7.1 卷积层

7.2 池化层

7.3 经典的卷积神经网络

7.3.1 LeNet-5神经网络结构

7.3.2 ImageNet-2010网络结构

7.3.3 VGGNet网络结构

7.3.4 GoodLeNet网络结构

7.3.5 ResNet网络结构

7.4 卷积神经网络案例

7.5 深度残差模型案例

第8章 循环神经网络简介

8.1 循环神经网络模型结构

8.2 不同类型的RNN

8.3 LSTM结构具体解析

8.4 LSTM的变体

8.5 循环神经网络实现

8.5.1 循环神经网络案例

8.5.2 双向RNN案例

第9章 自编码模型

第10章 对抗生成网络

10.1 DCGAN原理

10.2 GAN对抗生成网络实例

第11章 Seq2seq自然语言处理

11.1 Seq2seq自然语言处理简介

11.2 Seq2seq自然语言处理案例

第12章利用PyTorch实现量化交易

12.1 线性回归预测股价

12.2 前馈神经网络预测股价

12.3 递归神经网络预测股价