本书以函数逼近论与学习理论为主要工具，建立了一个系统的数学框架来解释深度的必要性、深度神经网络的适用性、数据规模对深度神经网络的影响、深度选择问题、网络结构选择问题及过参数化深度神经网络的泛化性等现阶段深度学习亟待解决的核心理论问题。本书的主要目的有三个:其一是期望从学习理论的角度给出作者的见解，能为某些方向的学者解惑；其二是为打算进入深度学习理论这一领域的青年学者及广大学生提供参考，使其能尽快领略深度学习理论的魅力;其三是抛砖引玉，希望更多的学者关注到深度学习理论这一方向并推动这一领域的更快发展。

目录
《大数据与数据科学专著系列》序
前言
主要符号表
第1章 深度神经网络与学习理论 1
1.1 机器学习及其三要素 2
1.2 深度神经网络 3
1.3 学习理论 6
1.4 深度神经网络的学习理论问题 10
1.5 文献导读 13
第2章 浅层神经网络的逼近理论 15
2.1 浅层神经网络的稠密性.15
2.2 浅层神经网络逼近的复杂性与优越性 18
2.3 浅层神经网络逼近的局限性 22
2.4 相关证明 26
2.5 文献导读 40
第3章 深度的必要性 43
3.1 函数逼近中深度的作用.43
3.2 深度与宽度对神经网络覆盖数的影响 45
3.3 深度的必要性.49
3.4 深度神经网络的很优泛化性 51
3.5 数值实验 53
3.6 相关证明 55
3.7 文献导读 69
第4章 深度全连接神经网络的学习理论 72
4.1 深度全连接神经网络的性质 72
4.2 深度全连接神经网络的适用性 75
4.3 数据规模在深度学习中的作用 80
4.4 数值实验 84
4.5 相关证明 87
4.6 文献导读 102
第5章 深度稀疏连接神经网络的学习理论 104
5.1 稀疏连接神经网络 104
5.2 深度稀疏连接神经网络的性质.108
5.3 深度选择与深度-参数平衡现象 111
5.4 深度稀疏连接神经网络的构造 115
5.5 数值实验 118
5.6 相关证明 121
5.7 文献导读 133
第6章 深度卷积神经网络的学习理论 136
6.1 卷积神经网络 136
6.2 零填充在卷积神经网络中的作用 141
6.3 池化的作用 143
6.4 卷积神经网络的逼近与学习性能 147
6.5 数值实验 149
6.6 相关证明 152
6.7 文献导读 164
第7章 过参数化神经网络的学习理论 167
7.1 过参数化神经网络 167
7.2 全局极小解的分布与性质 169
7.3 过参数化神经网络的泛化性能 171
7.4 数值实验 174
7.5 相关证明 177
7.6 文献导读 185
参考文献 187
《大数据与数据科学专著系列》已出版书目 195