深度神经网络的学习理论

本书以函数逼近论与学习理论为主要工具，建立了一个系统的数学框架来解释深度的必要性、深度神经网络的适用性、数据规模对深度神经网络的影响、深度选择问题、网络结构选择问题及过参数化深度神经网络的泛化性等现阶段深度学习亟待解决的核心理论问题。本书的主要目的有三个:其一是期望从学习理论的角度给出作者的见解，能为某些方向的学者解惑；其二是为打算进入深度学习理论这一领域的青年学者及广大学生提供参考，使其能尽快领略深度学习理论的魅力;其三是抛砖引玉，希望更多的学者关注到深度学习理论这一方向并推动这一领域的更快发展。

本书适合高等院校数据科学、数学、理论计算机科学、管理科学等专业的高年级本科生、研究生、教师及相关科技工作者阅读参考。

《大数据与数据科学专著系列》序

前言

主要符号表

第1章 深度神经网络与学习理论 1

1.1 机器学习及其三要素 2

1.2 深度神经网络 3

1.3 学习理论 6

1.4 深度神经网络的学习理论问题 10

1.5 文献导读 13

第2章 浅层神经网络的逼近理论 15

2.1 浅层神经网络的稠密性 15

2.2 浅层神经网络逼近的复杂性与优越性 18

2.3 浅层神经网络逼近的局限性 22

2.4 相关证明 26

2.5 文献导读 40

第3章 深度的必要性 43

3.1 函数逼近中深度的作用 43

……