在线半监督学习理论及方法

本书从理论分析开始，描述了在线半监督学习的框架，对在线流形正则化、在线协同正则化、在线半监督支持向量机和在线多重正则化等新方法、新算法进行了介绍，很后从工程应用角度进行了案例分析。在章节组织上，靠前章总结了在线半监督学习的研究现状和基本概念。第二章介绍了在线半监督学习的数学框架。第三章主要介绍了在线流形正则化算法，为了实用目的，本章还提出了两种缓冲池策略和两种稀疏化方法来减少在线流形正则化算法的时空复杂度。第四章介绍了在线协同正则化算法，该算法利用不同视图内决策函数的一致性指导学习过程。第五章介绍了在线半监

章 绪论
1.1 半监督学习
1.1.1 生成式模型
1.1.2 自训练
1.1.3 协同训练
1.1.4 低密度区域分割
1.1.5 基于图的半监督学习
1.2 在线学习
1.2.1 问题类型
1.2.2 更新类型
1.2.3 贪婪程度
1.3 在线半监督学习
1.3.1 在线流形正则化
1.3.2 在线协同正则化
1.3.3 在线半监督支持向量机
1.3.4 在线半监督Boosting
1.3.5 其他在线半监督学习算法
第2章 在线半监督学习框架
2.1 基于正则化理论的半监督学习
2.1.1 逆问题与正则化
2.1.2 基于正则化理论的半监督学习方法
2.2 在线半监督学习框架模型
2.2.1 问题描述与基本假设
2.2.2 基于Fenchel Conjugate的对偶变换
2.2.3 基于对偶提升过程的在线半监督学习框架模型
第3章 在线流形正则化
3.1 相关基本概念
3.1.1 半监督学习中流形正则化问题的数学描述
3.1.2 模型定义
3.2 在线流形正则化算法
3.2.1 Fenchel Conjugate的对偶变换
3.2.2 流形正则化的对偶问题
3.2.3 基于对偶提升过程的在线流形正则化算法
3.3 基于梯度提升的在线流形正则化算法
3.3.1 样本关联更新
3.3.2 整体更新
3.3.3 两步更新
3.4 核函数与稀疏化
3.4.1 核函数
3.4.2 稀疏化
3.5 对偶提升过程
3.6 随机梯度下降
3.7 算法应用与分析
3.7.1 数据集与实验方法
3.7.2 计算复杂度
3.7.3 错误率
3.7.4 其他实验结果与分析
第4章 在线协同正则化
4.1 相关基本概念
4.1.1 半监督学习中协同正则化问题的数学描述
4.1.2 模型定义
4.2 在线协同正则化算法
4.2.1 多变量Fenchel Conjugate的对偶变换
4.2.2 协同正则化的对偶问题
4.2.3 基于对偶提升过程的在线协同正则化算法
4.3 在线协同正则化算法分析
4.4 基于贪婪提升的在线协同正则化算法
4.4.1 基于单样本的贪婪提升
4.4.2 基于多样本的贪婪提升
4.5 多视图中的核函数与稀疏化
4.5.1 ε容忍
4.5.2 多视图k最大对偶系数法
4.6 算法应用与分析
4.6.1 Two―moons―two―lines数据集
4.6.2 网页分类
4.6.3 Rotating Two―moons―two―lines数据流
4.6.4 其他实验结果与分析
第5章 在线半监督支持向量机
5.1 相关基本概念
5.2 在线半监督支持向量机算法
5.2.1 凹凸过程及问题转化
5.2.2 对偶问题及其分析
5.2.3 基于对偶提升过程的在线半监督支持向量机算法
5.3 两种在线半监督支持向量机算法
5.3.1 基于贪婪提升的在线半监督支持向量机算法
5.3.2 基于LCCCP的在线半监督支持向量机算法
5.4 S3VM问题模型
5.5 对偶提升过程
5.6 算法应用与分析
5.6.1 数据集与实验方法
5.6.2 计算复杂度
5.6.3 错误率
5.6.4 其他实验结果与分析
第6章 在线多重正则化
6.1 相关基本概念
6.1.1 半监督学习中多重正则化问题的数学描述
6.1.2 模型定义
6.2 在线多重正则化算法
6.2.1 多重正则化的对偶问题
6.2.2 基于对偶提升过程的在线多重正则化算法
6.3 两种在线多重正则化算法
6.3.1 基于梯度提升的在线多重正则化算法
6.3.2 基于贪婪提升的在线多重正则化算法
6.4 算法应用与分析
6.4.1 Two―moons―two―lines数据集
6.4.2 WebKB数据集
6.4.3 Rotating two―moons―two―lines数据流
6.4.4 其他实验结果与分析
后记
参考文献
附录A Fenchel Conjugate
A.1 Fenchel Conjugate的定义
A.2 Fenchel Conjugate的重要性质
A.3 一些重要函数的Fenchel Conjugate