人工智能与大模型安全

人工智能技术的飞速发展以及其在医疗、金融、交通、国防等关键领域的深度应用，正引发全球对人工智能安全风险的广泛关注。为应对这一挑战，本教材立足技术前沿与产业需求，系统构建人工智能安全的知识体系，旨在为高校学生、研究人员及从业者提供兼具理论深度与实践价值的综合性学习资料。
本教材从算法安全、数据隐私、模型鲁棒性、政策法规等维度展开，涵盖投毒攻击、对抗攻击、萃取攻击、逆向攻击、提示注入攻击等新型安全威胁以及相应的安全防御手段。同时，本教材理论与实践并重，从经典案例切入介绍安全风险以及防御技术。
本教材可作为高等院校人工智能、网络空间安全等相关专业本科生及研究生的教材，也适合人工智能研发工程师、政策制定者及企业技术管理者参考，可为构建安全、可信、可控的人工智能生态系统提供理论支撑与方法论工具。通过系统化的知识架构与丰富的案例，本教材致力于培养兼具技术能力与责任意识的人工智能安全人才，以助力应对智能化时代的全球性安全挑战。

1章人工智能法规与标准
1.1人工智能法规
1.1.1.美国人工智能法规
1.1.2其他国家和组织的人工智能规范
1.1,3中国人工智能法规
1.2人工智能标准.
1.2.1人工智能标准
1.2.2其他国家人工智能标准
1.2.3中国人工智能标准
本章小结.

2章数据投毒与检测
2.1.数据投毒概述
2.1.1数据投毒攻击
2.1.2数据投毒防御
2.2数据投毒攻击
2.2.1 标签翻转攻击
2.2.2添加噪声攻击
2.2.3逆梯度攻击
2.2.4后门攻击
2.2.5动态攻击
2.2.6干净标签后门
2.3数据投毒检测
2.3.1 神经清洗
2.3.2激活聚类检测
2.3.3强恶意干扰检测
2.4数据投毒实践
本章小结

3章深度伪造与检测
3.1深度伪造生成方法
3.1.1视觉深度伪造生成技术
3.1.2听觉深度伪造生成技术
3.1.3深度伪造小结
3.2深度伪造检测
3.2.1视觉深度伪造检测
3.2.2听觉深度伪造检测
3.2.3深度伪造检测小结
3.3深度伪造检测实践
本章小结

4章模型逆向与防御
4.1模型逆向概述
4.2模型逆向攻击
4.2.1成员推理攻击
4.2.2属推理攻击
4.2.3数据重构攻击
4.3模型逆向防御
4.4成员推理攻击与防御实践
本章小结

5章模型萃取攻击与防御
5.1模型萃取概述
5.1.1 模型萃取攻击与防御
5.1.2模型萃取攻击的场景
5.1.3模型萃取攻击的目标与影响
5.2模型萃取攻击?
5.2.1方程求解方法
5.2.2重训练方法
5.3模型萃取防御
5.3.1行为检测
5.3.2扰动预测
5.3.3模型水印
……
8.1.4模型歧视的评价指标
8.1.5模型歧视的缓解策略
8.1.6模型歧视的研究趋势
8.1.7结论
8.2模型歧视防御
8.2.1预处理算法
8.2.2训练时处理算法
8.2.3后处理算法
8.2.4结论
8.3模型歧视防御实践
本章小结.
9章大模型攻击与防御
9.1大模型攻击与防御概述
9.1.1大模型攻击概述
9.1.2大模型防御概述
9.2大模型攻击
9.2.1人工设计的提示注人攻击
9.2.2长尾编码的提示注人攻击
9.2.3提示优化的提示注人攻击
9.3大模型防御
9.3.1对抗图像检测
9.3.2注人攻击检测
i9.3.3内容合规防护
9.4大模型攻击与防御实践
9.4.1提示注人攻击实践
9.4.2提示注人防御实践
本章小结
参考文献