生成式AI安全 GenAI驱动的智能安全体系

（1）作者经验丰富：作者就职于某头部终端智能企业，负责AI安全的研究与实践，在安全领域有近10年的实践经验。
（2）完整知识体系：从技术基础到发展趋势，从安全原理到治理框架，从应用实践到内生安全，构建前瞻、系统的生成式AI安全知识体系。
（3）注重落地实操：借助30+行业案例和最佳实践，手把手教企业如何快速落地生成式AI安全体系。

随着生成模型的复杂性和自主性不断提高，传统的安全防护措施已难以应对这些新兴的智能攻击与威胁。我们需要全新的安全思维和防护体系，才能在GenAI时代保持安全优势。本书从技术底层到治理框架，全面拆解生成式人工智能(GenAI)带来的机遇与威胁。本书面向安全研究员、开发者、产品经理及政策制定者，提供从理论到工具的“一站式”参考，助力读者在AI时代立于不败之地。通过阅读本书，你将收获：·纵览GenAI核心算法、工程化流程与多模态/Agent发展趋势。·透视深度伪造、自动化攻击、模型对抗等新型安全场景。·按CISSP×NIST AI RMF双框架建立系统性防御思维。·掌握模型供应链、数据伦理、价值观对齐等内生风险治理路径。·借30行业案例与最佳实践，快速落地企业级GenAI安全体系。

前言

第一部分 GenAI：从基础到前沿

第1章 GenAI概述 3

1.1 GenAI的产生 3

1.1.1 AI的发展历程 3

1.1.2 什么是GenAI 5

1.1.3 与GenAI相关的核心概念 6

1.2 GenAI与其他AI类型的比较 8

1.2.1 GenAI与基于规则的AI 8

1.2.2 GenAI与专家系统 9

1.2.3 GenAI与演化算法 11

1.3 GenAI带来变革的本质原因 13

1.4 GenAI在不同领域的应用 18

1.4.1 医疗保健 18

1.4.2 金融服务 20

1.4.3 教育 21

1.4.4 网络安全 22

1.4.5 娱乐与媒体 23

1.5 GenAI的挑战与未来发展 24

1.5.1 AI的扩张与失控风险 24

1.5.2 两种思潮：有效加速与有效利他主义 26

1.5.3 应对风险的策略：从伦理到技术 27

1.5.4 GenAI的未来发展 28

第2章 GenAI的关联学科及应用 29

2.1 GenAI与自然语言处理 29

2.2 GenAI与数据科学 33

2.3 GenAI与人脑认知科学 36

2.4 GenAI与决策科学 38

2.5 GenAI与复杂性科学 40

第3章 GenAI的核心技术 43

3.1 GenAI的核心算法和架构 43

3.1.1 生成模型的算法 43

3.1.2 生成对抗网络 44

3.1.3 变分自编码器 45

3.1.4 循环神经网络 46

3.1.5 递归生成网络 47

3.1.6 Transformer 48

3.1.7 强化学习 49

3.2 生成模型解析：从数据到部署的系统化框架 51

3.3 GenAI模型评价指标 52

3.4 GenAI技术的下一步发展：多模态与AI Agent 54

3.4.1 多模态 54

3.4.2 AI Agent 55

第二部分 未来防御：GenAI与网络安全

第4章 GenAI在网络安全中的发展 59

4.1 网络安全概述 59

4.2 GenAI在网络安全中的应用与挑战 61

4.2.1 虚假新闻生成 61

4.2.2 深度伪造技术滥用 62

4.2.3 自动化网络攻击 63

4.2.4 人工智能对抗攻击 65

4.3 GenAI对网络安全的影响 66

第5章 GenAI在网络安全生命周期中的影响与实践 68

5.1 安全和风险管理 68

5.1.1 背景 68

5.1.2 挑战 69

5.1.3 应用 71

5.1.4 案例 72

5.2 资产安全 75

5.2.1 背景 75

5.2.2 挑战 77

5.2.3 应用 78

5.2.4 案例 79

5.3 安全架构和工程 81

5.3.1 背景 81

5.3.2 挑战 83

5.3.3 应用 84

5.3.4 案例 84

5.4 身份识别和访问管理 88

5.4.1 背景 89

5.4.2 挑战 91

5.4.3 应用 91

5.4.4 案例 92

5.5 安全评估和测试 94

5.5.1 背景 94

5.5.2 挑战 95

5.5.3 应用 96

5.5.4 案例 97

5.6 安全运营 98

5.6.1 背景 99

5.6.2 挑战 99

5.6.3 应用 101

5.6.4 案例 101

5.7 软件开发安全 102

5.7.1 背景 103

5.7.2 挑战 104

5.7.3 应用 105

5.7.4 案例 106

第三部分 面对未知：GenAI的内生安全风险

第6章 GenAI的内生安全风险概述 111

6.1 GenAI面临的内生安全风险 111

6.2 价值观对齐与AI伦理 116

第7章 GenAI的内生安全：基于NIST AI RMF的风险评估与实践 122

7.1 NIST AI RMF概述 122

7.2 GenAI系统风险评估过程中的挑战 125

7.3 风险控制关键措施 127

7.3.1 风险映射：明确风险来源与影响边界 127

7.3.2 风险度量：量化评估与优先级排序 128

7.3.3 风险管理：组织层面的资源分配与持续治理 129

7.3.4 场景化应用方案：贴合实际与法规要求 130

7.3.5 测试-评估-验证-确认：技术流程中的性能检测与法律遵从 131

7.3.6 人机交互的复杂性与风险应对 132

7.4 NIST AI RMF与大模型价值观对齐的实践 133

7.4.1 NIST AI RMF对于价值观对齐的总体思路 133

7.4.2 GenAI价值观对齐中的核心技术 135

7.4.3 安全有监督微调与人类反馈强化学习的局限性 140

7.4.4 价值观对齐技术的发展趋势 141

第四部分 在边缘跳舞：AGI的双面未来

第8章 从幻想到现实：AGI与智能自主系统 147

8.1 什么是AGI  147

8.2 什么是意识 150

8.3 管理主动型AI系统风险的实践 156

8.4 智能自主系统带来的挑战 160

第9章 新型智慧崛起：从LLM到多元智能的进化与风险 165

9.1 AI是一种新的智慧形态 166

9.2 从复杂性与因果理论看GenAI的不可解释性 167

9.3 如何控制更高级的智慧形态 169

9.3.1 基于有限的规则无法约束AI的行为 169

9.3.2 通过人机协作探索对于AI的控制 170

9.4 智能的进化与风险 172