人工智能安全与伦理

随着人工智能技术在日常生活中的广泛应用，其安全、隐私与伦理问题已不容忽视。本书系统阐述了人工智能的演进历程与未来发展趋势：从早期机器学习的开创性研究，到当前人工智能技术在各领域的实际应用，再到对未来社会的深远影响，全面剖析了人工智能模型与实施方式。此外，本书深入探讨了漏洞检测的重要性，提供了对现实世界潜在风险的深刻洞察，并提出了保障人工智能安全的实践建议。在推动人工智能技术发展的同时，本书也对问责制、隐私保护与伦理问题进行了深入探讨，审视了监管与立法层面的现状，并提出了对人工智能监管义务及其影响的批判性思考，涉及版权保护、专利及其他知识产权方面的挑战。本书适合人工智能相关政策制定者和法律从业者、网络安全和人工智能领域的专业人士，以及计算机科学和网络安全等专业的学生阅读。

奥马尔·桑托斯（Omar Santos），一位网络安全领域的思想领袖，致力于通过行业协作提升关键基础设施的安全性。奥马尔是DEF CON Red Team Village负责人、通用安全通告框架（CSAF）技术委员会主席、OpenEoX创始人、开放标准组织OASIS的董事会成员。奥马尔与众多组织都有合作，包括国际事件响应与安全组织论坛（FIRST）等。

佩塔尔·拉丹列夫（Petar Radanliev），牛津大学计算机科学系博士后研究员。他曾在2014年获得威尔士大学博士学位，在转入牛津大学计算机科学系之前，他先后在伦敦帝国理工学院、剑桥大学、麻省理工学院、牛津大学工程科学系从事博士后研究。他目前的研究重点是人工智能、网络安全、量子计算和区块链技术。在进入学术界之前，佩塔尔·拉丹列夫博士在苏格兰皇家银行（RBS）担任了10年网络安全经理，并在英国国防部担任了5年首席渗透测试员。

郑烨婕，东方财富AI研究院高级研究员，兼任上海开源信息技术协会金融智能专委会秘书长、亚洲科技促进可持续发展目标联盟理事。曾在商汤科技研究院和AI伦理委员会工作，长期致力于人工智能技术科研成果转化与AI安全治理研究。作为主笔撰写的AI可持续发展报告被联合国《AI战略资源指南》收录，并出版人工智能治理专著《黑镜与秩序：数智化风险社会下的人工智能伦理与治理》及其英文版AI Ethics and Governance：Black Mirror and Order，后者入围Springer Nature中国新发展奖。

高世健，云南林业职业技术学院副教授，硕士毕业于云南大学，中国计算机学会（CCF）人工智能与模式识别专业委员会委员，CCF技术公益大使。目前主要研究方向是机器学习与多模态大模型。曾合作著有《Vague集理论研究及其应用》一书。

第1章 人工智能与机器学习的历史概述

1.1伊娃的故事002

1.2人工智能的起源003

1.3人工智能的发展005

1.4理解人工智能和机器学习008

1.5伊娃故事的结局026

1.6小结027

1.7技能测试028

第2章 人工智能和机器学习技术的基础和应用

2.1哪些是领先的人工智能和机器学习技术及算法？033

2.2ChatGPT与领先的人工智能及机器学习技术：探索能力与应用041

2.3了解两类人工智能：基于能力的类别和基于功能的类别050

2.4案例研究：利用人工智能和机器学习应对现实世界的挑战051

2.5反思人工智能技术的社会和伦理影响052

2.6评估人工智能和深度学习技术的未来趋势和新兴发展054

2.7小结055

2.8技能测试056

第3章 生成式人工智能和大语言模型

3.1生成式人工智能和大语言模型简介061

3.2大语言模型：革新自然语言处理082

3.3HuggingFace089

3.4Auto-GPT：自主人工智能应用的革命性突破091

3.5小结091

3.6技能测试092

3.7补充资料097

第4章 人工智能和机器学习安全的基石

4.1认识人工智能安全的必要性098

4.2对抗性攻击100

4.3数据投毒攻击102

4.4大语言模型的OWASP十大安全风险104

4.5成员推理攻击115

4.6规避攻击121

4.7模型逆向攻击125

4.8后门攻击126

4.9探索防御措施127

4.10小结128

4.11技能测试129

4.12补充资料130

第5章 破解人工智能系统

5.1破解FakeMedAI132

5.2MITREATLAS134

5.3深入研究人工智能和机器学习攻击的战术与技术136

5.4运用提示词注入151

5.5人工智能模型的红队测试152

5.6小结152

5.7技能测试153

第6章 系统和基础设施安全

6.1人工智能系统的漏洞、风险及其潜在影响156

6.2AIBOM164

6.3数据安全漏洞165

6.4云安全漏洞167

6.5人工智能系统的安全设计原则170

6.6人工智能模型安全171

6.7人工智能系统的基础设施安全172

6.8人工智能系统的威胁检测与事件响应177

6.9人工智能系统的额外安全技术与考量180

6.10小结181

6.11技能测试182

6.12补充资料183

……