CHATGPT与基础大模型

本书比较深入地探索了ChatGPT及其他生成式基础大模型，全书共20章，内容丰富、详实。第1章介绍ChatGPT的发展历程和使用方法；第2章和第3章探讨自然语言处理的主要研究任务和深度学习的基础理论。第4章详细阐述大型预训练语言模型的理论知识和发展脉络。第5章至第8章深入分析和讲解ChatGPT的核心技术，包括Transformer、人类反馈强化学习、提示学习及模型学习与优化。第9章至第16章介绍自然语言、视觉、多模态、深度扩散、生物医学、材料科学、遥感解译以及智能机器人等领域的生成式基础大模型，并对其技术原理、特点和应用场景进行详尽的分析。第17章至第19章从生活、工作、科研、创作和教育等不同视角展示这些模型的应用实例，并全面讨论它们在社会、教育、商业、产业和就业方面的影响以及面临的挑战和风险。最后，第20章综合梳理国家关于人工智能发展的相关政策，为从业者和研究人员提供宝贵的参考和指导。
本书不仅适合作为高年级本科生和研究生的通用人工智能教材，还可作为相关领域广大从业者、企事业单位员工、研究人员、政府工作人员等学习和理解以ChatGPT、Sora等生成式基础模型为代表的通用人工智能技术及其应用的参考资料。

第1章 ChatGPT的前世今生
1.1 什么是ChatGPT
1.2 从波士顿动力机器人到ChatGPT
1.3 ChatGPT的使用说明
1.3.1 ChatGPT的注册
1.3.2 ChatGPT的使用
1.3.3 与ChatGPT进行交流的方法
1.4 ChatGPT的优势与缺点
1.4.1 ChatGPT的优势
1.4.2 ChatGPT的缺点
第2章 自然语言处理
2.1 语义理解
2.2 机器翻译
2.3 自动问答
2.3.1 自动问答系统的基础架构
2.3.2 自动问答系统的实现技术
2.3.3 自动问答技术面临的挑战和发展趋势
2.4 文本生成
2.5 情感分析
2.6 自然语言生成图像
2.7 自然语言生成视频
第3章 大模型深度学习基础理论
3.1 神经网络的基本原理
3.2 卷积神经网络
3.3 Word2Vec
3.3.1 连续词袋模型
3.3.2 Skip-Gram模型
3.4 循环神经网络
3.5 长短期记忆网络
3.6 大规模预训练模型
3.6.1 大规模预训练模型的发展历程
3.6.2 大规模预训练模型的优势
3.6.3 大模型预训练模型的应用场景
第4章 GPT系列大模型
4.1 自然语言处理模型
4.2 GPT
4.3 BERT
4.4 GPT
4.5 GPT
4.6 ChatGPT
4.7 GPT
4.8 GPT-4Turbo
第5章 ChatGPT的核心技术——Transformer
5.1 整体结构
5.2 编码器
5.3 解码器
5.4 嵌入
5.5 Transformer模型的优点和局限性
第6章 ChatGPT的核心技术——人类反馈强化学习
6.1 强化学习
6.1.1 基本定义
6.1.2 强化学习的分类
6.2 近端策略优化
6.2.1 策略梯度算法
6.2.2 信赖
6.2.2 信赖域策略优化算法
6.2.3 近端策略优化算法
6.3 人类反馈强化学习
6.4 强化学习中的Transformer模型
第7章 ChatGPT核心技术——提示学习
7.1 提示学习的基本流程
7.2 提示学习的主要构造
7.3 提示学习的示例
7.3.1 零样本（Zero-Shot）提示学习
7.3.2 小样本（Few-Shot）提示学习
7.3.3 思考链（CoT）提示学习
7.3.4 自一致性提示学习
第8章 ChatGPT核心技术——模型学习与优化
8.1 有监督学习
8.2 无监督学习
8.3 少样本学习与多任务学习
8.4 迁移学习
8.5 深度学习优化方法
8.5.1 梯度下降算法
8.5.2 动量法
8.5.3 牛顿法
8.5.4 启发式学习优化算法
8.6 进化优化微调
8.6.1 模型结构微调
8.6.2 提示微调
8.6.3 自我微调
第9章 NLP基础大模型
9.1 AudioLM大模型
9.2 PaLM系列大语言模型
9.3 LLaMA系列大语言模型
9.4 GLM大语言模型
9.5 腾讯混元大模型
第10章 视觉基础大模型
10.1 谷歌的ViT-22B视觉大模型
10.2 Meta的SegmentAnythingModel（SAM）分割大模型
10.3 Painter及SegGPT视觉大模型
10.4 SEEM分割大模型
10.5 LVM视觉大模型
第11章 多模态基础大模型
11.1 CLIP多模态大模型
11.2 GLIP多模态大模型
11.3 VisualChatGPT模型
11.4 Gemini系列大模型
11.5 Bard平台
11.6 ImageBind大模型
11.7 文心大模型
11.8 “通义千问”大模型
11.9 讯飞星火认知大模型
第12章 深度扩散大模型
12.1 简介与背景
12.2 扩散模型的基本原理
12.3 扩散模型的改进方法
12.3.1 改进的扩散模型
12.3.2 更大规模的扩散模型
12.3.3 用文本引导的扩散模型
12.3.4 DALL?E
12.3.5 更稳定的扩散模型
12.4 扩散Transformer模型
12.5 Sora视频生成大模型
第13章 生物医学大模型
13.1 AlphaFold模型
13.2 Geneformer模型
13.3 Med-PaLM2模型
13.4 RadFM模型
13.5 西安电子科技大学的“智瞳医行”大模型
第14章 材料科学大模型
14.1 GNoME模型
14.2 DARWIN模型
第15章 遥感解译大模型
15.1 西安电子科技大学的“西电遥感脑”大模型
15.2 RVSA遥感大模型
15.3 SkyEyeGPT遥感大模型
15.4 AIE-SEG遥感大模型
15.5 盘古气象大模型
第16章 智能机器人大模型
16.1 RT系列机器人模型
16.2 VoxPoser机器人模型
第17章 ChatGPT的主要应用实例
17.1 让ChatGPT成为我们生活中的帮手
17.1.1 写文章
17.1.2 机器翻译
17.1.3 对话聊天与提问
17.2 让ChatGPT成为我们工作中的顾问
17.2.1 关键信息提取
17.2.2 检查语法
17.2.3 SQL语言生成
17.3 让ChatGPT成为我们科研中的助理
17.3.1 提供文献检索
17.3.2 提供研究背景
17.3.3 写代码
17.3.4 证明
17.4 让ChatGPT为我们提供创作灵感
17.4.1 作曲
17.4.2 作词
17.4.3 绘画
第18章 通用大模型范式面临的挑战
18.1 通用大模型范式面临的十大挑战
18.2 ChatGPT挑战问题实例
18.2.1 图灵测试
18.2.2 基础数学计算
18.2.3 语义创新
18.2.4 模型偏见
18.2.5 语音识别难题
18.2.6 视觉与物理环境感知难题
18.3 NLP技术挑战
18.4 风险与应对策略
18.4.1 技术风险及其应对策略
18.4.2 社会风险及其应对策略
18.4.3 经济风险及其应对策略
第19章 ChatGPT对社会变革与产业发展的影响
19.1 社会变革
19.2 教育发展
19.3 商业模式
19.4 企业优化
19.5 产业升级
19.6 就业推动
第20章 下一代人工智能重要场景战略与解读
20.1 关于发布可解释、可通用的下一代人工智能方法重大研究计划2023年度项目指南的通告
20.2 工业和信息化部等十七部门关于印发“机器人+”应用行动实施方案的通知
20.3 科技部等六部门关于印发《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》的通知
20.4 科技部关于支持建设新一代人工智能示范应用场景的通知
20.5 国家人工智能创新应用先导区
20.6 人工智能教育培养体系
20.7 人工智能新基建
20.8 人工智能领域伦理治理
20.9 生成式人工智能服务管理暂行办法
20.10 国家数据局等十七部门关于印发《“数据要素×”三年行动计划（2024-2026年）》的通知
参考文献

焦李成，男，汉族，1959年10月生，欧洲科学院院士。1992年起任西安电子科技大学教授。现任智能感知与计算国际联合研究中心主任、智能感知与图像理解教育部重点实验室主任、智能感知与计算国际合作联合实验室主任、“智能信息处理科学与技术”高等学校学科创新引智基地（“111计划”）主任、教育部科技委国际合作部学部委员、中国人工智能学会副理事长、IET西安分会主席、IEEE西安分会奖励委员会主席、IEEE计算智能协会西安分会主席、IEEEGRSS西安分会主席，IEEETGRS副主编、教育部创新团队首席专家。国务院学位委员会学科评议组成员、教育部本科教学水平评估专家。1991年被批准为享受国务院政府津贴的专家，1996年首批入选国家“百千万”人才工程。当选为全国模范教师、陕西省师德标兵和曾任第八届全国人大代表。主要研究方向为智能感知与计算、图像理解与目标识别、深度学习与类脑计算，培养的十余名博士获全国优秀博士学位论文奖、提名奖及陕西省优秀博士论文奖。研究成果获包括国家自然科学奖二等奖及省部级一等奖以上科技奖励十余项，出版学术专著十余部，五次获国家优秀科技图书奖励及全国首届三个一百优秀图书奖。所发表的论著被他人引用超过25000余篇次，H指数为65。