人工智能安全发展报告（2024―2025）

《人工智能安全发展报告（2024―2025）》以2024年以来全球人工智能产业发展与安全为主线，系统梳理世界各国人工智能产业发展战略与产业现状，围绕人工智能前沿技术、安全治理、融合应用等方面深入分析，并针对人工智能发展相关重要领域展开专题研究，同时在相关篇章中对人工智能安全技术、安全应用等方面进行分析研究。本报告主体分为5个部分，即全球篇、技术篇、安全篇、融合篇、专题篇，共15篇报告。本报告是对全球人工智能进行研究的综合性年度报告，可为相关政府单位、科研机构、行业企业研究我国人工智能安全发展情况提供参考。 当前，以DeepSeek、ChatGPT 为代表的人工智能大模型引领新一轮科技革命与产业变革，全球各国积极推动人工智能快速发展，持续加大该领域研发投入与推广应用，人工智能国际合作不断深化。人工智能发展格局以大模型为主旋律，关键技术从通用对话向专业推理逐渐演进；算力规模持续增长，本地私有化部署带动端侧算力需求；人工智能标准体系不断完善，开源社区势头强劲；人工智能产业化应用呈现多元化发展趋势，制造业、具身智能、金融、低空经济等行业融合应用场景不断涌现，投融资热度再次回升。 然而，随着人工智能技术发展与应用普及，模型幻觉、隐私泄露、伦理偏见等安全风险也加速暴露出来，安全防范与治理亟需加快落地。近年来，党中央、国务院高度重视人工智能安全，持续推动完善人工智能安全监管，倡导人工智能安全治理。展望未来，人工智能发展将迎来新阶段，人工智能将与实体经济深度融合，行业应用驱动基础研究与工程化技术双向深化，人工智能安全监管机制持续健全。下一步，我们要深入贯彻落实党的二十大和二十届二中、三中全会精神，以及习近平总书记关于人工智能的重要论述，坚持发展与监管并重，统筹建设人工智能安全治理框架，加强人工智能安全技术研发，健全完善人工智能安全标准体系，加强人工智能安全领域国际合作交流，推动我国人工智能健康发展。

国家工业信息安全发展研究中心(工业和信息化部电子第一研究所)成立于1959年，是工业和信息化部直属事业单位，是我国工业信息安全领域重要的服务保障机构。经过60多年的发展与积淀，中心拥有2个国家质检中心、6个工业和信息化部重点实验室，具有等保测评、商用密码安全性评估、信息安全风险评估、电子数据司法鉴定、软件测试等资质。中心牵头（或参与）承担了上百项国家重点研发计划、工业转型升级专项、制造业高质量发展专项、基础科研重大工程等重大专项，形成了工业信息安全综合保障、关键软件生态促进服务、制造业数字化转型服务三大业务体系，提供智库咨询、技术研发、检验检测、试验验证、评估评价、知识产权、数据资源等公共服务，并长期承担声像采集制作、档案文献、科技期刊、工程建设、年鉴出版等管理支撑工作。新时期，中心将坚持以习近平新时代中国特色社会主义思想为指导，深入贯彻总体国家安全观，统筹发展和安全，聚焦主责主业，突出特色，以加快推进新型工业化为主线，围绕强化对部支撑保障、服务行业企业发展两项使命任务，聚焦工业信息安全、关键软件、制造业数字化转型三个重点领域，持续提升安全保障、转型服务、生态促进、决策支撑四种核心能力，加快建设一流的国家工业信息安全服务保障机构，为服务产业科技高水平安全、护航新型工业化高质量发展作出新的更大贡献。

全球篇
B.1 2024年全球人工智能产业发展综述·
技术篇
B.2 推理大模型：技术发展、产业现状、问题与未来趋势分析·
B.3 AI算法本地化部署带动端侧算力需求
安全篇
B.4 全球人工智能安全治理研究
B.5 美国商务部发布人工智能安全研究所计划启示
融合篇
B.6 人工智能加速赋能新型工业化，助力制造业高质量发展
B.7 政务大模型助力提升政府治理效能
B.8 人工智能推动金融行业发展变革
B.9 人工智能赋能低空经济 开启智能航空新纪元
专题篇
B.10 大模型的未来
B.11 AI智能体2024 年发展现状及未来趋势
B.12 具身智能：人工智能的下一站
B.13 人工智能标准化研究
B.14 人工智能开源社区发展建设研究
B.15 人工智能投资触底反弹聚焦AIGC
附录A 2024 年人工智能产业十大热点事件
附录B 全球人工智能产业链各环节布局情况
Abstract