新一代网络信息内容安全技术与实践

紧扣前沿挑战
聚焦虚假信息、对抗样本、隐晦立场、隐蔽传播等新一代网络内容安全威胁，系统解析其特点与治理难点。
技术全景覆盖
涵盖多模态虚假信息检测、对抗条件下文本与视觉内容处理、细粒度情感与立场分析、传播规律挖掘、用户身份识别等核心技术，体现跨学科融合视角。
注重实战应用
详解应用实践案例，通过具体场景展示技术落地效果，强化从理论到解决方案的闭环能力。
兼顾国际视野
梳理国内外网络内容安全发展现状，借鉴前沿研究方法，回应全球性治理难题。

本书针对真假难辨的信息内容、隐晦难懂的立场表达和错综隐秘的传播方式给网络信息内容安全领域带来的新挑战进行研究，深入分析各类新威胁的特点及危害，并从对抗条件下的信息内容检测、面向社交媒体的细粒度情感分析、基于传播关系的群体发现与角色挖掘等角度介绍相关技术，提出相应的解决方案，并展示实战应用效果。本书共8章，包括网络信息内容安全概述、融合多特征的虚假信息检测、对抗条件下的文本信息内容处理、对抗条件下的视觉信息内容处理、社交媒体方面级细粒度情感分析、社交媒体立场分析、社交网络用户行为及信息传播规律分析、网络用户身份识别技术。

李邵梅<br />国家数字交换系统工程技术研究中心副研究员，硕导。长期从事网络数据智能分析、网络空间信息内容安全、人工智能安全等领域的技术研究与工程实践，主持省部级项目6项，获省部级科技进步一等奖1项、二等奖1项。发表学术论文50余篇，获专利授权19项，出版专著2本。<br />高超<br />国家数字交换系统工程技术研究中心副研究员。研究与工程领域涵盖网络空间安全、网络空间安全治理、面向社交网络的认知情感计算、基于大语言模型的智能体应用等。发表学术论文10余篇，主持或参与国家自然科学基金项目、国家重点研发计划、河南省重大专项等项目10余项，主导完成网络数据解析与还原系统、社交网络数据情感分析系统等大型软件系统研发。<br />张建朋<br />国家数字交换系统工程技术研究中心助理研究员。主要研究方向包括图数据挖掘、人工智能安全、信息安全等领域。主持全国博士后面上项目与自然科学基金青年项目各1项，主导完成网络信息处理系统、网络图数据挖掘系统的研发工作。发表学术论文40余篇，获专利授权7项。<br />黄瑞阳<br />国家数字交换系统工程技术研究中心教授，博导。长期从事网络空间数据智能分析领域的技术研究和工程实践，主持国家重点研发计划、国家社科基金等项目10余项，获省部级科技进步一等奖1项、二等奖1项。发表论文30余篇，获专利授权6项，出版专著5本。

前　言<br />第1章　网络信息内容安全概述　　1<br />1.1　网络信息内容安全的现状与主流技术　　　1<br />1.1.1　网络信息内容安全技术　　1<br />1.1.2　我国网络信息内容安全的发展现状　　2<br />1.1.3　国外网络信息内容安全的发展现状　　2<br />1.1.4　网络信息内容安全的主流技术　　3<br />1.2　网络新媒体信息的特征　　4<br />1.2.1　网络信息内容的新特征　　 4<br />1.2.2　信息传播方面的新规律　　 5<br />1.2.3　网络舆情传播的特征　　 5<br />1.3　新一代网络信息内容安全面临的挑战　　 7<br />1.3.1　虚假信息鉴别困难　　7<br />1.3.2　对抗信息检测困难　　7<br />1.3.3　深层语义理解困难　　8<br />1.3.4　传播链条溯源困难　　8<br />1.4　新一代网络信息内容安全的解决之道　　 9<br />1.4.1　多特征融合的虚假信息检测　　9<br />1.4.2　基于内生安全架构的对抗信息处理　　 9<br />1.4.3　融合媒体的细粒度情感分析　　9<br />1.4.4　面向社会和政治问题的立场分析　　10<br />1.4.5　复杂条件下的传播关系挖掘　　10<br />1.5　本章小结　　 11<br />参考文献　　11<br />第2章　融合多特征的虚假信息检测　　12<br />2.1　虚假信息检测及其影响　　12<br />2.1.1　虚假信息的基本概念　　 12<br />2.1.2　虚假信息对网络信息内容安全的影响　　13<br />2.2　虚假信息检测技术　　13<br />2.2.1　谣言检测技术　　13<br />2.2.2　虚假图像检测技术　　16<br />2.2.3　深度伪造视频检测技术　　19<br />2.2.4　深度伪造语音检测技术　　21<br />2.3　应用实践　　21<br />2.3.1　图文融合的中文谣言检测　　21<br />2.3.2　融合多模态信息的中文谣言检测　　28<br />2.3.3　融合多域信息的伪造视频检测　　33<br />2.4　本章小结　　41<br />参考文献　　41<br />第3章　对抗条件下的文本信息内容处理　　42<br />3.1　对抗文本及其影响　　42<br />3.1.1　对抗文本的概念　　42<br />3.1.2　对抗文本对网络信息内容安全的影响　　44<br />3.2　对抗文本防御技术　　44<br />3.2.1　英文对抗文本防御技术　　44<br />3.2.2　中文对抗文本防御技术　　46<br />3.3　应用实践　　47<br />3.3.1　基于多模型集成的鲁棒英文谣言检测　　47<br />3.3.2　基于文本纠错的鲁棒中文谣言检测　　 57<br />3.3.3　融合图编码的鲁棒中文命名实体识别　　65<br />3.4　本章小结　　72<br />参考文献　　72<br />第4章　对抗条件下的视觉信息内容处理　　74<br />4.1　对抗样本及其影响　　74<br />4.1.1　对抗样本的概念　　74<br />4.1.2　对抗样本对网络信息内容安全的影响　　76<br />4.2　对抗样本防御技术　　76<br />4.2.1　对抗样本的检测防御方法　　77<br />4.2.2　对抗样本的完全防御方法　　77<br />4.2.3　基于集成的对抗样本主动防御方法　　78<br />4.3　应用实践　　78<br />4.3.1　基于相位谱的伪造视频对抗样本检测　　79<br />4.3.2　基于DHR架构的对抗伪造视频鲁棒检测　　84<br />4.4　本章小结　　 96<br />参考文献　　97<br />第5章　社交媒体方面级细粒度情感分析　　98<br />5.1　细粒度情感分析及其影响　　98<br />5.1.1　细粒度情感分析相关定义　　99<br />5.1.2　与相关任务的关系　　99<br />5.1.3　对网络信息内容安全的影响　　100<br />5.2　相关研究发展历程　　100<br />5.2.1　发展脉络　　100<br />5.2.2　问题建模范例　　102<br />5.2.3　数据集与评价方法　　103<br />5.3　社交媒体细粒度情感分析方法　　106<br />5.3.1　文本单任务细粒度情感分析　　106<br />5.3.2　文本复合任务细粒度情感分析　　109<br />5.3.3　融合外部知识的细粒度情感分析　　114<br />5.3.4　多模态细粒度情感分析　　116<br />5.4　社交媒体细粒度情感分析的可迁移性　　120<br />5.4.1　跨域方面细粒度情感分析　　120<br />5.4.2　跨语言方面细粒度情感分析　　121<br />5.4.3　方面情感分析的鲁棒性　　122<br />5.5　应用实践　　122<br />5.5.1　社交网络融合媒体细粒度情感分析　　122<br />5.5.2　社交媒体细粒度情感分析的鲁棒性　　128<br />5.6　本章小结　　133<br />参考文献　　134<br />第6章　社交媒体立场分析　　135<br />6.1　立场分析概述　　135<br />6.1.1　立场分析定义　　136<br />6.1.2　与相关任务的关系　　137<br />6.1.3　与信息内容安全的关系　　138<br />6.2　社交媒体立场分析现状及进展　　138<br />6.2.1　主要研究进展　　138<br />6.2.2　主要数据集　　139<br />6.2.3　立场标签与性能评估　　141<br />6.3　立场分析的任务分类　　142<br />6.3.1　立场分析的级别　　142<br />6.3.2　基于目标的立场分析　　142<br />6.3.3　立场分析与立场预测　　143<br />6.4　立场分析算法　　144<br />6.4.1　用于立场分析的特征　　144<br />6.4.2　用于立场分析的机器学习方法　　146<br />6.5　立场分析典型应用　　148<br />6.5.1　分析性研究　　148<br />6.5.2　基于社会现象的相关应用　　148<br />6.5.3　事实准确性检查　　148<br />6.6　应用实践　　149<br />6.6.1　立场与情感正交性的验证　　149<br />6.6.2　基于知识指导的零样本立场分析　　150<br />6.7　本章小结　　154<br />参考文献　　154<br />第7章　社交网络用户行为及信息传播规律分析　　156<br />7.1?社交网络用户行为、传播及关系　　156<br />7.1.1?社交网络用户行为　　156<br />7.1.2?社交网络信息传播规律　　157<br />7.1.3?与网络信息内容安全的关系　　159<br />7.2?社交网络用户行为分析　　159<br />7.2.1?社交网络用户个体行为分析　　160<br />7.2.2?社交网络用户群体行为分析　　164<br />7.3?信息传播规律分析　　169<br />7.3.1?信息传播关键点　　169<br />7.3.2?信息传播路径　　170<br />7.3.3?经典的传播模型　　172<br />7.3.4?信息传播的研究内容　　176<br />7.4?应用实践　　179<br />7.4.1?基于节点信息熵的重要传播节点发现　　179<br />7.4.2　融合结构和内容特征的群体演化分析　　184<br />7.4.3?基于转发行为分析的微博传播效果预测模型　　192<br />7.5?本章小结　　202<br />参考文献　　202<br />第8章　网络用户身份识别技术　　204<br />8.1　网络用户身份识别的基本内涵　　204<br />8.1.1　网络实名制新要求下的网络黑灰产现状剖析　　204<br />8.1.2　网络用户身份识别的数学形式表示　　205<br />8.1.3　网络用户身份识别面临的挑战　　206<br />8.2　网络用户身份识别技术体系　　207<br />8.2.1　基于账号标签的网络用户身份识别技术　　208<br />8.2.2　基于生物特征的网络用户身份识别技术　　209<br />8.2.3　基于指纹特征的网络用户身份识别技术　　211<br />8.2.4　基于拓扑特征的网络用户身份识别技术　　212<br />8.2.5　基于内容特征的网络用户身份识别技术　　212<br />8.3　网络用户身份识别技术实践　　213<br />8.3.1　基于人脸图像补全的网络用户身份识别技术　　213<br />8.3.2　融合多模态信息的网络用户身份匹配对齐方法　　220<br />8.4　本章小结　　226<br />参考文献　　226