达沃斯世界经济论坛发布的《2025年全球风险报告》将“错误和虚假信息”列为2025年全球面临的五大风险之一。AI深度伪造技术正成为制造虚假信息的重要一环。笔者认为，为确保人工智能安全、可靠、可控，需从治理模式、治理主体、治理路径三个维度防范深度伪造风险。

构建技术治理与法律治理协同机制

人工智能深度伪造的治理是技术与法律双重命题。若固守“先技术后规则”的被动治理逻辑，势必放大技术失控的风险；而片面强调“法律先行”的刚性管控，则易陷入“一管就死”的困局，抑制技术创新活力。唯有构建技术治理与法律治理协同机制，才能在风险防控与技术应用间找到动态平衡点。

其中的关键是要实现技术与法律两种治理手段能力互补、规则互嵌。一方面，依靠技术手段解决识别伪造的效率问题。检测技术要围绕识别和溯源两种手段，建立“预研一代、迭代一代、应用一代”的动态响应机制，全面提升检测算法的准确性、实时性、普适性。另一方面，依靠法律手段解决技术应用合规问题。我国目前形成了以网络安全法、数据安全法、个人信息保护法为核心，以其他部门规章和规范性文件为补充的深度伪造法律治理框架。在此基础上，要主动将规则嵌入技术研发与应用的前端环节。近日，国家网信办等四部门制定的《人工智能生成合成内容标识办法》中“显式标识+隐式标识”的治理模式，旨在技术应用中嵌入法治思维，为构建技术治理与法律治理协同机制提供了新的范式。

加强平台履责与公众认知安全防线

互联网平台作为大模型技术应用的主体，链接用户与社会，具有不可推卸的防控责任。监管部门需持续压实平台责任，严格执行《网络信息内容生态治理规定》，对合规企业给予税收优惠、认证标识等激励，推动技术防御的普及。各平台应构建“技术筛查+人工复核”的双重内容风控体系，对生成内容实施真实性核验机制，对恶意生成的虚假内容及时采取限制措施，从传播源头阻断其扩散。

防范深度伪造技术操纵舆论场，需要为数字时代的公众接种“认知疫苗”。要全面加强国家安全教育，提高各级领导统筹发展和安全能力，增强全民国家安全意识和素养。普及防范数据投毒风险的知识，通过媒体、教育机构等多渠道，提升公众警惕性。构建多方协同防御生态，建立数据污染事件联合响应机制，筑牢国家安全人民防线；建设人工智能安全教育实践基地，面向公众开展形式丰富的数据安全、信息安全教育，加强公众认知与信息素养。

探索自主管控与国际合作辩证治理

加强人工智能国际治理和合作，确保人工智能向善、造福全人类，是当前全球数字治理的一大课题。AI深度伪造技术对国家安全的威胁已从虚拟空间延伸至现实政治、经济、军事领域，必须建立自主可控的防御体系。而深度伪造的跨境传播特性又要求各国从技术、法律、科技伦理等层面入手，建立全球性治理框架。

破解这一困局，须以总体国家安全观为指引，在筑牢自主管控底座的同时，通过国际合作打破治理壁垒，构建“以内促外、以外固内”的良性循环。一方面，要推进高水平科技自立自强，加快研发国产检测工具以提升技术反制能力，重点攻关人工智能领域关键核心技术。同时健全网络综合治理体系，针对深度伪造技术应用制定相应的分类分级监管规则或者指引。另一方面，要积极推动全球安全倡议落地实施。面对深度伪造引起的全球性“信任危机”，应继续发挥联合国的核心作用，秉持“规则共商、技术共研、风险共治”理念，将深度伪造纳入全球治理合作框架当中，共同构建AI“安全护栏”。

（广州日报于2025年4月14日报道链接https://newspaper.gzdaily.cn/h5/html5/2025-04/14/content_877_884147.htm?curr=）