生成式人工智能技术的突破性进展，正推动AI视频制作加速普及，在提升创作效率、活化历史记忆等方面展现出巨大潜能，成为数字时代的内容生产利器。但技术若被恶意用于金融欺诈、政治渗透、谣言制造、间谍窃密等非法活动，将侵害公民合法权益，甚至扰乱社会秩序、危害国家安全。
深伪魔改暗藏“雷区”
——伪造权威，动摇公信力。境外间谍情报机关、各种敌对势力可能利用深度伪造技术，捏造虚假言论、伪造公务人员不当视频、炮制虚假政策画面，以此制造社会恐慌、撕裂舆论、抹黑国家形象，冲击政治安全与制度安全。
——精准诈骗，侵害公私财产。不法分子可能利用深度伪造克隆亲友、客服等声音面容，实施冒充转账、虚假投资、仿冒官方渠道诈骗等非法活动。更有甚者，企图通过伪造企业公告、专家言论，引发市场波动。
——信息泄露，危害数据安全。不法分子可能利用深度伪造人脸、声纹等生物特征，突破身份认证、权限校验等核心数据防护机制，造成账号被盗、后台入侵、敏感数据批量泄漏，甚至引发关键信息基础设施安全系统失控等重大安全事件，对数据安全造成危害。
国家安全机关提示
《互联网信息服务深度合成管理规定》明确，任何组织和个人不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等活动。具有舆论属性、社会动员能力的深度合成服务，必须依法备案、内容审核、实名管理、合成标识，禁止删除篡改标识；严禁未经授权使用人脸、人声等生物识别信息进行恶意编辑。
技术本身并无善恶，关键在于如何使用。面对深伪技术，每一位公民都应自觉增强安全意识、提升辨别能力、遵守法律法规，以实际行动维护国家安全和网络清朗。
——提高辨别能力。理性看待网络信息，不盲目轻信不合常理的音视频、图片内容，遇到可疑信息优先通过官方渠道核实真伪。
——自觉遵守法律。合理合法使用各类AI生成、图像编辑、音视频处理工具，不参与、不支持制作、传播有害虚假信息。
——维护网络文明。自觉抵制各类有害内容，不随意转发未经证实的信息，如发现AI视频平台或作品存在可能危害国家安全的问题线索，可通过12339国家安全机关举报受理电话、网络举报受理平台（www.12339.gov.cn）、国家安全部微信公众号举报受理渠道或者直接向当地国家安全机关进行举报。
来源：国家安全部
【来源：济南市历下区人民检察院】
同创优配提示：文章来自网络，不代表本站观点。
