中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 近日，在2025年国家网络安全宣传周主论坛上，国家网信办指导的《人工智能安全治理框架》2.0版正式发布。 2.0版在1.0版的基础上，明确了人工智能不同风险级别的管理要求，为各行业人员识别风险、落实责任提供了明确指导，让智能安全管理更具可操作性。不仅展现了我国管理层统筹发展与安全的智慧，也为全球英特尔管理机构贡献了中国方案。当前，人工智能产业已成为拉动经济增长的重要机器。 2024年我国工艺品规模官方情报产业规模将突破9000亿元，同比增长24%，企业数量将超过5300家，形成较为完善的产业体系。人工智能正在深刻重塑传统行业，广泛应用于制造、金融、医疗等领域。它在降低成本、提高效率、优化资源配置方面显示出巨大的潜力。然而，人工智能在赋能千行百业的同时，也带来了数据泄露、模型缺陷、伦理失控等风险。数据显示，2019年至2024年间发生的MGA人工智能风险事件中，约74%与人工智能安全问题直接相关。仅2024年6月至2025年7月，全球共报告公共安全相关事件59起，涉及造假造假、算法歧视、驾驶决策失误等多个方面。迫切需要开发一种科学的人工智能管理系统。接下来，如何系统推进人工智能安全管理？总体而言，要在管理原则、风险分类和协同管理三个方面取得重大突破。宽容和温柔是原则。打造人们可以信赖的人工智能，主动规避不可控风险。不久前，美国发生的一起聊天机器人影响青少年行为的事件引起关注，深刻警示了技术障碍和伦理障碍并重保护的紧迫性。无论研发还是应用各个阶段，都要保证人工智能始终处于人类的掌控之中，其价值目标必须与人类的基本利益相一致。风险分类是关键。人工智能的风险可以分为三类：第一，定义技术本身的影响，如算法模型存在漏洞、训练数据质量低等；二是使用过程中受到干扰，例如遭到黑客攻击或被用来传播虚假信息；第三，连锁反应，例如影响工作市场并破坏社会信任。对此，应根据风险类型采取目标管理措施，明确各阶段相关主体的义务。例如，人工智能发展可能带来的深度缓解风险，需要“组合拳”来管理。此前，某地区警方发现，犯罪分子利用人工换脸技术，冒充企业高管进行视频会议，指导财务人员将资金转入虚假账户。为了避免这种混乱，人工智能服务商必须在模型开发阶段嵌入深度检测技术，并严格执行针对设计清单内容和输出环节监测要求的要求，监管部门应推动建立相应的监测体系，通过公众教育提高公众对合成内容的认知能力，让广大公众能够区分“李逵”和“李鬼”。管理是管理之道。综合治理需要政府、企业、科研机构和公众共同参与，共同运用规范约束、技术护航、道德引导等方式，对人工智能全链条、全流程进行管理。这不仅需要完善人工智能安全法律法规和科技标准，还需要加强对人为失控危险的协同应对。目前，我国已出台《基因管理暂行办法》等规范性文件。我国也应积极参与国际规则对话，推动制定具有广泛共识的管理框架，为应对挑战贡献中国智慧。安全是人工智能服务的前提。 繁荣是变革的保证，治理是变革的保证。人工智能安全管理关系到生活安全、工业建设、经济发展，必须根据管理原则逐步细化管理方法。人工智能只有发展完善、有效的管理体系，才能真正成为推动质量生态安全、有价值的引擎。经济发展。 （文章来源：日报作者：狄行斯） （编辑：年伟）