让安全成为人工智能发展的基因——人工智能大潮激荡的时代思考

2025-04-11 14:15:43来源：新华网

“拥抱AI，如何兼顾发展与安全?”在博鳌亚洲论坛2025年年会多场人工智能相关活动中，与会嘉宾普遍认为，随着人工智能能力越来越强，AI不可控、被滥用等风险会越来越高，在推广应用中要加固“安全护栏”。

近年来，人工智能不断给人们带来惊喜的同时，也带来一些问题和困扰：“AI拟声换脸”诈骗案件层出不穷;大模型有时混淆事实和虚构，“一本正经胡说八道”令人防不胜防;AI数据搜集对个人隐私带来泄露风险……有数据显示，2024年全球发生的AI风险事件，超过30%与利用AI进行深度伪造相关。今天，人工智能在快速发展的同时，也产生一系列安全隐患和问题。如何统筹好发展和安全，让安全如基因般融入人工智能的发展链条，已经成为迫切而重要的课题。

纵观人类科技发展史，从蒸汽机轰鸣打破田园牧歌，到互联网重塑人际关系边界，每一次重大创新都伴随着争议与阵痛。人工智能带来的挑战，不过是技术演进长卷中的新篇章。一直以来，技术进步与风险治理相互促进，在破解现实问题中螺旋式上升。以发展的眼光看，今天人工智能领域面临的新问题，正是催生治理创新的契机。

破解安全难题，关键在于让治理跑在风险前面。新技术发展不能成为脱缰的野马，必须用法律和制度的“缰绳”把好方向、因势利导。2023年，我国在全球范围内率先开展立法，发布《生成式人工智能服务管理暂行办法》;不久前出台的《人工智能生成合成内容标识办法》，旨在防范利用生成合成内容传播虚假信息、实施电信诈骗等风险行为……多部新规的出台，持续推动人工智能由生成到传播各环节的全流程安全管理。全国多地互联网法院审理人工智能著作权案，为技术应用划出法律红线。加强源头治理，从“事后灭火”变为“事前筑堤”，推动人工智能健康发展和规范应用，是着眼长远的治本之策。

筑牢安全防护网，需要全社会共同努力。由AI创作剧本的反诈情景剧帮助老人识破骗局;打造职工人工智能学习云课堂，提供AI入门到进阶全服务;全国多所高校将人工智能列为通识必修课，让“以人为本、智能向善”的理念引领学子的成长……技术进步永无止境，学习运用也永无止境。加强教育和引导，通过各种方式不断提升公民和全社会的数字素养和风险应对能力，智能时代的安全基石就会更加稳固。

人工智能安全没有国界，防范风险需要共筑防线。越是面对新领域新问题，越应该汇聚众智，在深入交流、加强合作中谋求有效治理。中国提出并遵循《全球人工智能治理倡议》，同各方积极开展对话合作、分享最佳操作实践，正是为了坚持发展和安全并重，平衡推进应用和治理，确保人工智能技术安全、可靠、可控、公平。

“道路千万条，安全第一条”。在通往未来的道路上，守护安全、推动发展，人人都是受益者，也是行动者。把好方向盘，走稳创新路，人工智能发展的广阔未来可期，科技创造的美好生活可期。

辛识平

标签：