东湖评论：筑牢“AI换脸”技术安全的防护墙

2023-05-12 12:29:53来源：荆楚网（湖北日报网）

(资料图片)

近来，“AI换脸”技术又掀起一波热潮，“只需上传照片，轻松生成换脸视频，随心所欲体验百变造型”，不少“AI换脸软件的简介上这样介绍，这种爆火的新玩法吸引了大批网友尝试。

“AI换脸”技术通过深度合成算法处理，对图片或者视频中的目标人脸进行置换，便可“以假乱真”，满足了网络受众的猎奇心理和社交需求，为影视、教育、娱乐等领域的发展提供了技术上的支持。不论是各色各样的换脸变装，还是影视剧中的技术修复，人们真真切切地感受到了科技进步带来的惊喜与乐趣。

“AI换脸”技术带给人新鲜感的同时，风险也日益显现，非法滥用导致的侵犯隐私、危害数据安全、违法犯罪等问题层出不穷，一个个鲜活真实的案例就在我们身边。随意将明星替换到不雅视频中丑化传播；“AI黄谣”事件闹得沸沸扬扬，女子在乘坐地铁时被不法之人利用AI一键脱衣；犯罪团伙利用AI技术，制作变声换脸视频，诱骗老人和小孩。从网民传播照片到软件程序开发平台提供“换脸脚本和详细教程”，再到灰色产业链条进行照片加工服务，逐步打开了“AI换脸”的“潘多拉的魔盒”。

“AI换脸”技术是数据智能化发展的产物，并没有什么黑白好坏之分，但不法分子的贪婪与疯狂却是不可低估的。高科技不能沦为肆意侵权的帮凶，不能成为满足他人欲望和非法牟利的工具，更不能成为引发社会信任危机的导火索。为“AI换脸”技术戴上“紧箍咒”、打造“铁栅栏”，筑牢“AI换脸”技术安全的防护墙还需要法律和技术双管齐下。

目前，针对“AI换脸”乱象，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》，重点强调深度合成技术涉及的信息安全主体责任，给“AI换脸”划定应用“红线”。国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，明确合成人工智能技术服务的规范、监督和管理等内容，这些政策法规和监管体系不断完善，使从业者、使用者有法可依、违法必究。但“AI换脸”技术也会随着发展日臻成熟，因此对于深度合成技术治理路径还需进一步探索，对数据确权、行业伦理、技术安全等方面作出更系统的规定，只有把法律的防护“盔甲”打造的无比坚硬，才能时刻抵御住“AI换脸”这把双刃剑。

以技术手段克服技术困境，除了网络服务平台对用户信息审核及限定传播范围外，相关行业和监管部门还需不断加强技术更迭，细化人工智能算法的安全评估体系，研发出相应的“反换脸”技术，能够检测、鉴定、溯源深度合成的视频和图片，为法律的保护成效提供技术支撑，为可能到来的挑战做好准备。

身处在人工智能时代的每一个人，应该提高对深度合成技术的辨别和防范意识以及自我素养，在安全享受技术的同时，共同维护清朗的网络环境。只有多方发力，促进“AI技术”向上向善，才能让科学技术真正地助推社会发展，便利人们生活。

稿源：荆楚网（湖北日报网）

作者：秦雪花（宜昌兴山）

责编：王舒娴

标签：