新民快评｜剑鞘

图源：东方IC

　　AI技术的发展，似乎总伴随着争议。最近的一波争议，是“AI复活逝者”。

　　今年2月底，知名音乐人包晓柏用AI“复活”女儿，女儿在妈妈生日时还为她唱了一首生日歌；3月初，商汤科技年会上，去世不久的商汤科技创始人汤晓鸥以数字人的形式被“复活”，还来了一场“汤式风格”的演讲。

　　亲人和友人用AI技术缅怀逝者，弥补情感缺憾，满足心理需求，完全可以理解。有人却从中找到了商机。最近，李玟、高以翔、乔任梁等已逝明星纷纷被AI技术“复活”，并被堂而皇之地放在视频播放平台上用于引流。这种消费逝者的做法，无异于给生者伤口上撒盐。乔任梁父亲就明确表示：“不能接受，感到不舒适，希望对方尽快下架”。

　　更令人震惊的是，据媒体报道，目前“AI复活亲人”已初步形成产业链，有专人负责发布视频吸引目标客户，有专人制作视频，有专门话术用于与目标客户沟通成单，还有专门的价目表，价格从一百到数万元不等。

　　这其实是一个信号：用AI制作让亲人都无法辨识真伪的视频影像，已经没有什么技术壁垒。这背后，除了有关于道德与伦理的争议，还要警惕隐私数据泄露被用于犯罪的风险。

　　新技术应用常常有“双刃剑”效应，此类教训已经很多。这提醒我们，“铸剑”的同时，要及时打造容纳锋刃的“剑鞘”，以免割伤自己。

　　在这方面，我国其实已经走在前面。去年1月实施的《互联网信息服务深度合成管理规定》，明确了应用深度合成技术提供互联网信息服务，不得危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等；去年8月，国家网信办起草的《人脸识别技术应用安全管理规定（试行）》向社会公开征求意见，其中也详细规定了平台、个人等安装图像采集、个人身份识别设备的前提、条件和程序。

　　划定使用技术的“红线”和“底线”只是第一步，更重要的是要确保规定得到有效执行，让利剑藏于剑鞘，在真正需要的时候才展露锋芒。

　　潘高峰/文