近日，演员温峥嵘在抖音直播间自曝被AI换脸盗播，多个直播间出现其带货形象，在直播间发问“你是温峥嵘我是谁”后反而被对方拉黑。

该案例激发多方深爱。11月6日晚间，抖音集团副总裁李亮发文称，这两天，温峥嵘被AI盗播带货的新闻原谅度很高。经核查后发现，被曝光的“三个直播间同期开播”案例并非发生在抖音平台。经由与关连方议论，并把柄投诉陈迹核查，发现平台上如实存在一些诓骗AI仿冒名东说念主带货的短视频试验。

李亮同期强调，AI试验侵权识别是行业性本事用功，坏心仿冒账号也在接续与平台进行本事造反，平台会持续加大干涉大意挑战，吝啬创作家、商家和消费者的正当权益。第一财经据此梳理AI换脸与伪造黑灰产链条，多位辘集安全内行强调，AI攻防买卖是一场需要永恒干涉的“猫鼠游戏”，波及法律规则、本事技巧与平台接续等多方面。

“我该怎样评释我是我？”

11月5日，温峥嵘抖音账号进行三次以“我是确凿温峥嵘”为主题的直播，证明近期被AI伪造、AI换脸直播带货的情况，并强调除了经由平台黄V认证演员身份的主账号，以及个别几个经由主账号授权的小番外，其他均为盗用、冒用账号。

事件激发烧议缘由于有网友发现演员“温峥嵘”同期现身三个不同直播间进行直播带货，且身穿不同服装、实行着不同居品，画面中的“温峥嵘”行为、感情与本东说念主高度相通，该情况很快在辘集端激发烧议，以致有网友质疑温峥嵘是否通过录播视频假冒直播进行直播销售。

温峥嵘团队职责主说念主员领受央视采访时清晰，发现该征象后团队便持续进行举报，一天时候内曾举报50个假冒账号，有的作秀账号被平台下架处理，有的账号刚被下架很快又换了个时势再行出现，令东说念主防不堪防。

该职责主说念主员称，商家只需要截取一段影像，通过浅易用具便能生成乌有试验，但取证行为却需要破钞很大元气心灵。且作秀团队可爱在凌晨三四点钟打时候差发布乌有视频。诚然团队已投递关连讼师函，但现在打听的只是是一部分作秀商家。

温峥嵘领受采访时清晰，本年4月傍边的时候，因为拍戏到很晚，两三点回家卸了妆就会玩手机，竟然看到我方在直播。她进入直播间造谣“你是温峥嵘，我是谁？”立地被对方拉黑。温峥嵘不雅察发现，诬捏商家的视频试验有的不是假的，是通过录屏截取不同的视频试验，然后拼接在一齐。画面是确凿，只是在讲不同的事情；声息亦然确凿。“我该怎样评释我是我？”温峥嵘清晰，团队法务部每天齐在状告，AI的发展理当便于老匹夫更好地活命，而不是被不良商家钻了空子。

据抖音官方露出，“发**鱼”、“小**妈”等达东说念主未经授权，诓骗AI仿冒温峥嵘肖像、声息书息，进行带货宣传。平台依据《创作家【仿冒名东说念主宣传】确定》，已对关连账号进行中断直播、下架违法商品及视频、冻结成交金额等处罚。接到响应后，平台通过专项接续，共措置下架温峥嵘关连仿冒侵权的视频1万余条，其中带货类视频6900余条，并对37个违法账号赐与处罚。

AI伪造门槛镌汰

温峥嵘遭逢此番AI作秀，一方面因AI本事拉低作秀门槛，一方面因温峥嵘自己便从事直播带货，持续的直播行为给作秀商家提供了丰富的“素材”。

第三方直播监测平台数据浮现，温峥嵘抖音账号粉丝数384.1万，近三个月增长29.6%。本年以来共直播248场，场均不雅看东说念主次达96.3万东说念主，上架商品共783件，场均销售额达100万-250万。所售商品品类中，好意思妆护肤类占比54.19%。

除了直播视频截取，现在各电商平台也提供关连业务处事。记者在某二手买卖电商平台上发现，进行东说念主脸识别、代作念视频、东说念主脸（信息）提真金不怕火的业务售价仅30元。同期卖家强调用户需确保所提供素材不骚扰第三方版权或其他权益，小铺不合因使用作歹素材或犯罪步履导致的任何法律攀扯认真。

而在本事的应用方面，AI的徐徐训诫也在一定进程上镌汰了犯罪本事门槛。瑞莱科技麇集首创东说念主萧子豪对第一财经清晰，近一年来诓骗AI换声、换脸进行诱拐、数落等犯罪犯罪步履屡禁不啻、愈演愈烈，呈显耀高潮趋势。犯罪步履变得更具劝诱性，也愈加潜藏。连年来生成式AI本事智商突飞大进并持续开源绽放，多半用具、居品问世，极大镌汰了违法分子诓骗AI的门槛和资本。

本年9月，据公安部网安局露出，浙江杭州警方侦破一齐诓骗“AI换脸”冲破关连互联网平台东说念主脸识别认证机制骚扰公民个东说念主信息案件，执获犯罪嫌疑东说念主4名，查获一批被作歹强制登录的辘集账号。涉案东说念主员诓骗生成式东说念主工智能深度合成本事伪造“AI东说念主脸”，冲破平台东说念主脸识别认证机制，作歹窃取公民个东说念主逃避数据。

该案中，犯罪团伙诓骗某即时通信平台收受生意，声称不错相连互联网平台特定用户数据的“查细”业务。接单后，团伙成员伪造受害者东说念主脸考据视频，冲破关连头部平台登录认证，强制登录受害者账号窃取信息。

攻防博弈持续

通盘这个词AI接续行业内，监管侧与平台侧的接续举措，与黑灰产案例永恒博弈。

从黑灰产产业链角度来看，记者梳理多项公开公法文书、部委通报与头部安全厂商答复，梳理现在全链条主要包括上游数据、中游产能、下贱场景以及最终的洗钱变现四个设施。

其中上游包括通过爬虫执取、二手开拓回收提真金不怕火相册、短视频平台音频提真金不怕火等获取受害者活命照、声纹切片与3D头模，中游包括通过多项本事技巧完毕东说念主脸替换、驱动与重播、造反检测清洗等，下贱径直通过AI换脸进行诱拐、诱导转账、色情勒诈、直播带货或打赏等犯罪犯罪步履。

以抖音平台为例，据抖音电商安全与信息中心露出，近期平台发现部分商家和达东说念主在未取得授权情况下，编订视频、拼贴笔墨信息，或诓骗AI、殊效仿冒名东说念主进行带货营销，误导消费者。自10月专项脱手以来，已严厉措置波及侵权仿冒违法的达东说念主账号1.1万个，措置仿冒名东说念主带货的商品6700余个。

其中已措置视频和账号的违法步履包括但不限于未经授权，诓骗AI仿冒名东说念主肖像、声息书息带货；未经授权，试验画面、声息、案牍信息乌有声称为本东说念主，或示意名东说念主与商品有径直关联带货；未经授权，使用名东说念主姓名/艺名，或使用变体等时势，从昵称到视频刻意仿冒名东说念主带货；未经授权，头像径直使用名东说念主肖像像片，诓骗殊效制作卡通形象或高度相通图片仿冒名东说念主带货。

萧子豪清晰，AI本事生息安全风险的接续问题是个相称复杂的社会问题，波及许多方面。既要在法律规则层面事先次第诱导、过后监管惩责，也需要有本事技巧令AI愈加安全、可控。在本事层面，生成和鉴伪的造反性相称强，需要持续永恒干涉，就像是“猫鼠游戏”，此消彼长，互相博弈。与互联网居品能够其他AI居品不同，AI鉴伪居品并非开发完就截止，而是要跟着生成本事的说明接续商讨、更新、迭代，莫得止境。

举报 第一财经告白勾通，请点击这里此试验为第一财经原创，文章权归第一财经通盘。未经第一财经籍面授权，不得以任何方式加以使用，包括转载、摘编、复制或建筑镜像。第一财经保留根究侵权者法律攀扯的权柄。如需获取授权请议论第一财经版权部：banquan@yicai.com 文章作家

吕倩

关连阅读 抖音：将进一步次第金融账号策画步履

关于不相宜平台金融天禀认证的账号将取舍回收金融策画权益、谢却发布相应范围信息等措置措施。

83 11-06 14:52 “自补”接替“国补”让利消费者，厂商在保份额与保利润之间扭捏|双十一不雅察

本年双11，在横暴的价钱竞争中，一些家电厂商通过套系、新品、供应链提效来保利润。

6 195 10-22 18:15 保时捷女销冠的反击：AI合成乱象的“安全闸”在那里？

当“一键换脸”就能换来真金白银，犯罪资本与暴利收益之间的杠杆赶快失衡。

187 10-12 15:43 科技周报|蓝战非多平台被谢却原谅，京东告示三年带动万亿生态

近期，“蓝战非自爆收入”“蓝战非恢复收入争议”等词条登上热搜。

6 132 09-28 11:23 抖音副总裁恢复字节特等港股上市传言：市集许多“字节办法股”信息不实

有消息称字节特等准备在中国香港上市云开体育。

158 09-25 11:57 一财最热 点击关闭