[E-DailyNam Soyeon 记者] 主持人李智惠表示,将针对擅自利用人工智能(AI)合成其面孔的广告采取法律行动。尽管政府接连出台应对措施,但滥用深度伪造(Deepfake)技术冒充名人的广告却迟迟未能杜绝。
主持人李智惠提醒大家警惕的深度伪造广告。(图片来源:李智惠Instagram截图)
李智惠于28日在自己的Instagram上发布了该广告视频,并表示:“虽然之前也提过,但这似乎并非国内企业所为,目前正在寻求可依法制裁的途径。”
她接着强调:“他们利用AI技术制作视频,伪装成我亲自代言的模样,附上链接进行销售”,并呼吁:“请大家务必警惕,以免上当受骗。”
在实际视频中,出现了一个通过深度伪造技术将李智惠的面部合成到身体上的虚拟人物。该人物称:“太好吃了。100%产自我们本土的精品食品”,并像亲自品尝并推荐特定产品一样进行了介绍。
该广告制作得极为精巧,甚至难以与李智惠本人拍摄的真实视频区分开来。不仅合成了与李智惠极为相似的面容,连声音也高度还原,视频后半段还插入了诱导购买产品的链接。不过,部分字幕中出现了疑似使用翻译软件生成的、略显生硬的韩语表达。
像这样利用深度伪造技术复制名人的面孔和声音并将其滥用于广告的案例层出不穷。这种手法是利用名人的知名度赢得消费者信任,进而诱导其购买商品或访问特定网站。
政府也意识到了问题的严重性,并正在加强应对力度。
政府于去年12月发布了《针对利用AI等手段扰乱市场秩序的虚假、夸大广告的应对方案》,决定对在信息通信网络等渠道散布恶意虚假、篡改信息并造成损害的行为,引入惩罚性赔偿制度,同时大幅提高《标识·广告法》中针对虚假、夸大广告的罚款额度。
今年6月,政府成立了应对滥用AI技术实施各类犯罪的跨部门协商机制,并着手构建涵盖预防、侦测、拦截、调查及受害者救济等全流程的联合应对体系。
国会方面也已提出相关法案。
“国民力量”党议员金成元于26日作为代表提出的《关于防止不正当竞争及保护商业秘密的法律部分修订案》,明确将滥用通过AI合成的名人肖像、声音等的行为界定为不正当竞争行为。
她接着强调:“他们利用AI技术制作视频,伪装成我亲自代言的模样,附上链接进行销售”,并呼吁:“请大家务必警惕,以免上当受骗。”
在实际视频中,出现了一个通过深度伪造技术将李智惠的面部合成到身体上的虚拟人物。该人物称:“太好吃了。100%产自我们本土的精品食品”,并像亲自品尝并推荐特定产品一样进行了介绍。
该广告制作得极为精巧,甚至难以与李智惠本人拍摄的真实视频区分开来。不仅合成了与李智惠极为相似的面容,连声音也高度还原,视频后半段还插入了诱导购买产品的链接。不过,部分字幕中出现了疑似使用翻译软件生成的、略显生硬的韩语表达。
像这样利用深度伪造技术复制名人的面孔和声音并将其滥用于广告的案例层出不穷。这种手法是利用名人的知名度赢得消费者信任,进而诱导其购买商品或访问特定网站。
政府也意识到了问题的严重性,并正在加强应对力度。
政府于去年12月发布了《针对利用AI等手段扰乱市场秩序的虚假、夸大广告的应对方案》,决定对在信息通信网络等渠道散布恶意虚假、篡改信息并造成损害的行为,引入惩罚性赔偿制度,同时大幅提高《标识·广告法》中针对虚假、夸大广告的罚款额度。
今年6月,政府成立了应对滥用AI技术实施各类犯罪的跨部门协商机制,并着手构建涵盖预防、侦测、拦截、调查及受害者救济等全流程的联合应对体系。
国会方面也已提出相关法案。
“国民力量”党议员金成元于26日作为代表提出的《关于防止不正当竞争及保护商业秘密的法律部分修订案》,明确将滥用通过AI合成的名人肖像、声音等的行为界定为不正当竞争行为。