[E-DailyLee So-Hyun 记者] 自被称为“虚假操纵信息法”的修订版《信息通信网法》实施以来,韩国互联网自律政策机构(KISO)首次公开了关于虚假操纵信息的自律监管审议结果。虽然该法实施初期曾担心会出现大规模删除或屏蔽帖文的情况,但这一担忧并未成为现实;数据显示,实际举报主要集中在住宿、餐饮、美容护理等与日常生活密切相关的帖文上,而非政治或选举相关的“假新闻”。
KISO是由Naver、Kakao等互联网企业参与的民间自律监管机构。该机构独立于政府的审查和制裁机制,协助会员企业依据共同标准制定并执行内容管理政策。此次虚假和篡改信息审议工作由Naver、Kakao、Daum、Nate、Carrot Market等企业参与。尽管Carrot Market在法律上不属于“大规模信息通信服务提供商”,但仍主动参与了自律监管。
KISO虚假和篡改信息审议特别委员会主席金民浩于2日在座谈会上发言。(照片来源:Lee So-Hyun 记者)
据KISO称,在收到的27起案件中,除4起在审议过程中被删除或因构成诽谤性权利侵害而采取临时措施的案件外,其余23起均接受了最终审议。结果均为“不适用”。 没有案例因被判定为指南所定义的虚假或篡改信息而遭到删除或屏蔽等处理。不过,KISO表示,各平台的审议请求数量可能间接反映其用户规模或市场份额,因此未予公开。
提交审议的帖子中,商品和服务信息、用户评价以及宣传类内容多于政治和社会争议性话题。“信息·评价·宣传型”帖子共19起,占总数的70%。其中包括旅行社及住宿信息、餐馆收据评价、美容项目体验分享以及商品折扣信息等。
KISO虚假信息审议特别委员会主席金民浩解释道:“起初我们预计政治敏感话题会比较多,但实际情况完全不同”,并表示“传递信息、商品及服务评价或宣传性质的帖子占到了70%以上”。
[本图片利用AI技术制作。]
未作出删除决定,是因为KISO对虚假和篡改信息的认定标准极为严格。 根据KISO指南,虚假或篡改信息必须同时满足以下三项要件:△属于虚假或篡改信息;△明知是虚假或篡改信息,且具有造成损害的意图或获取不正当利益的目的;△侵犯他人的人格权、财产权或公共利益。讽刺和戏仿不在此列。
KISO认为,即使部分内容与事实不符,但若属于不会对核心信息或普通用户对事实的认知产生实质性影响的轻微错误、部分不准确表述、时效性不足、可能造成误解等情况,则不视为虚假或篡改信息。
不过,并非所有27起案例都在第一阶段就被淘汰。金委员长解释道:“虽然有些内容属于虚假或篡改信息,但因缺乏目的性或侵害性,被判定为不适用。” 例如,在酒店和考生宿舍的介绍文中附上并非实际地点而是国外特级酒店大堂的照片;将特定物质介绍为万能药并列举无关的治疗案例;以及看似由AI生成或合成的图像等案例,但因未确认其目的性或侵害性,最终被判定为“不适用”。
KISO虚假和篡改信息审议特别委员会委员、首尔科学技术大学IT政策专业研究生院金贤京教授解释道:“并非单纯因为内容虚假或经过篡改,就属于虚假和篡改信息”,并指出:“必须同时满足以下三个要件:造成损害的意图或获取不当利益的目的、虚假或篡改信息,以及侵犯他人人格权、财产权或公共利益。”
该委员会认为,AI生成内容和深度伪造(Deepfake)也不能仅因存在技术性变而直接被认定为篡改信息。金教授就篡改信息的判定标准解释道:“关键不在于简单的变,而在于其是否具备足以使用户误认为客观事实的欺骗性外观。”时空重新排列、局部编辑、虚假归属等导致语境被扭曲的情况也是判定要素。
金委员长强调,虚假信息并不属于淫秽物品、毒品·枪支·火药类、诽谤信息等“非法信息”范畴。他解释道,非法信息属于公共监管领域,而虚假信息则采用大型信息通信服务提供商在接到举报后自主判断并采取措施的机制。
KISO的决定与其说是具有法律约束力,不如说是基于协议的约束力。金委员长解释称,Naver、Kakao、Daum、Nate、Danggeun Market等会员公司是根据已承诺遵守KISO审议决定的协议行事的。不过,删除、访问阻断、曝光限制、变现限制等具体措施由会员公司自行判断。
会议还提及了海外平台参与的可能性。金委员长表示,KISO向国内外运营商均开放,并透露“目前正与两家以上的全球大型科技企业就入会事宜进行磋商”。 不过,具体企业名称并未公开。此前,广播媒体通信委员会根据修订后的《信息通信网法》,已指定并通知了9家需履行应对虚假和篡改信息义务的大型信息通信服务提供商,其中包括Naver、Kakao、Daum、Nate、DC Inside等5家国内企业,以及谷歌、Meta、X(原Twitter)、TikTok等4家海外企业。
针对言论自由可能受限的担忧,各方提出了审慎的观点。金委员长解释称,尽管KISO在法律实施前曾对禁止传播虚假和篡改信息的规定表示强烈担忧,但在实际应用过程中,并非仅因信息虚假或被篡改就会采取措施。他表示:“我可以明确地告诉大家,国内平台不会进行到侵犯言论自由程度的随意删除或屏蔽。”
KISO虚假和篡改信息审议特别委员会委员、建国大学媒体传播学系黄容锡教授表示:“这相当于暂时赋予平台运营商判断世间流通信息真伪并进行过滤的职责”,并指出:“平台作为社会信息的过滤器,实质上是平台权力的膨胀,因此必须加以制约。”他同时强调,应将虚假和篡改信息的定义范围最小化后再加以适用。
与会者还提出了完善制度的必要性。金委员长表示:“如果要进行改进,希望能够对不确定的概念作出明确规定”,并指出:“意图、目的、侵害、公益等概念都比较模糊,因此最好将其转化为任何人都能轻松理解的确定性概念。”
KISO计划今后积累审议案例并公开结果,以提高自律监管的可预测性和可信度。
KISO是由Naver、Kakao等互联网企业参与的民间自律监管机构。该机构独立于政府的审查和制裁机制,协助会员企业依据共同标准制定并执行内容管理政策。此次虚假和篡改信息审议工作由Naver、Kakao、Daum、Nate、Carrot Market等企业参与。尽管Carrot Market在法律上不属于“大规模信息通信服务提供商”,但仍主动参与了自律监管。
首次审议的27起案件均未作出删除决定KISO虚假信息审议特别委员会2日在首尔光化门召开座谈会,公布了自7月7日修订后的《信息通信网法》实施以来,会员公司提交审议的27起虚假信息举报案件的审议情况。这是KISO首次公开虚假信息自律监管标准的实际应用案例。
据KISO称,在收到的27起案件中,除4起在审议过程中被删除或因构成诽谤性权利侵害而采取临时措施的案件外,其余23起均接受了最终审议。结果均为“不适用”。 没有案例因被判定为指南所定义的虚假或篡改信息而遭到删除或屏蔽等处理。不过,KISO表示,各平台的审议请求数量可能间接反映其用户规模或市场份额,因此未予公开。
提交审议的帖子中,商品和服务信息、用户评价以及宣传类内容多于政治和社会争议性话题。“信息·评价·宣传型”帖子共19起,占总数的70%。其中包括旅行社及住宿信息、餐馆收据评价、美容项目体验分享以及商品折扣信息等。
KISO虚假信息审议特别委员会主席金民浩解释道:“起初我们预计政治敏感话题会比较多,但实际情况完全不同”,并表示“传递信息、商品及服务评价或宣传性质的帖子占到了70%以上”。
即使属于虚假或篡改信息,也会考量其目的和侵害性
未作出删除决定,是因为KISO对虚假和篡改信息的认定标准极为严格。 根据KISO指南,虚假或篡改信息必须同时满足以下三项要件:△属于虚假或篡改信息;△明知是虚假或篡改信息,且具有造成损害的意图或获取不正当利益的目的;△侵犯他人的人格权、财产权或公共利益。讽刺和戏仿不在此列。
KISO认为,即使部分内容与事实不符,但若属于不会对核心信息或普通用户对事实的认知产生实质性影响的轻微错误、部分不准确表述、时效性不足、可能造成误解等情况,则不视为虚假或篡改信息。
不过,并非所有27起案例都在第一阶段就被淘汰。金委员长解释道:“虽然有些内容属于虚假或篡改信息,但因缺乏目的性或侵害性,被判定为不适用。” 例如,在酒店和考生宿舍的介绍文中附上并非实际地点而是国外特级酒店大堂的照片;将特定物质介绍为万能药并列举无关的治疗案例;以及看似由AI生成或合成的图像等案例,但因未确认其目的性或侵害性,最终被判定为“不适用”。
KISO虚假和篡改信息审议特别委员会委员、首尔科学技术大学IT政策专业研究生院金贤京教授解释道:“并非单纯因为内容虚假或经过篡改,就属于虚假和篡改信息”,并指出:“必须同时满足以下三个要件:造成损害的意图或获取不当利益的目的、虚假或篡改信息,以及侵犯他人人格权、财产权或公共利益。”
该委员会认为,AI生成内容和深度伪造(Deepfake)也不能仅因存在技术性变而直接被认定为篡改信息。金教授就篡改信息的判定标准解释道:“关键不在于简单的变,而在于其是否具备足以使用户误认为客观事实的欺骗性外观。”时空重新排列、局部编辑、虚假归属等导致语境被扭曲的情况也是判定要素。
“不属于非法信息,属于自律监管范畴”
金委员长强调,虚假信息并不属于淫秽物品、毒品·枪支·火药类、诽谤信息等“非法信息”范畴。他解释道,非法信息属于公共监管领域,而虚假信息则采用大型信息通信服务提供商在接到举报后自主判断并采取措施的机制。
KISO的决定与其说是具有法律约束力,不如说是基于协议的约束力。金委员长解释称,Naver、Kakao、Daum、Nate、Danggeun Market等会员公司是根据已承诺遵守KISO审议决定的协议行事的。不过,删除、访问阻断、曝光限制、变现限制等具体措施由会员公司自行判断。
会议还提及了海外平台参与的可能性。金委员长表示,KISO向国内外运营商均开放,并透露“目前正与两家以上的全球大型科技企业就入会事宜进行磋商”。 不过,具体企业名称并未公开。此前,广播媒体通信委员会根据修订后的《信息通信网法》,已指定并通知了9家需履行应对虚假和篡改信息义务的大型信息通信服务提供商,其中包括Naver、Kakao、Daum、Nate、DC Inside等5家国内企业,以及谷歌、Meta、X(原Twitter)、TikTok等4家海外企业。
针对言论自由可能受限的担忧,各方提出了审慎的观点。金委员长解释称,尽管KISO在法律实施前曾对禁止传播虚假和篡改信息的规定表示强烈担忧,但在实际应用过程中,并非仅因信息虚假或被篡改就会采取措施。他表示:“我可以明确地告诉大家,国内平台不会进行到侵犯言论自由程度的随意删除或屏蔽。”
KISO虚假和篡改信息审议特别委员会委员、建国大学媒体传播学系黄容锡教授表示:“这相当于暂时赋予平台运营商判断世间流通信息真伪并进行过滤的职责”,并指出:“平台作为社会信息的过滤器,实质上是平台权力的膨胀,因此必须加以制约。”他同时强调,应将虚假和篡改信息的定义范围最小化后再加以适用。
与会者还提出了完善制度的必要性。金委员长表示:“如果要进行改进,希望能够对不确定的概念作出明确规定”,并指出:“意图、目的、侵害、公益等概念都比较模糊,因此最好将其转化为任何人都能轻松理解的确定性概念。”
KISO计划今后积累审议案例并公开结果,以提高自律监管的可预测性和可信度。