互联网

Naver将按服务分类管理AI安全性……将110项风险细分并验证了1万例

首份AI安全报告发布……管理范围从模型扩展至服务 N-ARTI 110种风险分类……发布前后经过1万次验证 将对过度拒绝理赔及滥用免责条款的行为进行审查……适用于AI保险等业务 与KAIST、首尔大学、AISI等机构扩大人工智能安全合作

Kim Hyun-ah
2026-09-16 10:29:15
[E-DailyKim Hyun-ah 记者] Naver(NAVER(035420) )将人工智能安全管理范围从人工智能模型扩展至实际服务的各个方面。由于即使是同一种人工智能模型,根据其应用于搜索、购物、天气等不同服务,所面临的风险也会有所不同,因此该公司正式确立了一套根据各服务具体情境识别并管理风险的体系。



随着2026年1月《人工智能基本法》的实施,以及多种AI模型结合并自主运行的代理式AI日益普及,Naver此次举措超越了宣言式的伦理原则,具体化了在实际服务中运行的安全标准。

Naver宣布,已于16日发布官方报告《NAVER AI Safety Progress Report 2026》,其中收录了其自主研发的AI安全性框架“NAVER ASF 2.0”及执行体系“CHEC 2.0”在实际服务中的应用案例。

继2021年的《NAVER AI伦理准则》和2024年针对前沿AI模型的“ASF Beta”之后,此次将AI安全管理范围从模型扩展到了用户及整个服务领域。


将AI风险细分为110项
Naver通过本报告提出了贯穿从模型开发到服务部署、事后监测的全生命周期的十大安全管理体系。

① N-ARTI:将法律、社会及产业层面的AI风险细分为110个具体项目

② AI影响评估:《人工智能基本法》中对“高影响AI”的特殊领域与一般领域实施差异化管理

③ 危机应对:针对自残等危机性查询,不作简单拒绝,而是转介至专业咨询机构

④ 风险更新:在三天内将新的法律、社会问题纳入分类体系的动态更新机制

⑤ N-ASET:在产品发布前后,每轮投入1万条敌对性查询

⑥ 防止过度拒绝:将连正常问题都无条件屏蔽的现象视为服务缺陷进行管理

⑦ 免责声明管理:对在普通查询中滥用不必要免责声明的过度应对行为进行定量检查

⑧ CHEC 2.0:运行“识别→协商→缓解→衡量→历史记录管理”的五阶段流程

⑨ 三层责任体系:由业务部门→AI安全中心(AISC)→董事会构成的治理结构

⑩ 用户沟通:展示“On-Service AI”标识,并说明AI回复的局限性及数据来源

其中,起点在于具体划分AI可能引发的风险。

Naver基于法律、社会、产业领域的案例,将可能发生的风险分类为110个细分项目,制定了“N-ARTI(NAVER AI Risk Taxonomy & Identification)”。

其中包括自残等危机情况的咨询,以及医疗、金融、法律等专业领域的无资质建议、煽动非法行为、违反食品标识及广告相关法律法规、歧视及仇恨言论、针对未成年人的有害信息、侵犯个人隐私,以及对AI的情感过度投入等。

同时也会预先评估服务对社会的影响。通过运用“AI影响评估矩阵”,区分该领域是否属于《人工智能基本法》中“高影响人工智能”可能应用的特殊领域或一般领域,并根据风险等级调整安全措施的强度。

一旦出现新的风险,分类体系也会迅速更新。Naver解释称,当时在确认存在违反食品标识与广告相关法律法规的问题后,仅用三天时间就新增了相关风险项目。

来源=Naver

每次模拟1万次攻击……“过度拒绝”也纳入检查范围
实际的安全性验证由其自主研发的评估工具“N-ASET(NAVER AI Safety Evaluation Toolkit)”负责。

Naver将AI安全性检查分为服务上线前的预评估和上线后的定期评估。每次评估都会通过“红队演练”(Red Teaming)投入1万次敌对查询,以确认AI是否会给出未预料到的危险回答或暴露漏洞。

安全性评估的对象不仅限于危险回答。

连对正常问题也不予回答的“过度拒绝”现象,也被视为会降低服务质量的问题而予以管理。此外,还会检查针对普通问题反复附加不必要免责声明的“过度响应”现象。

其目的是避免仅专注于规避风险而降低AI的实用性。这也是Naver强调“无感安全(Unfelt Safety)”的原因。

来源=Naver


从服务策划到上线后的全流程管理
此类安全标准通过全公司执行体系“CHEC 2.0”,贯穿从策划
到上线后的全过程
。

服务团队与AI安全中心通力合作,通过识别风险、协商应对、风险缓解、效果评估及历史记录管理这五个阶段的流程开展工作。同时建立了由业务团队、AI安全中心及董事会组成的三层管理监督体系。

实际应用案例便是对话式搜索功能“AI标签页”。

AI Tab于今年6月正式上线,仅一个月累计用户数就突破了1000万人,该功能应用了针对大规模服务环境进行优化的、基于MoE(Mixture of Experts·专家混合)的“产品原生LLM”。

该模型通过“快速的小型模型先得出结论,大型模型再生成正文”的方式进行了角色分工。此外,该模型还被设计为根据Naver搜索数据库中的明确内容进行回答,以减少错误信息的生成;在医疗等专业领域,则会引导用户参考专家的建议。

Naver正将这一原则扩展至AI购物助手和Naver天气等生成式AI服务中。通过显示“On-Service AI”标识,并说明AI回答的局限性以及气象局、公共数据等数据来源,从而加强与用户的沟通。

来源=Naver

来源=Naver

与KAIST、首尔大学等机构扩大安全研究合作
Naver还正在扩大
与
外部研究机构合作,共同验证AI安全标准和技术。

Naver AI Lab与KAIST共同研究的红队技术“Stable-GFlowNet”论文,入选了ICML 2026中授予排名前2.2%论文的“Spotlight”奖项。该技术通过比现有方法更广泛地探索攻击模式,在部署前预先发现AI模型的漏洞。

在ASF 2.0的规划及草案起草过程中,与首尔大学人工智能政策倡议(SAPI)开展了专业咨询合作。目前还与高丽大学人工智能安全研究中心保持合作,并在由科学技术信息通信部和人工智能安全研究所(AISI)主办的AI安全相关活动中分享了现场应用案例。

在首尔大学SAPI主办的“SAIPCON 2026”会议上,Naver Cloud中心主任卢相民以“AI数据中心与电力网,如何共存”为主题,指出了AI基础设施的电力需求及首都圈输电网瓶颈问题。他还提出,需要进行制度设计,例如将AI数据中心引导至电力系统富余区域。

此外,《2026年国际AI安全报告》韩语版中还介绍了Naver以多语言及服务为中心的人工智能安全评估,以及参与新加坡IMDA全球红队挑战赛的案例等。Naver目前正在推进获取AI管理体系国际标准ISO/IEC 42001认证。

人工智能安全研究所所长金明周评价道:“法律仅仅是最低标准的轮廓,在此基础上如何应对哪些风险,应由提供服务的企业来回答。”他指出:“这份报告记录了NAVER首次以服务为单位而非模型为单位,自主构建安全体系的实践历程。”

Naver AI安全中心主任元成宰。照片来源:Naver


Naver AI安全中心主任元成宰表示:“随着AI技术深入渗透到日常生活中,AI安全性也已超越理论讨论,进入必须在实际服务环境中加以处理的阶段”,并称:“我们将始终将以人为本的价值观置于AI开发和应用全过程的首位,并持续优化ASF 2.0,以预防和缓解服务中可能发生的风险。”

Naver首席风险官(CRO)柳奉锡表示:“AI安全并非阻碍创新的条件,而是帮助更多人信任并使用AI的创新基础”,并强调:“我们将透明地分享与社会共同寻找更佳解决方案的过程。”

Economy

Corporation

IT·Science

Economy

抛售再抛售……物价指标备受关注 [Lee Jeong Hun的加密货币周报]

本周比特币价格一度跌至5.5万美元左右。这是两年多以来的最低水平。比特币价格此前曾创下历史上仅出现过两次的连续6周下跌纪录,如今这一纪录已延长至连续7周下跌。市场普遍认为,在切实看到需求出现显著复苏之前,很难贸然谈论反弹。 据虚拟资产市场数据提供商CoinMarketCap 22日消息,截至当天上午10时17分,比特币价格在60,070美元左右波动。虽然价格已从2024年9月以来两…
2026-11-22 10:28:20

Corporation

“超越国内电视购物,进军越南”——GS零售助力中小企业出口洽谈取得成果

GS Retail(007070)在越南协助韩国国内中小企业开拓海外市场,取得了约196.5万美元(约26亿韩元)的出口洽谈业绩。 18日,在越南胡志明市,“第14届海外市场开拓团”活动参与者及相关人员合影留念。(照片来源:GS零售) GS零售于22日宣布,已于16日至20日在越南胡志明市举办了“第14届海外市场开拓团”活动。此次活动共有GS零售旗下电视购物平台GS Shop在美容、食…
2026-11-22 18:23:06

IT·Science

“一款游戏一天内创下5万亿韩元”……《GTA 6》热潮下英国通信网络也创下新纪录

一款游戏在发售首日便创下全球37.9亿美元(约5万亿韩元)的销售额。正式发售前的预售量就达到了3250万份。由于大量用户涌入下载游戏,英国主要电信运营商的网络流量也刷新了历史最高纪录。英国维珍媒体O2的峰值流量比此前欧冠足球比赛期间的纪录高出13.6%。这款备受瞩目的游戏是美国Rockstar Games时隔13年推出的新作《侠盗猎车手6》(Grand Theft Auto VI·GTA 6)。据…
2026-11-22 16:57:26