[E-DailyKim Hyun-ah 记者] Naver（NAVER(035420) ）将人工智能安全管理范围从人工智能模型扩展至实际服务的各个方面。由于即使是同一种人工智能模型，根据其应用于搜索、购物、天气等不同服务，所面临的风险也会有所不同，因此该公司正式确立了一套根据各服务具体情境识别并管理风险的体系。
随着2026年1月《人工智能基本法》的实施，以及多种AI模型结合并自主运行的代理式AI日益普及，Naver此次举措超越了宣言式的伦理原则，具体化了在实际服务中运行的安全标准。
Naver宣布，已于16日发布官方报告《NAVER AI Safety Progress Report 2026》，其中收录了其自主研发的AI安全性框架“NAVER ASF 2.0”及执行体系“CHEC 2.0”在实际服务中的应用案例。
继2021年的《NAVER AI伦理准则》和2024年针对前沿AI模型的“ASF Beta”之后，此次将AI安全管理范围从模型扩展到了用户及整个服务领域。
① N-ARTI：将法律、社会及产业层面的AI风险细分为110个具体项目
② AI影响评估：《人工智能基本法》中对“高影响AI”的特殊领域与一般领域实施差异化管理
③ 危机应对：针对自残等危机性查询，不作简单拒绝，而是转介至专业咨询机构
④ 风险更新：在三天内将新的法律、社会问题纳入分类体系的动态更新机制
⑤ N-ASET：在产品发布前后，每轮投入1万条敌对性查询
⑥ 防止过度拒绝：将连正常问题都无条件屏蔽的现象视为服务缺陷进行管理
⑦ 免责声明管理：对在普通查询中滥用不必要免责声明的过度应对行为进行定量检查
⑧ CHEC 2.0：运行“识别→协商→缓解→衡量→历史记录管理”的五阶段流程
⑨ 三层责任体系：由业务部门→AI安全中心（AISC）→董事会构成的治理结构
⑩ 用户沟通：展示“On-Service AI”标识，并说明AI回复的局限性及数据来源
其中，起点在于具体划分AI可能引发的风险。
Naver基于法律、社会、产业领域的案例，将可能发生的风险分类为110个细分项目，制定了“N-ARTI（NAVER AI Risk Taxonomy & Identification）”。
其中包括自残等危机情况的咨询，以及医疗、金融、法律等专业领域的无资质建议、煽动非法行为、违反食品标识及广告相关法律法规、歧视及仇恨言论、针对未成年人的有害信息、侵犯个人隐私，以及对AI的情感过度投入等。
同时也会预先评估服务对社会的影响。通过运用“AI影响评估矩阵”，区分该领域是否属于《人工智能基本法》中“高影响人工智能”可能应用的特殊领域或一般领域，并根据风险等级调整安全措施的强度。
一旦出现新的风险，分类体系也会迅速更新。Naver解释称，当时在确认存在违反食品标识与广告相关法律法规的问题后，仅用三天时间就新增了相关风险项目。
来源=Naver
Naver将AI安全性检查分为服务上线前的预评估和上线后的定期评估。每次评估都会通过“红队演练”（Red Teaming）投入1万次敌对查询，以确认AI是否会给出未预料到的危险回答或暴露漏洞。
安全性评估的对象不仅限于危险回答。
连对正常问题也不予回答的“过度拒绝”现象，也被视为会降低服务质量的问题而予以管理。此外，还会检查针对普通问题反复附加不必要免责声明的“过度响应”现象。
其目的是避免仅专注于规避风险而降低AI的实用性。这也是Naver强调“无感安全（Unfelt Safety）”的原因。
来源=Naver
服务团队与AI安全中心通力合作，通过识别风险、协商应对、风险缓解、效果评估及历史记录管理这五个阶段的流程开展工作。同时建立了由业务团队、AI安全中心及董事会组成的三层管理监督体系。
实际应用案例便是对话式搜索功能“AI标签页”。
AI Tab于今年6月正式上线，仅一个月累计用户数就突破了1000万人，该功能应用了针对大规模服务环境进行优化的、基于MoE（Mixture of Experts·专家混合）的“产品原生LLM”。
该模型通过“快速的小型模型先得出结论，大型模型再生成正文”的方式进行了角色分工。此外，该模型还被设计为根据Naver搜索数据库中的明确内容进行回答，以减少错误信息的生成；在医疗等专业领域，则会引导用户参考专家的建议。
Naver正将这一原则扩展至AI购物助手和Naver天气等生成式AI服务中。通过显示“On-Service AI”标识，并说明AI回答的局限性以及气象局、公共数据等数据来源，从而加强与用户的沟通。
来源=Naver
来源=Naver
Naver AI Lab与KAIST共同研究的红队技术“Stable-GFlowNet”论文，入选了ICML 2026中授予排名前2.2%论文的“Spotlight”奖项。该技术通过比现有方法更广泛地探索攻击模式，在部署前预先发现AI模型的漏洞。
在ASF 2.0的规划及草案起草过程中，与首尔大学人工智能政策倡议（SAPI）开展了专业咨询合作。目前还与高丽大学人工智能安全研究中心保持合作，并在由科学技术信息通信部和人工智能安全研究所（AISI）主办的AI安全相关活动中分享了现场应用案例。
在首尔大学SAPI主办的“SAIPCON 2026”会议上，Naver Cloud中心主任卢相民以“AI数据中心与电力网，如何共存”为主题，指出了AI基础设施的电力需求及首都圈输电网瓶颈问题。他还提出，需要进行制度设计，例如将AI数据中心引导至电力系统富余区域。
此外，《2026年国际AI安全报告》韩语版中还介绍了Naver以多语言及服务为中心的人工智能安全评估，以及参与新加坡IMDA全球红队挑战赛的案例等。Naver目前正在推进获取AI管理体系国际标准ISO/IEC 42001认证。
人工智能安全研究所所长金明周评价道：“法律仅仅是最低标准的轮廓，在此基础上如何应对哪些风险，应由提供服务的企业来回答。”他指出：“这份报告记录了NAVER首次以服务为单位而非模型为单位，自主构建安全体系的实践历程。”
Naver AI安全中心主任元成宰。照片来源：Naver
Naver AI安全中心主任元成宰表示：“随着AI技术深入渗透到日常生活中，AI安全性也已超越理论讨论，进入必须在实际服务环境中加以处理的阶段”，并称：“我们将始终将以人为本的价值观置于AI开发和应用全过程的首位，并持续优化ASF 2.0，以预防和缓解服务中可能发生的风险。”
Naver首席风险官（CRO）柳奉锡表示：“AI安全并非阻碍创新的条件，而是帮助更多人信任并使用AI的创新基础”，并强调：“我们将透明地分享与社会共同寻找更佳解决方案的过程。”
随着2026年1月《人工智能基本法》的实施，以及多种AI模型结合并自主运行的代理式AI日益普及，Naver此次举措超越了宣言式的伦理原则，具体化了在实际服务中运行的安全标准。
Naver宣布，已于16日发布官方报告《NAVER AI Safety Progress Report 2026》，其中收录了其自主研发的AI安全性框架“NAVER ASF 2.0”及执行体系“CHEC 2.0”在实际服务中的应用案例。
继2021年的《NAVER AI伦理准则》和2024年针对前沿AI模型的“ASF Beta”之后，此次将AI安全管理范围从模型扩展到了用户及整个服务领域。
将AI风险细分为110项Naver通过本报告提出了贯穿从模型开发到服务部署、事后监测的全生命周期的十大安全管理体系。
① N-ARTI：将法律、社会及产业层面的AI风险细分为110个具体项目
② AI影响评估：《人工智能基本法》中对“高影响AI”的特殊领域与一般领域实施差异化管理
③ 危机应对：针对自残等危机性查询，不作简单拒绝，而是转介至专业咨询机构
④ 风险更新：在三天内将新的法律、社会问题纳入分类体系的动态更新机制
⑤ N-ASET：在产品发布前后，每轮投入1万条敌对性查询
⑥ 防止过度拒绝：将连正常问题都无条件屏蔽的现象视为服务缺陷进行管理
⑦ 免责声明管理：对在普通查询中滥用不必要免责声明的过度应对行为进行定量检查
⑧ CHEC 2.0：运行“识别→协商→缓解→衡量→历史记录管理”的五阶段流程
⑨ 三层责任体系：由业务部门→AI安全中心（AISC）→董事会构成的治理结构
⑩ 用户沟通：展示“On-Service AI”标识，并说明AI回复的局限性及数据来源
其中，起点在于具体划分AI可能引发的风险。
Naver基于法律、社会、产业领域的案例，将可能发生的风险分类为110个细分项目，制定了“N-ARTI（NAVER AI Risk Taxonomy & Identification）”。
其中包括自残等危机情况的咨询，以及医疗、金融、法律等专业领域的无资质建议、煽动非法行为、违反食品标识及广告相关法律法规、歧视及仇恨言论、针对未成年人的有害信息、侵犯个人隐私，以及对AI的情感过度投入等。
同时也会预先评估服务对社会的影响。通过运用“AI影响评估矩阵”，区分该领域是否属于《人工智能基本法》中“高影响人工智能”可能应用的特殊领域或一般领域，并根据风险等级调整安全措施的强度。
一旦出现新的风险，分类体系也会迅速更新。Naver解释称，当时在确认存在违反食品标识与广告相关法律法规的问题后，仅用三天时间就新增了相关风险项目。
每次模拟1万次攻击……“过度拒绝”也纳入检查范围实际的安全性验证由其自主研发的评估工具“N-ASET（NAVER AI Safety Evaluation Toolkit）”负责。
Naver将AI安全性检查分为服务上线前的预评估和上线后的定期评估。每次评估都会通过“红队演练”（Red Teaming）投入1万次敌对查询，以确认AI是否会给出未预料到的危险回答或暴露漏洞。
安全性评估的对象不仅限于危险回答。
连对正常问题也不予回答的“过度拒绝”现象，也被视为会降低服务质量的问题而予以管理。此外，还会检查针对普通问题反复附加不必要免责声明的“过度响应”现象。
其目的是避免仅专注于规避风险而降低AI的实用性。这也是Naver强调“无感安全（Unfelt Safety）”的原因。
从服务策划到上线后的全流程管理此类安全标准通过全公司执行体系“CHEC 2.0”，贯穿从策划
到上线后的全过程。
服务团队与AI安全中心通力合作，通过识别风险、协商应对、风险缓解、效果评估及历史记录管理这五个阶段的流程开展工作。同时建立了由业务团队、AI安全中心及董事会组成的三层管理监督体系。
实际应用案例便是对话式搜索功能“AI标签页”。
AI Tab于今年6月正式上线，仅一个月累计用户数就突破了1000万人，该功能应用了针对大规模服务环境进行优化的、基于MoE（Mixture of Experts·专家混合）的“产品原生LLM”。
该模型通过“快速的小型模型先得出结论，大型模型再生成正文”的方式进行了角色分工。此外，该模型还被设计为根据Naver搜索数据库中的明确内容进行回答，以减少错误信息的生成；在医疗等专业领域，则会引导用户参考专家的建议。
Naver正将这一原则扩展至AI购物助手和Naver天气等生成式AI服务中。通过显示“On-Service AI”标识，并说明AI回答的局限性以及气象局、公共数据等数据来源，从而加强与用户的沟通。
与KAIST、首尔大学等机构扩大安全研究合作Naver还正在扩大
与外部研究机构合作，共同验证AI安全标准和技术。
Naver AI Lab与KAIST共同研究的红队技术“Stable-GFlowNet”论文，入选了ICML 2026中授予排名前2.2%论文的“Spotlight”奖项。该技术通过比现有方法更广泛地探索攻击模式，在部署前预先发现AI模型的漏洞。
在ASF 2.0的规划及草案起草过程中，与首尔大学人工智能政策倡议（SAPI）开展了专业咨询合作。目前还与高丽大学人工智能安全研究中心保持合作，并在由科学技术信息通信部和人工智能安全研究所（AISI）主办的AI安全相关活动中分享了现场应用案例。
在首尔大学SAPI主办的“SAIPCON 2026”会议上，Naver Cloud中心主任卢相民以“AI数据中心与电力网，如何共存”为主题，指出了AI基础设施的电力需求及首都圈输电网瓶颈问题。他还提出，需要进行制度设计，例如将AI数据中心引导至电力系统富余区域。
此外，《2026年国际AI安全报告》韩语版中还介绍了Naver以多语言及服务为中心的人工智能安全评估，以及参与新加坡IMDA全球红队挑战赛的案例等。Naver目前正在推进获取AI管理体系国际标准ISO/IEC 42001认证。
人工智能安全研究所所长金明周评价道：“法律仅仅是最低标准的轮廓，在此基础上如何应对哪些风险，应由提供服务的企业来回答。”他指出：“这份报告记录了NAVER首次以服务为单位而非模型为单位，自主构建安全体系的实践历程。”
Naver AI安全中心主任元成宰表示：“随着AI技术深入渗透到日常生活中，AI安全性也已超越理论讨论，进入必须在实际服务环境中加以处理的阶段”，并称：“我们将始终将以人为本的价值观置于AI开发和应用全过程的首位，并持续优化ASF 2.0，以预防和缓解服务中可能发生的风险。”
Naver首席风险官（CRO）柳奉锡表示：“AI安全并非阻碍创新的条件，而是帮助更多人信任并使用AI的创新基础”，并强调：“我们将透明地分享与社会共同寻找更佳解决方案的过程。”
