[E-DailyLee So-Hyun 记者]Kakao(035720)将建立一套安全性评估体系，用于预先验证其自主研发的人工智能（AI）模型和AI代理的风险。该体系将从语言模型的部署前后的评估开始，逐步将验证范围扩展至多模态模型和AI代理，并计划长期共同开发安全性评估工具。

Kakao于29日宣布，已于28日与人工智能安全研究所签署了旨在开展AI安全性联合评估及构建评估体系的战略合作备忘录（MOU）。

这是因为随着AI技术迅速发展，预先识别和验证模型潜在风险的安全性评估变得愈发重要。

去年，Kakao曾与人工智能安全研究所针对其自主研发的语言模型“Kanana-1.5-9.8B”进行了联合安全性评估。Kakao表示，当时经与规模相似的海外模型对比，确认该模型具备较高水平的安全性。

评估范围从语言模型扩展至多模态及智能代理

双方将以此协议为契机，将AI安全性评估合作扩展至三个阶段。

首先，将针对语言模型在服务部署前后开展安全性评估。随后，计划将评估范围扩展至多模态语言模型和AI代理。在最后阶段，双方将共同开发能够更高效验证AI模型和代理安全性的评估工具。

Kakao将提供作为评估对象的自有AI模型和智能代理，并为评估实施及工具开发提供必要的基础设施支持。

人工智能安全研究所将负责开展安全性评估并完善评估方法论。双方将共同审查评估结果、协商公开范围，同时在评估工具开发方面展开合作。

“构建AI风险预先识别体系”

此次合作旨在建立一套能够预先识别和验证AI模型潜在风险的体系，并持续提升安全性评估能力。

Kakao计划通过与韩国国内人工智能安全性专业研究机构的合作，确立全球水平的人工智能安全性标准，并提升人工智能服务的可信度。

Kakao AI协同效应成果负责人金世雄表示：“通过此次合作，Kakao的AI模型将具备更加客观、严格的安全性验证体系”，并称“我们将努力在推动技术创新的同时，提供将安全性与可信度置于首位的AI模型和服务”。

人工智能安全研究所所长金明柱表示：“随着AI技术日益成熟，能够预先识别和评估潜在风险的体系至关重要”，并称“将与Kakao合作，构建符合全球标准的AI安全性评估体系”。

此外，为加强AI安全性，Kakao已与KT Cloud签署了关于构建安全AI生态系统的业务合作协议，并运营着由外部专家组成的“AI与技术伦理小组委员会”顾问团。