[E-DailyLee So-Hyun 记者]Kakao(035720)针对能够自主规划和行动的自主型人工智能（AI）代理的普及，制定了一套从服务规划到运营全程适用的全新AI伦理体系。该体系将AI的目标、权限、数据访问范围及人类控制权等划分为5个领域进行风险评估，并计划于年内在实际服务开发过程中应用新的检查清单。

Kakao于15日宣布，在13日于Kakao AI校园举行的开发者大会“if(kakao)26”上，公布了新的AI伦理原则及实施指南。

Kakao AI传播部首席哈珍华在“突破伦理的自主代理，该如何应对？”环节中强调，在AI能够自主规划和行动的环境中，必须明确人类的判断与责任范围，并将此反映到服务设计和运营中。

将自主代理的风险划分为5个管理领域

Kakao将自主代理的风险划分为△控制主导权 △目标 △权限 △参考资源 △交互等5个管理领域。

该方法通过检查AI是否偏离用户意图行事、是否被授予超出必要范围的权限、以及参考了哪些数据和外部资源等，并将人类监督、应急控制、权限管控、数据保护等应对措施有机结合。

此外，还制定了用于将该机制应用于实际服务的“AI伦理实施检查清单”。

该检查清单分为△掌握服务属性、△事前风险筛查、△控制项目检查与判定等3个阶段进行运作。Kakao计划于年内将其应用于服务开发和运营过程中。

安全·隐私等6大原则“SPIRIT”

新的AI伦理原则被命名为“SPIRIT”。它由△安全（Safety）△隐私（Privacy）△包容性（Inclusivity）△责任（Responsibility）△用户自主权（Individual Autonomy）△透明度与可信度（Transparency & Trustworthiness）等6项原则组成。

该原则以政府《大韩民国人工智能伦理原则》提出的三大价值和七大原则为主要实施标准，并根据Kakao的服务环境对具体内容进行了补充完善。

将原则转化为实际行动的执行方式被定义为“NORMA（Navigating, Organizational, Responsibility, Manageable, Actionable）”。这意味着在组织层面的共同责任下，将复杂的伦理问题具体化为可管理且可执行的单元。

该体系是本月初与今年7月成立的AI与技术伦理小组委员会的7名外部顾问共同制定的。外部顾问组审查了其与国内外AI规范的一致性，而Kakao内部的AI安全、个人信息、信息安全及服务部门则对其实际应用可行性进行了评估。

针对儿童和青少年的AI风险进行单独审查

针对儿童和青少年的AI服务审查也将得到加强。Kakao计划在去年开始使用的“数字儿童和青少年保护检查清单”基础上，参考经济合作与发展组织（OECD）和联合国儿童基金会（UNICEF）的儿童网络风险分类体系“5Cs”，将AI特有的儿童和青少年风险因素纳入新的检查清单。

Kakao在2018年发布《算法伦理宪章》后，于2022年组建了由Kakao及主要子公司参与的AI与技术伦理小组委员会。此后，集团制定了通用的《负责任AI指南》，并引入了用户主体性原则及《安全AI核心检查清单》。

Kakao AI与技术伦理小组委员会主席金世雄表示：“我们已建立起覆盖AI服务全生命周期的风险审查体系。”他补充道：“随着AI自主性的增强，我们将明确人类的判断与责任，致力于打造让用户能够安心使用的AI服务。”