[E-DailyLee So-Hyun 记者]Kakao(035720)已将一款能够快速处理人工智能(AI)代理判断与选择的多模态决策模型以开源形式发布。其特点在于,该模型并未像普通的大型语言模型(LLM)那样生成句子,而是以概率、选择和评分的形式输出结果,从而使代理能够快速过渡到下一项任务。
Kanana-2-v-decide开源模型性能对比(图片来源:Kakao)
Kakao于6日宣布,已将其自主研发的多模态模型“Kanana-2-v-decide”作为开源项目发布在Hugging Face上。
随着AI代理在执行多阶段任务时,需要反复决定使用何种工具、参考何种信息以及后续采取何种行动,因此专门用于决策的模型开发也在不断增加。
Kanana-2-v-decide并非以自然语言句子形式回答用户提问,而是以△概率 △选项 △评分等标准化形式提供判断结果。
据介绍,该服务可将结果直接应用于后续工作,从而减少从自然语言回答中再次提取所需结论的过程。
Kakao基于其自主研发的多模态语言模型“Kanana-2-v-3b”开发了该模型。
由于能够同时理解文本和图像,该模型可应用于客户咨询分类、AI客服工具选择、商品图像识别等多种服务场景。
例如,当客户附上损坏商品的照片并提出换货请求时,该模型会综合分析图片和咨询内容,通过概率或评分来判断商品是否损坏、咨询类型以及客户的情绪状态等。
服务端可将该结果与预设标准相结合,据此将客户转接至客服人员或引导其完成换货流程。
该模型采用了基于嵌入的架构,将输入的问题和选项转换为数字集合(向量),并比较其相似度。同一选项的向量会被存储并可重复使用,从而在重复请求时减少运算量并降低响应延迟。
Kanana-2-v-decide 开源模型速度对比(视频来源:Kakao)
据Kakao介绍,Kanana-2-v-decide在单块NVIDIA H200 GPU环境下,平均响应速度在0.04秒以内。
该公司解释称,根据其内部测试标准,该模型的速度比GPT-6 Luna快约43倍。
在决策性能方面,该公司表示,在自有评估集“Kanana Decision Bench”和公开评估集“Decision Index”中,该模型在所有对比对象中表现最佳。
对比对象包括微软的“Decision-1”、TypeSafe AI的“Jev”、Plexity的“pplx-decider-v1.1-27B”以及Upstage的“Solar Decide”等。
Kakao为该模型采用了不仅适用于研究,还可用于商业用途的“Kanana开放许可”。其初衷是让国内外的研究人员和企业能够将其用于AI代理服务的开发。
Kakao计划首先将其应用于网页搜索和商品类别自动分类等内部项目,以在实际服务环境中提升性能。未来将朝着将搜索和判断功能整合到一个模型中的方向进一步优化技术。
Kakao应用AI模型成果负责人崔东镇表示:“这具有拓展将最新AI技术应用于实际服务基础的意义”,并称:“我们将通过技术升级和公开,为用户提供在日常生活中能够切身感受到的AI体验。”
Kakao于6日宣布,已将其自主研发的多模态模型“Kanana-2-v-decide”作为开源项目发布在Hugging Face上。
随着AI代理在执行多阶段任务时,需要反复决定使用何种工具、参考何种信息以及后续采取何种行动,因此专门用于决策的模型开发也在不断增加。
Kanana-2-v-decide并非以自然语言句子形式回答用户提问,而是以△概率 △选项 △评分等标准化形式提供判断结果。
据介绍,该服务可将结果直接应用于后续工作,从而减少从自然语言回答中再次提取所需结论的过程。
综合分析文本与图像以判断“下一步行动”
Kakao基于其自主研发的多模态语言模型“Kanana-2-v-3b”开发了该模型。
由于能够同时理解文本和图像,该模型可应用于客户咨询分类、AI客服工具选择、商品图像识别等多种服务场景。
例如,当客户附上损坏商品的照片并提出换货请求时,该模型会综合分析图片和咨询内容,通过概率或评分来判断商品是否损坏、咨询类型以及客户的情绪状态等。
服务端可将该结果与预设标准相结合,据此将客户转接至客服人员或引导其完成换货流程。
该模型采用了基于嵌入的架构,将输入的问题和选项转换为数字集合(向量),并比较其相似度。同一选项的向量会被存储并可重复使用,从而在重复请求时减少运算量并降低响应延迟。
速度约为GPT-6的43倍
据Kakao介绍,Kanana-2-v-decide在单块NVIDIA H200 GPU环境下,平均响应速度在0.04秒以内。
该公司解释称,根据其内部测试标准,该模型的速度比GPT-6 Luna快约43倍。
在决策性能方面,该公司表示,在自有评估集“Kanana Decision Bench”和公开评估集“Decision Index”中,该模型在所有对比对象中表现最佳。
对比对象包括微软的“Decision-1”、TypeSafe AI的“Jev”、Plexity的“pplx-decider-v1.1-27B”以及Upstage的“Solar Decide”等。
应用可用于商业用途的开放许可
Kakao为该模型采用了不仅适用于研究,还可用于商业用途的“Kanana开放许可”。其初衷是让国内外的研究人员和企业能够将其用于AI代理服务的开发。
Kakao计划首先将其应用于网页搜索和商品类别自动分类等内部项目,以在实际服务环境中提升性能。未来将朝着将搜索和判断功能整合到一个模型中的方向进一步优化技术。
Kakao应用AI模型成果负责人崔东镇表示:“这具有拓展将最新AI技术应用于实际服务基础的意义”,并称:“我们将通过技术升级和公开,为用户提供在日常生活中能够切身感受到的AI体验。”