[E-DailyYun Junghoon 记者]KTCorporation(030200)于19日宣布,已推出一款将国产AI半导体和国产语言模型(LLM)集成于单台服务器的企业级Sovereign AI专用设备(软硬件结合的成品设备)。
KT于19日宣布,推出了一款将国产AI半导体和国产语言模型(LLM)集成于单台服务器的企业级主权AI设备(软硬件结合的成品设备)。(图片来源:KT)
KT推出的“KT NPU LLM Station”是一款一体化产品,搭载了韩国AI半导体企业Rebellion的NPU“ATOM-MAX”、KT自主研发的LLM“Belief K 2.5 Pro”以及运营API平台。
ATOM-MAX是一款专为推理优化的国产NPU,经权威测试验证,其处理性能和能效均优于同级GPU。“Belief K 2.5 Pro”是KT自主研发的模型,在高难度推理和智能代理应用方面具有显著优势。
从AI半导体到模型、运营平台,核心技术均由国内自主技术构成,能够直接在企业现场落实政府推动的“主权AI”政策方向。
其最大特点在于强大的安全性。该产品安装在客户公司内部,所有数据和AI运算均仅在公司内部处理。对于因网络隔离等相关法规及严格的安全要求而无法引进海外生成式AI的公共、国防、制药、制造、金融等受监管行业而言,该产品有望成为其向AX转型的催化剂。
部署负担也得到了减轻。由于是集服务器、AI模型和平台于一体的成品设备,无需单独构建过程,安装当天即可使用基于内部文档的问答(RAG)等AI功能。该设备采用专为推理优化的NPU,与同级GPU服务器相比能效更高;同时提供行业标准API,企业只需更改现有AI服务的连接信息,无需修改代码即可实现兼容使用。
KT计划今后依次搭载由KT自主研发的AI代理,包括会议记录撰写、编码辅助以及业务自动化代理“K-Claw(暂定名)”等,并计划与专业代理开发公司合作,将业务扩展至客户定制化部署领域。
此外,KT还计划将“KT NPU LLM Station”的应用领域扩展至面向物理AI的边缘数据中心(Edge DC),着手构建低功耗、低延迟的AI基础设施。
KT AX事业本部部长李珍亨常务表示:“KT NPU LLM Station融合了KT的AX全栈能力与国产半导体,旨在让主权AI能够立即应用于实际工业现场”,并称“这将成为那些希望在守护数据主权的同时开启AI转型的企业和机构最现实的选择”。
此外,在科学技术信息通信部的“全民AI”项目中,KT也计划利用国产NPU,为实现主权AI和增强国内AI生态系统的竞争力做出贡献。
KT推出的“KT NPU LLM Station”是一款一体化产品,搭载了韩国AI半导体企业Rebellion的NPU“ATOM-MAX”、KT自主研发的LLM“Belief K 2.5 Pro”以及运营API平台。
ATOM-MAX是一款专为推理优化的国产NPU,经权威测试验证,其处理性能和能效均优于同级GPU。“Belief K 2.5 Pro”是KT自主研发的模型,在高难度推理和智能代理应用方面具有显著优势。
从AI半导体到模型、运营平台,核心技术均由国内自主技术构成,能够直接在企业现场落实政府推动的“主权AI”政策方向。
其最大特点在于强大的安全性。该产品安装在客户公司内部,所有数据和AI运算均仅在公司内部处理。对于因网络隔离等相关法规及严格的安全要求而无法引进海外生成式AI的公共、国防、制药、制造、金融等受监管行业而言,该产品有望成为其向AX转型的催化剂。
部署负担也得到了减轻。由于是集服务器、AI模型和平台于一体的成品设备,无需单独构建过程,安装当天即可使用基于内部文档的问答(RAG)等AI功能。该设备采用专为推理优化的NPU,与同级GPU服务器相比能效更高;同时提供行业标准API,企业只需更改现有AI服务的连接信息,无需修改代码即可实现兼容使用。
KT计划今后依次搭载由KT自主研发的AI代理,包括会议记录撰写、编码辅助以及业务自动化代理“K-Claw(暂定名)”等,并计划与专业代理开发公司合作,将业务扩展至客户定制化部署领域。
此外,KT还计划将“KT NPU LLM Station”的应用领域扩展至面向物理AI的边缘数据中心(Edge DC),着手构建低功耗、低延迟的AI基础设施。
KT AX事业本部部长李珍亨常务表示:“KT NPU LLM Station融合了KT的AX全栈能力与国产半导体,旨在让主权AI能够立即应用于实际工业现场”,并称“这将成为那些希望在守护数据主权的同时开启AI转型的企业和机构最现实的选择”。
此外,在科学技术信息通信部的“全民AI”项目中,KT也计划利用国产NPU,为实现主权AI和增强国内AI生态系统的竞争力做出贡献。