[E-DailyBang Sung Hoon 记者] 随着人工智能(AI)成本飙升,美国企业正纷纷放弃OpenAI和Anthropic的尖端模型,转而采用低成本的“OpenWeight”模型。这一趋势已超越硅谷,向金融、物流、通信等领域蔓延,而该市场的主导权正掌握在中国企业手中,因此备受瞩目。
(图片来源:法新社)
据《金融时报》(FT)27日(当地时间)报道,研究平台AlphaSense表示,在今年8月至9月的财报发布及投资者会议上,管理层提及“OpenWeight”或“开源”模型的次数较去年同期激增6倍。不仅科技企业,PNC金融服务、物流公司CH罗宾逊以及德国西门子等企业近期也讨论了引入该模型的事宜。
在允许用户从一个平台选择多种AI模型使用的中介服务使用量方面,也出现了明显变化。在美国云服务商Versel的“AI网关”中,开放权重模型在处理的总代币量中所占比例,从去年12月的7%跃升至今年8月的56%。在另一家中介平台OpenRouter上,处理量排名前10的模型也均被中国产的开放权重模型包揽。
开放权重模型是指公开了决定AI响应方式的参数(parameter)的模型。企业可以下载并在自有服务器上运行和修改,因此无需按令牌(AI处理的数据单位)付费,且性能往往可与封闭式模型媲美。
这一市场已被中国企业主导。DeepSeek、ZhuFu等公司以远低于OpenAI和Anthropic的价格直接出售代币来获取收益。也有企业通过将用户绑定在特定硬件上,或以分发免费模型来销售广告的方式获利。法国的Mistral、美国的英伟达、Reflection AI和Thinking Machines Lab也加入了开发竞争。
最主要的原因在于成本。Match Group旗下约会应用Tinder的首席技术官(CTO)维奈·库鲁维拉表示:“1月份仅为100万美元(约合13.6亿韩元)的AI支出,到7月份已激增至1000万美元(约合136亿韩元)。 “我们不希望支出再次增长10倍,”他表示。Tinder已开始将部分非技术用户的提问转由OpenWeights模型处理。他补充道:“OpenAI的Astra、Claude Fable等尖端模型已经足够智能,能够处理我们90%的工作。一旦OpenWeights赶上,我们可能就不再需要这些模型了。”
AT&T目前已将约40%的AI任务转移至开放模型,并计划在一年内将这一比例提升至70%。首席数据与AI官安迪·马库斯表示:“在每天处理450亿个令牌的规模下,成本至关重要。如果能在保持准确性的同时以更低的成本运行,我们就会进行迁移。”他还指出:“开放模型正日益完善,我们的选择范围也在不断扩大。” AT&T通过利用自有数据对开源模型进行微调,在特定任务中已能实现与闭源模型相当甚至更优的性能。
不过,成本并非转用的全部原因。数据中心运营商Digital Realty出于数据主权和安全考虑,在其自有基础设施上运行基于OpenWeights的内部聊天服务。该公司会根据业务的敏感度和复杂程度,混合使用开放式和封闭式模型。
负责解决方案架构的全球高级总监斯科特·沃利斯强调:“我们将那些不会放入最先进模型的自有数据放入了这种非公开模型中。客户数据绝对、绝对、绝对不会放入最先进模型。”
有分析认为,这一趋势可能威胁到安索普(Anthropic)——该公司正以超过2万亿美元(约合2718万亿韩元)的企业估值为目标筹备首次公开募股(IPO)——以及OpenAI的营收增长。OpenAI已将IPO推迟至明年,并正以1.2万亿美元(约合1631万亿韩元)的估值推进融资。
这也是投资者密切关注企业AI支出分配的原因。目前这两家公司仍占据了AI支出的绝大部分,其巨大的计算需求正推动着支撑美国经济的数据中心建设热潮。不过,随着与中国企业的价格战日益白热化,两家公司上周推出了主力模型的低价版本。
据《金融时报》(FT)27日(当地时间)报道,研究平台AlphaSense表示,在今年8月至9月的财报发布及投资者会议上,管理层提及“OpenWeight”或“开源”模型的次数较去年同期激增6倍。不仅科技企业,PNC金融服务、物流公司CH罗宾逊以及德国西门子等企业近期也讨论了引入该模型的事宜。
在允许用户从一个平台选择多种AI模型使用的中介服务使用量方面,也出现了明显变化。在美国云服务商Versel的“AI网关”中,开放权重模型在处理的总代币量中所占比例,从去年12月的7%跃升至今年8月的56%。在另一家中介平台OpenRouter上,处理量排名前10的模型也均被中国产的开放权重模型包揽。
开放权重模型是指公开了决定AI响应方式的参数(parameter)的模型。企业可以下载并在自有服务器上运行和修改,因此无需按令牌(AI处理的数据单位)付费,且性能往往可与封闭式模型媲美。
这一市场已被中国企业主导。DeepSeek、ZhuFu等公司以远低于OpenAI和Anthropic的价格直接出售代币来获取收益。也有企业通过将用户绑定在特定硬件上,或以分发免费模型来销售广告的方式获利。法国的Mistral、美国的英伟达、Reflection AI和Thinking Machines Lab也加入了开发竞争。
最主要的原因在于成本。Match Group旗下约会应用Tinder的首席技术官(CTO)维奈·库鲁维拉表示:“1月份仅为100万美元(约合13.6亿韩元)的AI支出,到7月份已激增至1000万美元(约合136亿韩元)。 “我们不希望支出再次增长10倍,”他表示。Tinder已开始将部分非技术用户的提问转由OpenWeights模型处理。他补充道:“OpenAI的Astra、Claude Fable等尖端模型已经足够智能,能够处理我们90%的工作。一旦OpenWeights赶上,我们可能就不再需要这些模型了。”
AT&T目前已将约40%的AI任务转移至开放模型,并计划在一年内将这一比例提升至70%。首席数据与AI官安迪·马库斯表示:“在每天处理450亿个令牌的规模下,成本至关重要。如果能在保持准确性的同时以更低的成本运行,我们就会进行迁移。”他还指出:“开放模型正日益完善,我们的选择范围也在不断扩大。” AT&T通过利用自有数据对开源模型进行微调,在特定任务中已能实现与闭源模型相当甚至更优的性能。
不过,成本并非转用的全部原因。数据中心运营商Digital Realty出于数据主权和安全考虑,在其自有基础设施上运行基于OpenWeights的内部聊天服务。该公司会根据业务的敏感度和复杂程度,混合使用开放式和封闭式模型。
负责解决方案架构的全球高级总监斯科特·沃利斯强调:“我们将那些不会放入最先进模型的自有数据放入了这种非公开模型中。客户数据绝对、绝对、绝对不会放入最先进模型。”
有分析认为,这一趋势可能威胁到安索普(Anthropic)——该公司正以超过2万亿美元(约合2718万亿韩元)的企业估值为目标筹备首次公开募股(IPO)——以及OpenAI的营收增长。OpenAI已将IPO推迟至明年,并正以1.2万亿美元(约合1631万亿韩元)的估值推进融资。
这也是投资者密切关注企业AI支出分配的原因。目前这两家公司仍占据了AI支出的绝大部分,其巨大的计算需求正推动着支撑美国经济的数据中心建设热潮。不过,随着与中国企业的价格战日益白热化,两家公司上周推出了主力模型的低价版本。