AI 公司正将竞争重心从模型规模转向具备成本效益的路由系统,因为企业正从测试阶段转向生产部署。Perplexity 首席执行官 Aravind Srinivas 告诉 CNBC,单纯的模型不再是产品本身,强调的是编排系统:将模型与用于特定任务的工具配对。此次转变反映出美国企业收紧 AI 支出,企业希望使用更适合任务的模型,而不是总选择最昂贵的方案。
Perplexity 预览使用中文开源模型的系统
本周,Perplexity 为其计算机使用产品预览了一套新系统,围绕 GLM 5.2 构建,这是来自中国 Z.ai 的开源模型。该系统旨在让更便宜的模型承担更多工作,只在确实需要时才调用更强的模型。
“Srinivas 告诉 CNBC:‘模型本身不再是产品。’‘它是护驾,是编排系统:把模型放进一个非常强大的护驾之中,并让模型配上很多工具。’”
AI 产品正在变成能够决定使用哪个模型、何时使用以及需要哪些外部工具或公司数据源的系统。客户服务任务可能并不需要最昂贵的模型,而复杂的编程问题可能需要。日常的内部工作流程可以运行在更便宜的开源模型上,而更难的步骤则升级到更强的模型。
基准合作伙伴预测开权重代币将占主导
开权重模型(可由公司自行下载、微调并运行)正变得比来自最大 AI 实验室的高端专有模型更有能力且更便宜。
Benchmark(通用合伙人)Peter Fenton 告诉 CNBC,他认为在未来 18 到 24 个月内,90% 以上的生成代币将来自开权重模型,甚至可能在今年年底之前就会出现这种情况。代币是 AI 模型处理并生成数据的单位。
“当你能够在不承担那些前沿模型公司所加的溢价的情况下运行它们时,来自这些前沿模型公司的推理利润率,我认为会面临压力,因为你用开权重的模型就已经足够好了,”Fenton 表示。
Fenton 说,转向开源模型不仅仅是为了省钱。在某些情况下,为特定任务调优的较小模型可能更快、表现也可能优于更大的通用模型。
Ollama 报告 Fortune 500 采用率
Benchmark 投资了 Ollama,这家公司让开发者和企业更容易下载、运行和管理开源模型。
Ollama 首席执行官 Jeff Morgan 表示,该公司已被超过 85% 的 Fortune 500 采用,包括航空、保险和医疗保健等受监管行业的公司。
“Morgan 说:‘一件事是模型来自哪里、它是如何创建和训练的。’‘但我们与这些企业交谈时,真正更重要的是它在哪里运行、以及它如何运行。’”
Morgan 表示,许多公司会先从在贴近自身数据的较小模型开始,然后随着使用越来越熟练,再扩展到更大的开源模型。
中国实验室在开源模型中创造战略竞争
开源模型的兴起给美国带来了战略挑战。最具竞争力的许多开权重模型正来自中国实验室,包括 Z.ai 和 DeepSeek。这使得开源 AI 成为了一个商业问题、政策问题以及国家竞争力问题。
Srinivas 表示,美国应当支持开源模型,因为它们让 AI 更加负担得起且更易获得。
“Srinivas 说:‘如果你希望 AI 的益处在美国的小企业以及美国盟友国家中得到广泛分配,那你就真的需要让 AI 更加负担得起。’‘而开源是做到这一点的唯一方式。’”
这种转变也可能影响正在席卷整个科技行业的大规模数据中心建设。目前的 AI 热潮假设需求将持续流向装满高端芯片的大型云数据中心。Srinivas 表示,未来某些 AI 工作可能会改为在本地运行,运行在消费者或企业拥有的设备上。
这不会消除对数据中心的需求,但可能会促成一种更混合的 AI 系统:日常任务在本地运行,而最困难的工作则被发送到云端的更强模型中处理。
FAQ
Perplexity 本周就 AI 模型预览了什么?
本周,Perplexity 为其计算机使用产品预览了一套新系统,围绕 GLM 5.2 构建,这是来自中国 Z.ai 的开源模型。该系统旨在让更便宜的模型承担更多工作,只在确实需要时才调用更强的模型。
为什么公司正从使用最大的 AI 模型转向路由系统?
随着公司从测试 AI,转向在真实产品和工作流程中使用它,他们需要能够以合适成本更好地匹配特定工作的模型,而不是总是使用最昂贵的模型。美国企业也在收紧 AI 支出,让成本效率成为优先事项。
有多少家 Fortune 500 公司采用了 Ollama?
Ollama 首席执行官 Jeff Morgan 表示,该公司已被超过 85% 的 Fortune 500 采用,包括航空、保险和医疗保健等受监管行业的公司。