Synapse Software 应用 TurboQuant 技术以降低 AI 文档处理成本

Gate News 消息,4月15日——Synapse Software 已将由谷歌研究(Google Research)开发的向量量化算法 TurboQuant 集成到其 Synap OCR IX 解决方案中,以增强文档 AI 能力,同时降低企业采用 AI 的成本。

TurboQuant 会压缩大型语言模型 (LLMs) 和视觉语言模型 (VLMs) 使用的 KV 缓存,从而在处理长文档时降低内存消耗。这使得在相同的 GPU 基础设施上实现更快的数据处理。该技术解决了先前需要昂贵 GPU 基础设施的内存瓶颈,尤其是在处理扩展上下文和大批量处理且不出现性能下降的场景中。

Synapse Software 还支持企业使用基于 CPU 的环境,以应对无法部署 GPU 基础设施的情况。通过精确度剖析,该公司实现了仅使用 CPU 的推理处理能力:每分钟约 100 份文档,且质量损失控制在 1% 以下,从而降低总拥有成本 (TCO)。灵活的基础设施方案使 AI OCR 能够在对安全敏感的领域(如金融和公共行政)中采用;在此前,当部署在本地(on-premises)以及基础设施限制曾阻碍 AI 落地。

免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见声明

相关文章

Berkeley GEPA 解析:不更新权重就能让 AI 学会新任务、35 倍少训练成本胜 RL

GEPA 是 UC Berkeley 团队提出的 AI 训练新法:不更新权重、不需 GPU,通过让反思 LLM 阅读完整任务记录并重写提示,而非仅以分数反馈。六项任务平均胜 GRPO 6%,最高 20%,训练 rollouts 减少 35 倍;与 DSPy 整合的 Full Program Adapter 在数学与多模态工作流显著提升,93% 准确。代码开源,作者包含 Matei Zaharia 等。

鏈新聞abmedia12 分钟前

OpenAI 推出 Codex Pets,具备定制生成的 AI 驱动虚拟伴侣

据 Beating 称,OpenAI 已为 Codex 桌面应用添加了一项名为“Codex Pets”的新功能,允许用户生成并与一只动画虚拟伴侣互动。用户可以在编辑器中输入 /pet 来激活宠物。该功能作为代理状态指示器运行,用于显示一项

GateNews1小时前

xAI 推出语音克隆 API,支持跨 28 种语言的 80+ 种声音

据 PANews 称,xAI 于 5 月 2 日推出了其语音克隆 API,允许用户在约 2 分钟内创建自定义语音,或从 80+ 个预设语音中选择,覆盖 28 种语言,适用于语音助手、有声读物和游戏角色等应用。该功能目前处于

GateNews5小时前

MoonPay 将于周五推出 MoonAgents 卡,一种面向 AI 代理和用户的虚拟万事达卡

据 The Block 称,MoonPay 于周五推出了 MoonAgents Card,一种面向 AI 代理和用户的虚拟万事达借记卡。该卡可在支付时将稳定币兑换为法币,并可在全球任何接受万事达卡的线上商户处使用。由 Monavate 发行,这是一家受监管的支付

GateNews14小时前

MoonPay 将于周五在 Mastercard 网络上推出 MoonAgents 卡

据 The Block 称,MoonPay 于周五推出 MoonAgents Card——一款虚拟万事达借记卡,使 AI 代理与用户能够直接从链上钱包中使用稳定币进行消费。该卡由 Monavate(一个受监管的全球支付平台,并且是万事达主要成员)发行,in

GateNews17小时前

Nubank 计划于 2026 年在巴西进行 82 亿美元投资,且将对 AI 和信贷扩张的支出增加一倍

据 Crowdfundinsider 称,Nubank 宣布计划在 2026 年向巴西市场投资 82 亿美元,与两年前相比几乎翻倍。资金将重点用于基于 AI 的信用评估系统、数字金融产品、团队扩张、基础设施

GateNews18小时前
评论
0/400
暂无评论