微软首席执行官 Satya Nadella 在接受员工讲话时,批评 Anthropic 的 Fable 5 AI 模型为“受编辑控制”,据 CNBC 报道。受上述言论影响,微软股票在隔夜交易中下跌 1.3%。评论内容质疑:该 AI 模型的严格护栏是否会将某些用户查询引导至较旧版本。该批评出现在围绕 AI 安全措施的更广泛争论之中,因为科技公司在强大能力与潜在滥用风险之间寻求平衡。
MSFT 股票在 7 月上涨 7.5%,与 Big Tech 的涨势一致。投资者在卖出今年部分高涨的芯片股票的同时,又轮回回到该板块。随着第二季度财报季拉开序幕,投资者正密切关注后续动向,本周 Alphabet、Tesla 和 Intel 下周将公布财报。
Nadella 批评 Fable 5 查询路由系统
Nadella 告诉负责微软 Copilot AI 软件的工程师,根据他向 CNBC 提供的讲话稿副本,Fable 5 的限制“不太说得通”。“如果你使用 Fable,它在拒绝任何随机事情的时候,就像是在问:你上一次用过那种工具,它的输出控制得如此‘受编辑控制’,是什么时候?”Nadella 说道。
当用户就某些主题向 Fable 提问时,包括构建大型 AI 模型的要素,Anthropic 可能会根据 Anthropic 的支持页面将这些查询路由到较旧版本的模型。X 上一位用户指出,当被问及有关癌症研究的更深入问题时,Fable 5 将用户引导至其 Opus 4.8 模型。其他人也报告称,看似无害的提问被重定向至较旧模型。
Anthropic 实施模型访问限制
Fable 5 是 Anthropic 的 Mythos AI 模型的缩减版。该公司已承认,该模型在识别技术系统漏洞方面能力很强,并且可能被用于黑客攻击。上个月,美国政府要求 Anthropic 为外国用户和组织限制 Mythos 与 Fable 5 的访问权限,促使该公司暂时撤回这两个模型。Anthropic 随后在向官员通报其已实施的防护措施以降低潜在滥用之后,恢复了两款模型的使用。
Anthropic 计划 IPO 投资者会议
彭博社此前本周报道称,Anthropic 将在未来数周与投资者以及牵头本次发行业务的银行会面,并希望最早在 10 月上市。OpenAI 正在推进其 IPO 计划,但近期报道称,其上市可能会被推迟到明年。
4 月,Anthropic 表示其年度收入运行率(ARR)提高到 300 亿美元,超过了 OpenAI 约 240 亿美元的 ARR。根据 Nasdaq Private Market 的数据,Anthropic 的估值为 1.08 万亿美元,而 OpenAI 的私人市场估值为 8.683 亿美元。
在 Stocktwits 上,散户对 MSFT 的情绪从“看空”转为“中性”;对 Anthropic 的情绪为“中性”,对 OpenAI 的情绪则是“极度看涨”。
FAQ
Satya Nadella 对 Anthropic 的 Fable 5 说了什么?
根据 CNBC 报道,Nadella 告诉微软员工,Fable 5 现在看起来是“受编辑控制”的,且该模型的一些限制“不太说得通”。
美国政府为何限制访问 Anthropic 的 AI 模型?
上个月,美国政府要求 Anthropic 针对外国用户和组织限制 Mythos 与 Fable 5 的访问权限,原因是这些模型在识别技术系统漏洞方面的能力可能被用于黑客攻击。
Anthropic 何时计划进行 IPO?
彭博社此前本周报道称,Anthropic 将在未来数周与投资者和牵头本次发行业务的银行会面,并希望最早在 10 月上市。