据 Axios 称，MIT FutureTech 与昆士兰大学联合开展的一项研究于今日发布，显示在 272 名研究人员评估 24 类 AI 风险后，认为在当前缓解措施已到位的情况下，到 2030 年 AI 能力可能导致灾难性后果的概率为 12%——灾难性后果被定义为超过 100 万人死亡或损失超过 1000 亿美元。对于 AI 赋能的武器和大规模伤害，同样适用这一概率。在没有缓解措施的情况下，这一风险超过 20%。该研究将 AI 辅助的化学与生物武器建造列为最高风险类别之一。
多位来自主要 AI 公司的领导者也已发布联合公开信，警告由 AI 产生的生物武器风险，呼吁加强模型能力审计与安全防护措施，尤其要应对开源模型可能被滥用的潜在情况。
