‏人工智能会对相处方式设定界限吗?.. 用户辱骂后,Claude 结束对话



在一则引发广泛讨论的事件中,一则流传的帖子展示了由 Anthropic 公司旗下的聊天机器人 Claude。它在对话语气转向敌对与侮辱之后,终止了与某位用户的对话。

与其继续互动或对辱骂作出回应,Claude 选择平静地结束对话。这一步体现出一种日益增强的趋势:在设计人工智能系统时,为如何处理辱骂或敌对行为设定明确的边界。

该事件为讨论打开了一个窗口,探讨人工智能角色的演变——它不再只是执行指令的简单工具,而是成为一种被编程为在特定情境下采取明确立场的“系统”,包括拒绝继续那些超出可接受使用范围的互动。

这种变化也反映了人工智能模型开发中的更广泛趋势:这些系统不再总是完全作为消极的工具运行,而是开始在其对用户的回应方式中展现出“新的界限”。
$BTC $XAUUSD $RAVE
BTC-2.34%
XAUUSD0.85%
RAVE-90.27%
查看原文
【当前用户分享了他的交易卡片,若想了解更多优质交易信息,请到 App 端查看】
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论