智能体先锋队
← 返回可信知识库
有证据·风险、合规与安全边界·

AI失控重试暴露无人值守风险

群友遇到 Agent 无视引导、触发风控后仍反复重启的异常,最终直接关闭 API,说明长任务不能完全无人值守。

Agent安全计划模式测试风控无人值守

证据链

自己不纠正引导吗,这样很容易幻觉饿

我自己做都是一步步出方案,做完加测试

我一般计划模式用的多

昨天它都已经魔幻到我发引导消息理都不理,风控出现了还在一直重启API直接关了

来源与证据

群聊来源

4

贡献者

2

评级

AAA