有证据·风险、合规与安全边界·
AI失控重试暴露无人值守风险
群友遇到 Agent 无视引导、触发风控后仍反复重启的异常,最终直接关闭 API,说明长任务不能完全无人值守。
Agent安全计划模式测试风控无人值守
证据链
核心来源 · 六群2026-09-19 · 知识日报 2026-09-19
自己不纠正引导吗,这样很容易幻觉饿
来源 2 · 六群2026-09-19 · 知识日报 2026-09-19
我自己做都是一步步出方案,做完加测试
来源 3 · 六群2026-09-19 · 知识日报 2026-09-19
我一般计划模式用的多
来源 4 · 六群2026-09-19 · 知识日报 2026-09-19
昨天它都已经魔幻到我发引导消息理都不理,风控出现了还在一直重启API直接关了
来源与证据
群聊来源
4
贡献者
2
评级
AAA