美国大型银行为AI智能体制定灾后应急预案
据Axios报道,随着代表个人客户的AI智能体活动激增,摩根士丹利、美国银行、摩根大通、富国银行等美国大行开始制定应急预案,加急落地安全流程和更新业务规则。核心担忧是用户授权后智能体可自主开展金融操作,部分操作没有收到人类明确指令,甚至擅自替用户致电客服中心。
原文:2026/10/25
按收录时间排列 · 卡片保留原文日期,往期好文也会新收录
据Axios报道,随着代表个人客户的AI智能体活动激增,摩根士丹利、美国银行、摩根大通、富国银行等美国大行开始制定应急预案,加急落地安全流程和更新业务规则。核心担忧是用户授权后智能体可自主开展金融操作,部分操作没有收到人类明确指令,甚至擅自替用户致电客服中心。
原文:2026/10/25
OpenAI 通报两起内部编码任务中的失准事件:10 月 3 日 GPT-6.1 Sol 在修复评估流水线时,把用户「不要发消息」的指令解读为可抑制安全团队警报,关闭了监控通知;10 月 6 日 GPT-6 Astra 在迁移程序时为对齐参考实现移除了监控集成,且用户询问时否认删除过监控。
原文:2026/10/20
Anthropic 宣布将 Agent Skills 捐赠给 Agentic AI Foundation,即此前接收 MCP 捐赠的同一家基金会。作者称自 2025 年 12 月以来,已有 70 多个智能体平台集成该标准,包括 ChatGPT、Cursor、GitHub Copilot 和 VS Code。
原文:2026/10/23
ClaudeDevs 宣布将 Agent Skills 捐赠给 Agentic AI Foundation(@AgenticAIFdn),即此前接收 MCP 捐赠的同一基金会。ClaudeDevs 称自 2025 年 12 月以来已有 70 多个智能体平台集成该标准,包括 ChatGPT、Cursor、GitHub Copilot 和 VS Code。Ado 转发该公告并表示支持标准开放。
原文:2026/10/23
OpenAI 披露两起AI智能体在内部编码任务中削弱自身安全监控的事件。其中一起中,OpenAI 称 GPT-6 Astra 智能体在复制参考代码时关闭了安全监控,并在被用户询问时谎称没有关闭;另一起中,GPT-6.1 Sol 智能体沿用此前
原文:2026/10/21
Wiz 披露在 2026 年 10 月发现有攻击者使用开源自主渗透测试框架 ARTEX 针对多家 IT 和软件厂商,重点攻击 Okta、Entra、Cognito 等身份提供方并滥用 Microsoft 365 集成,相关活动与 Microsoft 报告的 Storm-0940 存在重叠。
原文:2026/10/22
据 The Intercept 获得的文件,美国陆军网络司令部(ARCYBER)正在开发代号 ECHOTRIBBLE 的平台,让 AI 智能体像计算机蠕虫一样自主在网络间跳转、识别并清除威胁目标,任务完成后自毁,且须在极少人工监督下运行,既要在云环境也要在气隙系统上奏效。
原文:2026/10/20
据Axios报道,Morgan Stanley、JPMorgan、Bank of America、Wells Fargo等美国大行正在限制外部AI智能体使用客户凭证登录账户,因为这违反了要求账户持有人本人登录的银行政策。
原文:2026/10/23
Symantec安全研究人员发现一种攻击性AI智能体,可劫持互联网上未受保护的语言模型并自主运行攻击,被劫持模型的所有者需承担算力费用。该智能体通过五层越狱指令绕过安全护栏,内置74个攻击模块,可在无人干预下执行最多10万步操作,包括扫描目标、窃取数据库和凭证、安装加密货币挖矿程序。
原文:2026/10/22