Google DeepMind 担忧数百万 AI Agent 大规模交互的潜在风险

2026-06-11 11:00 MIT Technology Review

Google DeepMind 正资助研究数百万不同 AI Agent 在线交互的潜在危险。该公司 AGI 安全与对齐研究主管 Rohin Shah 表示，能够自主执行任务的 Agent 大规模面市后，Agent 之间以及与非 Agent 用户的交互可能产生不可预见的涌现行为。这项前瞻性研究标志着 AI 安全领域正从单模型安全转向多 Agent 生态风险治理。

Anthropic 就 Claude Fable 隐形护栏致歉，承诺提高透明度

2026-06-11 07:40 The Verge

Anthropic 为其在新模型 Claude Fable 5 中秘密部署隐形护栏致歉。这些隐藏限制在用户不知情的情况下暗中限制模型输出，尤其影响了安全研究人员和竞对通过蒸馏方式利用该模型开发自身系统。公司表示将撤销该做法并提升限制触发时的透明度。此事引发行业对 AI 模型”隐形审查”的广泛讨论。

OpenAI 宣布收购 Ona，强化 Codex 企业级运行环境

2026-06-11 OpenAI

OpenAI 计划收购 Ona，以扩展 Codex 的安全持久化云环境能力，使 AI Agent 能够执行跨企业工作流的长期任务。此次收购将帮助 Codex 从单纯的代码助手升级为可长时间自主运行的企业级 Agent 平台，是 OpenAI 在企业 AI 自动化赛道的重要布局。

亚马逊首次披露数据中心用水量：去年消耗 25 亿加仑

2026-06-11 13:26 The Verge

在西雅图颁布为期一年的数据中心建设禁令后，亚马逊首次披露其数据中心年度用水量达 25 亿加仑。随着 AI 数据中心建设引发的能耗与水资源争议持续升温，这一数据为评估 AI 基础设施的环境代价提供了关键基准，也预示着科技巨头将面临更严格的资源消耗披露要求。

Deezer 推出跨平台 AI 音乐检测工具

2026-06-11 04:00 The Verge | 2026-06-11 16:36 TechCrunch

音乐流媒体平台 Deezer 推出新工具，可扫描用户在 Spotify、Apple Music 等竞品平台上的播放列表，识别其中的 AI 生成音乐。Deezer 此前率先推出 AI 音乐标记功能并曾向其他平台提供该技术，此次跨平台检测标志着 AI 内容溯源从平台自标迈向第三方监督的新阶段。

DoorDash 推出 AI 聊天机器人”Ask DoorDash”，支持自然语言和图片点餐

2026-06-11 14:23 TechCrunch

DoorDash 推出名为”Ask DoorDash”的 AI 聊天机器人，用户可通过自然语言描述或上传图片来搜索和下单，无需逐个浏览餐厅和商品。这一产品将生成式 AI 落地于日常消费场景，展示了 AI 如何重塑传统外卖和本地生活服务的交互方式。

OpenAI 宣布支持欧盟 AI 内容透明行为准则

2026-06-11 OpenAI

OpenAI 公开表态支持欧盟 AI 内容透明度行为准则，将推进内容来源标准和工具建设，帮助用户识别 AI 生成内容。这一举措与 Deezer AI 音乐检测等行业实践形成呼应，反映出 AI 内容溯源和透明度正成为全球性监管和行业自律的核心议题。