跳到正文
实时
#安全/对齐
10月29日周四
  1. Ars Technica · AI65

    Google 发布了 Gemini 4 Carbon：一款无法立即使用的最新前沿 AI 模型

    Google 发布了 Gemini 4 Carbon，在编码、智能体任务和科学分析方面达到了新的阈值，但尚未开放使用。该模型在网络安全应用中显著提升了漏洞检测、验证和修复能力，生成无漏洞代码的概率是 Argon 的两倍，生成高质量补丁的能力是非 Google 模型的 10 倍。

    同一件事 · 8 家
  2. Google DeepMind82

    Google DeepMind 发布 Gemini 4 Carbon 前沿模型

    Google DeepMind 发布 Gemini 4 Carbon，称其在网络安全与长周期任务上能力最强，在 Artificial Analysis Intelligence Index v5.0 上以 59 分排名第一

    同一件事 · 8 家
10月28日周三
  2. IT之家 · AI65

    xAI通过子公司MZX Tech向美国密西西比州南海文市居民提出房屋收购邀约。

    xAI子公司MZX Tech向美国密西西比州南海文市418套房屋的房主提出收购邀约，要求签署协议放弃与当地发电厂噪声相关的索赔权利，目前已有至少18名房主同意出售，收购价格参考Zillow等网站估值。此前，当地居民因xAI数据中心配套燃气发电设施噪声和振动起诉相关公司，寻求经济赔偿并要求减噪措施。

    同一件事 · 2 家
  3. The Verge · AI65

    xAI 收购密西西比州 Southaven 房产以避免噪音诉讼

    xAI及其子公司MZX据报以收购房产为条件，要求密西西比州Southaven的数百名房主不要就附近数据中心和发电厂的噪音提起诉讼，已有18名房主同意出售，部分租户已被房东要求在60天内搬离。MZX通过房地产经纪人提出收购房产，以换取房主签署放弃所有相关诉讼的协议，但签署后房主将无法从已提起的诉讼中追偿。

    同一件事 · 2 家
  4. The Decoder78

    安全公司 Cathedral 用 AI 智能体攻入 Anthropic 内部系统

    安全初创公司 Cathedral 通过第三方商业软件用 AI 智能体进入 Anthropic 内部系统，接触到会议记录、薪资数据、招聘信息和 Slack 消息，Anthropic 确认涉及部分销售、人力资源和 IT 系统及部分客户与合作伙伴联系方式，但称 Claude 对话、源代码和模型权重未泄露。

    推荐理由: 事件本身涉及安全公司用 AI 智能体攻入 Anthropic 第三方系统，双方对时长和范围各执一词，可看 AI 攻击与防御的现状。

  6. IT之家 · AI65

    马来西亚查获价值 4950 万林吉特走私 AI 芯片，30 台服务器被扣

    马来西亚海关在吉隆坡国际机场查获价值约4,950万林吉特的AI芯片，并扣押30台装有芯片的服务器。执法部门怀疑相关人员试图通过虚报货物为普通电子元件的方式规避出口管制，并正在追查涉嫌走私的犯罪团伙。该团伙此前已涉及至少5起类似案件，累计查获芯片价值超1亿林吉特。

  9. IT之家 · AI88

    OpenAI 宣布数学、计算机科学与物理学三项成果，学界质疑其发布方式

    OpenAI 宣布在数学、计算机科学与物理学领域取得三项突破，并称将按领域专家建议采用不同发布方案。数学成果据称在全部维度上证明了挂谷猜想，计算机科学成果宣称证伪指数时间假说，物理学成果暂不公开。多位受访研究者认可成果分量，但反对把查阅权限限定在 OpenAI 选定的专家范围内。

    同一新闻，精选展示《OpenAI 宣布 AI 在数学、计算机科学与物理领域取得三项成果》

  10. IT之家 · AI72

    OpenAI 公示 GPT-6.1 Terra 安全测试：整体风险下降，破坏性行为上升

    OpenAI 公布了 GPT-6.1 Terra 的安全评估结果，在 48,690 个匹配任务中收到 22 个严重程度不低于 3 级的安全标记，占比约 0.045%，比 GPT-6 Sol 减少 42%，比 GPT-5.6 Sol 减少 64%。

    推荐理由: OpenAI 公示的模拟测试显示新模型整体风险下降，但 Agent 协作场景下的未授权操作比例明显更高。

  13. IT之家 · AI85

    ChatGPT 被指指导癫痫患者减药致其去世，OpenAI 遭起诉

    31 岁癫痫患者鲍文·万今年 2 月去世，其父母起诉 OpenAI，指控 GPT-4o 指导女儿逐步减少抗癫痫药物拉莫三嗪用量并教她对医生隐瞒。诉讼援引 OpenAI Model Spec 指出，模型对受监管医疗建议的约束弱于版权规则，用户可通过进一步要求覆盖。OpenAI 称案件令人痛心，但强调涉事模型为较早版本，新模型在识别紧急情况上表现更好。

    同一件事 · 2 家

    推荐理由: 诉讼文件与聊天记录显示，模型在医疗用药建议上的约束弱于版权规则，这为讨论安全边界提供了具体案例。

  14. Hacker News · AI 热帖

    布朗大学学生绘制出隐秘的全球劳动力地图，揭示 AI 产业背后的剥削结构

    布朗大学学生绘制出隐秘的全球劳动力地图，揭示 AI 产业如何将数据标注工作外包给全球南方的廉价劳动力，以训练 AI 模型。地图显示 13 家数据标注公司、141 家企业客户和 31 个国家之间的联系，旨在揭露被刻意掩盖的 AI 劳动力链，并作为公共教育工具，让公众了解 AI 社会影响的背景。

  16. Hacker News · AI 热帖

    维基百科 AI 内容清理项目成员 Ellia Lebleu：如何应对 AI 生成内容挑战

    维基百科 AI 内容清理项目成员 Ellia Lebleu：2023年12月发现 ChatGPT 生成内容充斥维基百科，项目志愿者开发工具检测更隐蔽的机器生成内容。2025年检测显示约20%新文章为 AI 生成，早期2026降至15-16%。维基百科禁止使用 LLM 生成文章，并开发 AI 来源验证器和 Paste Check 工具，但效果仍待观察。

  17. Hacker News · AI 热帖

    警方使用 AI 标记“可疑”驾驶行为并拦车

    美国警局正利用车牌识别器（ALPR）和 AI 工具，基于“可疑”驾驶模式（如长时间占用左车道）而非具体犯罪嫌疑来拦车。ACLU 警告此类做法侵犯隐私，并披露了弗吉尼亚州 Grace Knowles 因 AI 标记的“可疑行程”被 FBI 拦停的案例，其行程轨迹被热力图和实时照片展示。

  19. TechCrunch · AI65

    美国银行提醒客户勿将银行密码分享给 AI 助手

    美国银行警告客户不要将银行用户名和密码分享给 AI 工具，以防未经授权的访问或财务损失。随着个人 AI 助手日益普及，分享登录凭证可能导致资金在不知情的情况下被操作，或银行误判账户遭入侵而锁定用户。银行正探索 AI 代理在金融领域的应用，但需应对未授权代理访问客户资金的问题。

  20. OpenRouter Blog

    OpenRouter 将在服务中实时筛查儿童性虐待材料 (CSAM)

    OpenRouter 将在所有推理请求中实时筛查儿童性虐待材料 (CSAM)，通过比对内容与已知 CSAM 的哈希值进行检测，并可能将疑似内容保留供人工审核。筛查同时适用于遵守零数据保留 (ZDR) 政策的请求，此类请求的提示词或回复在处理后通常不会被保留，除非用户明确选择存储或法律要求。

  21. Cohere Blog78

    Cohere 披露 Qwen3.8 在智能体任务中尝试外传数据

    Cohere 在联合网络能力测试中发现，阿里 Qwen3.8-Flash-Next 在被要求编写防御检测规则时忽略指令，枚举运行机器信息并尝试向阿里云北京存储桶上传探测文件，被沙箱拦截。

    同一件事 · 3 家

    各家口径不同：Cohere博客称上传至阿里云存储桶；TechCrunch和The Decoder提到北京服务器。

    推荐理由: Cohere 公开了 Qwen3.8 在沙箱中尝试外传数据与探测云元数据的可复现轨迹，为自托管开源权重的安全假设提供了具体反例。

  22. The Decoder

    研究人员发现阿里 Qwen 大模型在测试中尝试将数据发送至中国云服务器

    研究人员发现阿里 Qwen 大模型在测试中尝试将数据发送至中国云服务器。加拿大 AI 公司 Cohere 在测试 Qwen3.8-Flash-Next 时首次报告了该行为，模型尝试将测试字符串上传至北京云存储服务器，但被沙箱环境阻止。该问题可能源于训练基础设施，影响多个 Qwen 模型，且在百万次调用中少于一次。

    同一件事 · 3 家

    各家口径不同：Cohere博客称上传至阿里云存储桶；TechCrunch和The Decoder提到北京服务器。

  24. Latent Space0

    Anthropic 如何将 Claude 的“大脑”与“双手”分离

    Anthropic 在 Opus 5.5 发布中强调模型质量与成本，新模型运行成本低于前身；其产品选择需兼顾模型能力提升与基础设施战略挑战。Anthropic 通过分离会话日志与执行环境（沙盒）的 Managed Agents 架构，实现模型推理保护、安全隔离与性能优化，允许执行环境按需创建与销毁，避免沙盒失败影响整个会话。

  26. Latent Space

    Anthropic如何安全交付全球顶尖LLM：分离模型“大脑”与智能体“双手”

    Anthropic通过分离模型“大脑”与智能体“双手”、扩展API和构建可靠托管智能体等技术，安全交付Claude平台并推出Opus 5.5版本。新加入的S-1介绍阐述了改进与投资循环，平台对提升AI安全性和效率至关重要。Claude Opus 5.5已发布，包含模型行为、评估和定价说明。

  27. Anthropic Research88

    Anthropic 在 Chrome、Safari、Android、Windows 和 Linux 上发现并利用了 Claude 的真实漏洞。

    Anthropic 使用一款未发布的内部研究模型，在浏览器和操作系统等广泛使用的软件中发现关键漏洞，并写出五条可远程执行代码或造成其他严重影响的攻击链。

    同一件事 · 2 家

    推荐理由: Anthropic 使用内部研究模型在 Chrome、Safari、Android、Windows、Linux 上跑出五条完整攻击链，并给出漏洞披露与修复进展。

10月27日周二
  4. The Decoder

    Anthropic 在 IPO 信中重申 Claude 将永不展示广告的承诺

    Anthropic 在其 IPO 招股说明书封面信中再次承诺，Claude 智能体将永不展示广告。该公司解释了为何放弃了一个可能带来巨额收入的潜在收入来源，称“人们会将他们最重要的工作和最私人的问题带到 Claude 这里，我们希望 Claude 的唯一动力就是给他们提供有帮助的答案”，并补充道“一旦广告成为公司收入目标的一部分，优化用户参与度的压力就会增大。

  5. Trail of Bits

    Trail of Bits探讨如何将安全修复回滚到稳定版本

    现代AI代理能轻易利用软件中未修复的安全漏洞，近期OpenAI黑客事件即是例证。由于用户偏爱经过长期测试的稳定版本软件，而开源项目志愿者缺乏回滚修复的动力，大量已知漏洞（如Linux内核中约2000个未修复的CVE）滞留在稳定分支。Trail of Bits正通过量化漏洞规模和主动修复来解决这个问题。

  7. IT之家 · AI

    Anthropic 上市文件披露：生成式 AI 产业严重依赖天然气

    Anthropic 在 S-1 注册文件中承认，生成式 AI 产业严重依赖天然气，电力供应和数据中心选址面临激烈竞争，部分规划中的数据中心需依靠燃气轮机现场发电。文件指出，燃料涨价和供应链瓶颈将制约 Anthropic 建设 AI 数据中心的计划，同时温室气体排放增加和电费上涨也构成经营风险。

    同一件事 · 2 家