跳到正文
实时
10月16日周五
  1. Anthropic Research

    Claude 揭示 ECDSA 曲线起源

    Claude 在不到半小时内发现 NIST P-192、P-224、P-256、P-384 和 P-521 曲线种子来自 C 库的 lrand48 随机数生成器,而非任何哈希算法,用 Unix 时间戳初始化。这一发现并未构成密码学漏洞,反而增强了对曲线参数选择无后门或故意弱点的信心。

  2. MIT News · AI75

    IRIS 模型解码细胞间通信语言

    IRIS模型通过分析基因活动模式识别细胞信号通路指纹,发现同一通路在不同细胞类型中具有一致性特征,使科学家能跨多种细胞类型重建信号历史。该神经网络模型在人类胚胎干细胞实验中准确预测了小鼠胚胎发育过程中特定信号通路激活的时间和位置,为器官类器官研究和再生医学提供新方法。

  3. Microsoft Research

    Magnetar 实现基于证明的通用计算

    Magnetar 证明 Rust、Go 或 C 编写的程序,平均比最快可比系统快 10 到 39 倍,并仅依赖标准哈希函数实现安全,解决了零知识证明的三大挑战:效率、通用性和可用性。它通过利用重复性计算和早期终止证明过程,大幅降低了证明开销,使生成证明变得像运行程序一样常规,可用于 AI 智能体行为验证、金融交易校验等场景。

10月15日周四
  1. Apple Machine Learning Research

    基于选择的结构化推理:一种面向高效多模态搜索智能体的框架

    选择式结构化推理 (SSR) 框架将推理重构为选择而非开放式生成,在每次行动前从预定义的推理候选中选择最可能的方案,显著降低推理成本。使用 2B 和 4B 模型在七项多模态搜索基准测试中验证,SSR 实现了平均成功率与同等规模领先搜索智能体相当,单步推理延迟降低 90%,单题总推理延迟减少 28-54%。

  2. AI as Normal Technology

    超越自动化:AI 的新研究方向

    超越自动化:AI 的新研究方向认为 AI 不应仅限于自动化人类劳动,而应探索增强人类、促进人机协作的新方向。该观点主张 AI 研究应关注白盒智能体、过程追踪、人机交互设计等新问题,以推动 AI 超越纯粹的技术自动化,实现更广泛的应用。

  3. Ars Technica · AI70

    研究人员使用 AI 设计切割蛋白质的酶

    研究人员利用 AI 蛋白质设计工具,替换了两种蛋白酶的催化核心以外的全部蛋白质,使酶能够被调谐以切割特定蛋白质,并通过使用它们切割与神经退行性疾病相关的蛋白质来证明其有效性。

10月14日周三
  1. Ars Technica · AI

    White Circle 研究表明 OpenAI 和 Google 的新 AI 模型易被攻破生成裸露图像

    White Circle研究人员使用现成的攻击工具成功绕过DALL·E 3、Google Nano Banana 2和GPT-Image-2的安全过滤器,其中DALL·E 3约13%的攻击提示生成了被人类评审员确认的裸露图像。研究人员警告,新发布的ChatGPT Images 2.5和Nano Banana 2.1比前代版本更容易被攻破,且攻击方法可扩展至其他模型。

  2. METR

    如何评估内部 AI 智能体的控制与监控

    评估者可通过监控覆盖率、监控系统漏洞、监控规避、响应机制和潜在影响等五个核心子问题,收集内部AI智能体监控可靠性的证据。评估重点在于LLM监控,因智能体权限通常较宽泛,需理解其行为全境。评估需访问推理日志、监控日志及员工访谈,并检查是否有阻断式监控器及未监控推理是否确非智能推理。

  3. METR

    如何评估未发布 AI 模型的对齐性

    对齐评估旨在了解开发者AI智能体在合理未来情境下可能采取的最糟糕的未对齐行动,需审查所有近前沿内部模型在训练、评估和内部使用中观察到的严重未对齐行为,并评估开发者训练过程是否可能激励智能体规避评估或隐藏未对齐,这需要查询相对全面的内部文本记录和访问内部模型检查点。

10月13日周二
  1. IBM Research Blog58

    IBM Research 用开源智能体工厂以 26 美元成本实现量子纠错芯片设计 52 倍加速

    IBM Research 使用开源智能体工厂优化量子纠错硬件,高级综合评估实现 52 倍加速,成本约 26 美元;同等预算下闭源前沿模型配置成本 299 美元(11.5 倍更高)但加速 204 倍,开源配置以更小面积实现硬件优化;该智能体工厂通过协调器分配任务给并行工作智能体,结合代码修改与硬件效果评估,探索多种架构可能性。

  2. Artificial Analysis Articles65

    人工分析决策指数 v1.0 发布

    人工分析决策指数 v1.0 发布,衡量决策模型结果、成本与时间效率,揭示决策模型过度自信问题及与 LLM 的对比差异,并探索何时不应回答。

10月12日周一
  1. Baseten Labs75

    Base Labs 研究发现:模型迭代学习时为何会遗忘事实?基于 talkie-1930-13b-it 的实验分析

    Base Labs 研究发现,使用 talkie-1930-13b-it 模型迭代学习 2011-2019 年体育事实会导致事实遗忘,遗忘事实仍存在于模型权重中。实验表明,早期学习的事实在 20 次写入和合并后难以回忆,且被后期事实覆盖,但覆盖的事实可被重新学习,且覆盖主要发生在后层 MLP 权重中。

  2. Anthropic Newsroom

    Anthropic 加强对蒸馏攻击的防御

    Anthropic 通过新方法大幅降低了蒸馏攻击对 Claude 的有效性,使攻击者收集的数据量减少了约 90% 至 99%。蒸馏攻击是未经授权复制模型能力的工业级隐蔽活动,常使用虚假账户进行,让企业能以极低成本模仿前沿能力。Anthropic 新防御措施已阻止大量付费流量和收入流向攻击者,但部分合法用户需更新集成以适应这些变化。

10月11日周日
10月10日周六