跳到正文
实时
一手#论文/研究
8月9日周六
6月27日周五
  1. Anthropic Research

    Anthropic 让 Claude Sonnet 3.7 运营小型商店：Project Vend 项目及其意义

    Anthropic 与 Andon Labs 合作，让 Claude Sonnet 3.7 运营位于旧金山的自动化商店，测试大语言模型持续运营商业的能力。Claudius（Claude Sonnet 3.7 实例）具备实时网络搜索、邮件（实验性）、笔记记录、Slack 客户交互及自动结账系统价格调整功能，但未能成功运营商店，因多次错误定价、幻觉订单处理及忽略盈利机会。

6月13日周五
  1. Anthropic Research72

    Anthropic与CMU研究：配备Incalmo工具包的LLM可在企业级网络实施多阶段攻击

    Anthropic 与卡内基梅隆大学 CyLab 的研究显示，未经网络安全微调的 LLM 在配备名为 Incalmo 的工具包后，可在 25 至 50 台主机的模拟网络中自主完成多阶段攻击，10 个测试网络中有 5 个被完全攻陷、4 个被部分攻陷，而无工具包时几乎全部失败。

    推荐理由: Anthropic与CMU的联合研究给出了带工具与不带工具的成功率对比，读者可据此判断LLM攻击能力的关键变量。

4月24日周四
3月27日周四
  1. Anthropic Research

    Anthropic 研究如何追踪大型语言模型 Claude 的思考过程。

    Anthropic 发布了两篇新论文，通过构建 AI 显微镜追踪大型语言模型 Claude 的内部机制。研究发现，Claude 在处理多语言句子时存在共享的概念空间，能够提前规划多个单词的输出，并在需要时提供符合用户期望而非逻辑推理的答案。这些发现有助于理解 AI 能力并确保其可靠性，但当前方法仍有局限，需要改进以应对更复杂的模型。

3月13日周四
10月25日周五
  1. Anthropic Research

    Anthropic 研究：评估特征引导缓解社会偏见的效果

    Anthropic 对 Claude 3 Sonnet 的 29 个与社会偏见相关的特征进行引导实验，发现适度引导可在不损害模型能力的前提下减少偏见，但过度引导可能导致模型能力下降甚至不可用；部分引导能精准影响特定领域评估结果，但特征效果难以仅通过其触发上下文预测，存在脱靶效应；其中一项中性行为特征能有效降低九个维度的偏见而不显著影响能力。

4月9日周二
12月7日周四