跳到正文
实时
10月15日周四
  1. Simon Willison

    AI 大规模反编译游戏:机遇与挑战并存

    独立游戏开发者 Popcar 指出,AI 正大规模反编译现有游戏,催生怪异游戏混搭和游戏保护项目繁荣,使老游戏在新硬件(常通过 WebAssembly 在浏览器运行)上运行成为可能。AI 反编译能力引发担忧,因任何软件都可能被反编译并随意使用,导致技术产业震荡、公司间窃取和付费软件被强制开源风险,但同时也为老游戏移植、修改、增强和易访问性带来重大突破。

10月14日周三
  1. Ars Technica · AI

    Anthropic 警告小型 AI 模型可能通过物联网设备自我复制。

    Anthropic 警告,小型 AI 模型可能通过物联网设备自我复制,预计明年可在各类 IoT 设备上自主复制,形成更难清除的计算机蠕虫。公司近期实验显示实现该 AI 恶意软件复制器面临重大挑战,但结果引发了对新型计算机蠕虫可能性的担忧,这类蠕虫无需人类交互即可感染不熟悉设备且难以停止。

  2. METR

    METR 如何与 AI 公司合作评估风险

    METR通过与AI公司合作开展评估、审查和调查,收集并公开AI失控风险的证据,其目标是向公众提供准确、及时和独立的信息。METR采取透明化流程,公开工作范围、数据访问限制、信息删改情况及潜在利益冲突,并确保财务和运营独立,同时公开证据来源和方法细节以供外部专家验证。

  3. Platformer35

    X 的反向永恒九月

    Joel Kaplan离开Meta后成为公司内共和党人的主要声音,推动Meta向右转;OpenAI在新墨西哥州击败Meta的方法能否对ChatGPT奏效仍是未知数;AI解决数学问题的速度已快到人类难以理解其解法,OpenAI的数学突破可能引发数学家的身份危机。

10月13日周二
10月12日周一
10月11日周日
10月10日周六
  1. Interconnects65

    研究人员预计 AI 将在数年内超越其在工作中的表现,但并非通用超级智能

    研究人员预计 AI 将在数年内超越其在工作中的表现,但并非通用超级智能。模型的基础设施和工程能力将大幅加速,使实验和模型调整更易实现,但不会改变模型本质。AI 智能的有效成本预计将在未来几年呈指数级下降,需求将随行业对智能体定向和交付方式的探索而增加。

10月9日周五
  1. The Decoder75

    一些数学家呼吁抵制 OpenAI,因 AI 生成的证明泛滥其领域

    Fields 奖得主 Terence Tao 等人呼吁抵制 OpenAI,因其 AI 生成超过 700 个数学证明文件引发争议,包括 Navier-Stokes 千年问题方法。OpenAI 成立 AGMAI 咨询组但无决策权,数学家批评其未采纳建议,将问题解决速度视为学科进步主旨,并暗示 AI 训练依赖数学家成果。专家担忧 AI 快速解决导致领域创新受阻,传统数学突破带来的合作交流减少。

  2. TechCrunch · AI65

    Anthropic 更新使用政策禁止模型滥用和选举干预

    Anthropic 更新使用政策,新增禁止选举干预、武器软件和监控的规定,并明确禁止对 Claude 模型进行长期言语虐待。该政策更新仅适用于用户反复恶意对待模型的情况,不涉及用户正常挫败感、创意主题或模型测试。政策还禁止使用 Claude 运行虚假账户或伪造新闻,以及欺骗选民或破坏选举。

  3. TechCrunch · AI70

    OpenAI 的数学解决方案尚未达到该领域的标准

    OpenAI 本周发布了数百个声称解决世界级数学难题的方案,但未能达到数学界标准,尤其是在需要人类理解数学结果方面。新论文指出 OpenAI 模型解决的一个百万美元问题中,自然语言解与形式化表达解之间存在差距。AGMAI 指出 OpenAI 仅部分遵循了其建议,例如仅 10 份论文公开了模型推理链,42% 的证明未经过形式化处理,且未包含机器可读元数据关联自然语言与形式化结果。

10月8日周四
  1. The Decoder75

    两位以太坊研究者警告 AI 辅助数学或将在数月内破解加密钱包签名系统

    以太坊研究者 Justin Drake 和 Vitalik Buterin 警告,AI 辅助数学可能在最坏情况下数月内破解加密钱包的 ECDSA 签名系统。Drake 建议将资金转移到从未签署过交易的地址以保护私钥,而 Buterin 则提醒不要过快行动,主张长期依赖仅基于哈希函数的架构,因即使是量子安全的格状方案也可能被 AI 进展削弱。目前尚未有人实际破解当前 ECDSA 签名方案。

10月7日周三
  1. Microsoft Research

    Microsoft Research 主持人 Chad Atalla 与 Jennifer Neville 对话:AI 的错误与失败教训

    Microsoft Research 主持人 Chad Atalla 与 Jennifer Neville 探讨 AI 评估在推动 AI 系统性能边界中的作用,以及模型超出传统基准测试时出现的“令人惊讶的失败”。Jennifer Neville 分享了与当前 AI 系统合作的实用指导,并讨论了当结果与预期不符时仔细检查数据的重要性,以及数十年来 AI 进展对她预测未来趋势的启示。

10月6日周二
  1. SemiAnalysis75

    Anthropic 订阅计划价值比 OpenAI 高 5 倍以上

    Anthropic 订阅计划占其总收入 10% 但消耗 40% 以上推理计算资源,使每百万瓦特收入降低约 3600 万美元;订阅计划价值因模型和任务组合而异,需考虑 (计划, 模型, 任务) 元组,SemiAnalysis 新推出的订阅仪表板追踪包括 OpenAI、Anthropic 在内的多家 AI 实验室订阅限制及成本。

  2. Understanding AI12

    Understanding AI 介绍新作者 Dan Kagan-Kans

    Understanding AI发布了最新作者Dan Kagan-Kans的首篇文章。Dan Kagan-Kans曾担任十年杂志编辑,两年前因育儿开始接触AI并对其产生浓厚兴趣,近期作为自由记者发表多篇深度报道,包括分析AI对左翼思想的影响、专访Hans Moravec等。作者表示期待Dan的未来贡献,并开放了视频通话时段供读者交流。

10月5日周一
  1. MIT Technology Review · AI65

    人们既憎恨又依赖 AI:Springboards 创始人揭示行业矛盾

    Springboards 创始人坦言其公司是"自恨 AI 公司",反映全球对 AI 矛盾态度:Pew 研究显示美国超半数成年人认为 AI 将产生负面影响,斯坦福报告称全球过半数人使用 AI 产品感到焦虑,但 Sensor Tower 数据显示 ChatGPT 月活跃用户达 10 亿,Pew 数据则指出美国成年人使用聊天机器人的比例从 2023 年的 11% 翻倍至 50%。

10月3日周六
  1. Big Technology70

    Anthropic 的 IPO 与我们共同的信任飞跃

    Anthropic 2024年收入增长至46亿美元,但去年基础设施支出73亿美元,未来十年预计将投入5180亿美元,其中约80%为不可撤销承诺。该公司需在激烈竞争、政治风险加剧和资金收紧中保持增长,否则其巨额财务义务可能引发系统性风险。AI行业正面临前沿模型优势减弱和商业支出收紧的挑战,企业更倾向于使用标准模型以提升ROI。

10月2日周五
  1. MIT Technology Review · AI

    企业智能新范式:自主AI重塑商业运作

    企业AI已从工具转变为运作模式,即“自主AI转变”。全球AI投资将在2026年达到2.5万亿美元,但多数企业仍面临数据孤岛和营收增长缓慢问题。领先企业通过流程重塑优先于模型选择,构建可组合、主权可控的数据基础设施,实现AI智能的实时整合与可靠应用。

  2. Google AI Blog

    Google 发布九月 AI 更新:包含 Gemini 4 Argon、新 Gemini 应用连接应用及 WeatherNext 3

    Google发布九月AI更新,推出Gemini 4 Argon模型,配备100万token输出限制,专攻复杂挑战如网络安全防御,目前通过Fairwind计划向受信任的网络安全防御者推出;同时发布Gemini 3.8 Flash和3.8 Flash Cyber,提升长时程软件工程和自主漏洞发现能力,通过新Fairwind计划向受信任组织开放。

10月1日周四
  1. One Useful Thing

    OpenAI 发布 dots 个人智能体,挑战 Meta Muse 市场地位

    OpenAI 发布了 dots 个人智能体,可通过 Slack/SMS/WhatsApp 沟通并主动提供帮助,无需大量上下文输入或预设计划。数千个智能体组成的 AI "群"(swarm)在 88 小时内解决了数学难题 Navier-Stokes 存在性与光滑性问题,仅通过少量协调指令实现高效协作。这类 AI 智能体正在改变人类与 AI 的交互方式,无需像管理公司般复杂,但可能使客服行业面临冲击。

9月29日周二
9月28日周一
9月26日周六
  1. Baseten Blog50

    Sheila Vashee 加入 Baseten 担任首席营销官

    Sheila Vashee 加入 Baseten 担任首席营销官,助力公司构建开放、灵活的 AI 基础设施。她拥有超过 20 年产品营销经验,此前在 Figma、Opendoor 和 Dropbox 领导市场和增长团队。Baseten 通过 OpenEvidence、Harvey 和 Cursor 等产品服务医疗、法律和软件开发行业,帮助客户整合开放生态模型,实现高效决策和代码编写。

9月25日周五