如何从任何 LLM 获取结构化输出:JSON Schema、工具调用或决策模型
OpenRouter测试了三种从LLM获取结构化输出的方法,在九个支持结构化输出的模型和仅支持工具的GLM 5.3 FlashX上验证,其中209/216的回复匹配严格JSON Schema。
OpenRouter测试了三种从LLM获取结构化输出的方法,在九个支持结构化输出的模型和仅支持工具的GLM 5.3 FlashX上验证,其中209/216的回复匹配严格JSON Schema。
开源多模态模型 Claude Code v2.1.159 发布,支持多语言和代码生成。
NVIDIA Alpamayo 2 Edge 边缘推理模型可在车载计算与延迟限制内运行。该模型在 MMLU 基准上达到 70.5 分,支持 8k 上下文窗口,速度提升 3.5 倍,价格为 $3/百万 tokens,闭源部署。
LangChain通过评估驱动开发(EDD)改进AI智能体,定义智能体行为标准后构建评估,调整代码并对比结果。EDD借鉴测试驱动开发(TDD)理念,针对非确定性输出的智能体,通过评估指标衡量性能并指导开发。具体步骤包括:定义智能体行为规范、构建包含输入和参考输出的测试数据集、编写代码或LLM评估器检验行为是否符合预期。
OpenAI Academy 将为美国五大城市的照护者提供免费 ChatGPT 实战工作坊,帮助他们掌握日常生活中的实用 AI 技能。
用户开发了一个浏览器端工具,输入地点即可查询过去 7 天内所有经过该地的卫星及其拍摄的真实影像(Sentinel-2/Landsat/NASA),通过 GPU 渲染约 1.7 万在轨物体并实时计算开普勒方程实现高精度定位。该工具仅展示真实卫星拍摄数据且不存储用户位置。
Claude Code 构建了 Beep Locator 软件,通过多设备三角定位法探测房间内间歇性响声的来源,设备间通过播放声音互相定位,最终将响声定位在约 40cm 范围内,帮助用户找到响声源头。该系统运行 Python Web 应用服务器,利用 WebSockets 协议连接设备,设备通过麦克风录制 60 秒音频并检测响声,通过播放特定声音进行时间差测量实现定位。
1Password 通过服务账户与 Browser Use 连接,可自动填充密码和 TOTP 代码完成网页任务。创建专用密码库并配置服务账户的只读权限,使用 Browser Use 令牌连接后,运行登录任务可验证认证页面。集成需为每个项目配置一个活跃的 1Password 连接,并区分服务账户令牌、库 ID 和 Browser Use API 密钥。
LLDB 通过 lldb-server 的中立加速器插件架构支持跨 CPU 和 GPU 的应用调试,将通用调试基础设施与硬件特定设备控制分离,将 CPU 和 GPU 呈现为独立的调试进程,在单一调试会话中协同工作。该架构通过插件将硬件特定调试 API 转换为 LLDB 理解的概念,支持不同架构、寄存器、内存空间和执行模型的 CPU 与 GPU 协同调试,同时保持客户端的中立性。
工程师 IainKay 开发开源脚本 Ram-Altman,通过 Linux 系统监控电脑内存使用,当可用内存超过总容量的 10% 时,每天自动向 OpenAI CEO Sam Altman 发送邮件汇报闲置 RAM 量,并准备了多种邮件主题、正文和署名。该项目已上传至 GitHub 供免费使用,但开发者提醒用户避免大规模发送邮件骚扰 Altman。
开发者 brunostjohn 成功将 iPadOS 27.2 原生移植至任天堂 Switch 并启用 Liquid Glass 效果,直接在 Switch 的 NVIDIA Tegra X1 芯片上运行,部分场景可达 60 FPS,但 GPU 驱动仍需修复,硬件兼容性完成约 90%。
使用 Claude Code 或 Codex 从终端工作时,用户常因任务多线程处理导致脑力耗竭。作者通过将工作组织成类似优先队列的方式,在 git 中管理任务,每项任务为 markdown 文件,状态为 git 快照。AI 智能体按循环处理新任务、运行测试和浏览器检查,但无法做决策,需用户在“所有者收件箱”中处理,并通过 Claude 工具单页查看任务,完成后再关闭,实现一次处理一项任务。
Claude Code 或 Codex 生成的 PR 描述过于冗长,但隐藏在 HTML details/summary 元素中可优化阅读体验。将模型名和努力程度作为 summary,例如“Claude Opus 5.5 Medium”,读者可快速获取核心信息。GitHub Markdown 支持此功能,点击展开箭头查看完整内容,使 PR 不再显得杂乱。
斯坦福大学 CS146S 课程的第二次运行将开源维护者引入教学,要求学生学习陌生代码库、提出变更并解释补丁。Mihail Eric 教授分享了课程大纲,展示了哪些课程内容经受住了他自身工程团队的考验。Monaco 公司构建了其智能体工作空间,采购了代码审查工具,并为值班智能体授予了 Datadog 和 GitHub 的访问权限。
斯坦福大学 CS146S 课程将作业改为贡献开源项目,让学生使用 AI 代码审查工具并学习协作;Monaco 公司采用 Devin 代码审查工具,同时自建 Agent 工作空间以保持技术自主,并开发 Hal 系统,让工程师和销售人员都能通过 Agent 解决问题。
llama-modchip 发布了一组 ggml/llama.cpp 内核补丁与量化转码工具,将 284.33B 的 DeepSeek-V4-Flash 压缩到 56.56 GiB(1.71 bpw),可在 64 GB 内存的纯 CPU 机器上运行,256K 上下文下峰值内存 57.61 GiB 且无需 swap。
推荐理由: 项目给出了在 64 GB 内存上运行 284B MoE 的量化方案与内核补丁,并附各硬件实测数据,可据此判断纯 CPU 部署的可行边界。
高通在第九届进博会展出端侧MoE智能体,推动终端侧AI从单点应用走向智能体体验。MoE技术通过混合专家模块提升端侧模型智能水平,在20亿至30亿参数规模下实现更高复杂度任务完成度。高通与Infris AI、江波龙、阶跃星辰合作优化模型、推理、存储和芯片平台,展示终端侧AI生态协同的系统性方案。
安德烈·卡帕西在周末使用 Claude 的 Opus 5.5 模型构建了 HackerTube 视频平台,该平台通过过滤 20 年 Hacker News 的 4300 万条评论并提炼成 6454 个视频,提供了比 YouTube 更好的推荐体验。
任天堂《塞尔达传说:时之笛》重制版于 11 月 5 日登陆 Switch 2 后,开发者已成功在越狱版 PS5 和 iPhone 上运行。PS5 版本基于 EglantinePS5 项目,12.40 固件下帧率约 15-20 FPS,但存在内存不足和渲染问题,补丁由 Claude 编写。
使用 llama.cpp 运行 NVIDIA Dory 1.0 4B 模型,该模型通过重复中间层计算实现推理增强,每个额外循环增加计算量但不增加参数。构建指定分支的 llama.cpp,下载 3.7 GB GGUF 文件,分析每层循环的参数和缓存消耗,测试解码速度和缓存影响,并在 GSM8K 上评估精度、答案长度和推理时间随循环次数的变化。
NYT Cooking AI 助手通过分析用户评论提供实用替换建议和烹饪指导,帮助用户根据现有食材调整食谱。该助手在 iOS 版本中推出,可在食谱页面的小文本框中输入问题,如“用什么替代这个食材?”或“将食谱调整为适合七人食用,并使其成为素食和无麸质版本”,AI 会生成新的食谱版本并高亮显示修改内容。用户可随时切换回原始食谱,助手不会修改原食谱,仅创建新版本。
GitHub Copilot 在 canvases 上支持跨设备会话连续性,让用户在云沙箱中执行任务,通过 Copilot 应用隔离仓库编辑,用存储指令和共享记忆的项目知识提升效率,并可选择 Copilot Fusion 模型匹配工作需求。
Salesforce 将 Claude Code 扩展至数千名工程师,使有效产出翻倍且每行代码的 Bug 数减少。该公司工程领导与斯坦福研究人员共同构建的“有效产出”评分体系衡量 AI 编码 ROI,并通过智能体成熟度曲线引导工程师从简单提示词过渡到全自主智能体。
Claude Code 通过 CLAUDE.md 指令、技能、子代理和钩子提供对代码实现过程的详细控制,钩子可解释拒绝操作或返回编译或策略失败,但外部生命周期控制仍需其他层。
Claude Code v2.1.159 发布,支持 8k 上下文窗口,在 SWE-bench Verified 上表现优异; Anthropic 推出 Browser Use 开源库,让 AI 智能体通过 Chrome DevTools Protocol 控制浏览器,提供 Browser Use Cloud 和 Browser Use Agents 服务。
在近期Foo Camp上,参与者认为软件开发的主要载体正从可执行代码转向自然语言提示、生成过程和开发者技能。有人将Python比作汇编语言,暗示自然语言生成可能使传统代码编写变得可选。
NVIDIA DSX OS 可配置、认证和操作 Kubernetes GPU 集群,解决单个 GPU 性能低下导致分布式训练任务缓慢的问题。该系统通过在节点替换、驱动程序修补等集群生命周期各阶段进行性能监控,确保集群稳定性。
LangChain 探索人类反馈三原则提升智能体开发:专家判断定义质量标准,完整上下文评估,将反馈转化为可复用数据;通过 agent trace 记录用户交互与模型行为,人工标注评分并附理由,用于校准自动化评估器、改进评估标准与构建黄金数据集,形成专家知识可复用资产。
HRL 实验室开发出采用先进算法的惯性测量单元(IMU),提供不间断的 GPS 替代方案。其 MEMS 惯性传感器尺寸如汤罐,精度接近 GPS,并解决长期困扰的偏差漂移问题,通过 AutoCal 自动校准系统持续修正误差,实现无限导航支持。该 IMU 采用 ASIC 和先进封装技术优化成本与尺寸,适用于无人机等轻型载体。
Lichii模拟器已可通过电脑运行《塞尔达传说:时之笛》重制版,但帧率在15-30 FPS间波动且存在画面异常。原生移植版本尚仅能运行开场部分。
11月10日,上海将举办「源点 ORIGIN:Data + AI 技术实践巡展」,分享 Data Agent 落地完整链路。蚂蚁密算、合合信息等5位专家将介绍本体、知识引擎、Harness 工程及可信智能体实践。活动免费,面向对 Data Agent 落地感兴趣的开发者。
网友用 Claude Code 成功越狱 NordicTrack 跑步机,绕开 iFIT 订阅墙,将设备大屏幕改造成可自由使用的流媒体界面。改造过程约一天半完成,项目已公开至 GitHub,集成 Netflix、Crunchyroll 等应用,Netflix 启动时间缩短至约 21 秒,但最高仅支持标清画质且可能影响保修。
TVPort 开源项目基于 nxnative 工具包和 Claude Opus 5.5,让 Apple TV 4K 原生运行 Switch 游戏《超级马力欧:奥德赛》,实现 60FPS 运行,偶有轻微卡顿。项目需用户自行提取游戏数据,使用改装 Switch,并非面向普通用户方案。
NVIDIA 开发了 AI Factory Operations Agent 智能体来简化 DGX SuperPOD 内部运营,通过单一界面自动关联计算、网络、硬件和调度问题,帮助 SRE 识别训练性能下降原因。该智能体可处理多仪表盘数据,提升运营效率。
在 Claude 中创建和共享文档、追踪器和仪表板,让团队从聊天界面协作编辑;可设置从查看者到编辑者的访问权限,并区分评论者和贡献者角色;支持通过 Claude 自动执行评论内容或样式的更新。
AWS 团队以开源多智能体数据分析方案 Deep Insight 为参考实现,把生产级 AI 智能体的上下文工程拆成四层:多智能体架构隔离上下文、用提示词限制输出、把重内容外置到文件系统、用验证智能体与兜底机制把关。
推荐理由: AWS 团队把上下文工程拆成四层,并给出开源参考实现中的具体代码与 token 节省数据,可直接对照改造自家 Agent。
NVIDIA NeMo 可将生产中的智能体失败转化为优先级问题,并生成定制化评估,帮助改进提示词、工具、模型、内存、技能及代码。当为特定领域构建智能体时,通用的基准分数可能无法解释其失败原因,例如智能体可能选择错误工具、遵循错误工作流分支、遗漏相关上下文或使用不必要的高成本模型。
AI 是否让软件开发更快?交付速度不是生产力,而是价值产出与成本的比值。由于软件交付物无标准化,代码行数和 PR 数等指标不可靠,且估算不准确,测量交付速度需比较团队自身前后表现。通过随机对照试验,交替进行使用 AI 和未使用 AI 的任务,可减少其他流程改进的干扰,从而更准确地评估 AI 对交付速度的实际影响。
Cohere的Embed 5和Rerank 5已在OpenRouter上线,可通过单一API在几十行Python代码中构建工作流。Embed 5 Pro和Fast共享嵌入空间,Pro用于索引质量、Fast用于查询延迟,Rerank 5分数跨查询和领域校准。
开源项目 Megler 在 Windows 10 Mobile 15063 及更高版本上运行 Android 应用,无需子系统。