AI 情报

· 56 条 · 北京时间

  1. Anthropic开源FlashProve:用zkSNARK证明回答出自指定模型

    模型与工具

    Anthropic 11月2日发布研究博客,推出可验证推理原型 FlashProve,并开源代码、Lean 形式化证明与文档(Apache 2.0)。其思路是:模型方先对权重做承诺,再为每次回答生成 zkSNARK 证明,用户无需权重、只需少量算力即可核验回答确由该承诺模型生成,且证明不泄露权重。

    展开详情

    官方称在 Llama 4 Maverick(400B MoE、4-bit 量化)上,单张 H100 约 110 tokens/秒生成证明,每 1024 token 请求证明约 19MB,GPU 耗时约为 vLLM 直接推理的 70-95 倍,远快于此前开源方案。官方定位为中间进展而非完成品。

    尚未明确:官方未给出端到端延迟、成本与生产部署方案;70-95 倍开销对实时应用是否可接受未知;仅覆盖 MoE 模型与特定量化设置,通用性待验证;证明只保证“是该权重模型产出”,不保证输出安全或硬件未被用于训练;Lean 证明覆盖范围有限。

  2. 作者称:Reddit 用户用 Claude Code 与 Codex 各跑 216 次浏览器任务,脚本耗时远低于智能体

    实践

    一名 Reddit 用户在 r/AI_Agents 发帖称,他让 Claude Code(Opus 5.5)和 Codex(GPT 6 Astra)在同一个业务 Web 应用里完成同一套操作:选部门、在新标签打开报告、读取 500 行并保存、关标签返回首页。

    展开详情

    他测试 agent-browser、Playwright、Chrome DevTools 三种工具,每种分别用 CLI 带技能、CLI 不带技能、MCP 三种接入方式,各 12 次,共 216 次全部通过。作者称按 token 与耗时中位数比较,最优工具随智能体不同;Claude Code 写出的 CDP Python 脚本中位 1.5 秒,远快于最快智能体运行的 59 秒(不含写脚本时间)。以上均为作者自述,未独立复核。

    尚未明确:仅一个私有 Web 应用、固定版本、单一任务,无法复现;每个模型只跑在一种 harness 中,模型与 harness 效果无法分离;成本按 API 标价估算,与订阅实际计费不同;各行中位数取自不同运行,非同一次运行数据;脚本耗时不含编写时间。

  3. OpenAI 与 Anthropic 因 AI 写码量激增各自重建代码托管后端

    议题

    OpenAI 11 月 2 日发文介绍 Pando,一套自研 Git 服务器后端,工程师和 agent 仍用 git push/pull,只换服务器;官方称推送中位等待缩短约 80%,每天分发近 1PB 代码数据。Anthropic 10 月 13 日发文介绍自研版本控制系统 Scion,已用五个月把 monorepo 从 git 全量迁走,提交与合并都在服务器完成,配套自写代码审查工具 Antique 和代码搜索。

    展开详情

    Anthropic 称服务器 CPU 与内存占用为原 Git 镜像的 1/200,CI 拉代码从分钟级降到秒级。两家均称系统主要由 AI 写代码完成,且都不对外提供。

    尚未明确:两家数据均为公司自述,无第三方复现;Pando 何时、以何种形式对外开放未定;Scion 明确只适合巨型 monorepo,其他团队能否借鉴未验证;Anthropic 预计 6 至 12 个月问题更普遍,属其判断而非事实。

  4. MIT CSAIL 研究者称 GPT-6 Astra 直接改 Qwen3.5-0.8B 权重,数学正确率提升约6倍

    模型与工具

    MIT CSAIL 四位研究者 11 月 2 日发布博客,提出“权重空间编程”:把模型原始权重交给通用大模型,让其直接读取和修改,不训练、不算梯度。作者称 GPT-6 Astra 只改动 Qwen3.5-0.8B 约 0.016% 的权重,删掉第 15、19 层中引发重复循环的一个方向,MATH-500 正确率从 7.9% 升至 48.1%。

    展开详情

    该结果依赖允许 Astra 用练习题试跑 50 次,且原模型 93% 回答会陷入循环、起点很低;换到少循环的 Gemma 3 270M 无提升。作者结论是改权重能移除阻碍能力发挥的障碍,但加不出原本没有的能力。结果均为作者自报,尚无独立复现。

    尚未明确:尚无独立复现;0.016% 权重改动与 6 倍提升之间的因果强度未验证;50 次试跑是否构成对测试集的变相利用未说明;从零写网络只在打砖块上大幅超过基线,另两个游戏未超过;Chandan Singh 的类似实验有一个任务因用测试集拟合被判无效。

  5. 观点:论文实测Claude Code的/retro自复盘:7项有效改动仅2项彻底解决问题

    实践

    宝玉转述arXiv论文《How Do Coding-Agent Harnesses Self-Evolve?》,作者为新加坡管理大学Christoph Treude与海德堡大学Sebastian Baltes,10月26日发布。研究用Claude Code(Opus 5.5)在SWE-bench Verified的30个问题上每修完一题运行一次/retro,得到125条建议,其中101条针对真实发生的事。

    展开详情

    挑出12项改动测试,13次测试中仅7次原设置下真碰到目标问题,这7项里只有2项彻底消除问题:SymPy写明用bin/test跑测试、Astropy列出本就失败的测试清单。另有改动在不相关任务上增加额外检查,中位用时从82秒涨到245秒。作者结论:全项目通用信息值得记录,环境特定失败清单换任务易失效。以上为转述,未独立核实。

    尚未明确:每种设置仅跑5次,样本小;测试任务特意挑选会重现问题的场景,可能高估效果;只测一个工具、一个版本/retro,且仅涉及环境类问题;论文原文未在材料中直接读取,数据均来自转述。

  6. 报道:Anthropic 开放驻留研究员申请:非 ML 背景可转行做 AI 安全,年薪 35 万至 50 万美元

    议题

    Anthropic 开放 Anthropic Residency 申请,这是一个付费、有固定期限的全职研究项目,分六周、三个月、六个月三档,面向已在其他技术领域有成绩、想全职转做 AI 安全的人。据宝玉转述,官方点名定量学科教授、技术型创始人、Staff 级工程师三类人,不要求博士学位、机器学习经验或论文发表记录;每人配一名 Anthropic 研究员导师,课题由研究员提出并按兴趣匹配,另配讲座、辅导和算力预算。

    展开详情

    美国岗年薪 35 万至 50 万美元,英国岗 26.5 万至 37.5 万英镑,按实际时长折算。申请截止太平洋时间 11 月 22 日。以上待遇与条件来自转述的官方招聘页,未见独立核实。

    尚未明确:Anthropic 可合法雇佣的具体国家名单未列出;实际录取规模、转正为全职研究岗的比例未知;薪酬区间为招聘页标称,非实际发放统计。

  7. EEVblog 称用 Claude Code 单提示将 121GW 万用表固件反编译为 C 并跑通硬件

    实践

    EEVblog 发布视频与 GitHub 仓库,称用 Claude Code 以单个提示在不到 24 小时内把 121GW 万用表固件逆向为 C 代码,并在真实硬件上测试,蓝牙等功能据其演示仍可用;作者还对比了 Zombu4 的汇编版逆向。这是作者自述的实践演示,非独立复现,视频标题中“12GW”应为 121GW 的笔误。

    补充信息

    尚未明确:逆向代码的完整性、可维护性与法律/授权问题未说明;单提示说法与人工调试各占多少未量化;未独立复现,硬件测试范围有限。

  8. Anthropic在修订版S-1A中称可能即将触及RSI内部阈值

    议题

    TechCrunch报道,Anthropic在修订版S-1A风险因素中新增表述:其内部估算与对未来模型的预期(而非当前模型)显示,公司可能即将满足负责任扩展政策中对“由AI带来的显著加速进展”的定义,但尚未将任何现有模型认定超过该阈值。文件同时称,过去曾出现模型能力跃升未被及时识别的情况,并承诺在可预见未来保留人类对前沿模型研发的监督。TechCrunch指出,S-1兼具披露与营销功能,相关说法尚属公司自述。

    补充信息

    尚未明确:Anthropic未公开其RSI阈值的具体量化标准,也未说明内部估算依据;尚无第三方验证其“接近RSI”的判断;该表述出现在IPO申报文件中,披露动机与营销成分难以区分。

  9. RAGFlow 团队论文称检索瓶颈在 Agent Harness 而非索引结构

    模型与工具

    X 用户 Yuu 转述 RAGFlow 团队新论文《Context as Infrastructure》,核心主张是「检索首先是 Agent Harness 的问题,其次才是索引的问题」。

    展开详情

    据其转述,实验仅用 BM25/grep 配合可自主查询、阅读并调整检索策略的 Agent Harness,在 BrowseComp-Plus 和 FRAMES 上分别取得 85% 和 91% 准确率,无需 Embedding 或预建知识图谱;FRAMES 中额外引入复杂知识结构未带来可检测的准确率提升,但作者称可显著减少检索 Token 消耗。作者同时介绍自家开源项目 Obelisk,用 SQLite FTS5 索引原始对话与工具调用记录,主张原始历史应作为事实来源。以上均为转述者说法,论文原文未在材料中呈现。

    尚未明确:论文原文未读,实验设置、基线对比与复现条件未知;85%/91% 的具体评测口径与是否同条件对比不明;Token 节省幅度未给出;Obelisk 为作者自研项目,相关评价带立场。

  10. 报道:斯坦福研究:50条被广泛引用的LLM结论中44%已失效,平均寿命15.7个月

    议题

    The Decoder 报道,斯坦福研究者 Owen Queen 与 James Zou 用8家开发者2024年7月至2026年9月发布的20个模型,复测50条被广泛引用的LLM研究结论:44%已失效,34%明显减弱,仅16%仍成立、6%反而增强;22条有估算失效期的结论平均寿命15.7个月。关于模型"做不到什么"的结论失效最快,9条推理类结论全部退化。

    展开详情

    案例中GPT-3.5曾编造55%参考文献,GPT-6.1 Sol为0%、Claude Sonnet 5.5为1%,但Qwen3.7-Flash仍达69%。作者建议把结论标注为特定模型、特定时点的观察。

    尚未明确:研究为预印本式项目页面,未见同行评审说明;50条结论的选取标准、失效判定阈值与统计方法细节未在报道中展开;15.7个月仅基于22条有估算失效期的结论。

整理于 2026-11-04 06:49(北京时间) · 部分来源暂未获取