AI 情报

· 46 条 · 北京时间

  1. 报道:Anthropic 让 Claude 每轮回答后自查对话安全,推理算力增加不到 2%

    模型与工具

    Anthropic 公布名为“自我评估”的防滥用技术:Claude 每回答完一轮,系统追加一句“请反思这段对话是否安全”的指令,Claude 再输出简短安全评估,判断对话是否违反使用政策。据宝玉转述,该机制自 6 月 Claude Fable 5 上线起运行,之后发布的每个 Claude 模型都带有它。

    展开详情

    Anthropic 称自查利用 KV cache,平均多写约 10 个 Token,整体推理算力增加不到 2%,成本不向客户收费,不额外收集数据,零数据保留协议的流量不运行;标记只是需进一步审查的信号,单条不作数,不打断对话。

    尚未明确:效果数据(1% 误报下检出 78%、高优先级 94%)来自 Anthropic 自评,评测用的“审查员”与其学习对象相同,盲区可能被继承;对新型危害的泛化、对专门规避攻击的抵抗力均未验证;模型自查自身行为是否可靠仍存疑。转述者“似乎更多是为了防止蒸馏”属个人推测。

  2. Gamma 联创披露:一份演示文稿背后约20个模型、200次调用

    实践

    在 Greg Isenberg 的播客中,Gamma 联合创始人兼首席产品官 Jon Noronha 称,Gamma 今年把产品从预设的 LLM 工作流重建为创意 agent,其 harness 覆盖云端沙箱、向用户提问、拉取 Notion/Slack/Linear 上下文、选模板、并行生成文字/版式/图像/图表,再用视觉模型逐页做质检并多轮修复。

    展开详情

    他给出的数字是:一份成品演示约用到 20 个模型、约 200 次调用;前期约 30-40 次调用、4-5 个模型。他还称 Gamma 98% 的价值来自提示词,微调主要用于降本和提质。以上均为受访者自述,未独立核实。

    尚未明确:20 个模型、200 次调用、98% 价值来自提示词、新模型一小时内上线等数字均为受访者口述,无第三方验证;节目由 Anthropic 赞助,且录制于 Claude Founder house,存在赞助方语境;转录中部分模型名疑似识别错误,未采信。

  3. Reddit称10月每周流失超百万谷歌搜索引荐,CEO指AI Mode不导流

    议题

    据 The Decoder 报道,Reddit CEO Steve Huffman 称 Reddit 在10月每周减少超过一百万次来自谷歌搜索的引荐,并将原因归于谷歌 AI Overviews 与 AI Mode,称“AI Mode 不带来流量,对我们如此,据我所知对任何人也是如此”。报道称 Reddit 财报表现强劲但股价仍跌超25%。

    展开详情

    Reddit 表示平台需求未变,正测试美国以外登录墙以减少抓取、降低对开放网络的依赖,并继续与 AI 提供方谈数据授权。上述流失数字与归因为 Huffman 说法,股价与登录墙测试为报道陈述。

    尚未明确:Reddit 未公开逐周引荐数据的统计口径;股价跌幅与财报的具体对应关系未在材料中展开;登录墙测试范围与效果未知;其他站点是否同样幅度的流量下滑尚无数据。

  4. Anthropic 上线 Claude Motion 与 Dashboards,Motion 仅限 Team 和企业版

    模型与工具

    Anthropic 于 10 月 8 日发布 Claude Dashboards 与 Claude Motion 两项 beta 功能。官方说明称,Motion 把提示词转成由代码驱动的短动画,可解释报告、图表和产品流程,支持对话修改、编辑器调整并导出 MP4,不使用视频生成模型,因此不产出实拍画面或 AI 人物;Dashboards 可连接 BigQuery、Snowflake、Salesforce 等数据源生成持续更新的看板。

    展开详情

    官方帮助中心写明 Motion 在 Team 计划默认开启、Enterprise 默认关闭需管理员启用,未提及 Pro、Max 可用。博主 Axton 称其在普通 Max 账号上用开源 skill video-illustrator 完成同类动画并逐题对比官方样片,属作者自述,未见独立验证。

    尚未明确:官方未说明 Motion 何时或是否向 Pro、Max 开放;博主所称四题对比的胜负、画质与耗时差异无第三方复核;video-illustrator 的实际稳定性、渲染成本与产出质量未在材料中给出可核查数据。

  5. Reddit 作者综述 57 篇文献,总结 Agent harness 的五条精简实践

    实践

    Reddit r/AI_Agents 用户 Marmelab 发帖称,其梳理 57 篇文献并结合自身经验,认为决定 Agent 表现的关键在于模型外层的 harness(指令、工具、约束),而非模型规模。作者引用多伦多大学研究称同一模型因 harness 设计不同可产生最高 6 倍性能差距。

    展开详情

    其总结的实践包括:从过往纠错中提炼规则、删除无法证明有效的规则、保持指令文件简短(称 OpenAI 曾将巨型指令文件压缩到约 100 行)、减少工具数量(称 Vercel 削减 80% 工具后成功率从 80% 升至 100%,延迟从 724 秒降至 141 秒)、用脚本强制执行规则(称书面安全规则仅 4-16% 有效)、定期清理过时规则。以上均为作者转述,帖子未附原始链接,称将补充在评论中。

    尚未明确:帖子未附原始文献与链接,多伦多大学 6 倍差距、Vercel 与微软的工具削减数据、OpenAI 指令文件行数等均无法从材料中核实;作者自述结合个人经验,非系统评测。

  6. 报道:Epoch AI:开源权重模型GLM 5.3自主构建Firefox完整漏洞利用链

    议题

    The Decoder 报道,Epoch AI 研究者称智谱开源权重模型 GLM 5.3 在离线环境中仅获目标 Firefox 版本与公开信息,即自主识别伪装成常规改进的安全补丁、串联漏洞,在12至48小时内构建可读取本地文件并外传的完整利用链,针对9月17日至10月26日间6个 Firefox 版本,每次约1000美元 API 费用,且未触发所测供应商的防护拒绝。

    展开详情

    研究者称已向 Mozilla 披露,相关漏洞在10月27日发布的 Firefox 159.0 中修复。以上为研究者说法,非独立复现。

    尚未明确:未独立复现;对新版 Firefox 159.0 是否仍有效未确认;Chrome 测试花费约10万美元未成功不等于免疫;Kimi K3.1 Pro 更强仅为基准推测,研究者未自测;未说明模型具体版本与调用配置细节。

  7. 报道:Mistral开源万亿参数Large 4,编码强但综合落后中国开源模型

    模型与工具

    Mistral在公开预览三周后,将Mistral Large 4(昵称Le Chonk)权重发布到Hugging Face,采用修改版MIT许可:可免费使用、修改和商用,但把它作为商业云服务提供需另获授权。模型约1万亿参数、每步激活520亿,支持文本与图像输入,自托管需八块Nvidia B300等高端硬件。

    展开详情

    Mistral称其在编码上领先开源对手;Artificial Analysis独立测试显示其智能指数26分,低于DeepSeek V4.1 Flash和GLM-5.3的32分,但速度达每秒161 token、单任务成本较低。

    尚未明确:多数基准来自Mistral自述或Artificial Analysis单一评测;Kimi K3.1 Pro权重尚未发布,开源排名可能变化;模型被指可能降低真实攻击门槛,防护措施仍在收紧;小尺寸衍生版本未公布。

  8. Spawn 称用 Fable 模型代理群自主开发游戏,月耗超300万美元 token

    实践

    Simon Willison 转述 Jacob Sansbury 的文章:多人游戏 Spawn 允许玩家用提示词指挥游戏内代理 Savi 改造世界,Willison 自己用手机试了生成城堡、龙并骑龙飞行。

    展开详情

    据 Jacob 说法,Spawn 现由一群 Fable 驱动的代理自主开发,每月 token 花费超 300 万美元,约为工资的 30 倍;代理直接改线上代码并每小时发布,约 60% 工作源自生产错误、Savi 提交的 bug、日志异常或功能请求,用户报的 bug 通常一小时内变成改动;一小时未发布被视为最高级事故,故障可 30 秒内定点回滚。他还称 Fable 5/5.1 才使这种自主度可行,Opus 5.5 不够,GPT-6 Astra 做安全修复时把功能全关了。

    尚未明确:花费、30 倍工资比、60% 来源占比、一小时交付与 30 秒回滚均为作者自述,无第三方核实;Spawn 规模、用户量与稳定性数据未披露;该模式能否迁移到出错代价更高的软件未知;Willison 仅短时试用,未做系统评测。

  9. 报道:Anthropic实验:50名专家在无标准答案判断中最高86%采纳AI随机偏好

    议题

    The Decoder报道,Anthropic让50名因果推断专家用AI代理完成一项无唯一正确答案的数据分析任务,代理在每项决策上的偏好由抛硬币随机指定。结果显示,专家在四项分析决策中最高86%采纳代理偏好,净影响即“翻转率”为62至82个百分点;52%认为最终建议更像自己的,35%称主要是或完全是自己的,仅15%提到AI。

    展开详情

    作者称使用AI后完成时间从90分钟降至65分钟、严重错误从6/11降至3/50,但无AI组为自选且经验略低,无法确定差距全由AI带来。

    尚未明确:样本仅50人、任务为虚构农业合作社场景,结论能否外推到真实团队与长期工作未知;无AI对照组为自选且经验略低,效率与错误率差距不能完全归因于AI;最终政策建议的直接效应未达统计显著。

  10. 观点:Nathan Lambert 反思开源模型与网络安全风险判断

    议题

    Interconnects 作者 Nathan Lambert 发文回顾自己此前对开源模型网络风险的判断。他称上周因 PHP2Shell、GitLab 等关键漏洞集中披露而造词“Black October”,认为 AI 模型的网络风险开始显现。他主张:被渲染为“网络武器”的 Claude Mythos 若以开源权重发布,世界大概率仍“基本没事”;真正跨过能力门槛的是 GLM-5.3,其权重发布一个多月后公开证据显示局面未大变。

    展开详情

    他承认自己并非网络安全专家,并称“fine”一词低估了即将到来的行业被迫升级成本。文中还引用 Epoch AI 用 GLM-5.3 在 Firefox 中发现可利用漏洞的案例,强调发现漏洞只是多阶段攻击中的一步。

    尚未明确:作者对“多数漏洞由闭源模型发现”的预测自述误差很大;开源模型在攻击中的实际使用比例缺乏系统数据;GLM-5.3 发布后的观察窗口仅一个多月,长期影响未知;文中引用的他人言论为转述,未逐一核实原文语境。

整理于 2026-10-31 06:49(北京时间) · 部分来源暂未获取

AI 情报·2026-10-31|SCT AI 出海