AI 情报

· 42 条 · 北京时间

  1. 腾讯首席AI科学家姚顺雨称AI将能造生物武器,主张开源闭源取中间路线

    议题

    据南华早报报道,腾讯首席AI科学家姚顺雨(Vinces Yao Shunyu)警告AI很快将具备开发生物武器的能力,认为全开源与全闭源都无法单独解决该问题,主张混合路线以便各方都能用于防御。他以Hugging Face安全事件为例:Claude因安全过滤拒绝分析攻击命令,平台改用开源模型GLM-5.2解析日志;但报道指出GLM-5.2仅用于事后取证,攻击实际靠打补丁和更换凭证阻止。

    展开详情

    腾讯称即将发布的开放权重模型Hy4生物能力低于高风险阈值,并通过过滤训练数据去除黑客能力。

    尚未明确:Hy4尚未发布,其安全报告与生物能力评估未经第三方验证;过滤训练数据能否真正抵御abliteration仅为研究者说法;姚顺雨关于生物武器时间表的判断属个人观点,无具体依据。

  2. 作者称:n8n 用户实测 50 个 B2B 域名:补充四类 ATS JSON 端点可多识别 35% 在招公司

    实践

    Reddit r/n8n 用户称,在 n8n 中于 Clay/Firecrawl 前加确定性 HTTP/ATS 预筛节点,用零鉴权 JSON 端点判断公司是否在招。其称另一开发者提供 50 个数周前人工确认在招工程师的 B2B 域名,实测 20 个仍在招(321 个岗位,165+ 工程岗),22 个已关闭;并称若不补充二级 ATS 端点与自定义 /careers 发现,35% 活跃公司会被漏掉。

    展开详情

    帖中给出 Pinpoint HQ、BambooHR、BreezyHR、Rippling ATS 四类端点格式及示例公司岗位数,工作流 JSON 在 GitHub 仓库。以上均为作者自述,未独立验证。

    尚未明确:50 域名样本与 35% 漏检比例均为作者单方说法,未提供原始数据或复现方法;各端点稳定性、反爬与字段一致性未知;示例公司岗位数为发帖时点快照。

  3. 观点:美议员提法案禁超级智能,AI研究者争论是否该禁递归自我改进

    议题

    YouTube频道TheAIGRID在11月8日视频中梳理:9月23日参议员Sanders与众议员Casar提出《禁止人工超级智能法案》,拟禁止开发部署超级智能、暂停先进AI开发直至新联邦监管机构定规,违规个人最高20年监禁、公司面临所谓“企业死刑”。作者称中期选举后民主党拿下两院,部分议员主张将其列为优先议程。视频还引用METR对Anthropic的评估称其模型改进速度约为此前两倍、约80%提速可能来自AI,并讨论“禁RSI”呼声。

    展开详情

    以上多为作者转述与二手引用,法案能否通过作者判断可能性不高。

    尚未明确:法案文本细节、定义阈值与通过概率均未独立核实;METR报告中Anthropic大量证据被涂黑,关键数字无法公开查验;视频引用的民调、议员表态与社交媒体帖子多为转述,未逐一核对原文;Anthropic“Model 4”未公开发布。

  4. Mintigate 发布离线演示:为编码代理加审批边界与哈希审计

    模型与工具

    作者在 GitHub 发布 mintigate-demo,一个离线、无依赖的 Node.js 演示,用模拟代理对合成文件提出三项固定改动:范围内修改被应用、受保护文件转为等待人工审批、范围外修改被拒绝,每项决策记录改动前后 SHA-256 并生成报告。作者称思路是在 LLM 与代理操作之间加确定性控制层,按预设规则放行、待批或拒绝。README 明确该演示不调用模型、不接入真实仓库,也不含其专有 Runtime。

    补充信息

    尚未明确:专有 Mintigate Runtime 的实际规则表达能力、与 Claude Code 等真实代理的集成方式、误拦与漏拦表现均未公开;演示仅覆盖三个固定场景,无性能或安全评测数据。

  5. METR 评估称 Anthropic 内部 AI 研发加速约八成归因于 AI 自身

    议题

    Matthew Berman 解读 METR 于 2026 年 10 月发布的《Anthropic AI 研发加速独立评估》。METR 派驻约 2.5 名全职人员,获准接触 Anthropic 内部系统与研究人员,结论称 Anthropic 在明确任务上的模型能力提升速度约为 2024 年 3 月至 2025 年 10 月历史速率的两倍,区间约 1.3 至 3 倍,并估计当前加速约 80% 可归因于 AI 自身。

    展开详情

    METR 称未发现未来 12 个月内会显著阻碍这一复合加速的瓶颈。需注意:Anthropic 可单方面批准或拒绝访问、审阅发布内容,并在项目中途撤销算力分配核查;该评估并非 Anthropic 此前承诺的员工级访问项目。以上为视频转述,未独立核实原报告。

    尚未明确:METR 原报告的具体方法与数据未在材料中完整呈现;算力分配核查被撤销、部分瓶颈分析被 Anthropic 删改,结论独立性受限;80% 归因与 1.3 至 3 倍区间为估计值;视频中提及的 Opus 4.5、Mythos 等模型名称与时间线未经官方材料确认。

  6. 前Meta工程师称AI写码致代码库脆弱:测试浅、事故多、恢复慢

    议题

    Evan X. Merz 在个人博客发文,称自己在 Meta 任职后期至少90%代码由AI生成,仍因对AI编码工具接受度较低被裁;现就职另一大型科技公司,已按公司期望100%用AI写码。他基于个人观察提出AI导致代码库脆弱的四点:测试浅、代码过度复杂、开发者理解下降、评审速度过快;并列出事故增多、恢复变慢、错误只对用户可见、体验变差四个征兆。全文为作者个人观点与推测,未提供数据或案例。

    补充信息

    尚未明确:作者对裁员原因的归因是个人推测;四点问题与四个征兆均无量化数据或具体案例支撑;未说明所在公司、团队规模与事故统计口径。

  7. Anthropic 公布 Claude 参与六个药企研发项目,称部分早期结果优于标准方案

    实践

    Anthropic 于 2026 年 10 月 27 日发布研究进展,称过去数月与 BigHat、BMS、Divergence、Enveda、Generate、The Column Group 六家机构合作,并自建罕见儿童肌营养不良药物项目。

    展开详情

    文中列举:Generate 用 Claude Code 设计出缩短约 70% 的 CAR-T 构件,实验室测试中受体数量约增 10 倍;Divergence 一个月内生成约 3.5 万条抗体设计并筛出结合与剥离 IgE 的候选;Enveda 称 Claude 在 1061 页文档中查出人工漏掉的 7 个问题,人工复核时间从 25 小时以上降至 3 小时以内。以上均为公司自述与合作方技术报告,尚属临床前阶段。

    尚未明确:所有结果均为临床前、由合作方自报,未经独立复现;药物能否进入人体试验并有效尚需多年验证;Anthropic 称最早 2028 年底才可能启动临床试验;Enveda 的 89% 复核时间降幅基于其内部流程,未说明样本代表性。

  8. 作者称:n8n 社区分享 James Brown 无数据库比价模板,用静态数据存价格并推 Telegram 提醒

    实践

    Reddit r/n8n 用户转述 James Brown 于 2026 年 10 月在 n8n.io 发布的模板:每小时抓取一次商品页,用 CSS 选择器提取价格,与工作流静态数据中保存的上次价格比较,变化时通过 Telegram 推送旧价、新价、涨跌幅和链接;可开启只报降价。作者称无需数据库和付费服务,但 JavaScript 渲染价格或拦截爬虫的页面需另做处理,视频为摆拍回放而非实跑。

    补充信息

    尚未明确:静态数据在多次运行、工作流重发布或实例迁移后是否稳定保留未说明;模板实际运行效果、抓取成功率与反爬应对均无实测数据;视频为回放,未展示真实运行。

  9. Anthropic 文档称:提示中声明代码归属可让 Claude Fable 5.2 更愿重构

    实践

    Simon Willison 摘录 Anthropic 文档《Prompting Claude Fable 5.2》:在小型编码任务测试中,若提示未提代码归属或把代码库说成他人的,模型倾向在现有结构上追加,即使重复已有代码;若写明“这个代码库是你的,用途和构建方式由你决定,你会继续在其上开发”,模型约一半尝试会合并重复代码,无此句时不到十分之一。以上为 Anthropic 自述测试结果,经 Willison 转引,非独立复现。

    补充信息

    尚未明确:Anthropic 未说明测试任务规模、样本量与判定标准;该效果是否在其他模型、更大代码库或真实项目中成立未知;Willison 仅为转引,未做独立实测。

  10. IndyDevDan 演示 Tiny Software Factory 第二课:三步把空模板变成常驻分析代理

    实践

    IndyDevDan 发布 Tiny Software Factories 第二课,演示把空模板工厂挂载进一个模拟 prompt-to-image 应用 Hues,经 initialize、configure、specialize 三步,用一份约150行计划把它配置成产品分析代理。

    展开详情

    作者称该模板新增14项功能,包括轻量模型汇总工具调用、带独立模型档位与时间/花费预算的子代理、代理可操作全部界面设置的 agentic access parity。作者提出 liquid software 概念,主张工程师从 in the loop 转向 near the loop。以上为作者演示与说法,未独立实测。

    尚未明确:视频为作者自述演示,未提供第三方复现或性能数据;模板是否开源、获取方式与许可不明;14项功能与预算上限的实际效果未验证;near the loop 的收益说法无量化证据。

整理于 2026-11-10 18:50(北京时间) · 部分来源暂未获取