AI · AI Times

从一条提醒开始：一个会自我进化的投资跟踪系统

Wed, 19 Aug 2026 10:50:02 +0800

一、起点：一个被遗忘成本困扰的场景

故事的起点很具体。我经常看到一些宏观分析或个股研判——逻辑严密、数据翔实，当下深以为然，甚至据此做了操作。但这类判断的验证周期往往是三个月、半年。等到该复盘的那天，问题不是”忘了看”，而是忘了当初为什么信它。

第一版的解法很直觉：做个微信小程序，把观点、计划、复盘日期记下来，到期提醒。一天就写完了，深色金融风，本地存储，能跑。

但它很快暴露了一个根本性的错误假设。

二、转折：时间不是触发器，条件才是

那天我把一份 AI 生成的《海螺水泥圆桌报告》丢进这个还很稚嫩的系统。报告写的是典型的左侧潜伏逻辑：0.48 倍 PB 的破净现金奶牛，拐点前奏已现，但确认键是”放量站回 BOLL 中轨 17.89″，作废键是”跌破 52 周低点 16.17″。

我对着自己的”三个月后提醒复盘”愣住了：17.89 可能第 20 天就站上，16.17 可能第 45 天就跌破——等到复盘日再看，机会和风险都已成历史。投资场景的提醒，本质不是日历事件，而是条件事件。

这次认知升级凝成了一句话，后来写进了 README 的开头：时间是兜底，条件才是触发器；观察是节奏，复盘是闭环。

系统随之重构。每个跟踪项从”一段文字+一个日期”变成了一组可判定的条件：确认条件（全部达成=观点被验证）、作废条件（任一触发=逻辑被证伪）、最终期限（什么都没发生时的兜底）。状态机从”跟踪中→到期→复盘”变成了真正的决策流。

三、抽象：给”盯盘语言”立法

接下来的问题是：条件要如何被机器执行？

“站回 17.89″好办，拉个行情接口比较一下就行。但报告里还有”KDJ 极端超卖”、”主力 10/20 日流向转正”、”北向持仓变化”——有些是指标，有些是资金数据，有些根本没有公开接口。

我做了一个关键的产品决策：不追求全自动的乌托邦，而是给条件建立类型系统。能量化的收敛为七种自动类型——价格、涨跌幅、量比、RSI、KDJ、BOLL、MACD，每种有明确的参数和求值器；不能量化的诚实标记为文字条件，在每周打卡时人工核对。技术实现上，RSI、MACD 这些指标并不需要买数据服务，日 K 线拉下来本地几十行代码就能算。

手动不是缺陷，是设计：打卡表单本身就是核对清单，”资金流向转正了吗？回购还在延续吗？”——系统把”该看什么”结构化地递到你面前。

四、AI 进场：从”我用 AI”到”AI 用文档”

功能越强，录入越重。一份报告要手工拆出七八条条件，这本身就是劝退流程。解法顺理成章：AI 写的报告，让 AI 来拆——拖入报告文件，DeepSeek 直接提取出观点、计划、条件组、关键时间点，预览确认即建项。

但真正有意思的决定藏在实现细节里：条件的类型映射规则没有硬编码在 prompt 里，而是写成了一份独立的手册 rules.md，运行时整体注入给模型。改文档即改 AI 行为——调整规则不需要动代码，写文档就是在编程。

五、闭环：让 AI 告诉我们它缺什么

到这里系统已经能用了，但最有意思的设计出现在下一步。

我意识到一个不对称：报告里的信号千奇百怪，而我的类型系统只有七种。与其等我发现新类型，不如让 AI 自己报告它的能力边界。于是 prompt 里加了一条约定：遇到手册无法表达但理论上可量化的信号，照常降级为文字条件，同时在返回结果里附上”新类型建议”——名字、判定逻辑、报告原文依据。

第二天，系统就给我提了两条需求：”南向资金连续净流入”、”COMEX 商品价格阈值”。我验证数据源、实现求值器、把手册更新。又过了几天，它再提两条：”美元指数阈值”、”港股卖空比例”。再次落地。

闭环就此形成：AI 读报告 → 发现能力缺口 → 提出建议 → 人类实现并更新手册 → AI 下次自动识别。规则手册、AI 提取、求值引擎三者咬合，系统开始自我进化。触发价格、KDJ、美元指数、南向持股、沽空比例——十余种参数指标联动的数据抓取，都是在这条流水线上长出来的。

六、工程现实：那些不在计划内的课

故事里不该只有架构图。一些真实的坑，恰恰是最有信息量的部分：

输入框曾”无法输入”——受控组件每次按键都重渲染，打断了中文输入法的组词；Electron 二进制被 macOS Gatekeeper 当成”恶意软件”——最后靠 postinstall 脚本自动清隔离属性加本地签名解决；南向资金数据同一天有上海、深圳两条通道记录，不合并就会得出荒唐的”净流入”结论；外盘期货的字段是逗号分隔而股票是波浪号——这些在真实数据验证之前，都安静地伪装成”已完成”。

也正是这些坑催生了最后的工程拼图：所有数据源收拢进统一的适配层，每个源带自检，npm run check:sources 一键巡检全部接口，指标算法用合成数据做离线单测。从此接口挂了，是测试先知道，不是我先亏知道。

七、现在它长什么样

一个小程序已经长成了常驻 Mac 菜单栏的桌面应用。托盘图标带着待办角标；后台每 30 分钟扫一遍行情，条件命中就弹系统通知，点开直达详情；每周打卡把”该核对什么”递到手上；复盘页自动摆出当时的观点、条件触发的完整时间线、过程打卡记录，等你写下结论。

而最重要的资产不是代码，是那份 rules.md——一部系统与自己对话用的词典。它还会变厚，因为下一次 AI 再提出新建议时，流水线的每一环都已经就位。

尾声：三点带走的认知

先找到真正的触发器。 最初的时间提醒不是做错了一步，而是认错了问题的本质。值得警惕的永远是”直觉解”。

诚实地区分能与不能。 把可自动化的做到极致，把不能自动化的设计成优雅的人工流程——”全自动”的执念反而产生脆弱系统。

把 AI 放进回路，而不只是放进流程。 用 AI 提取信息是提效；让 AI 参与定义自己的能力边界、让文档成为人机共享的事实源，才是这套系统会进化的原因。

—— 深度跟踪提醒 DeepReminder，从一个提醒需求到一个自进化条件的跟踪复盘系统。

🐙 GitHub Trending Top 10 | 本周最热项目

Wed, 08 Jul 2026 10:01:15 +0800

数据更新时间： 2026年7月8日（本周）

🥇 1️⃣ usestrix/strix 🔒

链接： https://github.com/usestrix/strix

指标	数据
⭐ 总 Star	38,600
📈 本周增长	10,741
🍴 Forks	3,922
💻 语言	Python

简介： 开源 AI 渗透测试工具，帮助发现和修复应用安全漏洞。将 AI 能力引入安全测试流程，自动化识别潜在风险点。

🥈 2️⃣ JuliusBrussee/caveman 🪨

链接： https://github.com/JuliusBrussee/caveman

指标	数据
⭐ 总 Star	86,291
📈 本周增长	8,066
🍴 Forks	4,810
💻 语言	JavaScript

简介： Claude Code 技能包——用”原始人说话”方式压缩 65% 的 token 用量。简单粗暴但极其有效，已成为 AI 编程工具的必备优化。

🥉 3️⃣ Zackriya-Solutions/meetily 🎙️

链接： https://github.com/Zackriya-Solutions/meetily

指标	数据
⭐ 总 Star	20,801
📈 本周增长	7,349
🍴 Forks	2,080
💻 语言	Rust

简介： 隐私优先的 AI 会议助手，基于 Parakeet/Whisper 实现 4 倍速实时转录、说话人分离和 Ollama 摘要。100% 本地处理，无需云端，支持 macOS 和 Windows。

4️⃣ MadsLorentzen/ai-job-search 💼

链接： https://github.com/MadsLorentzen/ai-job-search

指标	数据
⭐ 总 Star	11,121
📈 本周增长	5,363
🍴 Forks	3,710
💻 语言	TypeScript

简介： 基于 Claude Code 的 AI 求职框架。填入个人资料后，AI 自动评估职位、定制简历、撰写求职信并准备面试。

5️⃣ asgeirtj/system_prompts_leaks 🕵️

链接： https://github.com/asgeirtj/system_prompts_leaks

指标	数据
⭐ 总 Star	53,062
📈 本周增长	5,337
🍴 Forks	8,646
💻 语言	JavaScript

简介： 收集各大 AI 产品的系统提示词泄露内容，涵盖 Anthropic Claude、OpenAI GPT、Google Gemini、xAI Grok 等主流模型及开发工具。

6️⃣ diegosouzapw/OmniRoute 🌐

链接： https://github.com/diegosouzapw/OmniRoute

指标	数据
⭐ 总 Star	13,163
📈 本周增长	4,797
🍴 Forks	1,925
💻 语言	TypeScript

简介： 免费 AI 网关：一个端点接入 231+ 提供商（50+ 免费），连接 Claude Code、Codex、Cursor、Cline & Copilot 到免费的 Claude/GPT/Gemini。支持 RTK+Caveman 叠加压缩、智能自动降级。

7️⃣ openai/codex-plugin-cc 🔌

链接： https://github.com/openai/codex-plugin-cc

指标	数据
⭐ 总 Star	26,632
📈 本周增长	4,725
🍴 Forks	1,601
💻 语言	JavaScript

简介： OpenAI 官方出品，让 Claude Code 可以直接调用 Codex 进行代码审查或任务委派。两大 AI 编程工具的强强联合。

8️⃣ hasaneyldrm/exercises-dataset 🏋️

链接： https://github.com/hasaneyldrm/exercises-dataset

指标	数据
⭐ 总 Star	10,751
📈 本周增长	4,950
🍴 Forks	1,209
💻 语言	HTML

简介： 包含 433 个健身动作的综合数据集。每个条目涵盖名称、类别、目标肌群、器械、说明、缩略图和动画视频。

9️⃣ ogulcancelik/herdr 🐂

链接： https://github.com/ogulcancelik/herdr

指标	数据
⭐ 总 Star	13,594
📈 本周增长	4,557
🍴 Forks	790
💻 语言	Rust

简介： 运行在终端中的 AI agent 多路复用器。一个终端统一管理多个 AI agent，提升开发效率。

🔟 xbtlin/ai-berkshire 📊

链接： https://github.com/xbtlin/ai-berkshire

指标	数据
⭐ 总 Star	11,721
📈 本周增长	4,262
🍴 Forks	1,517
💻 语言	Python

简介： AI 时代的伯克希尔——基于 Claude Code/Codex 的价值投资研究框架。融合巴菲特、芒格、段永平、李录四位大师方法论，支持多 Agent 并行对抗分析。

📊 本周趋势分析

趋势方向	说明
🤖 AI 编程工具持续霸榜	Caveman、Codex Plugin、OmniRoute 等编程辅助工具占据半壁江山，AI 辅助编码已进入”精细化优化”阶段
🔐 安全与隐私成为刚需	Strix 渗透测试登顶，Meetily 主打 100% 本地处理，开发者对数据安全和隐私保护的意识显著提升
💰 AI + 垂直场景爆发	求职框架、价值投资研究等项目涌现，AI 正在从通用工具向行业垂直方案快速渗透
🦀 Rust 语言表现亮眼	本周 Top 10 中 Rust 项目占 2 席（Meetily、Herdr），系统级语言在 AI 基础设施中越来越受青睐

🔍 值得关注

Caveman 突破 8.6 万 Star —— 一个简单的 prompt 优化技能，一周狂揽 8,000+ Star，证明了”降低 AI 工具使用成本”是巨大的市场痛点。
OpenAI × Anthropic 破天荒合作 —— codex-plugin-cc 让 Codex 和 Claude Code 互通，标志着 AI 编程工具从”各自为战”走向”生态协作”。
AI 求职框架 Fork 数惊人 —— ai-job-search 一周内 Fork 达 3,710 次，反映出当前就业市场下开发者对 AI 辅助求职的强烈需求。
系统提示词泄露合集持续更新 —— 该仓库已成为 AI 行业研究者的必读资源，涵盖几乎所有主流模型的最新系统提示。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最火项目

Wed, 01 Jul 2026 10:13:11 +0800

数据更新时间： 2026年7月1日（周三）本周累计数据

📊 Top 10 热门项目

1. 🎬 OpenMontage by calesthio

世界首个开源 AI 视频制作系统

总 Star	今日增长	Forks	语言
29,969	+15,353	3,378	Python

12 条流水线、52 个工具、500+ 智能体技能，把你的 AI 编程助手变成完整的视频制作工作室。本周新增 Star 数断层第一，AI 内容创作工具持续爆发。

2. 📱 SimpleX Chat by simplex-chat

首个完全无用户标识符的私有消息网络

总 Star	今日增长	Forks	语言
17,357	+5,995	1,008	Haskell

iOS、Android 和桌面端全覆盖，100% 隐私设计。在隐私意识日益增强的今天，无标识符消息网络正获得越来越多关注。

3. 📐 design.md by google-labs-code

面向编程智能体的视觉身份格式规范

总 Star	今日增长	Forks	语言
23,739	+7,524	1,871	TypeScript

Google Labs 出品，让 AI 编程代理理解持久化设计系统。Agent + Design System 的交叉领域正在兴起。

4. 🧠 Codebase Memory MCP by DeusData

高性能代码智能 MCP 服务器

总 Star	今日增长	Forks	语言
22,914	+10,031	1,665	C

将代码库索引为持久化知识图谱，支持 158 种语言，亚毫秒级查询，Token 消耗降低 99%。MCP 生态持续爆发。

5. 🌐 AI Website Cloner Template by JCodesMore

一条命令用 AI 编程代理克隆任意网站

总 Star	今日增长	Forks	语言
24,013	+5,624	3,408	TypeScript

AI 代码理解能力的直接体现，一键复制网站结构和设计，引发伦理和版权讨论。

6. 🗺️ TREK by mauriceboe

自托管旅行/行程规划器

总 Star	今日增长	Forks	语言
8,606	+2,744	719	TypeScript

实时协作、交互式地图、PWA 支持、SSO、预算管理和打包清单。暑期旅游旺季来临，自托管行程工具需求旺盛。

7. 📈 Daily Stock Analysis by ZhuLinsen

LLM 驱动的多市场股票智能分析系统

总 Star	今日增长	Forks	语言
52,532	+5,806	45,556	Python

多源行情、实时新闻、决策看板与自动推送，支持零成本定时运行。金融+AI 赛道持续热门。

8. 🤖 Orca by stablyai

并行智能体舰队管理平台

总 Star	今日增长	Forks	语言
9,717	+3,311	661	TypeScript

用自有订阅运行任意编程智能体，支持桌面和移动端。多智能体编排正成为基础设施。

9. 🔍 Page Agent by alibaba

JavaScript 页面内 GUI 智能体

总 Star	今日增长	Forks	语言
20,806	+1,591	1,780	TypeScript

阿里出品，用自然语言控制 Web 界面。浏览器内 AI 代理成为新热点。

10. 🔊 Voicebox by jamiepine

开源 AI 语音工作室

总 Star	今日增长	Forks	语言
36,327	+3,336	4,354	TypeScript

声音克隆、语音转文字、语音创建。开源语音 AI 工具正在追赶闭源竞品。

📈 趋势分析

趋势方向	代表项目	关键词
🎬 AI 内容创作	OpenMontage	视频生成、智能体编排
🔐 隐私通信	SimpleX Chat	无标识符、端到端加密
🧠 Agent 记忆/知识图谱	Codebase Memory MCP	MCP、代码索引、RAG
🌐 Web 自动化	Page Agent、AI Website Cloner	GUI Agent、网页克隆
🗣️ 语音 AI	Voicebox	语音克隆、开源语音
📊 金融 AI	Daily Stock Analysis	LLM 分析、自动推送
🤖 多智能体平台	Orca	并行智能体、调度

💡 值得关注

MCP 生态进入深水区 — 从简单工具调用到代码库级知识图谱，MCP 协议正在成为 AI 代理的基础设施标准
AI 内容创作爆发 — OpenMontage 一周 15K+ 星标，从文本到视频，AI 创作工具链日益完整
Agent + Design System 兴起 — Google design.md 规范让 AI 代理能理解设计语言，设计到代码的闭环正在形成
开源语音 AI 加速追赶 — Voicebox 36K+ 星标，开源社区正在缩小与 ElevenLabs 等闭源服务的差距

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026.06.16-06.22)

Wed, 24 Jun 2026 10:02:17 +0800

数据更新时间：2026年6月24日 10:00（北京时间）

🏆 Top 10

1️⃣ calesthio/OpenMontage 🎬

🌍 全球首个开源、Agentic 视频制作系统。12 条流水线、52 种工具、500+ Agent 技能，把你的 AI 编码助手变成完整视频制作工作室。

总 Star	今日增长	Forks	语言
15,846	+9,410	1,880	Python

OpenMontage 将 AI Agent 与视频制作流程深度融合，支持从脚本生成到后期剪辑的全自动化流水线，是 AI 内容创作领域的突破性项目。

2️⃣ DeusData/codebase-memory-mcp 🧠

⚡ 高性能代码智能 MCP 服务器。将代码库索引为持久化知识图谱——平均仓库毫秒级响应。支持 158 种语言、亚毫秒查询、Token 消耗减少 99%。

总 Star	今日增长	Forks	语言
13,016	+8,536	942	C

单个静态二进制文件，零依赖部署，为 AI 编码 Agent 提供代码库级别的长期记忆能力，大幅提升编码助手效率。

3️⃣ Panniantong/Agent-Reach 🌐

👁️ 让你的 AI Agent 拥有全网视野。通过一个 CLI 读取/搜索 Twitter、Reddit、YouTube、GitHub、B站、小红书——零 API 费用。

总 Star	今日增长	Forks	语言
38,672	+6,915	3,064	Python

解决了 AI Agent 最大的痛点：无法访问互联网内容。一个命令即可跨多个平台搜索信息，是 Agent 生态的”基础设施级”工具。

4️⃣ addyosmani/agent-skills 🛠️

📐 面向 AI 编码 Agent 的生产级工程技能集。直接来自 Addy Osmani 的 .claude 目录。

总 Star	今日增长	Forks	语言
65,984	+5,073	7,117	Shell

Google 工程师 Addy Osmani 开源了个人积累的 AI 编码 Agent 最佳实践，涵盖代码审查、架构设计、性能优化等实用技能。

5️⃣ iptv-org/iptv 📺

📡 来自全球各地的公开 IPTV 频道集合。

总 Star	今日增长	Forks	语言
128,013	+4,378	7,045	TypeScript

GitHub 上 Star 最多的 IPTV 项目之一，持续更新全球免费电视频道源，是流媒体爱好者的必备资源。

6️⃣ google-research/timesfm 📈

🔮 TimesFM（时间序列基础模型）是 Google Research 开发的预训练时间序列预测模型。

总 Star	今日增长	Forks	语言
25,322	+4,376	2,409	Python

将 Transformer 架构应用于时间序列预测，在金融、气象、库存管理等多个领域展现出超越传统方法的预测精度。

7️⃣ penpot/penpot 🎨

💡 开源的设计与代码协作工具，设计师和开发者可以无缝协作。

总 Star	今日增长	Forks	语言
53,311	+3,423	3,417	Clojure

Figma 的最佳开源替代品，支持设计系统、原型交互、开发标注等完整设计流程，采用 Clojure 构建。

8️⃣ OpenCut-app/OpenCut ✂️

🎞️ 开源版剪映（CapCut）替代品。

总 Star	今日增长	Forks	语言
59,261	+3,283	6,447	TypeScript

功能丰富的开源视频编辑器，支持多轨道剪辑、特效、字幕等核心功能，是 CapCut 用户的开源选择。

9️⃣ jamiepine/voicebox 🎙️

🗣️ 开源 AI 语音工作室。声音克隆、语音听写、语音创建。

总 Star	今日增长	Forks	语言
33,196	+2,883	4,003	TypeScript

一站式 AI 语音处理平台，支持声音克隆（只需几秒样本）、实时语音转文字、AI 语音生成等功能。

🔟 NVIDIA/SkillSpector 🔒

🛡️ AI Agent 技能安全扫描器。检测漏洞、恶意模式和安全风险。

总 Star	今日增长	Forks	语言
9,878	+2,849	778	Python

随着 AI Agent 生态爆发式增长，技能（Skill）安全成为刚需。NVIDIA 推出的这个扫描器可以自动检测 Agent 插件中的安全隐患。

📊 趋势分析

排名	项目	本周 Star 增长	主要语言	趋势标签
1	OpenMontage	+9,410	Python	🚀 视频AI
2	codebase-memory-mcp	+8,536	C	🧠 代码智能
3	Agent-Reach	+6,915	Python	🌐 Agent基建
4	agent-skills	+5,073	Shell	🛠️ Agent工具
5	iptv	+4,378	TypeScript	📺 流媒体
6	timesfm	+4,376	Python	📈 时间序列
7	penpot	+3,423	Clojure	🎨 设计工具
8	OpenCut	+3,283	TypeScript	✂️ 视频编辑
9	voicebox	+2,883	TypeScript	🎙️ AI语音
10	SkillSpector	+2,849	Python	🔒 AI安全

🔍 值得关注

🎬 AI 视频创作爆发：OpenMontage 和 OpenCut 同时上榜，AI 驱动的视频生产从”能”走向”好用”，开源工具正在追赶商业产品。
🤖 Agent 生态全面升级：codebase-memory-mcp（代码记忆）、Agent-Reach（网络访问）、agent-skills（工程实践）、SkillSpector（安全扫描）——Agent 基础设施正在快速成熟。
🔒 AI 安全受重视：NVIDIA 发布 SkillSpector，标志着 Agent 技能安全从”隐形需求”变成显性问题，安全扫描将成为 Agent 生态的标准配置。
📊 Google 持续输出基础模型：TimesFM 在时间序列预测领域表现亮眼，说明大模型正在向垂直专业领域深度渗透。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目（6.9 – 6.17）

Wed, 17 Jun 2026 10:01:47 +0800

📅 数据更新时间：2026年6月17日（本周）

🏆 Top 10 榜单

1️⃣ addyosmani/agent-skills 🤖

AI 编程代理的工程级技能集，将资深工程师的工作流、质量把关和最佳实践编码为 AI 代理可执行的标准流程，覆盖从需求定义到上线的完整开发生命周期。

📊 指标	数据
⭐ 总 Star	61,307
📈 本周增长	+11,431
🍴 Forks	6,634
💻 语言	Shell

简介： 提供 /spec、/plan、/build、/test、/review、/ship 等 7 个 Slash 命令，对应软件开发全生命周期的标准化流程。每个命令自动激活对应技能，确保 AI 代理在各个开发阶段保持一致的高质量输出。

2️⃣ apple/container 🍎

Apple 官方推出的 Mac 容器工具，使用轻量级虚拟机在 Mac 上创建和运行 Linux 容器，专为 Apple Silicon 芯片优化。

📊 指标	数据
⭐ 总 Star	37,883
📈 本周增长	+10,896
🍴 Forks	1,090
💻 语言	Swift

简介： 基于 Apple Containerization Swift 包构建，支持 OCI 兼容容器镜像的拉取、推送和运行。需 macOS 26 及 Apple Silicon 硬件，是 Apple 在容器生态的重要布局。

3️⃣ chopratejas/headroom 🗜️

LLM 上下文压缩工具，可在输入到达大模型前压缩工具输出、日志、文件和 RAG 块，减少 60-95% Token 消耗且保持回答质量。

📊 指标	数据
⭐ 总 Star	30,107
📈 本周增长	+9,766
🍴 Forks	2,033
💻 语言	Python

简介： 提供库、代理服务器、MCP Server 三种使用方式，直接解决大模型上下文窗口有限和 Token 成本高昂的痛点。

4️⃣ mvanhorn/last30days-skill 🔍

AI 代理研究技能，可跨 Reddit、X、YouTube、Hacker News、Polymarket 等多个平台进行主题调研，并自动合成结构化摘要。

📊 指标	数据
⭐ 总 Star	43,515
📈 本周增长	+7,226
🍴 Forks	3,579
💻 语言	Python

简介： 让 AI 代理具备互联网级信息搜集能力，一次覆盖多个信息源，输出基于事实的综合分析结果。

5️⃣ Panniantong/Agent-Reach 🌐

让 AI 代理拥有”看遍全网”的能力，一个 CLI 即可读取和搜索 Twitter、Reddit、YouTube、GitHub、B站、小红书等平台内容，零 API 费用。

📊 指标	数据
⭐ 总 Star	32,112
📈 本周增长	+6,427
🍴 Forks	2,586
💻 语言	Python

简介： 解决 AI 代理无法直接访问社交和内容平台的问题，通过统一的命令行接口实现全网信息获取。

6️⃣ iptv-org/iptv 📺

全球公开 IPTV 频道集合，汇集来自世界各地的免费电视频道流。

📊 指标	数据
⭐ 总 Star	124,153
📈 本周增长	+6,246
🍴 Forks	6,706
💻 语言	TypeScript

简介： 开源 IPTV 领域的标杆项目，持续维护全球数百个免费频道链接，是 GitHub 上 Star 数最高的媒体类项目之一。

7️⃣ NVIDIA/SkillSpector 🛡️

NVIDIA 出品的 AI 代理技能安全扫描器，可检测漏洞、恶意模式和安全风险。

📊 指标	数据
⭐ 总 Star	7,010
📈 本周增长	+5,190
🍴 Forks	516
💻 语言	Python

简介： 在 AI Agent Skills 生态爆发之际，NVIDIA 率先推出专门针对技能插件的安全审计工具，填补了该领域的安全空白。

8️⃣ lfnovo/open-notebook 📓

Google NotebookLM 的开源替代方案，提供更高的灵活性和更多功能。

📊 指标	数据
⭐ 总 Star	31,134
📈 本周增长	+2,873
🍴 Forks	3,533
💻 语言	TypeScript

简介： 支持多文档分析、知识图谱构建和智能问答，为不愿依赖 Google 生态的用户提供自建知识库的方案。

9️⃣ refactoringhq/tolaria 📚

桌面端 Markdown 知识库管理应用，用于组织和管理你的知识笔记。

📊 指标	数据
⭐ 总 Star	16,547
📈 本周增长	+2,537
🍴 Forks	1,144
💻 语言	TypeScript

简介： 面向个人和小团队的本地知识库工具，支持 Markdown 格式、全文搜索和知识分类管理。

🔟 chatwoot/chatwoot 💬

开源全渠道客服平台，支持实时聊天、邮件工单，是 Intercom、Zendesk 的开源替代品。

📊 指标	数据
⭐ 总 Star	32,065
📈 本周增长	+1,930
🍴 Forks	7,657
💻 语言	Ruby

简介： 成熟的开源客服解决方案，支持网站聊天、WhatsApp、Email、Telegram 等多渠道接入。

📊 趋势分析

排名	项目	本周 ⭐ 增长	增长率
1	addyosmani/agent-skills	+11,431	22.8%
2	apple/container	+10,896	40.4%
3	chopratejas/headroom	+9,766	47.8%
4	mvanhorn/last30days-skill	+7,226	19.9%
5	Panniantong/Agent-Reach	+6,427	25.0%
6	iptv-org/iptv	+6,246	5.3%
7	NVIDIA/SkillSpector	+5,190	287.2%
8	lfnovo/open-notebook	+2,873	10.2%
9	refactoringhq/tolaria	+2,537	18.1%
10	chatwoot/chatwoot	+1,930	6.4%

🔮 值得关注

🤖 AI Agent Skills 生态大爆发 — 本周 Top 10 中有 5 个项目与 AI Agent 技能直接相关（agent-skills、SkillSpector、last30days-skill、Agent-Reach、headroom），标志着 AI 代理从”对话”走向”行动”的趋势正在加速。
🍎 Apple 正式拥抱容器化 — apple/container 一周暴涨 10,896 ⭐（增长率 40.4%），意味着 Apple 正在认真布局 Mac 端的容器生态，这对开发者工作流将产生深远影响。
🛡️ AI 安全成焦点 — NVIDIA/SkillSpector 增长率高达 287%，作为新项目首周即进入 Top 10，反映出业界对 AI 代理安全性的焦虑正在转化为行动。
📺 老牌项目依然强劲 — iptv-org/iptv 总 Star 突破 12.4 万，在成熟项目中依然保持强劲增长，证明了开源社区的持久生命力。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026.06.10)

Wed, 10 Jun 2026 10:01:38 +0800

🐙 GitHub Trending Top 10 | 本周最热项目

数据更新时间：2026年6月10日（本周趋势：6月3日 – 6月10日）

🥇 1. chopratejas/headroom

🔗 https://github.com/chopratejas/headroom

📦 将工具输出、日志、文件和 RAG 分块压缩后再送入 LLM，减少 60-95% token 消耗且不影响回答质量，提供 Library、Proxy、MCP Server 三种集成方式。

指标	数据
⭐ 总 Star	20,637
📈 本周增长	+15,060
🍴 Forks	1,325
💻 语言	Python

简介： 在 LLM 调用前对输入内容进行智能压缩，大幅降低 token 成本。支持作为库、代理服务器和 MCP 服务器集成，适合所有需要控制 API 成本的 AI 应用开发者。

趋势分析：

日期	趋势
本周一	🔥 爆发式增长，单周新增 15,060 星
上周	新上榜项目，从零到两万的飞跃

🥈 2. NousResearch/hermes-agent

🔗 https://github.com/NousResearch/hermes-agent

🤖 NousResearch 推出的”能与你一起成长的 AI Agent”，基于 Hermes 模型的智能体框架，支持个性化训练和持续学习。

指标	数据
⭐ 总 Star	188,888
📈 本周增长	+11,915
🍴 Forks	32,584
💻 语言	Python

简介： 来自知名开源 AI 研究机构 NousResearch 的 Agent 框架，强调”共同成长”的理念——Agent 会根据用户交互持续进化和优化。

趋势分析：

日期	趋势
本周	📈 稳定高速增，社区活跃度极高
上月	从 10 万星突破到接近 19 万星

🥉 3. mvanhorn/last30days-skill

🔗 https://github.com/mvanhorn/last30days-skill

🔍 AI Agent 研究技能：跨 Reddit、X、YouTube、HN、Polymarket 及全网搜索，然后合成结构化摘要，一站式主题调研工具。

指标	数据
⭐ 总 Star	37,458
📈 本周增长	+9,307
🍴 Forks	3,036
💻 语言	Python

简介： 为 AI Agent 打造的”研究助手”技能，自动从多个平台采集信息并生成综合报告，适合需要快速了解某个领域最新动态的开发者。

趋势分析：

日期	趋势
本周	🔥 持续走红，研究自动化需求旺盛
上周	进入 Trending Top 5，引发广泛关注

4️⃣ affaan-m/ECC

🔗 https://github.com/affaan-m/ECC

⚡ Agent 性能优化系统——涵盖 Skills、Instincts、Memory、Security 和 Research-First Development，为 Claude Code、Codex、Cursor 等编码 Agent 提供全方位优化。

指标	数据
⭐ 总 Star	211,936
📈 本周增长	+9,025
🍴 Forks	32,537
💻 语言	JavaScript

简介： 目前 GitHub 上 Star 数最高的 Agent 优化项目之一，提供完整的 Agent 性能调优方案，兼容多个主流编码 AI 工具。

趋势分析：

日期	趋势
本周	📈 持续领跑编码 Agent 优化赛道
上月	突破 20 万星大关，社区贡献活跃

5️⃣ Leonxlnx/taste-skill

🔗 https://github.com/Leonxlnx/taste-skill

✨ 给 AI “好品味”的技能——阻止 AI 生成无聊、通用的内容，让输出更有个性和质量。

指标	数据
⭐ 总 Star	39,608
📈 本周增长	+7,787
🍴 Forks	2,802
💻 语言	Shell

简介： 一个有趣但实用的技能，通过 prompt 工程提升 AI 生成内容的质量和独特性，解决”AI 味太重”的痛点。

趋势分析：

日期	趋势
本周	🔥 社区热议”AI 品味”话题，引发共鸣
上周	首次进入 Trending，迅速攀升

6️⃣ Panniantong/Agent-Reach

🔗 https://github.com/Panniantong/Agent-Reach

🌐 让 AI Agent “看到”整个互联网——通过一个 CLI 工具读取和搜索 Twitter、Reddit、YouTube、GitHub、Bilibili、小红书等平台，零 API 费用。

指标	数据
⭐ 总 Star	25,601
📈 本周增长	+4,361
🍴 Forks	2,129
💻 语言	Python

简介： 一个强大的 Agent 信息获取工具，覆盖主流中外平台，特别适合需要跨平台数据采集的 AI 应用场景。

趋势分析：

日期	趋势
本周	📈 稳步增长，多平台覆盖能力备受青睐
上周	新增 Bilibili 和小红书支持，吸引中文用户

7️⃣ lfnovo/open-notebook

🔗 https://github.com/lfnovo/open-notebook

📓 Notebook LM 的开源替代方案，提供更高灵活性和更多功能，支持多种 AI 模型的笔记管理和知识组织。

指标	数据
⭐ 总 Star	28,597
📈 本周增长	+4,245
🍴 Forks	3,236
💻 语言	TypeScript

简介： 对标 Google Notebook LM 的开源项目，在功能丰富度和模型兼容性上更胜一筹，支持私有化部署。

趋势分析：

日期	趋势
本周	📈 开源笔记工具热度持续上升
上周	Fork 数突破 3000，二次开发活跃

8️⃣ pbakaus/impeccable

🔗 https://github.com/pbakaus/impeccable

🎨 让 AI 编码工具”更懂设计”的设计语言，提升 AI 生成 UI 的审美质量。

指标	数据
⭐ 总 Star	36,819
📈 本周增长	+3,334
🍴 Forks	2,011
💻 语言	JavaScript

简介： 专为 AI 编码工具设计的设计语言系统，通过结构化的设计规范引导 AI 产出更美观的界面。

趋势分析：

日期	趋势
本周	📊 AI + 设计交叉领域持续升温
上周	新增多种 UI 组件规范

9️⃣ can1357/oh-my-pi

🔗 https://github.com/can1357/oh-my-pi

⌨️ 终端里的 AI 编码 Agent——支持哈希锚点编辑、LSP 集成、Python 语言服务、浏览器控制、子代理等功能。

指标	数据
⭐ 总 Star	11,548
📈 本周增长	+1,633
🍴 Forks	971
💻 语言	TypeScript

简介： 一个轻量但功能丰富的终端 AI 编码助手，在终端内实现完整的编码 Agent 体验。

趋势分析：

日期	趋势
本周	🆕 新上榜项目，增长势头良好
上周	首次进入 Trending，社区初建

🔟 Open-LLM-VTuber/Open-LLM-VTuber

🔗 https://github.com/Open-LLM-VTuber/Open-LLM-VTuber

🎭 开源虚拟主播项目——支持免提语音交互、语音打断、Live2D 虚拟形象，跨平台本地运行，可接入任意 LLM。

指标	数据
⭐ 总 Star	10,738
📈 本周增长	+2,642
🍴 Forks	1,247
💻 语言	Python

简介： 将 LLM 变成可以”对话”的虚拟角色，支持语音识别与合成、Live2D 表情驱动，是 AI 虚拟主播/助手的完整解决方案。

趋势分析：

日期	趋势
本周	📈 虚拟人赛道持续火热
上周	新增语音打断功能，体验大幅提升

📊 值得关注

AI Agent 工具链爆发：本周 Top 10 中有 7 个项目与 AI Agent 直接相关，从性能优化（ECC）、token 压缩（headroom）到研究自动化（last30days-skill），Agent 生态正在快速完善。
Token 成本优化成刚需：headroom 以单周 15,060 星的惊人增速登顶，说明随着 LLM 应用规模化，降低 token 消耗已成为开发者最迫切的需求之一。
开源替代方案崛起：open-notebook 作为 Notebook LM 的开源替代项目快速走红，反映出市场对可私有部署、可控的 AI 工具的强烈需求。
”AI + 创意”交叉领域升温：taste-skill 和 impeccable 分别解决 AI 内容的”品味”和”设计”问题，标志着 AI 应用正从功能性向审美性延伸。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目

Wed, 03 Jun 2026 10:01:52 +0800

📅 数据更新时间： 2026-06-03 10:00 (Asia/Shanghai) 📊 统计周期： 2026-05-28 ~ 2026-06-03（本周）

🥇 第 1 名：MoneyPrinterTurbo 🎬

利用 AI 大模型一键生成高清短视频，让每个人都能轻松成为短视频创作者。

总 Star	本周增长	Forks	语言
78,045	⬆️ 18,982	11,085	Python

简介： MoneyPrinterTurbo 是一个基于 AI 大模型的短视频自动化工具，支持一键生成高清短视频。通过整合大语言模型生成文案，配合 TTS 语音合成和视频生成能力，大幅降低了短视频创作门槛。本周以近 1.9 万星的爆发式增长登顶榜单，足见 AI 视频创作工具的市场需求之旺盛。

🔥 趋势分析：

指标	数值	分析
周增长率	32.1%	极高的周增长率，处于爆发期
日均增长	~2,712 星/天	持续高速增长
累计 Fork	11,085	生态活跃度极高

🥈 第 2 名：Understand-Anything 🧠

将任何代码转化为可探索、可搜索、可提问的交互式知识图谱。

总 Star	本周增长	Forks	语言
50,164	⬆️ 15,774	4,089	TypeScript

简介： Understand-Anything 核心理念是”图表教学 > 图表炫技”——它能将任意代码库转换为交互式知识图谱，支持探索、搜索和问答。兼容 Claude Code、Codex、Cursor、Copilot、Gemini CLI 等主流 AI 编程工具。对于需要快速理解大型代码库的开发者来说，这是一个革命性的工具。

🔥 趋势分析：

指标	数值	分析
周增长率	45.8%	爆发式增长，现象级
累计 Star	50,164	已跻身中等体量项目
生态兼容	6+ 主流 AI 工具	平台兼容性强

🥉 第 3 名：markitdown 📝

微软出品的文件与办公文档转 Markdown 工具，格式转换利器。

总 Star	本周增长	Forks	语言
141,248	⬆️ 15,502	9,623	Python

简介： markitdown 是微软开源的 Python 工具，可将各类文件和办公文档转换为 Markdown 格式。支持 PDF、Word、Excel、PowerPoint、图片 OCR 等多种格式。作为 RAG 和 AI 应用开发的基础工具，markitdown 已成为文档预处理的标准选择之一。14 万总 Star 体量仍在高速增，实属难得。

🔥 趋势分析：

指标	数值	分析
累计 Star	141,248	超大体量，仍在高速增长
Fork 数	9,623	社区贡献活跃
定位	基础设施级	已成为行业标准工具之一

🏅 第 4 名：taste-skill ✨

赋予 AI 好品味，告别枯燥乏味的 AI 通用文风。

总 Star	本周增长	Forks	语言
31,817	⬆️ 10,931	2,344	Shell

简介： taste-skill 致力于解决 AI 生成内容的”AI 味”问题——通过一套 Skill 文件让 AI 产出更有个性、更不模板化的文本。它阻止 AI 生成无聊的、千篇一律的内容（slop），是当前”反 AI 通用文风”运动的代表作之一。3.1 万 Star 体量说明开发者对 AI 写作质量提升的需求非常迫切。

🔥 趋势分析：

指标	数值	分析
本周增长	10,931	高热度话题
赛道	AI 写作优化	“反 slop”赛道持续升温
实现方式	Shell/Skill 文件	轻量但有效

🏅 第 5 名：codegraph 🔗

预索引的代码知识图谱，让 AI 编程工具更省 token、更高效。

总 Star	本周增长	Forks	语言
38,054	⬆️ 10,793	2,358	TypeScript

简介： codegraph 提供预索引的代码知识图谱，兼容 Claude Code、Codex、Gemini、Cursor 等主流 AI 编程工具。核心价值是减少 token 消耗、减少工具调用次数，且完全本地运行。与 Understand-Anything 类似但采用预索引策略，适合对性能有极致要求的开发者。

🔥 趋势分析：

指标	数值	分析
本周增长	10,793	知识图谱赛道竞争激烈
差异化	预索引 + 本地运行	与 Understand-Anything 形成互补
语言	TypeScript	前端友好

🏅 第 6 名：ECC ⚡

Agent Harness 性能优化系统，全面提升 Claude Code 等 AI 编程工具的开发效率。

总 Star	本周增长	Forks	语言
204,052	⬆️ 9,910	31,298	JavaScript

简介： ECC 是一个 Agent Harness 性能优化系统，涵盖 Skills、Instincts、Memory、Security 和 Research-first 开发范式。兼容 Claude Code、Codex、Opencode、Cursor 等。20 万总 Star 的体量证明了其作为 AI 编程基础设施的地位，本周近万星的增长仍在持续扩大领先优势。

🔥 趋势分析：

指标	数值	分析
累计 Star	204,052	本周榜单体量最大
Fork 数	31,298	生态极其活跃
地位	AI 编程基础设施	事实上的行业标准

🏅 第 7 名：ai-engineering-from-scratch 📚

从零学习 AI 工程，实战驱动的学习路线图。

总 Star	本周增长	Forks	语言
27,413	⬆️ 7,183	4,448	Python

简介： “学会它，构建它，分享它”——这是一份从零开始学习 AI 工程的完整教程。通过实战驱动的方式帮助开发者系统掌握 AI 工程能力。在 AI 人才需求激增的背景下，高质量的学习资源自然受到追捧。

🔥 趋势分析：

指标	数值	分析
周增长率	35.5%	教育资源类项目增速惊人
定位	实战教程	“做中学”理念
受众	AI 初学者到进阶	覆盖面广

🏅 第 8 名：Anthropic-Cybersecurity-Skills 🛡️

754 项结构化网络安全技能，覆盖 5 大安全框架。

总 Star	本周增长	Forks	语言
13,627	⬆️ 3,755	1,594	Python

简介： 该项目整理了 754 项结构化网络安全技能，映射到 MITRE ATT&CK、NIST CSF 2.0、MITRE ATLAS、D3FEND 和 NIST AI RMF 五大框架。覆盖 26 个安全域，兼容 Claude Code、GitHub Copilot、Codex CLI 等 20+ 平台。Apache 2.0 开源协议，企业级安全标准的 AI 适配。

🔥 趋势分析：

指标	数值	分析
技能数量	754	覆盖面极广
框架覆盖	5 大标准	行业级合规支持
趋势	AI + 安全	交叉领域持续升温

🏅 第 9 名：stop-slop 🚫

一个 Skill 文件，用于消除散文中的 AI 痕迹。

总 Star	本周增长	Forks	语言
8,300	⬆️ 3,470	578	—

简介： stop-slop 是一个专门的 Skill 文件，用于去除文本中的 AI 痕迹（AI tells）。与 taste-skill 类似但更加聚焦——只关注”去 AI 味”这一件事。本周 3,470 星的增长说明开发者对 AI 写作质量的焦虑正在催生一个新赛道。

🔥 趋势分析：

指标	数值	分析
周增长率	71.5%	极高，赛道刚起步
定位	垂直工具	专注去 AI 味
与 taste-skill	同赛道不同侧重	细分差异化

🏅 第 10 名：headroom 📦

压缩 LLM 输入——工具输出、日志、文件和 RAG 块，减少 60-95% 的 token 消耗。

总 Star	本周增长	Forks	语言
6,618	⬆️ 3,002	458	Python

简介： headroom 是一个 LLM 输入压缩工具，能在保持答案质量不变的前提下，将工具输出、日志、文件和 RAG 切片的 token 消耗降低 60-95%。支持 Library、Proxy 和 MCP Server 三种部署模式。在 LLM API 成本仍然高昂的背景下，这类”省钱”工具极具实用价值。

🔥 趋势分析：

指标	数值	分析
压缩率	60-95%	效果显著
部署方式	3 种模式	灵活适配
赛道	Token 优化	降本需求刚性

📊 本周值得关注

AI 编程工具生态大爆发 — 本周 Top 10 中有 7 个项目与 AI 编程工具（Claude Code、Cursor、Codex 等）的生态扩展直接相关，涵盖知识图谱（Understand-Anything、codegraph）、性能优化（ECC）、文档处理（markitdown）、安全技能（Anthropic-Cybersecurity-Skills）等多个方向。AI Agent 开发正在从”尝鲜”走向”工程化”。
”反 AI 通用文风”成为新赛道 — taste-skill（10,931 星）和 stop-slop（3,470 星）同时上榜，说明开发者对 AI 写作质量的关注正在从”能用”升级到”好用”。这是一个值得持续关注的细分方向。
Token 成本优化需求强烈 — headroom（3,002 星增长）和 codegraph 等项目都围绕”减少 token 消耗”展开，反映出随着 AI 应用规模化，成本控制已成为核心痛点。
AI 安全与治理进入主流视野 — Anthropic-Cybersecurity-Skills 和 microsoft/agent-governance-toolkit 等项目表明，AI Agent 的安全与治理正在从学术讨论走向工程实践，企业级合规需求快速增长。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026.05.19-05.27)

Wed, 27 May 2026 10:01:14 +0800

$CONTENT

🐙 GitHub Trending Top 10 | 本周最热项目（2026.05.13 – 05.20）

Wed, 20 May 2026 10:02:37 +0800

数据更新时间： 2026 年 5 月 20 日 10:00（北京时间）

🥇 #1 mattpocock/skills

📎 github.com/mattpocock/skills

描述： 来自 TypeScript 大师 Matt Pocock 的 AI 编程技能包，专为 Claude Code 等编程助手设计的小而精、可组合的技能集合——不是 vibe coding，是真正的工程实践。

总 Star	今日增长	Forks	语言
94,599	19,038	8,331	Shell

简介： 提供了 grill-me（引导式提问）、shared language（统一领域语言）、ADR 文档等实用技能，解决 AI 编程助手最常见的的”理解偏差”和”沟通鸿沟”问题。安装简单，兼容多种 AI 编程工具。

🥈 #2 tinyhumansai/openhuman

📎 github.com/tinyhumansai/openhuman

描述： 你的个人 AI 超级智能——私密、简单、极其强大。开源的桌面级 Agentic 助手。

总 Star	今日增长	Forks	语言
21,416	17,793	1,892	Rust

简介： 拥有桌面吉祥物、Google Meet 参会能力、118+ 第三方集成（Gmail、Notion、GitHub 等自动同步），以及本地优先的记忆树 + Obsidian Wiki 知识库。几周从 3,600 star 飙升至 21,000+，本周绝对黑马。

🥉 #3 CloakHQ/CloakBrowser

📎 github.com/CloakHQ/CloakBrowser

描述： 隐身 Chromium 浏览器，能通过所有 Bot 检测——Playwright 的平替方案，30/30 检测全过。

总 Star	今日增长	Forks	语言
16,669	8,997	1,286	Python

简介： 从源码层修改指纹特征，完美伪装真人浏览行为。对爬虫工程师和自动化测试开发者来说，这可能是最开箱即用的反检测方案。

#4 rohitg00/agentmemory

📎 github.com/rohitg00/agentmemory

描述： AI 编程代理的 #1 持久化记忆方案，基于真实基准测试验证。

总 Star	今日增长	Forks	语言
14,212	8,390	1,183	TypeScript

简介： 解决了 AI Agent 跨会话记忆丢失的核心痛点。提供标准化的持久记忆存储与检索，让 Claude Code、Codex 等工具记住上下文。

#5 ruvnet/RuView

📎 github.com/ruvnet/RuView

描述： 将 commodity WiFi 信号转化为实时空间智能、生命体征监测和存在检测——零摄像头。

总 Star	今日增长	Forks	语言
60,888	8,076	7,947	Rust

简介： WiFi 传感领域的黑科技。利用 WiFi 信号的微小变化来检测人体移动、呼吸频率等，在智能家居、安防、养老场景有巨大想象空间。Star 已突破 6 万，社区热度极高。

#6 Imbad0202/academic-research-skills

📎 github.com/Imbad0202/academic-research-skills

描述： 面向学术研究的 Claude Code 技能包：研究→撰写→审阅→修改→定稿全流程。

总 Star	今日增长	Forks	语言
14,201	7,443	1,336	Python

简介： 将学术研究的标准工作流封装为可复用的 AI 技能，适合研究生、科研人员和学术写作爱好者。从文献调研到论文定稿一条龙。

#7 anthropics/financial-services

📎 github.com/anthropics/financial-services

描述： Anthropic 官方发布的金融服务行业 AI 解决方案参考实现。

总 Star	今日增长	Forks	语言
25,951	4,737	3,605	Python

简介： Anthropic 针对金融场景的 Claude API 最佳实践，覆盖合规、风控、投研等核心场景。企业级用户可直接参考构建自己的金融 AI 应用。

#8 colbymchenry/codegraph

📎 github.com/colbymchenry/codegraph

描述： 为 Claude Code、Codex、Cursor 等工具预索引的代码知识图谱——更少 Token、更少工具调用、100% 本地运行。

总 Star	今日增长	Forks	语言
6,710	4,650	442	TypeScript

简介： 通过预构建代码知识图谱，让 AI 编程助手”理解”代码结构，而非每次重新解析。对大仓库开发尤其有效。

#9 yikart/AiToEarn

📎 github.com/yikart/AiToEarn

描述： 用 AI 赚钱！——AI 驱动的创作与变现平台。

总 Star	今日增长	Forks	语言
15,538	3,926	2,532	TypeScript

简介： 探索 AI 如何帮助个人创作者实现内容变现，涵盖多种 AI 辅助创作模式和变现路径。由中国开发者主导，社区活跃。

#10 oven-sh/bun

📎 github.com/oven-sh/bun

描述： 超快的 JavaScript 运行时、打包器、测试运行器和包管理器——四合一。

总 Star	今日增长	Forks	语言
92,071	2,438	4,609	Rust

简介： Node.js 最有力的竞争者，用 Zig/Rust 重写，启动速度比 Node 快数倍。本周虽只增长 2,400+，但 92,000 的总 Star 量说明其已经是基础设施级别的项目。

📊 趋势分析

排名	项目	周增 Star	总 Star	语言	热度
1	mattpocock/skills	+19,038	94,599	Shell	🔥🔥🔥🔥🔥
2	tinyhumansai/openhuman	+17,793	21,416	Rust	🔥🔥🔥🔥🔥
3	CloakHQ/CloakBrowser	+8,997	16,669	Python	🔥🔥🔥🔥
4	rohitg00/agentmemory	+8,390	14,212	TypeScript	🔥🔥🔥🔥
5	ruvnet/RuView	+8,076	60,888	Rust	🔥🔥🔥🔥
6	academic-research-skills	+7,443	14,201	Python	🔥🔥🔥
7	anthropics/financial-services	+4,737	25,951	Python	🔥🔥🔥
8	colbymchenry/codegraph	+4,650	6,710	TypeScript	🔥🔥🔥
9	yikart/AiToEarn	+3,926	15,538	TypeScript	🔥🔥
10	oven-sh/bun	+2,438	92,071	Rust	🔥🔥

💡 值得关注

AI Agent 工具链全面爆发：本周 Top 10 中有 6 个项目直接与 AI Agent 相关（skills、openhuman、agentmemory、codegraph、academic-research-skills、financial-services），AI 编程生态正在从”尝鲜”走向”工程化”。
Rust 持续强势：4 个 Top 10 项目使用 Rust 编写，从系统级基础设施（bun）到前沿黑科技（RuView）再到个人 AI 助手（openhuman），Rust 正在成为开发者首选。
开源技能包成新范式：mattpocock/skills 以 19,000+ 周增登顶，说明”为 AI 写技能”正在成为一种全新的开源协作模式。
隐私与反检测需求高涨：CloakBrowser 一周近 9,000 增长，反映爬虫/自动化领域对反检测方案的刚性需求。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026-05-13)

Wed, 13 May 2026 10:02:15 +0800

数据更新时间：2026-05-13（本周）

🏆 Top 10 热门项目

1️⃣ Hmbown/DeepSeek-TUI ⭐ +20,835/周

🔗 https://github.com/Hmbown/DeepSeek-TUI

指标	数据
总 Star	26,548
今日增长	+2,977/天
Forks	2,225
语言	Rust

📌 简介： 基于 DeepSeek 模型的终端 AI 编程代理，在终端内直接运行，让开发者无需切换 IDE 即可与 AI 协作编程。Rust 实现保证了高性能和稳定性。

2️⃣ anthropics/financial-services ⭐ +13,176/周

🔗 https://github.com/anthropics/financial-services

指标	数据
总 Star	21,568
今日增长	+1,882/天
Forks	2,900
语言	Python

📌 简介： Anthropic 官方推出的金融服务 AI 工具包，展示了 Claude 在金融分析、风险评估和合规检查中的企业级应用方案。

3️⃣ addyosmani/agent-skills ⭐ +11,791/周

🔗 https://github.com/addyosmani/agent-skills

指标	数据
总 Star	40,414
今日增长	+1,684/天
Forks	4,452
语言	Shell

📌 简介： 由 Google 工程师 Addy Osmani 打造的 AI 编程代理生产级工程技能库，帮助开发者提升 AI Agent 的代码质量和工程实践水平。

4️⃣ ruvnet/ruflo ⭐ +7,088/周

🔗 https://github.com/ruvnet/ruflo

指标	数据
总 Star	49,784
今日增长	+1,013/天
Forks	5,533
语言	TypeScript

📌 简介： 领先的 Claude 多智能体编排平台，支持部署智能多 Agent 集群、协调自主工作流和构建对话式 AI 系统，具备企业级架构、自学习集群智能和 RAG 集成能力。

5️⃣ TauricResearch/TradingAgents ⭐ +5,683/周

🔗 https://github.com/TauricResearch/TradingAgents

指标	数据
总 Star	74,439
今日增长	+812/天
Forks	14,516
语言	Python

📌 简介： 多 Agent LLM 金融交易框架，利用多个大语言模型智能体协同进行金融市场分析和交易决策，是 AI+金融领域的标杆项目。

6️⃣ CloakHQ/CloakBrowser ⭐ +5,488/周

🔗 https://github.com/CloakHQ/CloakBrowser

指标	数据
总 Star	7,958
今日增长	+784/天
Forks	581
语言	Python

📌 简介： 隐身 Chromium 浏览器，可绕过所有机器人检测测试，30/30 项指纹检测全部通过。Playwright 的无缝替代品，适用于自动化测试和数据采集。

7️⃣ decolua/9router ⭐ +5,204/周

🔗 https://github.com/decolua/9router

指标	数据
总 Star	9,387
今日增长	+743/天
Forks	1,445
语言	JavaScript

📌 简介： 无限免费 AI 编程工具——连接 Claude Code、Codex、Cursor、Cline、Copilot 等到 40+ 免费 Claude/GPT/Gemini 提供商，自动回退机制，token 消耗减少 40%。

8️⃣ VectifyAI/PageIndex ⭐ +4,351/周

🔗 https://github.com/VectifyAI/PageIndex

指标	数据
总 Star	30,854
今日增长	+622/天
Forks	2,631
语言	Python

📌 简介： 新一代无向量检索 RAG 方案——PageIndex 基于文档索引实现推理式检索，突破传统向量检索的精度瓶颈，让 AI 对文档的理解更精准。

9️⃣ AIDC-AI/Pixelle-Video ⭐ +4,301/周

🔗 https://github.com/AIDC-AI/Pixelle-Video

指标	数据
总 Star	15,627
今日增长	+614/天
Forks	2,252
语言	Python

📌 简介： 全自动 AI 短视频引擎，从脚本生成、画面合成到字幕配音全流程自动化，是内容创作者的 AI 视频生产利器。

🔟 bytedance/UI-TARS-desktop ⭐ +3,872/周

🔗 https://github.com/bytedance/UI-TARS-desktop

指标	数据
总 Star	33,546
今日增长	+553/天
Forks	3,327
语言	TypeScript

📌 简介： 字节跳动开源的多模态 AI Agent 桌面应用栈，连接前沿 AI 模型与 Agent 基础设施，支持 GUI 操控、多模态理解等场景。

📊 趋势分析

排名	项目	周增长	语言	趋势
1	DeepSeek-TUI	+20,835	Rust	🚀 爆发
2	financial-services	+13,176	Python	🚀 爆发
3	agent-skills	+11,791	Shell	🔥 热门
4	ruflo	+7,088	TypeScript	🔥 热门
5	TradingAgents	+5,683	Python	📈 上升
6	CloakBrowser	+5,488	Python	📈 上升
7	9router	+5,204	JavaScript	📈 上升
8	PageIndex	+4,351	Python	📊 稳定
9	Pixelle-Video	+4,301	Python	📊 稳定
10	UI-TARS-desktop	+3,872	TypeScript	📊 稳定

💡 值得关注

🤖 AI Agent 生态全面爆发：DeepSeek-TUI（终端编程代理）、ruflo（多 Agent 编排）、agent-skills（Agent 工程技能）同时上榜，标志着 AI Agent 从概念走向工程化落地。
💰 AI + 金融持续火热：TradingAgents 总 Star 突破 74K，Anthropic 官方推出 financial-services 工具包，AI 驱动的智能交易和金融服务正在加速渗透。
🛠️ “白嫖” AI 编程工具走红：9router 一周 +5,204 Star，连接 40+ 免费 AI 提供商，反映了开发者对降低 AI 编程成本的强烈需求。
🎬 AI 视频与自动化内容增长迅猛：Pixelle-Video 代表 AI 短视频自动生成方向，与 AI Agent 一起构成本周两大增长极。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目

Wed, 06 May 2026 10:01:41 +0800

📅 数据更新时间：2026年5月6日 10:00（北京时间）

1️⃣ TauricResearch/TradingAgents 🤖💹

Multi-Agents LLM Financial Trading Framework

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
69,396	+14,697	13,386	Python

多智能体 LLM 金融交易框架，利用多个 AI Agent 协同进行金融市场分析与交易决策。本周狂涨近 1.5 万 Star，持续霸榜。

2️⃣ mattpocock/skills 🛠️📋

Skills for Real Engineers

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
61,093	+25,389	5,259	Shell

来自 TypeScript 大佬 Matt Pocock 的 AI 编程技能合集，收录在他的 .claude 目录中。本周暴涨 2.5 万 Star，堪称 AI 时代的”工程师工具包”。

3️⃣ warpdotdev/warp 🚀⌨️

Warp is an agentic development environment, born out of the terminal

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
55,016	+28,493	3,963	Rust

基于 Rust 打造的智能终端开发环境，将 AI Agent 深度融入命令行工作流。本周增长 2.8 万 Star，增速全场第一！

4️⃣ ruvnet/ruflo 🌊🤖

The leading agent orchestration platform for Claude

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
43,761	+9,159	4,869	TypeScript

面向 Claude 的多 Agent 编排平台，支持自主工作流协调、RAG 集成与企业级架构。Agent 编排赛道持续火热。

5️⃣ soxoj/maigret 🕵️‍♂️🔍

Collect a dossier on a person by username from 3000+ sites

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
25,539	+5,645	1,763	Python

通过用户名从 3000+ 网站收集公开信息的 OSINT 工具。安全与隐私话题升温带动关注度持续走高。

6️⃣ Alishahryar1/free-claude-code 🆓💻

Use Claude Code for free in the terminal, VSCode extension or Discord

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
21,636	+4,510	3,133	Python

免费使用 Claude Code 的方案，支持终端、VSCode 扩展及 Discord，还带有语音功能。AI 编程平民化需求旺盛。

7️⃣ virattt/dexter 📊🔬

An autonomous agent for deep financial research

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
23,818	+2,050	2,901	TypeScript

自主深度金融研究 Agent，可进行深度财务分析与投资研究。FinTech + AI 的又一力作。

8️⃣ iamgio/quarkdown 🪐📝

Markdown with superpowers: papers, presentations, websites, books, knowledge bases

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
13,703	+2,055	380	Kotlin

超级 Markdown 工具，可从 Markdown 生成论文、演示文稿、网站、书籍等。Kotlin 编写，文档工作流的利器。

9️⃣ AIDC-AI/Pixelle-Video 🎬🤖

AI 全自动短视频引擎 | AI Fully Automated Short Video Engine

⭐ 总 Star	📈 本周增长	🍴 Forks	💻 语言
11,782	+4,201	1,814	Python

AI 全自动短视频生成引擎，从脚本到渲染一站式完成。短视频 + AI 内容创作赛道持续升温。

📊 趋势分析

排名	项目名称	本周增长	总 Star	主要语言
1	warpdotdev/warp	+28,493	55,016	Rust
2	mattpocock/skills	+25,389	61,093	Shell
3	TauricResearch/TradingAgents	+14,697	69,396	Python
4	ruvnet/ruflo	+9,159	43,761	TypeScript
5	soxoj/maigret	+5,645	25,539	Python
6	Alishahryar1/free-claude-code	+4,510	21,636	Python
7	AIDC-AI/Pixelle-Video	+4,201	11,782	Python
8	HunxByts/GhostTrack	+2,434	12,693	Python
9	iamgio/quarkdown	+2,055	13,703	Kotlin
10	virattt/dexter	+2,050	23,818	TypeScript

🔍 值得关注

🤖 Agent 时代全面到来：Top 10 中 Agent 相关项目占据 6 席（TradingAgents、warp、ruflo、free-claude-code、dexter、Pixelle-Video），AI Agent 已从概念走向落地，开发、金融、内容创作全面拥抱。
🐍 Python 仍是 AI 赛道绝对主力：10 个项目中有 6 个使用 Python，但 Rust（warp）和 TypeScript（ruflo、dexter）也在 Agent 领域崭露头角，语言格局正在多元化。
📈 增速惊人：Top 3 项目本周总增长超过 6.8 万 Star，warp 单周新增 2.8 万，反映出开发者对 AI 编程工具的空前热情。
🔒 安全与隐私持续升温：maigret（OSINT 信息收集）和 GhostTrack（位置追踪）双双上榜，反映出在 AI 时代人们对数据安全与隐私保护的双重关注。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026-04-29)

Wed, 29 Apr 2026 10:01:08 +0800

数据更新时间： 2026-04-29（本周）

🏆 Top 10 项目

1️⃣ mattpocock/skills 🛠️

总 Star	本周增长	Forks	语言
37,766	+18,218	2,966	Shell

简介： Matt Pocock 分享的工程师实战技能集，直接来自他的 .claude 目录，涵盖 TypeScript 类型体操、调试技巧、代码规范等实用内容。

2️⃣ Alishahryar1/free-claude-code 💰

总 Star	本周增长	Forks	语言
17,565	+15,110	2,466	Python

简介： 通过终端、VSCode 插件或 Discord 免费使用 Claude Code 的方案，支持多平台接入，降低 AI 编程门槛。

3️⃣ Z4nzu/hackingtool 🔓

总 Star	本周增长	Forks	语言
68,038	+9,252	7,625	Python

简介： 全能黑客工具集，整合了信息收集、漏洞扫描、密码破解、社工攻击等 100+ 安全测试工具，一键调用。

4️⃣ addyosmani/agent-skills 🚀

总 Star	本周增长	Forks	语言
25,366	+6,179	3,141	Shell

简介： Addy Osmani 整理的生产级 AI 编程代理技能库，包含前端性能优化、Web Vitals 监控、无障碍访问检测等工程实践。

5️⃣ Fincept-Corporation/FinceptTerminal 📊

总 Star	本周增长	Forks	语言
17,235	+5,926	2,342	Python

简介： 现代化金融终端，提供高级市场分析、投资研究和经济数据工具，支持交互式数据探索和数据驱动决策。

6️⃣ Anil-matcha/Open-Generative-AI 🎨

总 Star	本周增长	Forks	语言
9,790	+4,071	1,731	JavaScript

简介： 开源、无审查的 AI 图像和视频生成工作室，集成 200+ 模型（Flux、Midjourney、Kling、Sora、Veo），MIT 许可，可自建。

7️⃣ zilliztech/claude-context 🔍

总 Star	本周增长	Forks	语言
10,114	+3,767	754	TypeScript

简介： Zilliz 打造的代码搜索 MCP 服务，让整个代码库成为 AI 编程代理的上下文，支持语义搜索和代码导航。

8️⃣ HKUDS/RAG-Anything 🧠

总 Star	本周增长	Forks	语言
19,255	+2,645	2,191	Python

简介： 香港大学数据科学实验室开源的一体化 RAG 框架，支持多模态检索、混合索引和自适应生成。

9️⃣ lsdefine/GenericAgent 🤖

总 Star	本周增长	Forks	语言
8,015	+2,620	920	Python

简介： 自进化 AI 代理，从 3.3K 行种子代码开始自动构建技能树，实现系统级控制，Token 消耗降低 6 倍。

🔟 AIDC-AI/Pixelle-Video 🎬

总 Star	本周增长	Forks	语言
7,378	+2,330	1,195	Python

简介： 阿里达摩院推出的全自动 AI 短视频引擎，支持脚本生成、画面合成、配音剪辑一站式自动化短视频生产。

📈 趋势分析

趋势方向	项目	关键信号
🔥 AI Agent 爆发	agent-skills、skills、GenericAgent	Agent 技能生态快速成型
💰 Claude 生态繁荣	free-claude-code、claude-context	Claude Code 工具链井喷
🎨 生成式 AI 开源化	Open-Generative-AI、Pixelle-Video	图像/视频生成工具平民化
📊 金融 AI 受追捧	FinceptTerminal	AI + 金融分析需求旺盛

💡 值得关注

Agent 技能库成为新赛道 — Matt Pocock 和 Addy Osmani 两位大佬同时开源 Agent 技能集，一周合计收获近 2.5 万 Star，标志着 AI 编程代理从”玩具”走向”生产就绪”。
Claude Code 生态爆发 — 围绕 Claude Code 的免费使用方案、代码搜索 MCP 等项目本周狂揽近 2 万 Star，Anthropic 的编程工具生态正在快速扩展。
AI 生成式内容工具平民化 — Open-Generative-AI 集成 200+ 模型且完全开源，Pixelle-Video 实现全自动短视频生产，AI 内容创作门槛持续降低。
RAG 框架走向一体化 — HKUDS/RAG-Anything 将多模态检索、混合索引整合为单一框架，反映 RAG 技术正在从实验阶段走向工程化落地。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

🐙 GitHub Trending Top 10 | 本周最热项目 (2026-04-17 ~ 04-23)

Thu, 23 Apr 2026 16:19:40 +0800

**数据更新时间：**2026年4月23日 16:18 (Asia/Shanghai)

过去一周，GitHub 上有超过 15 个项目获得显著关注。AI Agent 框架、自进化引擎和语音交互成为本周最热方向。以下是本周 Top 10 热门项目：

🥇 1. NousResearch/hermes-agent

🤖 项目地址：NousResearch/hermes-agent

**总Star：**111,776 | 本周增长：+22,083 | **Forks：**16,222 | **语言：**Python

简介：“The agent that grows with you” —— NousResearch 推出的自进化 AI Agent，能够持续学习并与用户共同成长。本周以 22,083 星的爆发式增长登顶排行榜，成为现象级项目。

指标	数值
总 Star	111,776
本周增长	+22,083
Forks	16,222
主要语言	Python

🥈 2. thedotmack/claude-mem

🧠 项目地址：thedotmack/claude-mem

**总Star：**66,029 | 本周增长：+8,739 | **Forks：**5,588 | **语言：**TypeScript

**简介：**Claude Code 的自动记忆插件，自动捕获编码会话中的操作记录，通过 AI 压缩后将相关上下文注入未来会话，显著提升开发效率。

指标	数值
总 Star	66,029
本周增长	+8,739
Forks	5,588
主要语言	TypeScript

🥉 3. multica-ai/multica

🏢 项目地址：multica-ai/multica

**总Star：**19,742 | 本周增长：+6,015 | **Forks：**2,403 | **语言：**TypeScript

**简介：**开源 AI Agent 管理平台，将编程 Agent 变成真正的团队成员——分配任务、追踪进度、累积技能，让 AI 协作成为现实。

指标	数值
总 Star	19,742
本周增长	+6,015
Forks	2,403
主要语言	TypeScript

4️⃣ Lordog/dive-into-llms

📖 项目地址：Lordog/dive-into-llms

**总Star：**33,850 | 本周增长：+4,550 | **Forks：**4,149 | **语言：**Jupyter Notebook

简介：《动手学大模型Dive into LLMs》系列编程实践教程，中文社区最受欢迎的大模型学习资源之一。

指标	数值
总 Star	33,850
本周增长	+4,550
Forks	4,149
主要语言	Jupyter Notebook

5️⃣ jamiepine/voicebox

🎙️ 项目地址：jamiepine/voicebox

**总Star：**22,595 | 本周增长：+4,495 | **Forks：**2,638 | **语言：**TypeScript

**简介：**开源 AI 语音工作室，支持声音克隆、语音输入和语音创建，让每个人都拥有自己的 AI 声音。

指标	数值
总 Star	22,595
本周增长	+4,495
Forks	2,638
主要语言	TypeScript

6️⃣ EvoMap/evolver

🧬 项目地址：EvoMap/evolver

**总Star：**6,616 | 本周增长：+4,364 | **Forks：**646 | **语言：**JavaScript

**简介：**基于 GEP（基因表达式编程）的自进化 AI Agent 引擎，通过基因、胶囊和事件实现可审计的持续进化。

指标	数值
总 Star	6,616
本周增长	+4,364
Forks	646
主要语言	JavaScript

7️⃣ lsdefine/GenericAgent

🌱 项目地址：lsdefine/GenericAgent

**总Star：**6,052 | 本周增长：+4,216 | **Forks：**655 | **语言：**Python

**简介：**自进化 Agent，仅用 3.3K 行种子代码就能自主生长出完整技能树，实现系统级控制且 token 消耗降低 6 倍。

指标	数值
总 Star	6,052
本周增长	+4,216
Forks	655
主要语言	Python

8️⃣ openai/openai-agents-python

⚡ 项目地址：openai/openai-agents-python

**总Star：**24,733 | 本周增长：+3,802 | **Forks：**3,779 | **语言：**Python

**简介：**OpenAI 官方推出的轻量级多 Agent 工作流框架，功能强大且易于上手。

指标	数值
总 Star	24,733
本周增长	+3,802
Forks	3,779
主要语言	Python

9️⃣ BasedHardware/omi

👁️ 项目地址：BasedHardware/omi

**总Star：**12,028 | 本周增长：+3,624 | **Forks：**1,857 | **语言：**Dart

**简介：**能看到你屏幕、听到你对话并给出建议的 AI 助手，软硬件结合的个人 AI 伴侣。

指标	数值
总 Star	12,028
本周增长	+3,624
Forks	1,857
主要语言	Dart

🔟 forrestchang/andrej-karpathy-skills

📋 项目地址：forrestchang/andrej-karpathy-skills

**总Star：**N/A | 本周增长：+4,550 | **Forks：**N/A | **语言：**N/A

**简介：**基于 Andrej Karpathy 对 LLM 编码陷阱的观察，提炼出的单个 CLAUDE.md 文件，用于改善 Claude Code 的编码行为。

指标	数值
总 Star	N/A
本周增长	+4,550
Forks	N/A
主要语言	N/A

📊 趋势洞察

🔥 值得关注：

自进化 Agent 全面爆发：本周 Top 10 中有 4 个项目聚焦自进化方向（hermes-agent、evolver、GenericAgent、claude-mem），”让 AI 自我进化”正从概念走向工程实践。
Karpathy 效应：基于 Karpathy 编码心得整理的 CLAUDE.md 文件一周增长 4,550 星，名人效应在开源世界依然强大。
AI Agent 管理平台崛起：multica-ai/multica 以 6,015 星/周的速度表明，”管理 AI Agent”本身正在成为新赛道。
中文开源持续发力：《动手学大模型》系列教程本周新增 4,550 星，中文技术社区的学习热情不减。

🦞 龙虾欧巴整理 | 数据来源：GitHub Trending

Hermes Agent vs OpenClaw 调研对比报告

Thu, 23 Apr 2026 13:10:48 +0800

Hermes Agent vs OpenClaw 调研对比报告

调研日期：2026年4月23日 分析维度：架构设计、核心能力、记忆系统、执行环境、安全模型、生态与社区、适用场景

一、基本信息速览

对比项	Hermes Agent	OpenClaw
开发方	Nous Research（硅谷知名AI实验室）	OpenClaw Community（PSPDFKit创始人Peter Steinberger主导）
GitHub Stars	100,000+（2026年2月上线，增长极快）	190,000+ ~ 310,000+（2024年上线，生态成熟）
许可证	MIT	MIT
诞生时间	2026年2月	2024年
技术栈	Python 3.11+	Node.js 24 + TypeScript
核心理念	自我进化 —— 越用越聪明的数字伙伴	本地优先 —— 可控、安全、可扩展的基础设施
一句话定位	你的 AI 学徒（主动学习，持续成长）	你的 AI 工作台（什么都能连，稳定可控）

二、架构设计对比

2.1 架构理念

维度	Hermes Agent	OpenClaw
设计哲学	学习循环优先（Learning Loop）	控制平面优先（Control Plane）
架构定位	Self-Improving Agent Runtime（自我改进运行时）	Local-First Enterprise Gateway（本地优先企业网关）
人机关系	Agent 自主进化，追求”越用越懂你”，人在辅助位置	人在决策链中心，追求”你定义它做什么”
取舍	牺牲绝对可控性，换取便利性与个性化	牺牲部分便利性，换取可预测性、可审计性与完整掌控

2.2 技术架构分层

Hermes Agent（Python生态）

run_agent.py：核心 Agent 编排循环
cli.py / gateway：CLI + 消息平台双入口
hermes_state.py：SQLite 会话和状态存储
environments/：RL环境、评测、数据生成
核心创新：闭环学习系统 —— 每次执行都是训练数据，自动生成并迭代可复用的 Skill

OpenClaw（Node.js生态）

网关层：消息路由、协议适配、连接管理
智能体层：Agent 引擎、工具调度、任务编排
应用层：业务逻辑、插件管理、权限控制
核心创新：三位一体分层 —— 网关/智能体/应用解耦，强调本地部署与协议适配

2.3 部署方式

维度	Hermes Agent	OpenClaw
安装命令	`curl -fsSL …/install.sh \| bash`（自动配置 uv + Python）	`npm install -g openclaw@latest`
部署要求	Linux / macOS / WSL2（Windows原生实验性）	macOS / Windows / Linux（需Node 24）
后端支持	6种后端：local、Docker、SSH、Daytona、Singularity、Modal	主要依赖Node环境运行
Serverless	原生支持（Modal / Daytona），闲置近乎零成本	无原生Serverless，需自行部署
运行成本	极低，$5/月 VPS 即可	软件免费，API费用 $10-150/月
后台常驻	支持 systemd 服务化安装	支持 `–install-daemon` 安装为系统服务

三、核心能力对比

3.1 消息平台支持

平台	Hermes Agent	OpenClaw
Telegram	✅	✅
Discord	✅	✅
Slack	✅	✅
WhatsApp	✅	✅
Signal	✅	✅
iMessage	❌	✅
微信	✅（v0.9.0+）	✅
企业微信	✅	✅
钉钉	✅	✅
飞书	✅	✅
QQ	✅（官方插件）	✅
Google Chat	❌	✅
Microsoft Teams	❌	✅
WebChat	❌	✅
Matrix	❌	✅（插件）
总计	~15+ 平台	30+ 平台

3.2 模型兼容性

维度	Hermes Agent	OpenClaw
云端模型	Nous Portal（原生OAuth）、OpenRouter（200+模型）、任意OpenAI兼容端点	Anthropic Claude（默认Opus 4.7）、OpenAI GPT系列、通义千问、豆包等
本地模型	本地 vLLM	Ollama
模型切换	通过 `hermes model` 自由切换	配置驱动，多模型调度
特色	模型无关架构	建议使用最新最强模型以获得最佳质量

3.3 自动化与工具能力

能力	Hermes Agent	OpenClaw
工具调用	原生支持，自动生成Python/JS工具包	原生支持Tool Use
浏览器自动化	完整浏览器控制（导航、点击、输入、截图、视觉分析）	自动浏览网页、填写表单、抓取数据
文件操作	支持	支持（可配置人工确认）
定时任务	内置 cron 调度器	支持
多智能体协作	并行子智能体（独立对话+终端，RPC零上下文消耗）	多智能体路由（按工作区隔离）
图像理解	支持	内置（v4.15+）
语音能力	语音备忘录转录	移动节点支持语音工作流
AI视频生成	❌	✅（v4.11+原生支持）
MCP协议	原生支持	支持

四、记忆系统深度对比

4.1 记忆架构

维度	Hermes Agent	OpenClaw
存储方式	SQLite FTS5（全文检索）+ 自动摘要压缩	纯 Markdown 文件（MEMORY.md、USER.md）+ LanceDB
用户建模	Honcho dialectic user modeling 深度用户画像	Memory Palace 式管理 + Dreaming 系统
容量管理	字符限制强制优先级排序，防止记忆膨胀	无硬性容量限制
数据归属	本地 `~/.hermes/` 目录，零云端上传	本地 `~/.openclaw/` 目录，完全透明可编辑
可干预性	自动提炼存储，人工难以直接审计底层记忆	完全透明，可直接人工编辑、审计记忆文件
跨会话能力	跨会话检索能力强，能”回忆”数周前细节	超级记忆库，你告诉它什么它就记住什么

4.2 记忆分层

Hermes Agent：三层记忆 + 主动进化

短期记忆：当前会话上下文，处理即时任务
中期记忆：跨会话积累的用户偏好、任务模式
长期记忆：通过 Skills 沉淀的永久知识，可被未来会话调用
核心特点：会主动写 Skill，教一次就会，下次同类任务自动完成

OpenClaw：Dreaming + 主动记忆引擎

自动整理：会话精华形成结构化记忆
历史导入：支持从 ChatGPT 历史记录导入记忆
记忆宫殿：Memory Palace 式管理，可按天分文件管理
核心特点：超级记忆库，但不会自己创造新知识

4.3 记忆系统评分

维度	Hermes Agent	OpenClaw
跨会话持久性	⭐⭐⭐⭐⭐	⭐⭐⭐⭐
主动学习能力	⭐⭐⭐⭐⭐	⭐⭐⭐
记忆检索速度	⭐⭐⭐⭐	⭐⭐⭐⭐⭐
数据可导出性	⭐⭐⭐⭐	⭐⭐⭐⭐⭐
人工可审计性	⭐⭐⭐	⭐⭐⭐⭐⭐

五、技能系统对比

5.1 技能生成方式

维度	Hermes Agent	OpenClaw
生成模式	自动生成。完成复杂任务后，Agent自动分析操作模式并创建 Skill 文件	人工编写。提供52+内置技能，新技能需用户显式创建
内置技能	40+（涵盖MLOps、GitHub、图表、笔记等）	52+（覆盖文档处理、数据分析、API集成等）
标准化	符合 agentskills.io 开放标准，可跨Agent共享	技能平台带有安装门控和UI管理
示例	连续三次执行”PDF转Markdown存入Obsidian”后，自动生成可复用脚本	需通过界面或配置手动定义新技能及触发规则

5.2 技能生态

Hermes：社区技能库支持从 agentskills.io 安装第三方技能；技能数量随使用自动增长，无上限
OpenClaw：社区插件/技能丰富；可让AI辅助写新技能；插件归档SHA-256校验

六、安全模型对比

6.1 安全机制

维度	Hermes Agent	OpenClaw
执行隔离	默认沙盒隔离 + Docker容器（no-new-privileges、cap-drop ALL等硬化参数）	依赖部署环境，无默认沙盒描述
审批策略	三模式（manual/smart/off）× 四方式（once/session/always/deny）	可配置”所有文件操作必须人工确认”、”敏感数据访问需二次验证”
访问控制	MCP凭证过滤 + 上下文文件注入扫描（防prompt injection）	RBAC角色权限 + 显式allowlist白名单 + 群组提及规则
审计能力	—	全量审计日志 + exec-policy CLI审计命令执行
多租户	—	多租户隔离
隐私保护	零遥测、零数据收集	本地存储天然隐私保护
SSRF防护	—	浏览器工具SSRF防护

6.2 安全哲学

Hermes：侧重环境隔离与隐私保护，五层防线设计
OpenClaw：侧重人在回路（Human-in-the-loop），企业级RBAC + 审计合规

七、生态与社区

维度	Hermes Agent	OpenClaw
GitHub增长	2个月从0到100k+ Stars，增速+204%	长期积累，190k-310k Stars，目前增长最快的开源AI项目之一
中文社区	中文文档完善，有微信社区	中文社区非常活跃，文档齐全
企业支持	Nous Research 背书（融资过亿美元）	社区驱动，PSPDFKit创始人主导
争议事件	曾被国内团队指责抄袭EvoMap（Nous否认）	前身Clawdbot/Moltbot
第三方集成	QQ Bot官方合入，支持国产大模型（智谱、Kimi、MiniMax）	支持DeepSeek、豆包等国产模型

八、选型建议

8.1 选择 Hermes Agent，如果你：

✅ 追求AI主动进化：希望AI越用越聪明，能自动沉淀经验
✅ 低成本快速启动：$5/月VPS即可运行，适合个人开发者
✅ 极简主义：不想折腾复杂配置，偏好”约定优于配置”
✅ 微信/国内平台优先：需要微信、企业微信、QQ等国内平台接入
✅ MLOps/AI训练：需要批量生成工具调用轨迹、强化学习训练支持
✅ Serverless部署：需要Modal/Daytona等原生Serverless支持

8.2 选择 OpenClaw，如果你：

✅ 多平台全覆盖：需要同时接入30+平台（含iMessage、Teams、Matrix等）
✅ 企业级稳定：需要RBAC权限管理、审计日志、多租户隔离
✅ 工作流编排：追求复杂多Agent协作与任务编排
✅ 完全可控：偏好”显式优于隐式”，需要精细控制每个环节
✅ 团队使用：需要团队协作、知识沉淀与长期维护保障
✅ 多模态扩展：需要AI视频生成、移动节点（Canvas/相机/语音）
✅ 记忆可审计：需要直接编辑、审计AI的记忆文件

8.3 三层选型决策框架

判断层	条件	推荐
第一层：看需求	个人效率工具 / 单平台（微信）	Hermes Agent
	团队协作平台 / 多平台（3+）	OpenClaw
第二层：看资源	预算有限（<$10/月）/ 不想折腾	Hermes Agent

如果你需要一个 ”什么都能连的AI工作台” —— 选 OpenClaw。

两者都是MIT开源、社区活跃的优秀项目，可根据实际场景灵活选择，甚至在未来生态互通后组合使用。

参考来源：

Hermes Agent 官方文档：https://hermes-agent.org/zh/
OpenClaw 官方文档：https://docs.openclaw.ai/zh-CN
OpenClaw 官网：https://openclaws.io/zh/
腾讯云开发者社区、123AI、喵斯基部落等第三方对比分析

顶级开发团队设计的Harness工程项目源码什么样 – 腾讯技术工程的文章

Fri, 10 Apr 2026 23:17:56 +0800

技术教科书： – 知乎
https://zhuanlan.zhihu.com/p/2025587980832634840

The bitter lesson

Wed, 18 Mar 2026 09:57:48 +0800

理查德·萨顿（Richard S. Sutton，现代强化学习之父，现任加拿大阿尔伯塔大学教授） http://www.incompleteideas.net/IncIdeas/BitterLesson.html

2019年3月13日

过去70年人工智能研究领域最重要的一堂课是，**只有通用计算方法最终是最有效的，而且优势巨大。**根本原因是摩尔定律，更确切地说是，每个计算单元的成本持续呈指数下降。大多数人工智能研究都是假设 Agent 可用的计算量是恒定的（在这种情况下，利用人类知识将是提高性能的唯一方法之一），但是，从较长的时间看，不可避免地会产生大量的计算量。为了在短期内获得有所作为的改善，研究人员试图利用该领域内的人类知识。但长远来看，唯一重要的是利用算力。这两者不必相互对立，但在实践中它们往往会相互对立。时间投入到一种方法上，就没办法投入到另一种方法上，这是对投入一种或另一种方法的心理承诺。而人类知识往往很复杂，不太适合利用好通用算力。有很多的例子表明人工智能研究人员迟迟未能学习这个苦涩的教训，回顾一些最突出的例子很有启发性。

在电脑国际象棋中，1997年击败世界冠军卡斯帕罗夫的方法基于大规模的深度搜索。当时，大多数计算机国际象棋研究人员对此感到沮丧，他们一直致力于利用人类对国际象棋特殊结构的理解的方法，当一种更简单的、基于搜索的、结合特殊的硬件和软件的方法，被证明更有效时，这些基于人类知识的国际象棋研究人员没有虚心接受失败，他们反驳道，“蛮力”搜索可能这次赢了，但这不是一种通用的策略，而且也不是人们玩国际象棋的方式。这些研究人员希望基于人类的行棋思路能够获胜，当没有获胜时他们感到失望。

在电脑围棋中，也出现了类似的研究进展，只是比国际象棋晚了20年。最初的巨大努力是想办法利用人类知识（一千年的棋谱），或围棋游戏的特殊特征，避免用蛮力搜索，但是所有这些努力都被证明是无关紧要的。更糟糕的是，一旦有效地进行了大规模搜索，以及，使用自我对局来学习价值函数（就像在许多其他游戏中一样，在国际象棋中也是如此，尽管这种学习在1997年首次击败世界冠军的项目中并没有发挥重要作用），之前的努力都是负向的。**通过自我对局以及通用学习来学习，就像搜索一样，因为它能够进行大规模的计算。**在电脑围棋、电脑国际象棋中，研究人员最初的努力是利用人类的理解（更少的搜索），直到很久以后，通过拥抱搜索和学习，才取得更大的成功。

在语音识别方面，在1970年代，由DARPA（美国国防部高级研究计划局）赞助了一项早期的竞赛。参赛者包括许多利用人类知识的特殊方法——单词、音素、人类声道等等知识。另一方面是更具统计学意义的方法，基于隐马尔可夫模型（HMMs）进行了更多的计算。**再次，统计学方法战胜了基于人类知识的方法。**这导致了几十年来所有自然语言处理的重大变化，统计学和计算逐渐开始主导该领域。最近深度学习在语音识别领域的兴起是朝着这一方向迈出的最新一步。深度学习方法对人类知识的依赖程度更低，使用更多的计算，加上在巨大的训练集上的学习，以产生更好的语音识别系统。正如游戏中一样，研究人员总是试图让系统按照他们自己的大脑工作的方式工作 —— 他们试图将这些知识放入他们的系统中 —— 但事实证明，当大规模计算变得可用并找到了一种充分利用摩尔定律的方法时，这最终会适得其反，并且浪费了研究人员的时间。

在计算机视觉领域，也存在类似的模式。早期的方法把视觉想象成寻找边缘，或广义柱，或以SIFT特征的形式。但今天，这一切都被抛弃了。现代深度学习神经网络仅使用卷积和某些不变性的概念，并且表现得更好。

这是一个重要的教训。纵观整个人工智能领域，我们仍然没有彻底地吸取它，因为我们继续犯同样的错误。为了看到这一点，并有效地抵制它，我们必须理解这些错误的吸引力。我们必须吸取苦涩的教训，即把我们认为的思维方式构建到系统中是行不通的。

苦涩的教训是基于历史观察：

1）人工智能研究人员经常试图将知识构建到他们的 Agent 中；

2）这在短期内总是有帮助的，并且对研究人员来说是个人满意的；

3）但从长远来看，它总会达到一个瓶颈，甚至会阻碍进一步的进展；

4）突破性的进展最终是通过一种相反的方法实现的，这种方法基于通过搜索和学习来扩展大规模计算。

最终的成功中夹杂着一丝苦涩和消化不全，因为它比受青睐的、以人为本的方法更成功。

从苦涩的教训中学到的一件事是通用方法的巨大力量，即随着可用算力变得非常大，这些方法会随着计算量的增加可以继续扩展。可以以这种方式近乎无限扩展的两种方法是搜索和学习。

从苦涩的教训中学到的第二个普遍观点是，人类心灵的实际内容是极其复杂的，我们不应该再试图找到简单的方法来思考心灵的内容，比如简单地思考空间、物体、多重主体或对称性。所有这些都是任意的、内在复杂的外部世界的一部分。它们不应该被构建，因为它们的复杂性是无止境的；相反，我们应该只构建可以找到和捕获这种任意复杂性的元方法。这些方法的关键是它们可以找到很好的近似值，但算法应该是基于我们的方法，而不是我们已经学到的知识。我们希望人工智能 Agent 能够像我们人类一样去发现，而不是在系统里集成我们已经发现的东西。建立在我们已知发现之上只会让我们更难看到如何完成发现过程。

视频模型论文精读-摘要上

Wed, 04 Mar 2026 16:17:23 +0800

论文精读·55上 https://www.youtube.com/watch?v=5MGq7dSOghY

介绍了sora，然后大篇幅讲解了数据集提取的过程。下面补充kimi的总结

三、条件生成技术分类

输入类型	技术难点	代表工作	关键创新
文本→视频	文本与视觉对齐、复杂场景理解	Sora, Lumiere, Movie Gen	使用LLM生成详细视频描述作为训练标注
图像→视频	保持参考图像ID一致性、合理运动预测	EMO, AnimateAnyone, MergeTalk	ReferenceNet结构保持身份一致，音频驱动表情
音频→视频	唇形同步、表情自然度、头部运动	EMO, Wav2Lip, DreamTalk	弱控制信号（速度层+面部定位器）避免过度约束
视频→视频	风格迁移、内容编辑、一致性保持	Video Editing, Runway Gen-3	基于扩散的编辑保持原视频结构

四、数据工程与训练策略

数据筛选流程（以Stable Video Diffusion为例）：

多阶段训练：文本到图像预训练 → 视频预训练 → 高质量视频微调
标注策略：使用内部多模态LLM生成详细视频描述，而非简单caption
过滤策略：
- 美学评分过滤低质量视频
- 光流分析确保足够运动幅度
- 文本-视频对齐评分

训练技巧：

分阶段训练：先训练图像生成能力，再引入时间模块学习运动
CFG（Classifier-Free Guidance）：训练时随机丢弃条件（如文本），推理时可调节指导强度
解耦训练：如EMO模型中，速度层与音频层分开训练，避免音频驱动能力被破坏

五、评估指标

表格

指标	用途	说明
FVD (Fréchet Video Distance)	视频整体质量	衡量生成视频与真实视频分布差异
FID (Fréchet Inception Distance)	单帧质量	评估生成帧的视觉保真度
SyncNet	唇形同步	音频-视频同步性评估
E-FID (Expression-FID)	表情丰富度	通过3D人脸重建提取表情参数计算
S/S Ratio	生成效率	计算秒数/视频秒数，实时生成为1.0

六、2024-2025年关键趋势

实时生成：LTX-2 (Fast)实现<1.0 S/S比率，接近实时生成，开启交互式应用可能
长视频突破：从秒级到分钟级生成，重点解决角色一致性和情节连贯性
多模态控制：从纯文本提示向草图、关键帧、相机轨迹、音频等多条件控制演进
开源追赶：CogVideoX、HunyuanVideo、Mochi等开源模型性能接近闭源商业模型
专业化细分：虚拟试衣、手术视频生成、数字人对话等垂直领域模型涌现

MovieGen 数据规模概览

表格

数据类型	规模	说明
图像-文本对	O(1B) / 10亿级	用于联合训练（Joint Training）
视频-文本对	O(100M) / 亿级	4-16秒片段，单镜头拍摄
音频数据	O(100K)小时	包括音效、音乐、语音组合
标注来源	LLaMa3-Video (8B & 70B)	平均100词详细描述

🔄 数据策划流程（3+1阶段）

MovieGen采用多阶段严格筛选策略，而非简单爬取：

阶段1：视觉过滤（Visual Filtering）

应用6层过滤器确保基础质量

：

分辨率：最小边≥720px（后提升至768px用于高分辨率训练）
宽高比：60%横屏(16:9) + 40%竖屏(9:16)，偏好横屏因其时长更长、运动更稳定
OCR过滤：内部OCR模型检测，剔除文字过多的视频（得分>0.6的过滤）
美学评分：使用LAION aesthetics模型，剔除评分<4的片段
边框检测：基于一阶导数扫描算法，检测并剔除带黑边的视频（常见于竖屏转横屏内容）
视觉特效过滤：训练简单模型识别过度后期制作的片段

阶段2：运动过滤（Motion Filtering）

解决视频生成中的”抖动”和”PPT效应”

：

运动向量分析：使用FFmpeg提取运动向量，剔除静态或PPT式切换视频
抖动检测：PySceneDetect检测镜头边界，剔除>0.85 shots/second的过度抖动片段
场景分割：使用FFmpeg场景检测，从原始视频（平均28秒）提取4-16秒单镜头片段，确保50%以上训练片段时长在6-15秒之间

阶段3：内容过滤（Content Filtering）

语义去重：使用copy detection embeddings（Pizzi et al., 2022）进行视觉去重
聚类采样：在语义空间聚类后采样，避免数据倾斜
人工动词分类：建立600个人类动词和表情分类体系，通过zero-shot检索筛选含人类视频，并保持这些视频的采样频率

阶段4：标注与增强（Captioning）

双模型标注：70%使用LLaMa3-Video 8B，30%使用70B版本，生成平均100词的详细描述
相机运动标注：训练16类相机运动分类器（zoom-out, pan-left等），高置信度预测结果前缀到文本提示中，实现推理时的显式相机控制
FPS控制：在文本提示前添加”FPS-16″等token，支持16-32 FPS可变帧率生成

🗂️ 分桶策略（Bucketization）

为处理多宽高比和多时长，MovieGen采用动态分桶而非固定尺寸裁剪

：表格

维度	分桶策略
宽高比	5个桶（包括横屏、竖屏、方形等），支持1024×576到576×1024
时长	5个桶（4s-16s），对应潜在帧数16-32帧
帧率	通过FPS token控制，支持16-32 FPS

这种设计允许同一批次（batch）内的视频具有完全相同的潜在空间形状（latent shape），便于并行训练。

👤 个性化视频数据（PT2V）

针对”特定人物生成”任务，MovieGen构建了专门的训练集

：

筛选标准：从预训练数据中筛选单人脸视频，使用ArcFace计算连续帧相似度（阈值>0.5）
成对数据（Paired）：从同一视频中均匀采样5帧作为参考图像，构建O(10M)样本
交叉成对数据（Cross-Paired）：
- 真实数据：O(10K)对，同一人不同视频/视角
- 合成数据：O(1M)对，使用预训练个性化图像模型生成不同表情/姿态/光照的参考图像（ArcFace相似度>0.7筛选）
目的：防止模型学到”复制粘贴”捷径（即直接复制参考图像的表情和姿态，而非遵循文本指令）

🎵 音频数据策划

MovieGen Audio（13B模型）的数据处理

：表格

音频类型	规模	筛选标准
纯音效	O(100M)	使用Audio Event Detection (AED)标签筛选
音乐	O(10M)	高质量音乐数据
音效+音乐	O(10M)	混合类型
含语音	O(10M)	单独处理，避免干扰

质量控制：

使用CAVTP（Class-Agnostic Video-Text Pre-training）分数筛选diegetic（画面中可见声源）或mixed音频
优先学习物理音效（物体碰撞、摩擦等），因其错误最明显
剔除含OCR文本、静态画面、低分辨率(<480px)的视频
视频长度限制在4-120秒

🎯 微调阶段数据（Fine-tuning Data）

预训练后，MovieGen使用小规模但更高质量的数据进行微调

：

人工策划：手动筛选高美学质量、流畅运动的视频
自动过滤：对美学、运动、场景变化设定更严格阈值，剔除小主体视频
概念平衡：使用k-NN方法检索视频，确保600个人类动词/表情分类均衡覆盖
光照与色彩：人工筛选角度光照、鲜艳色彩、无杂乱背景、无VFX的视频
标注精修：人工精修LLaMa生成的标注，选择视频中最具吸引力的片段

💡 数据工程关键创新点

渐进式质量筛选：从O(100M)原始视频逐步筛选到最终训练集，而非一次性过滤
合成数据增强：在个性化任务中使用合成数据扩展姿态多样性，解决数据稀缺问题
多模态标注：结合视觉分类器（相机运动）、LLM（详细描述）、人工审核三层标注体系
时空联合分桶：统一处理图像和视频数据（1:10比例混合），支持可变时长和宽高比
任务特定数据构造：针对不同能力（T2V、个性化、编辑、音频）构建专门数据集，而非混用

重点总结：MovieGen的成功不仅源于30B参数的模型规模，更依赖于严格的数据质量控制流程——从10亿级图像和亿级视频中，通过6层视觉过滤、运动过滤、内容去重，最终筛选出高质量子集。这种”质量优于数量”的策略，配合LLaMa3-Video生成的详细标注（平均100词），是其生成质量超越Runway Gen3和Sora的关键因素之一

。

图片视频代码，全领域突破的到来

Fri, 27 Feb 2026 12:09:09 +0800

1.春节开始，图片视频的制造整体上了台阶。不仅能参考图片、理解提示词，而且生成的作品几乎不在有明显违反逻辑的地方。

2.代码工具，在最近几个月突飞猛进。之前一直当辅助能力，现在很多公司居然使用率到90%+以上。

3.在这些能力之上，场景会有非常大的突破。

x-algorithm

Thu, 22 Jan 2026 11:29:17 +0800

X For You Feed Algorithm

基于Grok-1同款Transformer架构打造，能通过学习你的历史互动行为（点赞/回复/转发过什么），来决定给你推荐什么内容。

从用户打开“For You”开始，客户端会向服务器发送一个请求，触发整个算法流程。

然后系统会先做一件事——搞清楚你是谁、你最近在干什么、你平时对什么内容有反应。

为实现这一目的，系统会拉取两类用户信息：

行为序列（Action Sequence）：一类代表最直接、最强烈的兴趣信号，比如最近点赞、回复、转发、点进、停留过什么。
属性（Features）：另一类代表长期属性，比如关注列表、声明的兴趣主题、地理位置、使用设备等。

这一步的目标并不是人工构造特征，而是尽可能真实地构建“实时用户画像”——

以前工程师可能会假设“某些属性很重要”，然后手动编写规则或公式去计算一个“用户兴趣得分”。

但这本质上是工程师的猜想，而非用户真实状态的反映。

于是马斯克的这套算法就决定不做任何预设假设，而是尽可能多地、原始地收集用户最真实的行为反应，然后将这堆数据直接喂给后续的模型，从而让模型自己去从原始数据中学习和发现规律。（即“去人工化”和“端到端”）

而拿到实时用户画像后，系统会接着兵分两路，从整个平台的海量推文中快速筛选出几千条“可能相关”的推文。

一条是通过熟人圈。即从Thunder模块，直接抓取你关注的所有人的最新推文。

另一条是通过外部。利用Phoenix Retrieval这一核心检索模块，抓取那些你可能感兴趣、但来自未关注账号的推文。

以上两类来源不同的信息，会在后续阶段被统一对待。

需要提醒，此时筛选出来的还只是推文ID。

于是系统会通过Hydration模块，补全每条候选推文的信息，包括推文全文、作者详情、图片/视频、历史互动数据等，以便后续深度评估。

而且在正式开始计算前，还会进一步通过Filtering模块淘汰那些明显不要的内容，例如：

重复或过期的帖子
用户自己发布的内容
来自拉黑或静音账号的帖子
包含用户屏蔽关键词的内容
已经看过或在当前会话中展示过的帖子
用户无权限访问的订阅内容

记住，这一步只做一件事：回答某条内容“能不能出现，而不是值不值得推荐”。

铺垫到这里，最终剩下来的内容会被逐条送入Phoenix排序模型进行打分。

这个模型是一个基于Transformer的模型，它会同时接收：

用户的行为序列与属性信息
单条候选帖子的内容与作者信息

然后模型会预测用户对某条推文执行各种操作的概率，并将各种概率按照预设权重进行加权组合（如点赞类正向行为加分、拉黑类负向行为减分），并形成最终排序分数。

基于此，系统还会进行少量工程层面的调节——

比如控制作者多样性，避免单一账号在信息流中占据过高比例（防止某一大V刷屏）。

这里也需要提醒，为了保证送入的每条帖子都是独立评分的，所以系统还特意设置了“不允许候选帖子相互看见”（推文之间没有交叉注意力机制）。

所有候选帖子按最终得分排序，系统从中选出Top-K条帖子，作为本次请求的推荐结果。

而且在返回客户端之前，系统还会进行最后一轮校验，确保内容符合平台安全规范——

例如，移除任何已删除、被标记为垃圾信息或包含暴力血腥等违规内容的推文。

最终，经历重重筛选后的信息会根据分数高低，依次展示给客户端用户。

总结下来，这套系统能够成功运转的五大关键在于（官方划重点版）：

（1）纯数据驱动，拒绝人工规则。

彻底摒弃人工定义“什么内容算好”的复杂规则，改由AI模型直接从原始用户数据中学习。

（2）采用候选隔离机制，独立评分。

AI模型在给内容打分时，每条内容“看不见”其他候选内容，只能看到用户信息。这确保了每条帖子的分数不会因为同批次其他帖子而变化，分数一致且可高效缓存复用。

（3）哈希嵌入，实现高效检索。

检索和排序都使用多个哈希函数进行向量嵌入查找，提高效率。

（4）预测多元行为，而非单一分数。

AI模型不直接输出一个模糊的“推荐值”，而是对多种用户行为同时预测。

（5）模块化流水线，支撑快速迭代。

整个推荐系统采用模块化设计，各个组件可以独立开发、测试、替换。

ref https://zhuanlan.zhihu.com/p/1997284494198196220

manus六大上下文工程

Sun, 11 Jan 2026 10:53:12 +0800

Manus之所以能从众多Agent创业公司中突围，并非因为它拥有更强的模型，而是它重新定义了模型与上下文交互的方式。在 planning-with-files 项目的 reference.md 中，详细记录了这六大原则：

文件系统作为外部记忆 (Filesystem as External Memory)

原理：不要依赖易失的Context Window。将磁盘视为无限的“外挂内存”，只在Context中保留文件路径。

通过重复进行注意力操纵 (Attention Manipulation Through Repetition)

原理：对抗“Lost in the Middle”。在关键决策前反复读取计划文件，强行刷新模型的“注意力权重”。

保留失败痕迹 (Keep Failure Traces)

原理：错误是宝贵的资产。显式记录失败尝试，让模型通过“反思”避免死循环，而不是掩盖错误。

避免少样本过拟合 (Avoid Few-Shot Overfitting)

原理：在重复性任务中引入受控变体，防止模型陷入机械式的幻觉。

稳定前缀优化缓存 (Stable Prefixes for Cache Optimization)

原理：通过固定的文件结构和前置指令，最大化KV-Cache命中率，降低Token成本。

只增不改的上下文 (Append-Only Context)

原理：尽量以追加（Append）而非修改（Modify）的方式更新信息，维护上下文的连贯性。

架构落地：三文件模式

planning-with-files Skill将上述抽象原则具象化为一套严格的 “三文件工作流”。

当这个Skill被触发时（例如你要求“帮我策划并开发一个贪吃蛇游戏”），它会强制Claude在当前目录维护三个文件：

1. `task_plan.md`（指挥塔寄存器）

这是整个架构的核心。它不存储具体知识，只存储元数据。

作用：定义目标、拆解阶段、追踪进度、记录错误。
关键机制：它是Agent的“罗盘”。无论任务进行到第几步，Agent必须在每次行动前读取此文件。

2. `notes.md`（知识库堆内存）

作用：存储调研笔记、网页摘要、中间代码。
关键机制：“Store, Don’t Stuff”。当Agent搜索到大量资料时，禁止直接输出到对话框，必须写入此文件。这保持了对话上下文的清爽。

3. `[deliverable].md`（产出物 IO缓冲区）

作用：最终的交付结果（如 game.py 或 report.md）。
关键机制：将“思考过程”与“最终结果”物理隔离。

此时，无状态（Stateless）的LLM第一次拥有了“状态”。

阶段1：Read-Before-Decide（对抗遗忘）

在开始写任何代码之前，Skill强制Claude执行 read_file task_plan.md。这一步至关重要。

如果没有这一步，Claude可能会基于上文的闲聊或20轮之前的记忆开始瞎猜。
有了这一步，Claude的Context尾部被注入了最新的状态：“我现在处于Phase 2，目标是修改Login接口，且之前在Phase 1已经确认了Token格式。”
这相当于在每次CPU时钟周期开始时，强制执行一次Fetch Instruction。

阶段2：Data Offloading（数据卸载）

Claude需要查阅OAuth2.0的最新协议。

传统模式：Claude搜索网页，把5000字的协议全文塞进对话框。你的Token在燃烧，模型被无关信息淹没。
本模式：Claude搜索网页，提炼核心参数，写入 notes.md。在对话框里，它只说：“协议参数已存入notes。”
这相当于操作系统的**Swap机制,**把不常用的数据换出到磁盘，保持主存（Context Window）的清爽。

阶段3：State Commit（状态固化）

代码修改完成，测试通过。Claude必须编辑 task_plan.md：

将 [ ] Phase 2 改为 [x] Phase 2。
更新 Status 到 Phase 3。这相当于Write Back。它赋予了LLM**时间感，**明确地知道什么是“过去”（已完成），什么是“未来”（待完成）。

它解决了什么？

这套Skill不是为了炫技，而是精准打击了LLM在长程任务中的四大死穴：

痛点1：易失性记忆 (Volatile Memory)

现象：多轮对话后，Claude code忘了之前定义的变量或需求。
解法：文件系统持久化。即使对话Session重置，只要 notes.md 和 task_plan.md 还在，Agent就能瞬间“恢复记忆”，继续工作。

痛点2：目标漂移 (Goal Drift)

现象：执行50步后，Claude code沉迷于细枝末节，忘了原始目标。
解法：Read-Before-Decide（行动前读取）。
- Skill强制规定：Before major decisions, READ task_plan.md。
- 利用Transformer的近因效应，刚读入的Plan处于Context最末端，权重最高，时刻提醒Agent“不要跑偏”。

痛点3：隐藏错误 (Hidden Errors)

现象：API调用失败，Claude code默默重试，导致死循环或成本爆炸。
解法：Error Persistence（错误持久化）。
- task_plan.md 中包含 ## Errors Encountered 章节。
- Agent被要求将所有失败显式写入。下次读取计划时，它会看到“路径A失败过”，从而自动推理出路径B。

痛点4：上下文填充 (Context Stuffing)

现象：把无关紧要的搜索结果全塞进Context，导致模型变笨、变慢、变贵。
解法：Offloading（卸载）。
- 所有长文本默认进 notes.md。Context中只保留一句：“已将搜索结果存入notes.md，关键点如下…”。

https://github.com/OthmanAdi/planning-with-files

Video models are zero-shot learners and reasoners

Wed, 31 Dec 2025 10:05:44 +0800

论文总结：《Video models are zero-shot learners and reasoners》

基本信息

标题：视频模型是零样本学习者和推理器
作者：Robert Geirhos 等
发表：arXiv, 2025年9月
核心：首次系统性展示视频生成模型（Veo 3）作为通用视觉基础模型的潜力

核心观点

这篇论文提出了一个重要命题：像 Veo 3 这样的 视频生成模型不仅仅是视频生成器，它们正在演变为通用的视觉基础模型，具备强大的零样本学习和初步的视觉推理能力。

类比：就像 LLM 在文本任务上展现出的通用性一样，视频模型可能也在走向类似的通用视觉理解之路。

主要实验与发现

论文测试了 Veo 3 在 10+ 个不同视觉任务上的表现，这些任务都不是它明确训练过的：表格

复制

任务类别	具体任务	能力体现
视觉理解	语义分割、边缘检测、深度估计、法向量估计	理解图像的语义结构和几何信息
物理理解	判断物体是否易碎/可滚动/可拉伸	从视觉外观推断物理属性
功能理解	识别物体可供性（affordance）	理解物体的功能和潜在用途
视觉操作	图像编辑（替换/移除对象）、风格转换	精确操控视觉内容
物理模拟	模拟工具使用（剪草、敲钉子、榨汁）	模拟动态物理交互
视觉推理	迷宫求解、对称群判断	基于视觉信息进行推理和决策

关键发现：

零样本能力惊人：无需微调，仅通过设计合适的提示词（prompt）就能完成上述任务
多模态理解：能将自然语言指令与视觉内容精确对应
初步推理能力：能进行简单的规划和决策（如迷宫路径规划）
一致性：生成结果稳定可靠，优于许多专用模型

方法

核心技巧：“Video-as-Prompt”
- 将输入图像作为第一帧
- 通过文本提示描述期望的变换/分析/模拟
- 让模型生成后续帧来实现任务

示例：

分割任务：提示 “A person is segmenting the dog by painting over it in red”
物理模拟：提示 “A pair of scissors is cutting through the grass”

影响与意义

范式转变：视频模型可能取代专用视觉模型，成为通用视觉理解引擎
新评估维度：需要重新思考如何评估”通用视觉模型”
应用前景：统一的模型可简化视觉AI系统开发

局限与未来工作

定量评估有限：目前主要是定性展示，缺乏大规模定量评测
计算成本：视频模型通常比专用模型更昂贵
理论理解不足：对其内部机制的理解还很初步
扩展性问题：能力是否随模型规模持续提升尚需验证

总结

这篇论文是一个概念性验证，它表明：

视频生成模型不仅仅是生成工具，它们正在成长为能够理解、分析和推理视觉世界的通用智能体。

这为未来统一的视觉-语言-动作模型铺平了道路，类似于 LLM 统一了 NLP 领域。如果这一趋势继续，我们可能会看到”视频模型时代的 ImageNet时刻”。

一、核心思想：视频模型的”GPT-3时刻”

1.1 历史类比与范式洞察

论文开篇就点破天机：NLP领域从专用模型（翻译、问答、摘要各用各的）到统一LLM的转变，源于三个简单要素：

大规模模型（scale）
生成式训练（generative objective）
互联网级数据（web-scale data）

作者发现：视频模型正在复刻完全相同的配方。Veo、Sora等模型训练目标很简单——”根据文本生成下一帧”，但就像”预测下一个token”催生了通用语言理解，”预测下一帧”可能正在催生通用视觉理解。

核心论断：视频模型不是简单的”视频生成器”，而是视觉世界的通用模拟器。

1.2 极简方法论：Video-as-Prompt

整个研究的方法论惊人地简单：

输入图像 + 自然语言指令 → 生成视频 → 完成任务

这被称为”Video-as-Prompt”，它完美复刻了LLM的prompting范式。关键创新在于：将静态任务转化为时序过程，让模型通过”思考帧序列”来解决问题，作者称之为 Chain-of-Frames (CoF) ，直接类比LLM的CoT。

二、四层能力体系：从感知到推理

论文构建了精妙的能力金字塔，层层递进：

2.1 第一层：感知（Perception） ——理解视觉信息

这里展示了18个零样本任务，分三类：

经典CV任务（图10-16）

边缘检测：在BIPEDv2数据集达到0.77 OIS，有趣的是，Veo生成的边缘比ground truth还精细（树叶轮廓、轮胎纹理），这反而降低了分数——不是模型弱，是数据集低估了其理解深度
实例分割：LVIS数据集上mIoU达0.74，与专用编辑模型Nano Banana持平
超分辨率/去噪/去模糊：完美复现经典CV任务，但完全无需监督

高级感知（图17-20）

联合视觉搜索：在杂乱场景中找”红圈+蓝方块”的复合目标
错觉理解：正确识别斑点狗错觉、猫轮廓、罗夏墨迹
上下文理解：解析纹理-形状冲突图像

认知能力（图31）

世界状态记忆：放大图像后仍记得画面外的物体位置
物体恒常性：视角变化时保持物体身份

关键洞察：扩散模型的去噪目标天然包含结构理解，因此能涌现分割、边缘检测等能力。

2.2 第二层：建模（Modeling） ——构建世界模型

基于感知，Veo开始展现直觉物理和因果理解：

物理模拟（图21-24）

可燃性：正确模拟火焰蔓延到易燃物
浮力：木头浮、石头沉
空气阻力：羽毛飘落比石头慢
刚体/软体动力学：球弹跳、布料褶皱

物体交互（图25-26）

Visual Jenga：理解移除顺序的物理可行性
背包打包：判断哪些物品能放入容器

光学与抽象（图27-30）

折射/反射：准确渲染光学现象
颜色混合：正确实现加色（光）和减色（颜料）
Omniglot字符：识别模式、生成变体、笔画解析

技术突破：Veo展现的物理理解不是基于符号规则，而是从海量视频中学习的视觉物理模拟。

2.3 第三层：操控（Manipulation） ——主动改变世界

这是将理解转化为行动的能力：

图像编辑（图32-38）

精确分割与背景替换：将物体完美抠出
风格转换：照片→素描→油画，保持内容一致
涂鸦驱动编辑：根据简笔画修改图像
文本变形：将文字变形成糖果、椒盐卷饼

3D感知与视角合成（图39-43）

单图新视角合成：从一张图生成360°环绕视频
物体变形：茶杯→老鼠的平滑变形
自拍转专业照：改变光照、视角、景深

灵巧操作模拟（图44-45） 这是最惊艳的部分：

开罐：双机械手协作拧开瓶盖
抛接球：理解抛体运动、预判落点
转健身球：复杂的手指协调运动
工具使用：正确握锤、握剪刀

技术洞察：Veo的3D一致性远超传统扩散模型，这源于视频训练中的相机运动先验。

2.4 第四层：推理（Reasoning） ——跨时空的思维

这是论文的最高贡献，提出CoF框架：

空间推理（图48-52）

图遍历：模拟水在管道中流动
树搜索：可视化BFS过程
形状匹配：理解几何约束
路径连接：规划最短连接

时序规划（图53-58）

数字排序：气泡按数值从小到大消失
数独求解：4×4数独逐步填数字
迷宫导航：红圈沿白路径到绿圈（5×5迷宫78%成功率）
导航任务：机器人路径规划

规则学习（图59）

ARC风格任务：从3个示例中学习变换规则

核心创新：Chain-of-Frames 不仅是类比CoT，更是视觉推理的本质优势——LLM推理符号，视频模型推理时空。

三、定量实验：严谨的基准测试

3.1 实验规模

总生成量：18,384个视频，62个定性任务+7个定量任务
模型对比：Veo 3 vs Veo 2 vs Nano Banana vs Gemini 2.5 Pro
评估指标：Best frame / Last frame / Pass@k

3.2 关键定量结果（图3-9）

感知任务

边缘检测：Veo 3 (0.77) » Veo 2 (0.57)，接近SOTA 0.90
实例分割：Veo 3 (0.74) ≈ Nano Banana (0.73)，绿色背景比白色好（0.74 vs 0.66）——绿幕先验

操控任务

物体提取：Veo 3达93%准确率，Veo 2仅~20%
图像编辑：人类评估保真度0.63，Veo特别擅长保留纹理细节

推理任务

迷宫求解：5×5网格 Veo 3 78% vs Veo 2 14%，代际提升巨大
视觉对称：形状任务 Veo 3 88% » Veo 2 44% » Nano Banana 40%
视觉类比：颜色变换68%，但反射/旋转低于随机——系统性偏差

3.3 推理时扩展（图61）

重要发现：pass@10 » pass@1，表明并行采样+多数投票有效。但反射/旋转任务中，多数投票性能反而下降，说明模型有根深蒂固的错误偏差，这类似于LLM的”顽固幻觉”。

四、技术深度与工程洞察

4.1 提示工程科学（附录C）

论文做了系统性提示敏感性研究，在视觉对称任务上测试10个变体：

最佳提示：

“Instantly reflect this pattern along the central, vertical axis while keeping the existing colored pattern without modification.”

最差提示（性能差40-64个百分点）：

“A timelapse of a professional pixel artist drawing a symmetrical pattern…”

最佳实践原则：

明确性：指定”vertical axis”而非模糊”symmetrical”
负向约束：”keeping…without modification”防止无关修改
静态控制：”Static camera, no zoom, no pan, no dolly”
运动出口：用旋转色轮等”冻结”解决方案
速度控制：复杂任务用”step-by-step”，图像编辑用”instantly”

4.2 黑盒系统与LLM耦合

重要细节：Veo API包含LLM提示重写器，但作者验证了：

纯Gemini 2.5 Pro无法可靠解决迷宫、对称等核心任务
视觉推理能力来自视频模型本身，而非LLM

这解决了关键质疑：成果不是LLM的功劳。

4.3 成本与可扩展性

当前挑战：视频生成成本高昂。但作者引用Epoch AI数据：LLM推理成本每年下降9-900倍，视频模型将遵循同样曲线。

优化方向：

推理时扩展：pass@k优于增大模型
模型压缩：蒸馏、量化
专用硬件：视频生成加速器

五、失败案例与能力边界（附录D）

论文罕见地详细展示了失败案例：

5.1 物理理解局限

力/运动提示（图64）：无法遵循箭头标注的受力方向
瓶颈问题（图75）：高尔夫球无法通过花瓶瓶颈——尺寸关系理解失败

5.2 组合推理失败

文字搜索（图67）：无法识别”CHEAT”单词，只能高亮单个字母——符号组合能力弱
路径连接（图66）：幻觉点亮所有路径
拼图（图74）：碎片方向错误、完整性丢失

5.3 抽象推理挑战

线性方程组（图69）：产生幻觉文本
ARC类任务（图59）：规则外推能力有限

核心局限：视频模型的推理是视觉模拟式而非符号代数式，因此在需要离散符号操作的组合任务上表现不佳。

六、深层意义与批判性思考

6.1 对AGI研究的意义

论文暗示： “预测下一帧”可能是通往物理世界理解的有效路径 。这与LeCun的”世界模型”理论不谋而合——通过自监督视频预测学习常识。

关键证据：Veo展现的物理直觉不是硬编码，而是从数据中涌现的。

6.2 与LLM类比的局限性

虽然CoF类比CoT很优雅，但存在本质差异：表格

复制

维度	LLM (CoT)	Video Model (CoF)
状态空间	离散符号	连续像素
正确性判断	容易验证	难以精确评估
组合性	强（符号组合）	弱（视觉混合）
可解释性	可读取推理文本	需分析帧序列

风险：视频模型的”推理”可能是高级模式匹配，而非真正的符号逻辑。

6.3 评估危机

当前视觉评估面临ImageNet时刻2.0：

传统基准：针对专用模型设计，不适合生成式评估
新需求：需要能评估视觉计划（visual plan）的标准
主观性：人类评估成本高、一致性低

论文中的”best frame vs last frame”讨论正是这一危机的体现：我们不知道如何评估一个能生成过程的模型。

七、实践建议与未来路线图

7.1 对从业者的即刻行动

Python

复制

# Veo的Zero-shot模式模板
prompt = f"""
[任务描述：清晰、具体、无歧义]
[负向约束：保持...不变]
[运动出口：旋转色轮/进度条]
[相机控制：Static camera, no zoom, no pan, no dolly]
输入图像 + 此提示 → 生成视频 → 提取关键帧

效果提升技巧：

简单任务用instantly，复杂任务用step-by-step
添加”no glitches, no artifacts”减少伪影
对3D任务加”realistic lighting and shadows”

7.2 研究路线图

短期（6-12个月）：

基准建设：开发视频模型评估套件（类似MMLU for vision）
提示优化：自动化提示搜索（DSPy for video）
混合架构：LLM规划 + 视频模型执行

中期（1-2年）：

推理时扩展：学习LLM的self-refine、MCTS
物理 grounding：将视觉推理与真实物理模拟结合
任务蒸馏：将Veo能力蒸馏到更小模型

长期（3-5年）：

通用视觉智能体：Veo + 机器人控制 = 通用机器人
因果推理：从相关性到因果性的跨越
世界模型：视频模型作为强化学习的世界模型

八、总结：视觉的”奥本海默时刻”

这篇论文不仅是技术报告，更是宣言书。它宣告：

“预测像素”正在像”预测token”一样，成为通向通用智能的普适密码。

就像2017年Transformer统一了NLP，2025年的视频模型可能正在统一机器视觉。Veo 3的零样本能力不是终点，而是黎明前的第一缕光。

最大的启示：通用性不需要复杂的架构设计，只需要规模 + 生成目标 + 数据。简单到令人难以置信，强大到改变一切。

FSD V12

Fri, 12 Dec 2025 11:08:52 +0800

特斯拉 FSD V12 之所以被称为“自动驾驶的全新范式”，核心在于它第一次把“感知-决策-控制”整条链路压进一个端到端神经网络，用数据驱动彻底替代了人工写的规则代码，从而把自动驾驶从“工程师写逻辑”变成了“模型自己学驾驶”。具体特殊性体现在三点：

代码量从 30 万行 C++ 直接砍到 2 000 行以内，规则引擎基本消失，车辆动作由神经网络直接输出，实现“光子进、控制出”。
训练方式变成纯模仿学习：用数百万段人类驾驶视频做监督，让网络复制人类司机的“直觉”，长尾场景泛化能力大幅提升，城市复杂路况（无保护左转、施工绕行等）干预次数下降 65%。
架构上彻底端到端，消除模块化系统“层层信息丢失”的缺陷，驾驶风格更接近人类，体感丝滑，不再出现早期版本“机械式加减速”。

业界把 V12 比作“自动驾驶的奥本海默时刻”——它首次证明纯数据驱动范式在城市场景可工程化落地，标志着行业从“规则驱动”迈入“数据驱动”临界点。

下面从“团队结构”和“关键技术”两条线，把特斯拉 FSD 的“人”与“事”串起来，方便你一眼看清这套系统是怎么被做出来的，又到底新在哪。

一、团队：小而精、垂直汇报、跨学科混编

顶层：直接向马斯克汇报的是“AI & Autopilot” 副总裁 Ashok Elluswamy，他统管感知、规控、芯片、数据、仿真五大方向。
核心小组：
– 视觉与网络组：负责端到端大模型、多模态融合（视觉+语言+音频），<20 人，主力是前 OpenAI 研究员、ICCV 最佳论文得主等。
– 芯片与编译器组：2016 年成立，Jim Keller 与 Pete Bannon 带队，18 个月流片，现在迭代到 HW4.0 双 NPU（单颗 72 TOPS），功耗 <7 W。
– 数据引擎组：中美两地超 100 人做自动 4D 标注，12 小时可标 1 万段行程，相当于 500 万小时人工量。
– 仿真与验证组：用 3D Gaussian 重建+对抗生成，把真实街道秒变可编辑虚拟场景，每天跑数百万公里闭环测试。
组织特色：功能型结构、层级极扁；算法、芯片、车辆、法规同一层楼办公，保证“今天发现 bug、明天就 OTA”。

二、技术创新：从“写规则”到“学驾驶”的三级跳

端到端单网络（V12 起）：
输入 7 路 8-bit 视频流 → 直接输出转向/制动/加速，人工 C++ 从 30 万行砍到 2 000 行，消除模块化接口瓶颈，实现“光子进、控制出”。
多模态大模型（V14）：
在端到端基础上引入 VLA（Vision-Language-Action）框架，网络内部同时生成 3D 占用栅格、语言决策链（Chain-of-Thought）和控制指令，可“看懂”施工牌并“自言自语”推理出“需借道左侧”。
自研芯片 + Dojo 超算：
– FSD Chip 采用可配置 DMA 与片上 SRAM 切片，把权重预取和计算并行化，延迟 <2 ms，功耗只有 GPU 方案的 1/5。
– Dojo 用 7 nm 训练 tiles 拼成无交换机拓扑，单柜 1.1 EFLOPS，专门跑视频级无监督预训练，把 OTA 迭代周期从月缩到周。
数据闭环：
车端影子模式采集 → 云端自动标注 → Dojo 训练 → 仿真验证 → OTA 推送，全流程无人值守；长尾样本（拖车、异形障碍物）通过 Occupancy Network 在线挖掘，识别率提升 3 倍。
安全与可解释：
端到端网络在推理时会同步输出语言解释、占用栅格、语义分割三张“中间图”，供监管与工程师回溯决策路径，实现“黑盒里的灰盒”。

一句话总结：特斯拉把“芯片-数据-模型-车”四条链路全部自己做，并用端到端+多模态+语言推理把自动驾驶从“工程师写 if-then” 升级为“模型自己读视频、自己推理、自己开车”，这才是 FSD 被业内视为“新范式”的根本原因。

持仓票，让AI帮忙分析，存档等验证

Fri, 12 Dec 2025 09:41:57 +0800

穿越周期的铜箔龙头：建滔积层板2025财报透视.pptx

https://s3.ap-east-1.amazonaws.com/my-helpful-ai/public/%E7%A9%BF%E8%B6%8A%E5%91%A8%E6%9C%9F%E7%9A%84%E9%93%9C%E7%AE%94%E9%BE%99%E5%A4%B4%EF%BC%9A%E5%BB%BA%E6%BB%94%E7%A7%AF%E5%B1%82%E6%9D%BF2025%E8%B4%A2%E6%8A%A5%E9%80%8F%E8%A7%86.pptx

泡泡玛特：四季财报透视与2026增长边界.pptx

https://s3.ap-east-1.amazonaws.com/my-helpful-ai/public/%E6%B3%A1%E6%B3%A1%E7%8E%9B%E7%89%B9%EF%BC%9A%E5%9B%9B%E5%AD%A3%E8%B4%A2%E6%8A%A5%E9%80%8F%E8%A7%86%E4%B8%8E2026%E5%A2%9E%E9%95%BF%E8%BE%B9%E7%95%8C.pptx

美团发布 LongCat-Image 图像生成模型，编辑能力登顶开源SOTA

Tue, 09 Dec 2025 16:22:39 +0800

LongCat团队美团技术团队2025年12月8日 10:24**北京

当前 AI 图像生成技术需求旺盛，但行业陷入 “两难困境”：闭源大模型性能强劲但无法自行部署或二次定制开发，开源方案普遍存在轻量化与模型性能难以兼顾、面向商用专项能力不足的痛点，制约商业创作与技术普惠。为此，美团 LongCat 团队正式发布并开源 LongCat-Image 模型，通过高性能模型架构设计、系统性的训练策略和数据工程，以6B参数规模，成功在文生图和图像编辑的核心能力维度上逼近更大尺寸模型效果，为开发者社区与产业界提供了 “高性能、低门槛、全开放” 的全新选择。

亮点一：图像编辑高度可控

LongCat-Image 在图像编辑领域的多个重要基准测试中（如GEdit-Bench、ImgEdit-Bench）均达到开源SOTA水平，实现性能突破的背后在于一套紧密协同的训练范式和数据策略。

亮点二：中文文字生成精准覆盖

针对中文文本渲染这一行业痛点，LongCat-Image 通过课程学习策略来提升字符覆盖度和渲染精准度：预训练阶段基于千万量级合成数据学习字形，覆盖通用规范汉字表的8105个汉字；SFT 阶段引入真实世界文本图像数据，提升在字体、排版布局上的泛化能力；RL 阶段融入 OCR 与美学双奖励模型，进一步提升文本准确性与背景融合自然度。此外通过对 prompt 中指定渲染的文本采用字符级编码，大幅降低模型记忆负担，实现文字生成学习效率的跨越式提升。通过该项能力加持，有效支持海报设计、商业广告作图场景中复杂笔画结构汉字的渲染，以及古诗词插图、对联、门店招牌、文字Logo等设计场景的生僻字渲染。

此外，LongCat-Image通过系统性的数据筛选与对抗训练框架，实现了出图纹理细节和真实感的提升。预训练和中期训练阶段严格过滤AIGC数据，避免陷入“塑料感”纹理的局部最优；在SFT阶段，所有数据均经过人工精筛来对齐大众审美；在RL阶段，创新性地引入AIGC内容检测器作为奖励模型，利用其对抗信号逆向引导模型学习真实世界的物理纹理、光影和质感。

DeepSeek-V3.2

Tue, 02 Dec 2025 12:00:47 +0800

DeepSeek-V3.2（标准版）：主打性价比与日常使用，推理能力达到 GPT-5 水平，比 Kimi-K2-Thinking 输出更短、更快且更省成本，并首次实现「边思考边用工具」。官网、APP、API 均已升级到该版本，适用于日常问答、写作和 Agent 任务。
DeepSeek-V3.2-Speciale（终极增强版）：面向 AI 能力上限探索，性能媲美 Gemini-3.0-Pro，在 2025 IMO、IOI、ICPC 中均获金牌（IOI 排人类第 10，ICPC 排第 2）。仅提供临时 API，思考链长、Token 消耗大、成本高，不支持工具调用，也未优化日常对话，服务至 2025 年 12 月 15 日截止。

**DeepSeek 这次引入的 DSA(稀疏注意力机制)**换了个思路：不需要关注每一个字，只关注那些真正重要的部分。

它的核心是一个叫「闪电索引器」的东西。

这个索引器会快速给每个字打个分，然后只挑出分数最高的那些字来计算注意力。就像你在 1000 人的群里，先用搜索功能筛出名字里带「张」的，然后再从这 50 个人里找你要的那个张三，效率立马上去了。

更聪明的是，闪电索引器使用的计算资源很少，而且支持 FP8 精度计算 (一种低精度但高效的计算方式)，所以它本身不会成为新的性能瓶颈。

是可扩展。这个框架允许后训练阶段的计算预算大幅超过传统做法，从而释放出模型的高级能力。

具体训练流程分两步走。

第一步是「专家蒸馏」。他们在数学、编程、逻辑推理、智能体任务等六大专业领域，分别训练出专用的专家模型。每个专家模型都在大规模强化学习计算下训练完成，而且分别针对「思维模式」(长链式思考) 和「非思维模式」(直接回答) 生成训练数据。

专家模型训练好后，就用它们来生成最终模型的训练数据。实验结果显示，用这些专家蒸馏数据训练出的模型，性能只是略低于对应的专家模型，而且这点差距在后续的强化学习训练中可以被抹平。

第二步是「混合强化学习训练」。DeepSeek 继续使用 GRPO(Group Relative Policy Optimization) 作为主要训练算法，把推理任务、智能体任务和人类偏好对齐任务统一整合到一个强化学习阶段。

这种统一训练的好处是既能提升不同任务领域的性能，又能避免传统多阶段训练中常见的「灾难性遗忘」问题。你可以把它理解为：AI 在学新技能的同时，不会把旧技能忘掉。

在推理和智能体任务中，他们用基于规则的结果奖励、输出长度惩罚、语言一致性奖励来引导模型学习。而在通用任务中，则用生成式奖励模型，根据每个提示分别定义评价标准。

V3.2 就是在这种混合强化学习下，经过上千步训练得到的稳定版本。而 Speciale 版本则更激进，它只在推理任务数据上训练，降低了输出长度惩罚，还引入了 DeepSeekMath-V2 的数据集和奖励机制，进一步增强数学证明能力。

腾讯游戏发布专业游戏AI大模型，美术师做动画不用辣么“肝”了

Tue, 26 Aug 2025 10:08:19 +0800

而在科隆游戏展期间，腾讯游戏首次面向全球发布游戏创作AI全链路解决方案VISVISE。

简单来说，VISVISE包含一整套AI工具，分为动画制作、模型制作、数字资产管理、智能NPC四大管线，覆盖游戏美术开发全流程，重点在于辅助游戏美术完成那些重复、机械且工作量巨大的“体力活”。

比如在3D动画制作方面，VISVISE的MotionBlink可根据用户输入的少量关键帧，自动补全中间帧，生成完整序列动画。

在过去，动画师手动补帧甚至要占角色动画制作总工时的60%-70%，短短10秒的动画制作，手K精修可能要3-7人天才能完成。

而现在，AI自动补全生成200帧动画仅需4秒：

并且还做到了1.5秒间隔极限优化，部分效果能达到光学动捕的水准：

在现场体验了MotionBlink的功能后，一名来自德国的游戏开发专业学生表示，他目前正在自主开发独立游戏并筹备创业，其中最大的瓶颈正是动捕技术。在他看来，MotionBlink能够显著降低角色动画的制作门槛，为小型团队和创业者提供支持。

而这只是VISVISE的一个AI工具，其余像Superman角色动画方案、GoSkinning自动蒙皮等工具都已在众多游戏中落地，例如GoSkinning就在《和平精英》《PUBG Mobile》等知名产品中应用。

VISVISE究竟是如何打造而成的？腾讯打造它的核心出发点又是什么？我们接着往下看。

游戏AI大模型解决的是什么问题？

传统游戏美术生产制作中，50%-60%的工作都耗费在美术资产的制作上，其中最繁琐的环节要数3D建模以及动画制作。

3D建模是把概念设计稿变成“立体数字模型”的过程，产出的是“静态数字模型”，要让角色能动起来，就得经过“骨骼绑定→蒙皮→动画制作”流程。

想象一下，你正在给一个3D角色“穿衣服”——不是真的缝制布料，而是用数字化的方式，让它的皮肤和骨骼完美联动。这就是游戏开发中枯燥却又关键的工作之一：蒙皮。

腾讯游戏效能产品部负责人陈冬解释道，当骨骼运动时，需要计算3D模型的每个面片（Mesh）随骨骼移动的程度，也就是确定每个面片关联的关节及其权重。权重决定了面片受哪根关节影响以及影响的程度，“如果某块面片只关联单一关节，那它就只会受这根关节的运动影响”。

在传统流程中，美术师需要手动调整成千上万个“权重点”，就像用隐形的线把皮肤通过不同权重数据缝到骨头上。靠近关节的皮肤要分散绑定（权重分配），这样角色抬手时，手肘的褶皱才会自然。

但问题来了：

一个角色可能有上百根骨头，每根骨头都要精准控制皮肤变形；
稍有不慎，衣服就会“穿模”——比如内层衣物运动幅度太大，直接戳破外层。

即便资深绑定师，也要花60%的时间解决这些问题。

而到了动画环节，挑战更复杂：

传统方式有两种：“手K”和“动捕”。徒手逐帧调整动画（手K）效率极低，一个十秒的动画可能就要调一周。动作捕捉（动捕）速度虽快，但数据质量不稳定，仍需大量修正。而风格化、非通用类型的动作——比如武术动作或夸张表情，常因缺乏数据储备需额外组织动捕实验。

AI想解决这些问题，但游戏数据的复杂性让它举步维艰：

蒙皮需要建模顶点和骨骼的复杂关系，而3D数据异构性强，AI表征是难题；
动画细节极为丰富，缺乏统一有效表征（如大语言离散化表达），其空间、时序多维建模是难题。

更关键的是，游戏行业的标准极高——AI生成的内容必须能无缝融入管线，还得方便美术师随时调整。如果一家公司不懂游戏研发流程，或者没有足够数据，它的AI很可能连“及格线”都摸不到。

所以，真正的挑战或许是：如何让AI既懂技术，又懂游戏？

腾讯游戏有何解法？

在蒙皮方面，腾讯游戏VISVISE推出GoSkinning蒙皮工具，通过两阶段AI解决蒙皮难题：先由通用蒙皮AI大模型（基于GCN和Transformer架构）预测骨链、骨骼的权重，再通过局部AI对效果不佳区域（如裙摆、翅膀等复杂部件）进行二次优化。

操作起来十分简单，在场景中选择模型和关节后，即可点击自动整体蒙皮。

局部蒙皮方面，下面这个例子可以看到角色裙摆出现了粘连问题，在场景中只需选出错误的关节和顶点，然后就能让GoSkinning针对局部一键自动修复：

这套系统训练时“喂”游戏研发过程中积累的高质量数据，最终实现2万顶点模型30秒处理完成，效率提升8倍。

动画制作方面同样被AI革新，腾讯游戏VISVISE的MotionBlink工具只需开发者设定起跳、落地等关键姿势，AI便能通过自回归Diffusion模型自动补全中间帧。其底层MotionGen大模型，基于大规模高精动捕数据，支持攀爬、舞蹈等动作风格，部分移动类动作生成质量接近专业动捕。

来看一个实操案例，首先设置角色运动轨迹：

然后添加几个关键帧，调整角色的动作姿势：

接着使用MIB智能补全中间帧：

几秒钟，一段完整动画就生成了：

目前，团队智能关键帧生成相关研究已被ACM SIGGRAPH 2025接收。

更关键的是，这些工具能以插件形式嵌入Maya等现有开发软件，开发者无需重构管线即可调用。

腾讯游戏这种将技术研发与生产实践紧密结合的能力，源自其长期积累的一线开发经验。AI技术团队清楚地知道：游戏角色挥剑时，手腕该旋转多少度；角色模型需要绑定多少个权重点，裙摆才会呈现最自然的状态。

VISVISE何时造的？如何诞生的？

与其他“先有技术再找应用”的AI路线不同，VISVISE是腾讯游戏基于实际开发需求而诞生的。

2016年，腾讯游戏就开始探索AI在游戏中的应用，最初将深度学习技术用于运营提效和流程优化；2017年，团队开始尝试用强化学习进行游戏对弈相关研究；到2018年，技术研发重点扩展到了美术生产管线（DCC）领域。

2022年，腾讯游戏推出了AI自动蒙皮工具GoSkinning1.0版本。这项技术采用数据驱动的方式，通过机器学习方法对已有蒙皮数据的特征进行学习，能够在相似的衣物数据集上进行预测，实现包含骨骼与面片的网格智能蒙皮，并在《和平精英》《QQ炫舞》等游戏中投入使用。

实际应用数据显示，仅GoSkinning 1.0版本就让《和平精英》动画蒙皮制作环节的效率提升了约40%。

此后，VISVISE团队与《和平精英》项目组保持长期合作，持续根据具体开发需求输出定制化技术功能。目前GoSkinning已迭代至4.2版本，新增了裙摆蒙皮、四足蒙皮、面部绑定等功能，动画蒙皮制作效率提升达到60%以上。

据陈冬透露，随着2023年生成式AI的快速发展，他们意识到大规模的数据通过神经网络进行预训练后能带来强大的生成式能力，于是团队加大了对游戏开发中成本最高的3D模型与动画生成领域的投入。

到2024年，腾讯游戏决定将分散的AI探索整合为系统化的产品矩阵，VISVISE由此正式诞生。

该系统围绕游戏创作的六大核心环节——模型生成、贴图制作、骨骼绑定、动画制作、场景构建及渲染，构建了动画制作、模型制作、数字资产管理和智能NPC四大AI生产管线，每个管线都配备了针对性的AI工具。这些AI模型均基于游戏行业实际需求开发，并针对不同类型游戏进行了差异化训练。

2025年Q1、Q2，腾讯财报连续强调了AI对研发效率的提升作用，其中Q1提到AI已对长青游戏产生实质性贡献，Q2则指出《王者荣耀》《和平精英》等头部产品在向平台化演进过程中加大了AI应用力度。

目前，VISVISE不仅服务于腾讯内部游戏项目，还包括众多行业合作伙伴，仅GoSkinning就已应用于近百款游戏。

游戏AI的未来？

随着ChatGPT5以及Google Genie3的发布，逐渐出现这样一种论断：多模态将会成为AI技术发展的关键能力。而存在丰富2D、3D交互场景的游戏，也是AIGC的最佳应用场景之一。在这样的趋势下，我们应该如何看待游戏和游戏AI的能力与价值？

其实回看AI发展史，游戏一直是AI技术的“试验田”和“加速器”——就像腾讯游戏效能产品部负责人陈冬说的：“游戏和AI，天生就是一对”。

比如，英伟达的显卡最初是为了渲染游戏画面，如今却成了训练大模型的算力基石；DeepMind当年训练强化学习AI，第一个“陪练”就是《星际争霸》和《DOTA2》；甚至硬件层面，GPU里负责游戏的CUDA核心和AI运算的Tensor核心，物理距离近得像是刻意安排的“邻居”。

这种关系不是巧合，而是技术演进的必然。

游戏“感知环境→决策→反馈→迭代”的逻辑，本质上就是AI的训练场。比如，一个AI在《王者荣耀》里学会“蹲草埋伏”，和它在现实世界学会“预判交通”的底层逻辑，可能没什么不同。

同时，游戏也是对3D资产有着最大需求的重要场景之一。但更关键的是，游戏对“极致体验”的追求，一直在逼着AI突破极限。早些年，开发者就想做“会哭会笑的NPC”，但技术不够，只能做“木头人”；现在，AI能让NPC记住你的名字、吐槽你的操作，甚至假装生气——但这还不够。

陈冬告诉我们，最想突破的是智能NPC。

现在的NPC像是“打补丁”的机器人：加个记忆模块、塞个情感计算，但本质上还是“按剧本演戏”。

真正的突破，是让NPC像人一样“理解”虚拟世界——比如，它该知道“玩家刚才那句话是在开玩笑”，而不是机械地回答“指令无效”。

这很难，但游戏的魅力就在于此：它既是AI的“考场”，也是“灵感来源”。或许某天，游戏里的NPC会先一步达到AGI——毕竟，它们已经在虚拟世界里，演了太久的人类。

本文来自微信公众号“量子位”（ID：QbitAI），作者：西风，36氪经授权发布。

LLM 高效架构综述

Tue, 26 Aug 2025 09:34:10 +0800

近年来，大语言模型（LLMs）展现出强大的语言理解与生成能力，推动了文本生成、代码生成、问答、翻译等任务的突破。代表性模型如 GPT、Claude、Gemini、DeepSeek、Qwen 等，已经深刻改变了人机交互方式。LLMs 的边界也不止于语言和简单问答。随着多模态（VLMs）与推理能力（LRMs）的兴起，LLMs 正不断扩展到多模态理解、生成与复杂推理场景。

但模型性能持续提升的背后，是模型尺寸、数据规模、RL 推理长度的快速 Scaling，是算力和存储资源的急剧消耗。大模型的训练与推理的成本居高不下，成为制约其广泛落地和应用的现实瓶颈。

本文从 LLM 架构角度出发，带你剖析大模型的效率秘诀。这一切的核心在于 Transformer 架构。Transformer 的自注意力机制虽带来了远距离建模的突破，却因 O(N2) 的复杂度在长序列任务中成本高昂。**而在 RAG、智能体、长链推理、多模态等新兴场景下，长序列需求愈发突出，进一步放大了效率与性能之间的矛盾。**同时 Transformer 的 FFN 部分采用密集的 MLP 层，同样面临模型规模放大后的训练和推理效率问题。

作者：机器之心
链接：https://zhuanlan.zhihu.com/p/1943373121248822632
论文标题：Speed Always Wins: A Survey on Efficient Architectures for Large Language Models论文地址：https://arxiv.org/pdf/2508.09834
项目仓库：https://github.com/weigao266/Aw

图 2：大语言模型高效架构概览

该综述将目前 LLM 高效架构总结分类为以下 7 类：

线性序列建模：降低注意力训练和推理复杂度，无需 KV Cache 开销。
稀疏序列建模：通过稀疏化注意力矩阵，降低计算与显存需求。
高效全注意力：在保持完整注意力的前提下优化内存访问与 KV 存储。
稀疏专家模型：通过条件激活部分专家，大幅提升模型容量而不增加等比例计算成本。
混合模型架构：结合线性/稀疏序列建模与全注意力，兼顾效率与性能。
扩散语言模型：利用非自回归的扩散模型进行语言生成。
其他模态应用：将这些高效架构应用于视觉、语音、多模态模型。

图 3：综述完整组织架构

作者：机器之心
链接：https://zhuanlan.zhihu.com/p/1943373121248822632
来源：知乎
著作权归作者所有。商业转载请联系作者获得授权，非商业转载请注明出处。

线性序列建模

线性序列建模是近年来研究相当火热的一个方向，代表性工作像 Mamba、Lighting Attention、RWKV、GLA、TTT 等在模型架构方向都引起过广泛关注。我们将这类技术细分为以下几个类别：

线性注意力
线性 RNN
状态空间模型
测试时推理 RNN

并且正如在多篇文献里已经提出的，这些线性序列建模方法可以概括为统一建模的数学形式，并且能够通过线性化过程将预训练模型权重的 Softmax Attention 架构转为 Linear Sequence Modeling 架构，从而获得模型效率的大幅提升，如下图所示。

图 4：线性序列建模方法

我们将已有的线性序列建模方法从记忆视角和优化器视角分别进行梳理和对比，详细形式可见下表：

表 1：线性序列建模方法统一建模的 Memory 视角和 Optimizer 视角

其中线性化技术可以进一步细分为基于微调的线性化，和基于蒸馏的线性化，如下图所示：

图 5：线性化方法

综述还进一步总结归纳了目前在线性序列建模领域常见的硬件高效实现方法，可以归纳为 Blelloch Scan、Chunk-wise Parallel 和 Recurrent for Inferences，如下图所示：

图 6：线性序列建模方法的硬件高效实现

稀疏序列建模

稀疏序列建模是另一类有代表性的高效注意力机制，通过利用 Attention Map 天然具有的稀疏性加速注意力的计算，这类方法可以进一步细分为：

静态稀疏注意力
动态稀疏注意力
免训练稀疏注意力

代表性的稀疏注意力方法如 Global Attention、Window Attention、Dilated Attention 等，及其工作原理如下图所示：

图 7：稀疏注意力的几种经典形式

高效全注意力

另一类高效注意力算法可以统一归纳为高效全注意力，这类方法可以根据算法思路进一步细分为如下几类：

IO-Aware Attention
Grouped Attention
Mixture of Attention
Quantized Attention

其中 IO-Aware Attention 指代目前使用非常广泛的 Flash Attention 系列工作，Grouped Attention 则包含广为使用的 GQA、MLA 等全注意力变体，几种代表性方法如下图所示。

图 8：Grouped Attention 的几种代表性方法

稀疏混合专家

稀疏混合专家是对 Transformer 架构中另一个重要模块 FFN 做的一类重要改进，已经逐渐成为（语言和多模态）大模型架构的事实标准。综述中将相关文献按以下三个方向进行分类：

Routing Mechanisms
Expert Architectures
MoE Conversion

路由机制包括 Token-choice 和 Expert-choice 两类，其原理如下图所示：

图 9：MoE 路由机制

专家结构的创新工作包括：共享专家、细粒度专家、零专家、深度路由等，其作用和原理可见下图：

图 10：MoE 专家架构

另外一个重要的方向是 MoE 转换，已有的工作包括通过 Split、Copy、Merge 等手段对专家进行构造，如下图所示：

图 11：MoE 转化机制

混合架构

混合架构是近年来出现的一种实用的新型架构，可以在线性/稀疏注意力和全注意力之间取得微妙的 Trade-off，也在效率和效果间找到了最佳甜蜜点。具体可细分为：

层间混合
层内混合

图 12：混合架构形式

扩散大语言模型

扩散大语言模型是近期出现的一个热门方向，创新性地将扩散模型从视觉生成任务迁移至语言任务，从而在语言生成速度上取得大幅进步。相关工作可以细分为：

Non-Autoregressive Diffusion LLM
Bridging Diffusion LLM and Autoregressive
Extending Diffusion LLM to Multimodality

图 13：扩散大语言模型机制

应用至其他模态

最后一个重要的部分是高效架构在其他模态上的应用，涵盖视觉、音频和多模态。以 Mamba 为代表的线性模型被广泛应用至多种模态任务上，并取得了优秀的表现，综述将这类模型总结梳理至如下表格：

Insights into DeepSeek-V3: Scaling Challenges and Reflections onHardware for AI Architectures

Fri, 16 May 2025 11:32:11 +0800

https://www.arxiv.org/pdf/2505.09343

深度解析 DeepSeek-V3：扩展挑战与硬件架构反思

背景与目标

DeepSeek-V3 是由 DeepSeek-AI 开发的超大规模语言模型，基于其前代 DeepSeek-V2 的架构进行了多方面的优化。论文的主要目标是：

分析大规模 LLM 在训练和推理中面临的硬件瓶颈。
探讨模型与**硬件协同设计（co-design）**的必要性。
提出面向未来的AI 硬件架构建议，以支持更高效的 LLM 扩展。

论文主要聚焦于其系统级架构设计、通信机制优化、网络拓扑结构改进，以及这些因素如何影响模型的性能和成本效率。

2. DeepSeek-V3 的核心架构设计

2.1 多头潜在注意力机制（Multi-head Latent Attention, MLA）

MLA 是一种旨在提升内存效率的注意力机制。传统的 Transformer 注意力机制需要存储大量的 Key/Value 缓存（KV Cache），这在处理长序列时会造成显著的内存负担。MLA 引入了“潜在表示”（latent representation），通过压缩 KV 缓存来减少内存占用。

2.2 混合专家架构（Mixture of Experts, MoE）优化

MoE 是 DeepSeek-V3 的核心技术之一，它通过稀疏激活机制，在不增加计算资源的前提下显著提升模型参数规模。

参数规模大但计算成本低：例如，DeepSeek-V3 总参数达到 671B，但每个 token 只激活约 37B 参数。
灵活的路由策略：采用 Top-K 路由算法选择最相关的专家模块。
分布式训练优化：结合 All-to-All 通信模式，实现高效的专家并行（Expert Parallelism, EP）。

实现难点：

通信开销大：EP 需要频繁的 All-to-All 数据交换。
负载不均衡：某些专家可能被频繁调用，造成热点问题。

为解决这些问题，DeepSeek 团队开发了 DeepEP，一个高效的 EP 实现库，并开源供社区使用。

2.3 多令牌预测模块（Multi-Token Prediction Module, MTP）

MTP 是为了加速推理而设计的模块，允许模型在同一时间步预测多个 token，从而显著提高吞吐量。
工作原理：

在解码阶段，同时生成多个候选 token。
利用 speculative sampling 策略，提前预测后续 token。
结合硬件加速器（如 GPU 的 Tensor Core）提升并行处理能力。

效果：

显著减少推理延迟。
在消费级 GPU 上也可实现高吞吐（如运行 DeepSeek-V3 的 TPS 达到 ~20）。

3. 低精度计算与通信优化

随着 LLM 的参数规模不断增长，传统高精度浮点运算（如 FP32 或 BF16）在计算资源、内存带宽和能耗方面带来了巨大压力。尤其是在 MoE 架构中，专家模块之间的频繁通信进一步加剧了对带宽的需求。
MoE 中有两个关键阶段涉及大量通信：

Dispatch 阶段
- 输入 token 被路由到多个专家模块。
- 使用 FP8 或 LogFMT 压缩后，传输数据量减少，通信时间显著缩短。
Combine 阶段
- 来自多个专家的输出被聚合。
- 如果在此阶段也使用压缩通信，可以避免带宽瓶颈，提升聚合效率。

DeepSeek 团队提出了 FP8 混合精度训练和 LogFMT 通信压缩格式等创新技术，构建了一个以低精度为核心的系统级优化框架，从而在不牺牲模型性能的前提下，显著提升了训练和推理效率。

3.1 FP8 混合精度训练

DeepSeek-V3 采用了 FP8 混合精度训练技术，以降低计算和通信带宽需求。
实现方式：

在关键计算路径（如注意力矩阵计算、FFN 层）使用 FP8。
其他部分保留更高精度（如 BF16）以保持数值稳定性。
动态调整精度策略，根据层或操作类型切换精度。

优点：

减少内存占用和数据传输带宽。
加快训练速度，尤其在带宽受限的集群环境中。

尽管 FP8 混合精度训练带来了显著收益，但仍存在一些限制：

累加精度不足 Hopper GPU 的 Tensor Core 在执行 FP8 GEMM 时仅维护 13 位尾数（FP22），并截断超出部分。这可能导致：
- 长序列注意力计算中的误差累积。
- 权重更新不稳定，影响收敛速度。
数值稳定性问题 FP8 的动态范围有限，尤其在某些极端输入场景下可能出现溢出或下溢，影响模型稳定性。
软件支持不完善目前主流框架（如 PyTorch）对 FP8 的支持仍处于早期阶段，需大量自定义代码实现：
- 自定义量化/反量化函数。
- 自定义 GEMM 内核（如 DeepGEMM 开源项目）。
- 混合精度调度逻辑复杂。

未来方向：

为 FP8 或自定义精度格式提供原生压缩/解压单元，是解决当前 AI 通信瓶颈的重要方向。
它能显著降低通信带宽需求，并提升通信效率，尤其适用于 MoE 这类通信密集型任务。
未来硬件应考虑将这些功能集成到网络接口控制器（NIC）、I/O die 或 GPU 内部逻辑中，以实现真正的高效通信

3.2 LogFMT通讯压缩

LogFMT 是 DeepSeek-V3 提出的一种基于对数空间的新型量化格式，在一定程度上是为了弥补 FP8 的不足而提出的。其核心思想是将数值从线性空间转换到对数空间，从而使得数据分布更均匀，便于进行低比特量化。

数据结构定义（LogFMT-nBit）：

第一位为符号位 S。
剩余 n-1 位编码 log(|xi|) 的值。

每个 tile 独立计算 min/max，并据此归一化其他值，实现自适应量化范围。
主要可以应用在以下几个阶段：

MoE 的 Dispatch 阶段：令牌被路由前进行低精度编码。
KV Cache 压缩：缓存 Key/Value 向量，减少内存占用。
中间结果通信：Transformer 层之间传递激活值时使用。

存在的局限:

当前 GPU 不支持 LogFMT 原生运算，需软件层实现，带来额外延迟。
编解码过程较复杂，增加了计算负担。
目前主要用于通信压缩，在关键计算路径（如注意力矩阵、FFN 层）仍需使用 FP8/BF16。

未来方向：

硬件原生支持：建议未来 GPU 和网络芯片支持 LogFMT 编解码功能。
混合精度策略：结合 LogFMT 与 FP8/BF16，在不同阶段灵活切换。
自动 rounding 到线性空间：确保量化过程无偏，避免在对数空间直接舍入造成的误差。

4. 互联网络优化与 Scale-up/Scale-out 架构融合

DeepSeek-V3 基于 NVIDIA H800 GPU 构建，并采用高性能互连技术（如 InfiniBand 和 NVLink）进行节点间通信；

网络拓扑：

每个 H800 节点配备 8 个 400Gbps InfiniBand (IB) NIC 。
实现了接近 50GB/s 的有效带宽（考虑小数据包和延迟影响后实际约为 40GB/s）。
相比之下，NVLink 提供约 160GB/s 的带宽（单向）。

为满足监管要求，FP64 性能和 NVLink 带宽被削减。

NVLink 带宽从 900 GB/s 降至 400 GB/s，导致节点内通信能力下降

为此，每个节点配备 8 个 400Gbps InfiniBand NIC，增强节点间通信能力，同时DeepSeek-V3 通过软件优化（如 Node-Limited Routing、LogFMT 等）弥补硬件限制，实现高效训练。

4.1 Hardware-Aware Parallelism(硬件感知并行)

DeepSeek 团队提出了 Hardware-Aware Parallelism 策略，旨在根据硬件特性优化模型并行方式，以提升整体训练和推理效率。

并行类型	是否使用	使用场景	说明
Tensor Parallelism (TP)	否（训练时）是（推理时）	推理加速	避免在训练中使用，因 NVLink 带宽限制导致低效；推理时选择性使用以降低延迟。
Pipeline Parallelism (PP)	是	训练加速	使用 DualPipe 技术重叠 attention 与 MoE 计算，减少 pipeline bubbles。
Expert Parallelism (EP)	是	MoE 分布式处理	使用 DeepEP 实现高效的 All-to-All 通信，开源实现。

4.2 模型架构与硬件协同设计： Node-Limited Routing

在 DeepSeek-V3 所使用的 NVIDIA H800 GPU 架构中，存在明显的 Scale-Up（节点内）与 Scale-Out（节点间）通信带宽不匹配问题：

通信类型	带宽理论值	实际有效带宽	带宽比例（近似）
Scale-Up (NVLink)	200 GB/s	~160 GB/s	4:1
Scale-Out (IB NIC)	50 GB/s	~40 GB/s （由于小数据包传输和延迟影响）	–

为了解决这些问题，DeepSeek 团队提出了 Node-Limited Routing（节点限制路由）和 TopK 专家选择策略，通过将专家部署在有限数量的节点上，从而减少跨节点通信量。

专家分组与部署
- 将总共 256 个专家分成 8 组。
- 每组包含 32 个专家，并部署在同一个节点上。
Token 路由策略
- 每个 token 最多被路由到 4 个节点。
- 这样可以确保：
  - 跨节点通信量减少。
  - 同一节点内的专家可通过高速 NVLink 通信，降低延迟。

假设使用 8 个节点（共 64 个 GPU），每个 GPU 有 4 个专家，总共有 256 个专家，每个 token 被路由到 1 个共享专家 + 8 个目标专家。

传统实现：
- 如果这 8 个目标专家分布在所有 8 个节点上，则需进行 8 次 IB 通信。
- 总通信时间为 8 * t（t 为单次 IB 传输时间）。
Node-Limited Routing 方法
- 目标专家被限制在最多 4 个节点。
- 每个节点只需一次 IB 传输，然后通过 NVLink 在节点内广播。
- 总通信时间降至 4 * t，节省了 50% 的通信开销。

4.3 Scale-up 与 Scale-out 网络融合

当前硬件中，Scale-up（节点内）和 Scale-out（节点间）网络是分离的，导致通信路径复杂、延迟高。
尽管 MPFT 和 EP 等技术取得了良好效果，但仍面临一些挑战：

当前 IB ConnectX-7 不支持多平面无缝通信，需通过节点转发，增加延迟。
软件复杂度高：
- Node-Limited Routing 策略增加了通信流水线 kernel 的实现复杂度。
- GPU Streaming Multiprocessors(SM) 需要同时处理网络消息填充和 NVLink 转发，消耗计算资源。
内存一致性问题：
- 使用 load/store 语义进行跨节点通信时，需显式插入内存屏障（fence），影响吞吐。
- RDMA 中也存在 out-of-order synchronization 问题。

未来方向：

统一网络适配器（Unified Network Adapter）、
- 设计支持统一 Scale-Up 与 Scale-Out 网络的 NIC 或 I/O Die。
- 支持基本交换功能，如将 Scale-Out 数据包转发到特定 GPU。
- 使用单一 LID/IP 地址 + 策略路由，简化地址管理。
专用通信协处理器（Dedicated Communication Co-Processor）
- 引入专用协处理器或可编程组件（如 I/O Die），处理网络流量。
- 卸载 GPU SM 上的通信任务，防止性能退化。
- 支持硬件加速的内存拷贝、广播、转发操作。
灵活的数据转发、广播与归约机制
- 硬件应支持灵活的转发机制，用于 MoE 分发和聚合。
- 支持高效的归约操作（reduce），提升通信效率。
- 实现类似于当前 GPU SM-based 实现的机制，但由硬件直接完成。、
低延迟互连与同步原语
- 支持 acquire/release 同步语义，减少软件同步开销。
- 提供硬件级原子操作、屏障指令，提升通信效率。
- 支持乱序包到达的硬件排序（RAR 机制）。

实现 Scale-Up 与 Scale-Out 网络融合之后，AI 系统将获得以下显著优势：

优势	描述
更低的通信延迟	统一网络接口减少了中间转发步骤，提升通信效率。
更高的有效带宽利用率	可动态分配带宽资源，适应不同工作负载需求。
更简单的软件栈	无需区分 intra-node 与 inter-node 通信，简化调度逻辑。
更强的可扩展性	更容易支持超大规模集群（如 10k+ GPU）。
更好的负载均衡能力	可根据网络状态动态选择最优路径，避免热点瓶颈。

4.4 带宽争用与延迟

在 H800 GPU 架构中，GPU 和 CPU 之间的 PCIe 接口是连接主存和显存的关键路径。然而，在大规模训练或推理过程中，多个任务会同时争夺有限的 PCIe 带宽，导致性能下降。
比如在以下两种场景下：

KV Cache 传输：
- 在推理阶段，需要频繁将 Key/Value cache从 CPU 内存拷贝到 GPU 显存。
- 这类操作可能占用数十 GB/s 的带宽。
专家并行（EP）通信：
- MoE 模型中的 All-to-All 通信也依赖 IB NIC 和 GPU 之间的数据交换。
- 如果 EP 通信和 KV Cache 传输同时进行，PCIe 带宽就会成为瓶颈。

因此，会导致存在以下问题：

性能下降：带宽争用会导致整体吞吐下降。
延迟增加：某些任务的完成时间被显著延长。
资源利用率低：GPU 可能因等待数据而处于空闲状态

优化建议：

动态优先级调度机制，根据不同类型的流量需求，动态调整带宽分配策略。保证关键任务（如推理任务）的低延迟执行。防止非关键任务占用过多带宽，提升整体效率。
- 对不同类型流量设定不同优先级，例如：
  - 高优先级：EP、TP、KV Cache 传输
  - 中低优先级：其他后台任务
- 在 PCIe 上暴露 Traffic Class (TC) 给用户空间程序，实现灵活控制。
将网卡直接集成到 I/O Die 中（Chiplet架构），减少 PCIe 成为瓶颈的风险，提升整体系统的可扩展性和稳定性，并降低通信延迟
- 将 InfiniBand 或 RoCE 网卡直接集成到封装级别的 I/O Die 中。
- 通过封装内互连技术（如 NVLink、Infinity Fabric）连接 GPU Compute Die。、
使用 NVLink 替代 PCIe，统一 Scale-Up 域内的 CPU-GPU 通信，通过优化节点内部 CPU 与 GPU 的通信效率，避免 PCIe 成为瓶颈
- 使用 NVLink、Infinity Fabric 等高速互连技术替代传统 PCIe。
- 将 CPU 和 GPU 放入同一个 Scale-Up 域中。

5 大规模网络驱动设计

随着 LLM（大型语言模型）参数规模的指数级增长，传统的三层 Fat-Tree（FT3）拓扑在成本、可扩展性和鲁棒性方面逐渐暴露出局限性。特别是在 MoE 架构下，All-to-All 通信密集型操作对带宽提出了更高要求。

5.1 Multi-Plane Fat-Tree 网络拓扑（MPFT）

DeepSeek-V3 部署了一个基于 InfiniBand 的多平面两层 Fat-Tree 网络（MPFT），用于替代传统的三层 Fat-Tree 架构，如图Figure 3所示。

架构特点：

每个节点配备 8 块 GPU 和 8 个 400Gbps InfiniBand NIC 。
每块 GPU 对应一个独立的 IB NIC，属于不同的“网络平面”（plane）。
所有节点连接到 64-port 400G IB 交换机，构成两层 Fat-Tree。
此外，每个节点还配置了一个 RoCE NIC，用于连接分布式文件系统（如 3FS），实现存储网络隔离。

优点：

成本更低：相比三层 Fat-Tree，MPFT 可节省高达 40% 的网络成本。
更高的可扩展性：理论上支持最多 16,384 个 GPU。
流量隔离：每个平面独立运行，避免跨平面拥塞。

尽管 MPFT 在理论上具有强大的优势，理想情况如Figure 4所示，

但实际上受限于IB ConnectX-7硬件，主要表现在：

不支持真正的多平面通信。
QP 数据包无法自动在多个平面上负载均衡。
若需要跨平面通信，必须通过节点内转发（intra-node forwarding），引入额外延迟。

但是NVIDIA 新一代网卡 ConnectX-8 已原生支持 4 个网络平面（4-plane），可以在一个 QP 上实现真正的 multi-path packet spraying。并支持硬件级乱序包处理，确保数据一致性。

5.2 低延迟网络

DeepSeek-V3 的训练依赖于超大规模集群（如 2048 块 H800 GPU），而 MoE（Mixture of Experts）架构下的专家并行（EP）操作对带宽和延迟都非常敏感。因此，网络延迟的优化对于提升整体系统性能至关重要。
1. InfiniBand vs. RoCE：性能对比
在 DeepSeek-V3 的部署中，使用了 InfiniBand（IB）作为主要通信协议。为了评估其性能优势，论文对比了 IB 与 RoCE 在不同场景下的端到端延迟表现。

64B 数据传输延迟对比：

可以发现：

InfiniBand 延迟最低，是当前最适合 MoE 架构下 All-to-All 通信的网络协议。
RoCE 虽具成本优势，但延迟较高，尤其在跨 Leaf 交换机时表现不佳。
NVLink 提供了最低的节点内通信延迟，适用于 Tensor Parallelism 和 KV Cache 传输等 intra-node 操作。

尽管 RoCE 在成本上具有一定优势，但其延迟和扩展性仍不能完全满足大规模 AI 系统的需求。为此，论文提出了以下几点改进建议：

专用低延迟 RoCE 交换机
- 当前以太网交换机包含大量不必要的功能（如 QoS、VLAN 等），增加了处理延迟。
- 建议开发专门面向 RDMA 工作负载的 RoCE 交换机，去除冗余功能，提升性能。
- 示例：Slingshot 架构已证明基于以太网的设计可以实现接近 IB 的延迟表现。
AI 转发头（AIFH）与低延迟以太网交换机
- Broadcom 最新推出的 AI Forwarding Header（AIFH）协议可支持更高效的路由机制。
- 结合即将发布的低延迟以太网交换机，有望实现媲美 IB 的性能。
- 这些技术为未来构建高性价比的 AI 集群提供了新路径。
拥塞控制算法优化
- 当前 RoCE 使用的拥塞控制机制不够智能，容易导致 Head-of-Line Blocking。
- 建议采用 endpoint-driven 拥塞控制算法，动态调节注入速率，避免严重拥塞。

在 MoE 架构或 All-to-All 通信中，常常涉及大量小数据包传输，如果由 CPU 处理这些通信任务，CPU 很容易成为瓶颈。特别是在高并发场景下，CPU 的串行处理能力无法满足需求。
InfiniBand GPUDirect Async（IBGDA）是 NVIDIA 提出的一项用于加速 GPU 与网络设备之间通信的技术。它通过绕过 CPU 的直接参与，使 GPU 能够异步地启动和管理 RDMA操作，从而显著降低通信延迟并提升整体系统吞吐。

GPU 直接填充 Work Request
- 允许 GPU 直接向 NIC 的队列对（Queue Pair, QP）写入 Work Request（WR）。
- 绕过了传统流程中的 CPU 代理线程，减少上下文切换和同步开销。
异步 Doorbell 写入
- GPU 可以直接写入 NIC 的 Doorbell 寄存器地址空间，无需等待 CPU。
- 使用内存映射 I/O（MMIO）方式实现低延迟触发。
零拷贝 RDMA 通信
- 数据可以直接从 GPU 显存通过 IB 网络传输到远程节点的 GPU 显存，无需中间 CPU 或系统内存拷贝。
- 特别适用于 EP（Expert Parallelism）中的 All-to-All 通信。

许多研究（包括 DeepSeek 团队开发的 DeepEP ）都采用了 IBGDA 技术，并取得了显著的性能提升。

6. 讨论与对未来硬件架构设计的洞见

本章节基于 DeepSeek-V3 的实践经验，系统性地总结了当前硬件架构在大规模 AI 工作负载下的局限性，并提出了面向未来的创新方向。主要围绕以下几个方面展开：

硬件限制的实际影响
关键挑战与瓶颈分析
面向未来的硬件优化建议

6.1 Robustness（鲁棒性）挑战

互连失败（Interconnect Failures）
- 当前高性能互连协议（如 InfiniBand 和 NVLink）容易出现间歇性断开。
- 在通信密集型任务（如 MoE 中的 EP 专家并行）中，即使是短暂中断也可能导致性能显著下降或训练失败。
单点硬件故障（Single Hardware Failures）
- 包括节点崩溃、GPU 故障、ECC 内存错误等。
- 在超大规模部署中，这类故障的概率随系统规模增加而上升，恢复成本高。
静默数据损坏（Silent Data Corruption）
- 多比特内存翻转或计算错误可能未被 ECC 检测到。
- 错误在长期任务中传播，最终影响模型质量。
- 目前依赖应用层启发式策略进行检测，无法保证整体系统的可靠性。

建议改进措施：

增强的错误检测机制
- 硬件应引入比传统 ECC 更先进的错误检测机制：
  - 如基于校验和的验证（checksum-based validation）
  - 或硬件加速冗余检查（hardware-accelerated redundancy checks）
提供完整的诊断工具包
- 硬件厂商应为终端用户提供全面的诊断工具，帮助用户验证系统完整性。
- 这些工具应作为标准硬件套件的一部分，支持持续监控和预防性修复。
提升系统可信度
- 通过嵌入式的诊断和验证机制，增强整个生命周期内的系统透明性和可信性。

6.2 CPU 性能瓶颈与互连优化

尽管 GPU 是深度学习的主要计算单元，但 CPU 在协调计算、管理 I/O 和维持吞吐方面仍不可替代。然而，当前架构存在多个瓶颈：

PCIe 接口带宽不足
- PCIe 成为 CPU 与 GPU 之间的主要通信接口，但在大规模参数、梯度或 KV Cache 传输时成为瓶颈。
- 例如，饱和 160 条 PCIe 5.0 通道需要超过 640 GB/s 的带宽，对内存带宽提出高达 1 TB/s per node 的需求。
内存带宽限制
- 当前 DRAM 架构难以满足如此高的带宽要求。
延迟敏感任务的性能瓶颈
- 内核启动、网络处理等任务对单核 CPU 性能要求高，通常需要基础频率高于 4 GHz 。
- 每个 GPU 需要足够多的 CPU 核心来避免控制路径上的瓶颈。
- 对于 chiplet 架构，还需要额外核心支持缓存感知的任务划分与隔离。

6.3 Toward Intelligent Networks for AI

为应对 AI 训练与推理中对低延迟和高吞吐的严苛要求，未来的网络架构应具备的五大关键能力：

低延迟通信
自适应流量调度
高效的拥塞控制
强鲁棒性和容错机制
灵活的带宽分配与优先级管理

6.3.1 Co-Packaged Optics（共封装光学技术）

在超大规模分布式系统中，传统电气接口的带宽密度和能效已接近极限，引入 硅光子（Silicon Photonics）技术，将光学连接直接集成到芯片封装中，可以获得：

更高的带宽密度（Bandwidth Density）
更低的功耗（Energy Efficiency）

6.3.2 Lossless Network（无损网络）

AI工作负载（尤其是 MoE 中的 All-to-All 操作）对丢包极为敏感，即使是极小的丢包率也可能导致性能显著下降，可以使用 **Credit-Based Flow Control (CBFC)**实现无丢包传输，CBFC 原理是通过接收端发放信用额度（credit），发送端只有在获得信用后才可发送数据。但会存在以下问题：

如果仅依赖 CBFC，容易引发严重的 Head-of-Line Blocking（HOLB），影响整体吞吐。
在多路径通信中，单一路径上的阻塞可能导致整个流被卡住

通过引入 **Endpoint-driven Congestion Control，**如 RTT-based CC（RTTCC）或 Programmed Congestion Control（PCC），能够主动调节注入速率，避免极端拥塞场景。

6.3.3 Adaptive Routing（自适应路由）

传统的 ECMP（Equal-Cost Multi-Path）路由策略无法有效处理 AI 工作负载中高度集中且缺乏随机性的通信模式（如 Data Parallelism 的 AllReduce 或 MoE 的 All-to-All）。自适应路由方法：

动态选择最优路径，避免热点瓶颈。
提升网络利用率，减少通信延迟。

通过这种方式，可以显著缓解 All-to-All 和 Reduce-Scatter 类操作中的热点问题，提高集群整体通信效率和稳定性

6.3.4 Efficient Fault-Tolerant Protocols（高效容错协议）

大规模训练过程中，网络链路中断、硬件故障等异常情况难以避免。若不能快速恢复，可能造成训练中断、模型损坏等问题。可以引入以下方法解决：

Self-healing Protocols（自愈协议）：自动检测并修复断开连接。
Redundant Ports（冗余端口）：提供多条路径，防止单点故障。
Rapid Failover Techniques（快速切换机制）：如链路层重试机制、Selective Retransmission（选择性重传）

6.3.5 Dynamic Resource Management（动态资源管理）

AI 系统中常常存在混合工作负载（如同时进行训练与推理），不同任务对带宽、延迟、优先级的需求差异大。优化方向：

动态带宽分配：根据任务类型（如 EP、TP、KV Cache 传输）动态调整可用带宽。
流量优先级管理：区分推理任务与训练任务，在统一集群中保证推理任务的响应速度。

方向	关键技术	优点
Co-Packaged Optics	硅光子集成	提升带宽密度与能效
Lossless Network	CBFC + Endpoint-driven CC	避免丢包，防止 HOLB（Head-of-Line Blocking）
Adaptive Routing	Packet Spraying / Congestion-aware Routing	缓解热点，提升负载均衡
Fault-Tolerant Protocols	自愈机制 / 冗余端口 / 快速切换	提升系统鲁棒性
Dynamic Resource Management	动态带宽分配 / 流量优先级控制	优化混合工作负载表现

6.4 内存语义通信与顺序问题（Memory-Semantic Communication and Ordering Issue）

使用 load/store 模型进行节点间通信虽然高效且易于编程，但当前实现受限于内存顺序问题：

发送方写入数据后必须显式发出内存屏障（fence），然后才能更新标志通知接收方。
这种严格顺序性引入了额外的往返时间（RTT）延迟，并可能导致线程阻塞，影响吞吐量。

此外，在消息语义 RDMA 中也存在类似问题，例如：

在 InfiniBand 或 NVIDIA BlueField-3 上执行 regular RDMA writes 后进行 packet spraying 的 RDMA 原子操作，也可能导致乱序同步问题。

建议

提供硬件级顺序保障机制
- 硬件应原生支持 memory-semantic 通信的顺序一致性。
- 编程层应通过 acquire/release 语义确保一致性。
- 接收端应由硬件保证数据有序交付，避免额外开销。
Region Acquire/Release (RAR) 机制
- 接收端硬件维护一个 bitmap，跟踪 RNR（Receiver Not Ready）内存区域的状态。
- acquire/release 操作作用于 RAR 地址范围内。
优点：
- 极低 bitmap 开销；
- 实现高效的硬件强制排序；
- 消除发送端显式的 fence 操作；
- 支持 memory-semantic 和 message-semantic RDMA 操作。

6.5 网络内计算与压缩（In-Network Computation and Compression）

MoE 包含两个 All-to-All 阶段：

（1）Dispatch 阶段（路由）

类似小规模多播（multicast）操作。
单个 token 需要被转发到多个专家节点。
建议：硬件应支持自动包复制与多目标转发，大幅减少通信开销。

（2）Combine 阶段（聚合）

类似小规模归约（reduce）操作。
多个专家输出结果需聚合回原始节点。
当前挑战：EP 的归约范围较小且负载不均衡，难以灵活实现网络内聚合。

LogFMT 是 DeepSeek-V3 中用于降低通信量的新型对数量化格式。

可以将其原生集成进网络硬件，可以进一步提高熵密度，降低带宽需求。
另外，开发硬件加速的 LogFMT 压缩与解压单元，实现无缝集成于分布式系统，提升整体吞吐。

6.6 以内存为中心的创新（Memory-Centric Innovations）

随着模型参数规模呈指数增长，传统高带宽内存（如 HBM）的发展速度远远跟不上需求。

DRAM 堆叠加速器（DRAM-Stacked Accelerators）
- 利用先进的 3D 堆叠技术，将 DRAM 垂直集成在逻辑芯片之上。
- 优点：
  - 极高的内存带宽；
  - 超低延迟；
  - 实用的内存容量（受堆叠层数限制）。
应用场景：
- 特别适用于 MoE 推理中内存吞吐是瓶颈的场景。
示例架构：
- 如 SeDRAM，为内存密集型任务提供前所未有的性能提升。
晶圆级系统（System-on-Wafer, SoW）
- 使用 wafer-scale 集成技术，最大化计算密度与内存带宽。
- 优点：
  - 支持超大规模模型部署；
  - 显著提升片上通信效率；
应用场景：
- 特别适合处理万亿参数级别的模型。

7. 总结

DeepSeek-V3 是硬件与软件协同设计在大规模 AI 系统中取得突破的典范。通过深入分析当前硬件架构的局限性，并提出一系列切实可行的优化建议，该研究为下一代面向大模型的硬件设计提供了清晰的发展蓝图。

该论文不仅是 DeepSeek-V3 的技术总结，也为未来 AI 硬件架构的发展提供了宝贵的实践指导。随着 AI 工作负载的持续增长，这种“模型 + 硬件”的软硬件协同优化设计诶将成为构建高效、可持续 AI 系统的关键路径。

其核心经验主要包括：

未来硬件设计方向（如统一网络接口、专用协处理器）推动下一代 AI 系统发展。

模型架构创新（如 MLA、MoE、MTP）提升效率。

网络拓扑优化（如 MPFT）降低成本并提升扩展性。

低精度计算与通信优化（如 FP8、压缩、offload）降低带宽需求。

抖音开放的推荐逻辑算法4

Wed, 07 May 2025 10:47:54 +0800

平台治理为推荐算法设置“护栏”

抖音平台治理的流程

平台治理的第二步是针对标准中定义出的问题，针对性地将有问题的内容识别出来，并进行处置。

抖音的平台治理存在于内容发布与传播的每一个环节。一方面，内容的传播与治理紧密关联，一条内容传播的次数越多，其需要经历的审核次数也越多；另一方面，治理链路包括感知、识别、判定、处置、体验等多个步骤，且不断从头到尾，从尾到头，实现循环与升级。

在明确了治理标准后，抖音的平台治理链路核心有两个原则。

原则一：所有在平台发布的内容都会经过评估：流量越高的内容经过评估的次数越多，标准也越严格。

原则二：“人工+机器”审核相互分工又密切配合。

抖音如何治理专项风险

抖音一方面建设了通用问题治理标准及流程，用于系统性治理平台上可能出现的普遍性风险内容，另一方面针对社会普遍关心的、呈现聚集特征的、反复出现的、对用户造成较多困扰的焦点问题，成立了数个专项治理团队，分别设置相应的治理标准、识别策略、处置手段和风险巡查能力，专注应对涉及特殊群体、网络暴力、AIGC技术滥用等问题治理。

抖音开放的推荐逻辑算法3

Wed, 07 May 2025 10:39:35 +0800

抖音算法的多目标平衡

推荐算法通过各种“目标”来预估用户行为，为用户推荐内容。但用户的行为动作有很多，不同行为的重要程度会决定算法推荐的优先级。因此，为推荐算法设置合理的目标格外重要。推荐算法在诞生之初只关注单一或者少量的目标，比如完播、点赞，但随着平台内容和各方需求日益多元化，单一目标已难以满足实际需求，多目标推荐系统成为主流。

多目标如何平衡多样需求
探索用户深层需求，增强收藏等目标权重
判断用户长期需求，增强“收藏+复访”等组合目标
探索多样性需求，助力破除“信息茧房”
“握手模型”目标带给作者的积极体验
多目标不让中长优质视频作者“吃亏”
原创性目标塑造公平创作环境