围绕 Yann LeCun 对「大语言模型是死胡同」这一批评展开的研究 + 工程双阶段项目:先把路线之争转化为可证伪命题,再把它落成一套可运行的 动作条件 V-JEPA(AC-VJEPA) 工程体系——训练、分布式、混沌工程、监控、数据装配与评测预注册俱全。
- 许可证:MIT(见
LICENSE)。官方 V-JEPA 2 权重不随仓库分发,需自行从 Hugging Face 下载并遵守 Meta 条款(见下文「权重」)。 - 验证基线:59/59 全绿,
.\verify_all.ps1一键可重跑(见VERIFY_RESULTS.md)。 - 语言:工程手册与研究报告以中文为主,代码/docstring 英文。
- 阶段一 · 研究与评估(2026-08-14):事实核验「LeCun 批评 LLM / JEPA 路线 / AMI Labs」叙事,产出审慎评估报告、11 页 PPT 与多份深度报告。核心结论:LeCun 的问题诊断(纯语言缩放不足以解决具身自主性)成立,但「LLM 是死胡同」的绝对化结论超出证据;更可能是 LLM × JEPA 混合智能体。评估报告由 Manus AI 生成(见
LICENSE第三方说明)。 - 阶段二 · AC-VJEPA 工程实现(2026-08-15 起):可运行的 Python 参考实现 + 混沌工程/弹性恢复/监控/CI 体系:动作条件 V-JEPA 训练核心、DDP 多机训练、2:1 异构微批、UpdatePlan 拓扑感知、混合精度弹性恢复、数据游标账本、三层 KV checkpoint 缓存、防篡改 HITL 账本、Prometheus/Grafana 监控、Rendezvous—GitOps 并发仲裁、本地/K8s 混沌演练与 CI 门禁;以及官方 V-JEPA 2.1 权重适配、M2 数据装配(RoboCasa 适配器 / B 层视频切窗 / 端到端装配)、P1/P2 训练入口与 M3 评测预注册。
本仓库服务双目标,文档相应分两区,阅读时请注意区分:
- 核心裁决科学(服务「路线之争可证伪裁决」):
PROJECT_PLAN.md、HYPOTHESES.md、BLUEPRINT.md、M3_MPC_EVALUATION_DESIGN.md、DATA_MANIFEST.md、实验记录与负结果报告_2026-08-17.md、M2_M3_REAL_RUNBOOK.md、现状评审_2026-08-17.md、H-M1_主动外联包_2026-08-17.md、最小真实数据集方案_2026-08-17.md、WAM生态学习报告_2026-08-15.md、C9_*.md、jepa_agent_project_findings.md、m3_mpc_eval.py/scripts/评测链、experiments/。 - 继承工程基建(阶段二工程实现,服务「可运行 AC-VJEPA 体系」):DDP / 混沌工程 / 弹性恢复 / 监控 / HITL 账本 / K8s / GitOps 仲裁等约 70 篇运维手册与对应模块(
ac_vjepa_core.py、heterogeneous_microbatch_*、checkpoint_cache_*、monitoring/、k8s/等)。
现状评审(2026-08-17):工程基建完成度极高,但核心裁决目标仍卡在真实数据——详见
现状评审_2026-08-17.md。
# 0) 依赖
python -m pip install -r requirements.txt
# 1) 全部离线验证(幂等;结果写入 verify_artifacts/ 与 VERIFY_RESULTS.md)
.\verify_all.ps1
# 2) 单个模块冒烟
python ac_vjepa_core.py # 训练步 + EMA + 安全回退状态机
python heterogeneous_microbatch_chaos_framework.py # 5 类 2:1 故障注入
python checkpoint_cache_load_shedding_simulator.py # 高并发缓存防雪崩
python validate_monitoring_config.py # 18 alerts / 10 rules / 19 panels
# 3) 单元测试(避开损坏的 deepeval 插件,见 VERIFY_RESULTS 备注)
python -m unittest -v test_heterogeneous_microbatch_failpoints.py
# 4) Gloo CPU 双进程语义回归(Windows 需 USE_LIBUV=0;内存不足时 WinError 1455)
$env:USE_LIBUV='0'; $env:CUDA_VISIBLE_DEVICES='-1'
python make_demo_ddp_data.py --root verify_artifacts/demo_ddp_data
python scripts/manual_gloo_runner.py test_dynamic_nccl_full_state_equivalence.py仓库不包含预训练权重。按 DATA_MANIFEST.md 的登记:
- 来源:Hugging Face
davevanveen/vjepa2.1-vitb-fpc64-384(Meta 官方 facebookresearch/vjepa2 的 HF 转换版,ViT-B/16,384px); - 下载后放到
weights/vjepa2.1-vitb-fpc64-384/model.safetensors(已在.gitignore),SHA-256 见DATA_MANIFEST.md; - 用法:
--init-from vjepa2hf:<path>[:frozen|finetune](训练入口)、vjepa_backbone_smoke.py --safetensors <path>(加载验证); - 许可证:权重遵循 Meta 原条款,与仓库 MIT 协议独立。
.py模块位于根目录(模块间from ac_vjepa_core import ...交叉导入,不可拆散);- 手册/报告为根目录
.md(每个工程主题都是「手册 + 安全边界 + 资料核验摘要」三件套); monitoring/:Prometheus 规则 + Grafana dashboard;docker/:Compose 用 Dockerfile/healthcheck/provisioning;k8s/chaos-lab/:隔离混沌 Job 模板(immutable digest manifest);.github/workflows/:CI workflows;scripts/:离线契约、Gloo 双进程 runner、CUDA 冒烟、合成帧生成;weights/(不入库):官方权重本地存放;- 验证产物写入
verify_artifacts/(不入库)。
| 文档 | 内容 |
|---|---|
PROJECT_PLAN.md |
主计划:从路线之争到可运行实验体系(M0–M5 里程碑与门禁) |
杨立昆、JEPA 与 AMI Labs:技术路线与产业叙事的审慎评估.md |
阶段一主报告(结论先行 + 事实分级 + 参考资料) |
杨立昆、世界模型与 AMI Labs.pptx / slide_content.md |
11 页演示文稿 |
JEPA 世界模型训练的最大数据与算力瓶颈.md |
数据/算力瓶颈分析 |
轻量级 V-JEPA:突破数据与算力限制的技术路线与实验室实施方案.md |
P0–P4 五阶段实验路线 |
LLM × JEPA 世界模型混合 Agent:可实施架构蓝图.md |
混合架构(含 .d2/.mmd 源图) |
AC-VJEPA 核心模块使用说明.md / AC-VJEPA 多机多卡并行训练与梯度同步指南.md |
训练使用与 DDP 指南 |
NCCL 弹性恢复与动态 UpdatePlan 混沌工程演练手册.md |
弹性恢复 + 混沌演练 |
分布式训练监控、混合精度恢复与生产演练 SOP.md |
监控 SOP |
Kubernetes 生产监控阈值与 Rendezvous—GitOps 并发仲裁手册.md |
生产仲裁 |
DATA_MANIFEST.md |
四层数据金字塔清单(A 官方权重 / B 本地视频 / C RoboCasa / D 真实轨迹) |
M3_MPC_EVALUATION_DESIGN.md |
M3 评测预注册(v1.2):P3 MPC 对比的基线/指标/统计/判定阈值 + 校准分层(H-T3)+ 失败归因(H-R1)+ 模型卡 + ECE 时间轴分解/复现判定列(v1.2 扩展) |
HYPOTHESES.md |
猜想假设集:五层 11 条细分假设(路线/技术/数据/生态/元层)+ 预注册流程 |
BLUEPRINT.md |
宏大蓝图:十年推演总纲(纯思辨,无实验)——判定网络、A/B/C 分支树、X/Y/Z 终局、时间信号、决策门 |
WAM生态学习报告_2026-08-15.md |
外部生态学习(12 项仓库/论文):VLA-JEPA/INTACT/LeWorldModel/vla-evaluation-harness/LeRobot/Seed Lottery 等 + 15 条精华模式与落地储备(A22–A25) |
实验记录与负结果报告_2026-08-17.md |
三预注册实验(H-T2/H-T4/H-D1 负结果)+ 工程链路验证 + M4 前置清单 + 复现要点 |
现状评审_2026-08-17.md |
现状评审报告(完成度盘点 + 问题风险 + P0/P1/P2 行动建议) |
H-M1_主动外联包_2026-08-17.md |
H-M1 主动外联包(协作资产/目标对象/邀约文案/执行步骤) |
最小真实数据集方案_2026-08-17.md |
最小真实数据集获取方案(B 层候选数据集 + 许可核对 + 最小执行路径) |
CLUSTER_VALIDATION_RUNBOOK.md |
B1–B9 集群验证执行清单(前置/命令/验收) |
M2_M3_REAL_RUNBOOK.md |
M2/M3 真实执行交接包:真实数据/RoboCasa 就绪后的机械执行(阶段 0–6 + G1 条件决策草稿 + 纪律) |
C9_正式轮观察工作表_2026-11-15.md |
C9 正式轮机械执行模板(必收信号/H 假设更新规则/账本调权流程) |
决策记录.md / STATUS.md / BACKLOG.md / VERIFY_RESULTS.md |
决策与未决影响 / 状态快照 / 待办分级 / 验证结果 |
| 文件 | 用途 |
|---|---|
ac_vjepa_core.py |
动作条件 V-JEPA 训练核心(EMA、损失、单飞推理、安全回退状态机) |
train_ac_vjepa_ddp.py |
动作条件 DDP 训练(--init-from vjepa2hf: 支持官方权重) |
train_p1_domain_adapt.py |
P1 无动作域适配训练(冻结骨干 + 无动作/事件损失) |
vjepa_backbone.py + vjepa_backbone_smoke.py |
官方 V-JEPA 2 权重适配器(frozen/last_k/lora/finetune)+ 冒烟 |
robocasa_adapter.py / video_to_windows.py / assemble_m2_dataset.py |
M2 数据装配(RoboCasa 采集 / B 层切窗 / 端到端装配) |
- 本仓库是离线研究与参考实现:不含真实网络扰动、机器人控制、云端操作命令(执行器属受控基础设施职责);合成数据仅用于链路验证。
- 详见
SECURITY.md与CONTRIBUTING.md;贡献前先读决策记录.md与PROJECT_PLAN.md。
- 研究评估部分由 Manus AI 于 2026-08-14 生成(经权利人授权以 MIT 公开);
- 预训练权重与原始模型归 Meta AI(facebookresearch/vjepa2,arXiv:2506.09985)。
Code is MIT-licensed (LICENSE). AC-VJEPA releases the experiment records and ablation results under experiments/ under
CC-BY-4.0.
GitHub's license detector reports this repository as NOASSERTION because it reads
a single SPDX id per repository and this one carries two. The split is deliberate:
the code stays permissively licensed so it can be reused, and the research material
stays attributable so a citation is required.