RhinoForge 将 Rhino Processing Unit（RPU）接入为 torch.rpu。项目在同一个
PyTorch 后端中提供模型适配器、融合模型运行时、图捕获与重放、SPM 内存管理、
多核执行、离线量化和模型移植模板。
发行包名为 rhinoforge，Python 导入名仍为 rpu_backend。RhinoForge 仅支持
推理，不支持训练和微调。
- PyTorch 集成： 通过标准自定义设备路径和
torch.rpuAPI 使用 RPU。 - 模型部署： 通过模型适配器和 TOML 示例运行文本、视觉语言、视觉和 VLA 配置。
- 可扩展运行时： 移植新模型时可复用公开的融合模型、图、SPM、多核、批量 提交和适配器机制。
- 按配置界定支持范围： 每个状态都绑定到具体 checkpoint、精度、输入范围、 配置和运行时资产组合。
仓库内置的 rhinoforge-port skill
提供两种模式：Assess 只读分析能力差距，分别给出 outcome 与 certification；
Port 只从已接受、certified 且非 Blocked 的评估开始，并按模型类型加载公开
playbook。规范流程见模型移植。
examples/ 提供统一运行入口和按模型归档的 TOML 配置，覆盖
文本、图文、视觉组件和 VLA 的公开使用方式。目录结构、精度和输入要求见
配置索引。
模型权重和请求数据由调用方准备；具体 checkpoint、精度、核数和输入范围由配置与 运行时准入检查共同约束。受控或 Source-only 示例保留各自限制，模板不构成模型认证。
当前源码需要 Python 3.12、已配置好的 RPU 板卡环境，以及与源码匹配的
Rhino Launch 和算子资产。请按当前源码构建说明
创建独立环境并安装依赖；版本以 pyproject.toml 为准。
视觉和 VLA 入口分别使用 vision、vla 可选依赖。
- 按构建说明配置外部运行时路径，在独立环境中安装当前源码。
- 按模型资产说明准备模型 checkpoint，设置
RPU_MODEL_CACHE，选择对应的 TOML 示例。 - 确认板卡空闲后检查安装和模型配置，再运行推理：
python examples/verify_install.py --check-config
python examples/verify_install.py
cp examples/configs/qwen3/text/0_6b/fp16.toml qwen3.local.toml
python examples/run_model.py --config qwen3.local.toml --check-config
python examples/run_model.py --config qwen3.local.toml模型运行与性能分析说明 TOML runner、量化和性能分析 入口。模型 checkpoint、Rhino Launch 和算子资产由各自的分发方提供。
完整安装和首次运行步骤见入门指南。
| 主题 | 文档 |
|---|---|
| 完整文档导航 | 文档索引 |
| 当前源码安装 | 源码构建 |
| 安装与首次运行 | 入门指南 |
| 示例 | 示例目录与运行入口 |
| 受限 Launch 与算子资产 | 受限运行时资产 |
| 模型 checkpoint | 模型资产 |
| Runtime/TOML 参数与性能分析 | 运行时配置 |
| 模型运行、测试与性能分析 | 模型运行与性能分析 |
| 可复现性能测量 | 性能测量 |
| 适量验证 | 模型验证策略 |
| 运行时设计 | 架构 |
| Python 与 C++ API | API 参考 |
| 移植新模型 | 模型移植 |
| 离线量化 | 量化 |
| 报告安全问题 | 安全策略 |
| 参与贡献 | 贡献指南 |
RhinoForge 源码采用 Apache License 2.0。模型 checkpoint、Rhino
Launch、合并算子资产及其他第三方材料遵循各自条款，不属于本仓库 LICENSE
文件的授权范围。