部署推理开源

FlashRT

flashrt-project

GitHub 仓库 flashrt-project/FlashRT

返回项目库
类别
框架与工具 · 部署推理
开放程度
开源
发布时间
2026 年 4 月
开源协议
Apache-2.0

项目简介

面向小批量、低延迟场景的实时推理引擎,主要用于机器人端侧的 VLA 部署。为 π0、π0.5、π0-FAST、GR00T N1.6 / N1.7 提供手写 CUDA 内核、FP8 / NVFP4 量化和整图 CUDA Graph 捕获,无需编译导出,支持 Jetson AGX Thor / Orin 和 RTX 4090 / 5090,可挂接到 LeRobot、openpi,也用于 LLM。

获取方式

数据来源

本页信息均整理自以下公开资料。

2 条来源核验于 2026-10-01

星标、下载量等指标定期自动更新。

FlashRT:部署推理工具介绍、GitHub 仓库与开源协议 | 具身集