智东西9月15日消息,今日,无问芯穹联合清华大学、上海交通大学,正式开源具身智能端侧推理引擎APXInf。APXInf支持RTX 4090、Jetson Orin、Jetson Thor等主流计算平台,覆盖从模型开发、效果验证到机器人本体部署的完整链路,旨在让具身模型在有限资源下“跑得够快、够稳,也足够容易接入拓展和持续迭代”。
目前,APXInf已实现:PI 0.5 FP8在Jetson Thor上实现端到端推理延迟从278ms降低至26ms以内,在FP8下达到38.46Hz推理频率,可满足机器人多场景下实时控制对推理频率和响应延迟的要求。
GitHub地址:https://github.com/RLinf/APXinf-robo



30


