欢迎来车东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智猩猩
无问芯穹联合清华、上交开源具身端侧推理引擎APXInf
09-15
智东西
30
智东西9月15日消息,今日,无问芯穹联合清华大学、上海交通大学,正式开源具身智能端侧推理引擎APXInf。APXInf支持RTX 4090、Jetson Orin、Jetson Thor等主流计算平台,覆盖从模型开发、效果验证到机器人本体部署的完整链路,旨在让具身模型在有限资源下“跑得够快、够稳,也足够容易接入拓展和持续迭代”。
目前,APXInf已实现:PI 0.5 FP8在Jetson Thor上实现端到端推理延迟从278ms降低至26ms以内,在FP8下达到38.46Hz推理频率,可满足机器人多场景下实时控制对推理频率和响应延迟的要求。
GitHub地址:https://github.com/RLinf/APXinf-robo
无问芯穹