欢迎来车东西
登录
免费注册
我的订阅
关注我们
智东西
车东西
芯东西
智猩猩
国内首个非Transformer架构大模型Yan通过备案
2024-12-04
智东西
17
智东西12月4日消息,上海岩芯数智人工智能科技有限公司(以下简称RockAI)的Yan架构大模型成功通过《生成式人工智能服务管理暂行办法》备案,这是国内首个非Transformer架构大模型通过备案。
传统的Transformer架构和Attention机制对算力要求较高,Yan架构大模型以MCSD、类脑激活机制为基础原理,提升模型性能与效率,以3B参数量可达到Llama3 8B的水平,可在CPU上运行部署。
Yan架构大模型在保证性能的同时,有效降低了对算力的依赖。
目前RockAI已与机器人、无人机、手机、电脑等领域的设备厂商建立深度合作,并在上述领域落地多个项目。
大模型