中科创达：已率先发布端侧运行130亿参数模型

admin 2023-12-11 22:21:02 28 0

中科创达接受调研时表示，公司已经率先发布端侧运行130亿参数模型。充分利用模型压缩、分布式以及张量并行技术，成功在搭载高通8系列芯片平台的边缘设备上实现LLaMA2130亿参数模型的稳定运行，成为业内首家取得此突破的大模型企业。