中国青年网

数智化频道

首页 >> 要闻 >> 正文

比邻智联AI模组实现DeepSeek-R1本地部署

发稿时间:2025-03-19 11:10:00 来源: 中国青年网

  近日,中国移动旗下模组公司比邻智联(重庆)科技有限公司(以下简称“比邻智联”),基于AI模组MS372Q,成功完成DeepSeek-R1蒸馏模型的本地部署。此举不仅有效保障了数据隐私安全,还大幅提升了终端设备的推理与运算效率。

  作为支持亿级参数大模型推理的硬件载体,MS372Q模组采用8核64位异构架构设计,具备高达12TOPS的算力,支持Wi-Fi 6、蓝牙5.2和GNSS定位,内置安卓系统,支持MIPI/USB/UART/SPI/I2C等多种接口,性能强大、多媒体功能丰富,能充分满足低空经济、边缘服务器、自动驾驶及工业机器人等领域的严苛需求。实测显示,搭载MS372Q模组的设备在运行1.5B参数量级模型时,Token生成速度可达15Tokens/s,展现强大的性能优势。

  比邻智联AI模组广泛应用于标准化工业相机、工业机器人等设备。其依托机器视觉领域的感知和判断能力,能精准识别并检测出划痕、污渍、破损等各类瑕疵,并可满足矿山、井下、高海拔等无网络环境下客户终端对算力的需求。此外,比邻智联依托大模型的自然语言以及多模态的处理和理解能力,为客户提供定制化服务,助力企业高效生产与创新发展。

责任编辑:张建伟