关闭广告

后摩智能发布端边大模型AI芯片 吴强:让 AI 算力像电一样方便好用

网易科技报道2025-07-26 00:00:014612人阅读

7月25日消息,在2025世界人工智能大会前夕,后摩智能发布端边 AI 芯片后摩漫界®M50,同步推出力擎™系列 M.2卡、力谋®系列加速卡及计算盒子等硬件组合。

据介绍,M50芯片实现了160TOPS@INT8、100TFLOPS@bFP16的物理,搭配最大48GB 内存与153.6 GB/s 的超高带宽,典型功耗仅10W,相当于手机快充的功率,就能让PC、智能语音设备、机器人等智能移动终端高效运行1.5B 到70B 参数的本地大模型,实现了"高算力、、即插即用"。

据了解, 致力于高算力、高带宽、低功耗的存算一体技术,后摩智能通过把计算和存储单元集成在一起,让数据就近处理,解决了传统芯片“数据传输慢、功耗高”的问题。据介绍,M50芯片作为这项技术的集大成之作,其第二代SRAM-CIM双端口存算架构能让权重加载和矩阵计算同时进行,支持多精度混合运算,可兼顾模型部署的各项需求;后摩智能自主研发的第二代 IPU 架构天璇,通过压缩自适应计算周期实现弹性计算(Elastic Computing),最高可提供160% 的加速效果;通过内建的高速多芯互联技术,可实现算力与带宽扩展;同时适配后摩智能新一代编译器后摩大道®,可根据芯片架构自动选择最优算子,无需开发者手动尝试;支持浮点运算,无需量化参数和精度调优。和传统架构相比,M50的能效提升5~10倍,适配了端边设备"算得快又吃得少"的需求。

与此同时,除了 M50芯片,后摩智能此次发布的产品矩阵形成了覆盖端侧到边缘的多元算力方案。力擎™️LQ50 M.2卡以口香糖大小的标准 M.2规格,为 AI PC、AI Stick、陪伴机器人等移动终端提供 "即插即用" 的端侧 AI 能力,支持7B/8B 模型推理超25tokens/s;力擎™️LQ50 Duo M.2卡集成双 M50芯片,以320TOPS 算力突破14B/32B 大模型端侧部署瓶颈;力谋®LM5050加速卡与力谋®LM5070加速卡分别集成2颗、4颗 M50芯片,为单机及超大模型推理提供高密度算力,最高达640TOPS;BX50计算盒子则以紧凑机身适配边缘场景,支持32路视频分析与本地大模型运行。

这些产品可广泛应用于消费终端、智能办公、智能工业等多元领域,且均能在离线状态下实现全流程本地处理,从源头杜绝数据联网传输风险。

例如在消费终端,赋能笔记本、平板电脑、学习机等设备本地大模型推理能力,无需联网即可完成智能交互、内容生成等任务,用户隐私数据全程闭环留存;智能办公场景中,智能会议系统在断网环境下仍能实现多语种翻译、纪要生成,会议内容不触云、不泄露;智能工业领域,产线质检与车路云协同通过本地算力完成实时分析决策,生产数据与运营信息在设备端闭环处理,避免云端传输隐患。

谈及未来,后摩智能已启动下一代 DRAM-PIM 技术研发,通过将计算单元直接嵌入 DRAM 阵列,使计算与存储的协同更加紧密高效。该技术将突破1TB/s 片内带宽,能效较现有水平再提升三倍,推动百亿参数大模型在终端设备实现普及,让更强大的 AI 算力能够融入 PC、平板等日常设备。

据悉,近两年以来,后摩智能已经获得了中国移动产业链发展基金、北京市人工智能基金,北京市亦庄产业升级基金、中国国有企业混改基金等多家机构的投资。后摩智能 CEO 表示:“M50的发布只是一个开始,我们的目标是让大模型算力像电力一样随处可得、随取随用,真正走进每一条产线、每一台设备、每一个人的指尖。”(定西)

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

全球都在涨,新手怎么上车?

简七理财 浏览 16 08-23

欧阳娜娜疑似和男友安雨同居,两年恋情线索全梳理,网友:多大人了,正常!

科学发掘 浏览 3499 07-23

一辆小米SU7 Ultra飞坡10多米翻滚多圈!车主发文:感谢雷军,下辆还买!

扬子晚报 浏览 13 10-18

端侧AI芯片公司2025市值图谱

爱集微 浏览 9 01-28

转会费6500万欧&年薪2000万欧!官方:26岁雷特吉加盟卡迪西亚

直播吧 浏览 1308 07-22

法官毕祺祺涉洗钱犯罪被批准逮捕 曾因"为母辩护"走红

江苏新闻 浏览 9105 08-11

马卡:贝尔纳尔给巴萨教练组留下深刻印象,他将成为关键球员

懂球帝 浏览 8827 07-20

离婚7个月,霸总杨子又给内娱上了一课

老吴教育课堂 浏览 18 10-12

看完《蜜语纪》里的“穷人”生活,对不起我给穷人拖后腿了

娱乐圈笔娱君 浏览 5 04-22

韩国防部给出核潜艇下水时间点 此前韩国已向中方保证

澎湃新闻 浏览 21 11-06

卫生巾大变革,先下场的竟是黄子韬!

时尚COSMO 浏览 932 05-22

理想i8售32.18万元起 交付即有"专职司机"

网易汽车 浏览 524 07-31

伊朗外长:感谢中方

环球时报 浏览 1471 07-18

学会这10个小技巧,养成女人的高级感

LinkFashion 浏览 6073 07-19

京东外卖宣布投20亿给全职骑手福利,还要配15万台二轮车

网易科技报道 浏览 7162 07-16

汪峰森林北同游日本 各带各娃互不耽误

新金牌娱乐观察家 浏览 7912 07-24

「寻芯记」获软银20亿美元“输血”,英特尔仍站在十字路口,代工业务去留存悬念

华夏时报 浏览 8289 08-21

俄方表示结束乌克兰危机“欧洲方案”不具建设性

环球网资讯 浏览 13 11-25

特朗普:已为俄乌问题设最后期限 届时态度或生变

国际在线 浏览 1723 04-26

对话商汤科技首席科学家林达华:生成不等于完成,AI创作的关键是理解人的意图

时代周报 浏览 9443 07-29

重大转变?特朗普邀请中国车企赴美建厂

电动知家 浏览 13 01-15
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除沪ICP备2023013132号-2