-
华为推出DeepSeek训/推一体机,国产芯片迎来新机遇?
-
连政guanchazhewanxgun
DeepSeek的热潮,终于带火了AI一体机产品?这种颇具“中国特色”的AI硬件,能否给国产芯片的普及再加一把火?
2月16日,据“华为数据存储”公众号消息,华为DCS AI解决方案针对DeepSeek的本地部署,推出了DS版FusionCube A3000训/推超融合一体机,深度适配DeepSeekV3&R1及蒸馏模型,支持私有化部署。
配置清单显示,DS版的FusionCube A3000训/推超融合一体机有三种型号,分别为Ultra(满血版)、Pro(蒸馏版)和 Lite(蒸馏轻量版)。
其中满血版可以完美适配DeepSeek-R1、V3的671B模型,硬件使用2个华为Atlas800l A2,处理速度达到671B: 1911 token/s 。而蒸馏版则配备1个Atlas800l A2,适配DeepSeek R1-Distill-Qwen-32B、Llama-70B等蒸馏模型,处理速度 70B: 3300 token/s,32B: 4940 token/s。
Atlas800l A2是华为推出的鲲鹏920+昇腾 AI处理器的AI推理服务器,应用于深度学习模型开发和AI推理服务场景,目前面向公有云、互联网、运营商、政府、交通、金融、高校、电力等领域,用于企业机房部署和大规模数据中心集群部署。
软件方面,DS版训/推超融合一体机使用大模型训练、推理和应用开发的华为ModelEngine AI平台,该平台基于昇腾AI芯片,通过推理框架优化和MoE存算协同,提供动态换入换出和全局统一缓存,实现推理高并发和低时延。2月6日,华为对外宣布,ModelEngine平台全面支持DeepSeek大模型R1&V3和蒸馏系列模型的本地部署与优化,开发者可通过该平台实现上述DeepSeek大模型的“一键部署”。
近一段时间以来,DeepSeek线上算力的严重不足,带火了大模型本地部署需求,许多厂商开始营销各类AI一体机产品。
2月5日,联想与国内AI芯片厂商沐曦联合发布基于DeepSeek 大模型的一体机解决方案,采用ThinkStation PX工作站为载体,搭载沐曦曦思N260 GPU。
2月14日,中科曙光也发布了全国产的DeepSeek超融合一体机,该一体机采用全国产技术路线,选用国产X86 CPU和国产GPGPU加速卡,支持全精度、半精度混合训练与推理。
中科曙光的DS超融合一体机
在模型适配方面,中科曙光一体机同样全面适配DeepSeek系列模型,如DeepSeek V3、DeepSeek R1和DeepSeek Janus Pro,还支持全系列量化蒸馏版本。同时,对QWen2.5、LLama3.2、ChatGLM等主流大模型也全面兼容,满足各种业务场景需求。
中科曙光公众号的文章,就毫不吝惜地称呼该一体机为“国货之光”,将为政府和企业的数字化、智能化转型按下“加速键”。
实际上,AI一体机并不是最近才出现的新事物。在中国市场上,由于大量企业不愿意为单纯的软件和算力付费,或者处于数据安全等原因倾向于将硬件本地部署,因此把软硬件打包在一起的“一体机”一直拥有独特的生存空间。
作为对比,尽管英伟达也推出了Jetson系列的硬件集成平台,但是主要用于机器人和嵌入式边缘计算等场景,而非去做通用大模型的推理。
不过,随着大模型推理成本的降低,以及C端用户需求的增长,英伟达也将目光投向了个人市场。今年早些时候,英伟达就推出了个人超级计算机“Project DIGITS”,该产品搭载英伟达全新GB10超级芯片,最高可提供达1 PFLOPS的AI性能,主要用于AI大模型的原型设计、微调及运行。
Project DIGITS(左下角类纸盒物品)号称全球最小的可运行 200B 参数模型的 AI 超级计算机。英伟达官网
英伟达表示,GB10超级芯片让Project DIGITS只需使用标准电源插座就能提供强大的性能。借助 Project DIGITS,用户则可以使用自己的桌面系统开发和运行模型推理,并在加速的云或数据中心基础设施上无缝部署模型。同时,用户还可以通过英伟达技术将两台Project DIGITS AI超级计算机连接在一起,运行包含高达4050亿参数的模型。
华为DS版FusionCube A3000以及中科曙光的DS超融合一体机价格暂不清楚,而英伟达面向个人的消费级Project DIGITS的具体售价约在3000美元左右,今年晚些时候上市。
本文系观察者网独家稿件,未经授权,不得转载。
- 责任编辑: 连政 
-
韩国芯片巨头要停用中国EDA?
2025-02-17 15:50 观网财经-科创 -
美年健康7天5板,AI医疗板块热度不减
2025-02-17 11:29 股市 -
深度对话|AI眼镜“百镜大战”,跑对方向比抢跑更重要?
2025-02-16 16:46 观网财经-科创 -
头部主播的下半场:就此隐身,还是学习胖东来?
2025-02-15 17:00 观网财经-互联网 -
又落地?中国企业的数据中心正在海外扩张
2025-02-15 15:55 观网财经-互联网 -
奔驰集团董事长向中方表态
2025-02-14 21:54 -
腾讯元宝接入满血版DeepSeek,可切换双模型
2025-02-14 21:30 观网财经-互联网 -
“鲶鱼”京东,打响2025年“品质外卖”第一枪
2025-02-14 21:20 观网财经-互联网 -
马云现身长沙盒马
2025-02-14 21:12 -
百度放弃闭源,但或许回归了最初的自己
2025-02-14 19:41 -
“苹果股价正越来越依赖中国”
2025-02-14 18:52 观网财经-科创 -
2024年我国国际收支货物贸易顺差同比增长近三成
2025-02-14 18:12 -
顶级域名认证Deepseek?ai.com的前世今生
2025-02-14 16:49 观网财经-科创 -
荣耀DeepSeek-R1联网版正式上线
2025-02-14 14:31 观网财经-科创 -
美团启动新一轮“骑手超时免罚”试点:扣分不扣钱
2025-02-14 14:30 观网财经-互联网 -
本源量子:本源悟空全球访问量破2000万次,境外美国排第一
2025-02-14 14:01 科技前沿 -
力帆科技更名千里科技,“AI+车”剑指全球智能出行高地
2025-02-14 10:51 观网财经-科创 -
百度突然宣布下一代文心大模型开源
2025-02-14 10:44 -
牵手阿里后,传苹果AI仍会与百度合作
2025-02-14 10:23 大公司 -
央行去年总资产减少1.65万亿,专家:央行缩表不代表货币紧缩
2025-02-14 07:56 宏观经济
相关推荐 -
-
特朗普喊话:俄乌别打了,一起跟美国做大生意发大财 评论 116MAGA基本盘还能“忍”特朗普多久? 评论 151从2000兆帕潜艇级热成型钢的“登天”说开去…… 评论 92美媒焦虑:哪怕只为跟上中国,美政府都不能这么干啊 评论 152“美国在地球上跟中国争,却把太空主导地位拱手让出” 评论 101最新闻 Hot
-
美媒焦虑:哪怕只为跟上中国,美政府都不能这么干啊
-
特朗普“抱怨”后,日本考虑放宽汽车进口安全标准
-
“五角大楼里完全崩溃了”,3名美国防部高官被解雇
-
“趁纳瓦罗不在,他们冲进白宫劝说特朗普暂停关税”
-
泽连斯基回应:停火30小时太短,建议30天
-
韩国一战机飞行训练中掉落机炮吊舱和空油箱
-
“美国在地球上跟中国争,却把太空主导地位拱手让出”
-
内塔尼亚胡:摧毁哈马斯前不会结束军事行动
-
超900人签署“反关税宣言”,包括两位诺贝尔奖获得者
-
“中国正投入万亿美元,我们却在这胡搞”
-
真急了!“白宫拟成立涉华关税应急工作组”
-
黄仁勋访华盼继续合作,特朗普回应
-
中国男子在TikTok“神评”美国关税,米尔斯海默秒答:赞同
-
“内地电影票房过亿那一刻,香港电影就被颠覆了”
-
美国税局代理局长刚上任三天就被免,“贝森特抱怨他是马斯克的人”
-
特朗普也直说了:不行,就放弃
-