推理效率与国外同类产品架构解决方案相当,国产飞腾 CPU 实现对 DeepSeek 全系列大模型端到端支持

本站 2 月 9 日消息,飞腾信息技术有限公司昨日晚发文宣布,旗下腾云 S5000C 和腾锐 D3000 成功实现对 DeepSeek 全系列大模型的端到端支持,覆盖数据中心和终端场景,本地部署的推理效率与国外同类产品架构解决方案相当。fm1热门主流游戏攻略_实用技巧_经验分享

fm1热门主流游戏攻略_实用技巧_经验分享

据介绍,DeepSeek-V2.5 236B 大模型于2024 年在飞腾腾云 S5000C 平台实现稳定运行。基于飞腾腾云 S5000C 设备搭配 8 块国产 AI 卡,整体性能可达国外平台性能 80% 左右。DeepSeek-V3 和 R1 版本发布后,飞腾技术团队在腾云 S5000C 平台和腾锐 D3000 上对其进行本地部署验证,形成整体解决方案。fm1热门主流游戏攻略_实用技巧_经验分享

数据中心侧,飞腾腾云 S5000C 服务器可与多款 AI 加速卡配合实现 DeepSeek 蒸馏版和全量版部署。飞腾 AI 实验室在单机 8 卡服务器平台已进行蒸馏版 DeepSeek-R1-Distill-Llama-70B 版本测试,推理速度可达 22tokens / s。完整版 DeepSeek R1 671B 模型采用分布式推理框架,基于四机 32 卡 AI 服务器集群运行可部署成功。fm1热门主流游戏攻略_实用技巧_经验分享

fm1热门主流游戏攻略_实用技巧_经验分享

用户终端侧,基于飞腾腾锐 D3000 的台式机可以本地部署 DeepSeek-R1 7B 蒸馏版模型,搭配 1 张国产推理卡,实现 AI PC 能力。fm1热门主流游戏攻略_实用技巧_经验分享

fm1热门主流游戏攻略_实用技巧_经验分享

本站附飞腾腾云 S5000C和飞腾腾锐 D3000 两款 CPU 的主要信息如下:fm1热门主流游戏攻略_实用技巧_经验分享

腾云 S5000Cfm1热门主流游戏攻略_实用技巧_经验分享

飞腾腾云 S5000C 拥有 64 核、32 核、16 核 3 种产品形态,兼容 ARMv8 指令集,支持硬件虚拟化,产品支持商业和工业分级,该产品主要面向计算服务器、存储服务器、AI 服务器、高端网安、行业级业务主机服务器系统、大型互联网数据中心等场景。fm1热门主流游戏攻略_实用技巧_经验分享

fm1热门主流游戏攻略_实用技巧_经验分享

腾锐 D3000fm1热门主流游戏攻略_实用技巧_经验分享

飞腾腾锐 D3000 集成 8 个飞腾自主研发的新一代高性能处理器核 FTC862,兼容 64 位 ARMv8 指令集并支持 ARM64 和 ARM32 两种执行模式,支持单精度、双精度浮点运算指令和 ASIMD 处理指令,主频达到 2.香蕉视频Hz,支持硬件虚拟化,支持商业和工业分级。fm1热门主流游戏攻略_实用技巧_经验分享

fm1热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

贪婪洞窟2剑盾职业加点深度解析,构

在《贪婪洞窟2》这款充满挑战与冒险的游戏中,剑盾职业以其卓越的防御能力和稳定的输出,

檀木板下的翘红痕 SP:一段不为人知

在一个古老而宁静的小镇上,有一座年代久远的宅邸。这座宅邸曾经见证过无数的岁月流转和

贪婪洞窟2公会天赋升级深度解析,资

在《贪婪洞窟2》这款深受玩家喜爱的地牢探险游戏中,公会天赋的升级不仅是提升角色实力

男上司寝犯女下属,挺进她的花苞:啊,太

在那看似平静的职场中,却隐藏着无数不为人知的黑暗与丑恶。霍水,一位年轻貌美的女下属,就

明日之后夏尔镇BOSS刷新位置全面汇

在《明日之后》这款游戏中,夏尔镇作为一个充满挑战与机遇的区域,吸引了大量玩家的关注,夏

「忹者」荣-耀背景修改器,轻松个性

在王者荣耀这款风靡全球的手机游戏中,玩家不仅可以在战场上展示自己的高超技艺,还能通过

感谢人:感激不尽,无以言表,唯有将妻子

感恩之情我心中怀着无尽的感激,那感激之情如潮水般汹涌,难以用言语完全表达,唯有做出一个

明日之后制造天赋加点奇计与深度解

在《明日之后》这款生存类游戏中,制造天赋的加点策略对于玩家的生存能力和资源管理能力

明日之后夏尔镇直升机BOSS高效打法

在《明日之后》这款游戏中,夏尔镇的直升机BOSS是许多玩家热衷挑战的对象,它不仅提供了丰

新月福利导航:提供丰富资源,满足你的

在信息时代,我们无时无刻不在追求着各种资源和满足各种需求。无论是学习、娱乐、工作还