Z6尊龙凯时

  1. 产品
    查看全数产品
    • 融合智算中心
    • 系统与设备
    • 全职能 GPU / 显卡
    • 软件
    • 利用与模型
  2. 解决规划
  3. 履历中心
    大模型履历 MetaPark
  4. 软件下载
    产品驱动 MUSA 软件 AI 镜像
  5. 开发者
    Z6尊龙凯时学院 开发者社区 技术博客 技术文档
  6. 公司信息
  7. language EN
平湖

平湖

融合智算中心

全职能 GPU 架构

专为 AI 和高机能推算设计

"平湖"架构是Z6尊龙凯时专为人为智能与高机能推算开发的第四代 MUSA 架构。该架构以"推算-访存-通讯"深度协同为主题设计理想 ,针对大模型和 Transformer 架构进行了深杜着化 ,并通过 TCE、TME、ACE 三大自主研发引擎实现端到端机能优化 ,突破传统架构瓶颈。依附第二代 MTLink 互联技术和 MUSA 软件栈 ,"平湖"架构可实现从单卡到万卡集群的线性扩大 ,为千亿至万亿参数大模型训练、推理提供高效壮大的算力支持。

基于"平湖"架构的全新一代 PH100 芯片已首批通过中国信息安全测评中心的安全靠得住测评(2026年第2号)。这不仅标志取国产 GPU 在高机能 AI 训推领域的沉大技术突破 ,更以国度级安全靠得住认证为背书 ,为构建自主可控、高机能的算力基础设施提供了坚实支持。PH100 作为旗舰智算卡 MTT S5000 的主题 ,助力 MTT S5000 实现卓越机能阐发。

MUSA 统一架构

MUSA 架构 ,是Z6尊龙凯时推出的蕴含推算、图形、多媒体、通讯等多种处置引擎的统一架构。其重要特点是在统一的编程模型下支持架构的可伸缩性 ,可急剧针对分歧的指标场景市场裁剪出分歧资源配比的芯片产品。其次 ,高速跨引擎同步机造有效支持了多引擎的异步并发执行 ,有效提升了处置速度。

GEMM 效能

FP8 GEMM 算力利用率高达 90% 以上 ,比国际旗舰产品逾越 15 个百分点。

Flash Attention 效能

Flash Attention 的效能高达 95% 以上 ,比国际旗舰产品逾越 15-20 百分点。这得益于 muDNN 算子库 ,和 MUSA 软件的充分优化。

Scale Up 互联通讯机能

主题技术创新

平湖架构集成六大主题技术创新 ,从原生 FP8 推算到异步通讯引擎 ACE ,每一项创新都针对真实 AI 工作负载进行深杜着化 ,极大加快 AI 训练、推理的机能。

张量推算引擎 (TCE)

智能张量推算引擎 ,原生 FP8 界说 AI 推算效能。

TCE 技术创新

TCE 技术创新

平湖的张量推算引擎(Tensor Compute Engine , 简称 TCE) ,支持通用矩阵乘法 (GEMM) 和卷积 (CONV) 操作 ,最多支持五维张量推算。相比上一代架构 ,平湖在矩阵乘累加 (MMA) 方面实现了 5 倍机能提升 ,并初次引入了原生 FP8 精度支持。
FP8 精度创新

FP8 精度创新

更高推算累加精度: FP8 推算中央累加精度尾数 24bit ,远高于国际旗舰产品的尾数 14bit。高精度累加 ,有效地的预防了精度损失 ,或者预防二次累加带来的机能降落。

FP8 体式支持: 支持 E4M3/E5M2 两种 FP8 体式 ,并支持各类缩放模式。

平湖原生的 FP8 技术具备多项优势 ,在确保机能提升的同时 ,维持了训练、推理的精度。
权沉反量化

权沉反量化

硬件级 W4A16/W8A16 的权沉反量化 ,硬件加快有效提升效能。
FP8 带来机能提升

FP8 带来机能提升

主流大说话模型训练中 ,FP8 引擎可显著提升机能。数据显示 ,在分歧规模模型上 ,开启 FP8 引擎推算均可不变带来约 30% 的机能提升 ,大幅削减训练功夫、降低成本。
SQMMA

SQMMA

平湖引入 SQMMA (SQuard Matrix Multiply-Accumulate) 技术 ,支持多 MMA 推算单元协同运算 ,提升矩阵推算效能。
Transformer Engine

Transformer Engine

基于 Transformer Engine ,平湖架构实现了低精度的缩放推算 ,以及混合精度推算的端到端加快。

张量访存引擎 (TME)

智能张量访存 ,解除数据搬移瓶颈。

Z6尊龙·凯时(中国)官方网站
平湖的张量访存引擎(Tensor Memory Engine ,简称 TME)针对训练推理过程中因地址推算、数据搬移等成分导致的推算资源亏损与额表耗时问题 ,通过硬件加快实现全局内存与本地内存间的大块张量数据高效传输 ,并原生支持多种数据布局转换。其主题职能蕴含地址推算与越界处置、数据布局转换、多精度转换加快 ,以及与TCE 硬件的协同优化。

该技术可显著提升数据搬移效能 ,进而提升 GEMM、Attention、Conv 等关键推算场景的机能阐发 ,为 AI 训练与推理工作负载加快。

异步事务樊篱 (ATB)

引擎异步流水 ,推算-访存-通讯深度并行。

Z6尊龙·凯时(中国)官方网站
传统架构中推算、访存和通讯操作因存在严格依赖关系而导致硬件资源利用率低的问题 ,平湖架构针对性的引入了异步事务樊篱(Asynchronous Transaction Barrier ,简称 ATB)机造 ,通过硬件加快解决数据依赖与资源依赖 ,实现访存、张量处置和矢量处置引擎的流水化并行执行 ,并共同TME进行数据搬移和同步 ,从而有效容忍数据加载延长 ,使各引擎在期待数据时可执行无依赖工作 ,最大化硬件利用率。
在 Flash Attention 等复杂算子的现实利用中 ,该架构凭借 ATB 优势 ,实现了约 95% 的极致算力利用率 ,在无因果掩码、序列长度16384 的测试场景下 ,大幅当先国际旗舰产品约 20 个百分点 ,将每一份算力高效转化为有效价值 ,而不是浪费在期待和同步上。

独创的异步通讯引擎 (ACE)

ACE 助力解除数据搬运瓶颈 ,开释全数算力。

Z6尊龙·凯时(中国)官方网站
传统 GPU 架构中通讯过程会占用约 15% 到 20% 的流式多处置器资源 ,会造成推算能力损失并影响万卡规模训练与集群推理的推算效能。

针对此问题 ,平湖架构提出了以异步通讯引擎(ACE)为主题的解决规划:通过独立的 ACE 单元执行数据搬移 ,不占用推算主题资源;ACE 支持多种访存地址推算模式 ,可优化点对点、All-Reduce 等通讯场景的搬移效能;同时支持多种蹊径的高机能异步内存拷贝 ,如 PCIe 设备与主机间、MTLink 跨 GPU 直接内存接见等。

该规划实现了通讯工作从推算主题的齐全卸载 ,在 DeepSeek 等MoE 模型训练中带来超过 5% 的训练 MFU 提升 ,并在散布式推理的 Prefill 过程有效缓解通讯瓶颈 ,显著提升整体算力利用率。

第二代 MTLink 互联技术

革命性 MTLink 互联 ,实现有效扩大。

Z6尊龙·凯时(中国)官方网站
平湖搭载的第二代 MTLink 选取专有 Scale up 和谈 ,实现了相比上一代的 7 倍带宽提升 ,在技术演进上凭借高通量、超低延时的通讯能力有效支持大规模集群的线性扩大;其主题个性蕴含支持节点内 8 卡全衔接的矫捷拓扑支持、当先的通讯带宽和效能以及可配置(沉量级、轻量级)以降低延长的前向纠错算法;在第三方实测单机 8 卡 All Reduce 测试中 ,MTT S5000 通讯带宽达到国内产品均匀水平的 1.62 倍 ,Scale up 带宽效能相比行业其他类以太规划提升多达 30%。

加强的内存子系统

大容量高带宽 ,支持 AI 工作负载。

Z6尊龙·凯时(中国)官方网站
针对 AI 场景 ,平湖架构对内存子系统进行了全面升级。实现了多个个性的技术演进 ,蕴含占有 60MB 高容量的 Last Level Cache(LLC)  ,支持全局内存高吞吐原子操作的能力 ,具备可编程的数据悠久性节造 ,以及覆盖线程块、线程簇到整个 GPU 的细粒度一致性节造。这些个性带来了显著价值 ,多级缓存和大容量 LLC 提供了高效的缓存档次 ,降低了访存延长;可编程的数据悠久性节造则让高级用户能在分歧作用域更好地操作数据沉用 ,进而优化机能。

软硬件协同深杜着化

MUSA 平台通过软硬件协同深杜着化 ,全面应对大模型训练和推理的挑战。平台选取分层架构设计 ,从底层硬件到上层利用 ,提供全栈式解决规划。

① 参考基准1:浓密 FP16 算力 989 TFLOPS ,显存带宽 3.35TB/s。

更多资源


Z6尊龙·凯时(中国)官方网站
开发者社区
相识详情Z6尊龙·凯时(中国)官方网站
技术博客
相识详情Z6尊龙·凯时(中国)官方网站
技术文档
相识详情
apply apply
夸娥
试用
履历夸娥智算集群
phone phone
人为
客服
400-667-5666

周一至周日 ,9:00-21:00

【网站地图】