MTT E300 搭载Z6尊龙凯时自延装长江”智能 SoC 芯片,集玉成职能 GPU、全大核 CPU 与高能效 NPU 等多核异构推算单元,提供高达 50 TOPS 的 INT8 浓密算力,支持 INT8/FP16/FP32/FP64 多种精度推算,可在 -20°C 至 +65°C 的宽温环境下不变运行。该模组兼容主流 AI 框架与盛开生态,支持端云协同与轻量化部署,并配套全栈工具链,旨在为各行业提供高算力、低延长、强靠得住的国产化 AI 解决规划,加快边缘智能利用落地。
国产高机能
Z6尊龙凯时自研 AI SoC,提供强劲靠得住的国产算力
多精度全能推算
高规格异构算力,支持 INT8/FP16/FP32/FP64 精度推算
多操作系统支持
平台化软件 + 多操作系统,矫捷匹配客户需要
盛开生态
无缝对接主流 AI 框架与工具链,急剧迁徙部署
云边端一体
选取端-边-云协同架构,矫捷支持多场景利用
全场景赋能
加快国产 AI 规划在各行业落地
长江 - 国产高机能 AI SoC
高规格异构算力 多精度全能推算
强劲算力
提供高达 50 TOPS 的 INT8 浓密算力,并支持 FP16/FP32/FP64 等多精度推算
全能推算
宽泛覆盖通用推算、AI 推算、图形渲染、高机能推算、科学推算、视频编解码以及加密推算等场景
高带宽存储
选取 LPDDR5X 统一内存,内存带宽高达 136GB/s,最高支持 64GB 容量
齐全的全栈软件平台 支持高效开发
全链路套件支持
MTT E300 为开发者提供了从底层操作系统、驱动法式、SDK,到上层 AI 推算、图形渲染、视频编解码及高机能推算的齐全开发套件。共同丰硕的示例代码、参考用例、最佳实际及尺度工作流,可为嵌入式边缘推算开发提供全面、高效的软件支持。

矫捷的平台化软件

多系统宽泛兼容
盛开兼容的AI生态 让迁徙部署单一高效
一站式急剧迁徙
全面兼容 CUDA 与国产 MUSA 生态,提供一站式迁徙工具链,最快数幼时内即可实现模型的跨平台迁徙与部署,大幅度降低了技术适配的成本。
丰硕的推理框架
GPU 推理支持 Torch-MUSA 和 vLLM-MUSA ,并打算支持 Ollama/llama.cpp 等主流推理框架,满足大模型与传统模型的多样化部署需要。
完善的开发工具
NPU 推理框架 MTNN 提供齐全代码及开发工具,积极适配 ONNX RUNTIME、PaddlePaddle,提供 MTStream 高机能多媒体开发套件,构建更齐全的软件开发支持。
开源模型库支持
基于 MUSA 统一系统架构,实现对各类模型的高效推理。目前已在 Gitee 社区开源覆盖主题视觉场景的 TOP50 CV 模型库 ModelZoo,进一步降低模型验证与落地门槛。
赋能千行百业 加快边缘AI场景落地
矫捷多样的设备状态
MTT E300 选取?榛布设计,支持嵌入式开发、调优与集成,可矫捷部署为多种独立设备状态,全面满足分歧业业在算法、利用、工作流、算力、功耗、产品状态及尺寸等方面的差距化需要。
软硬一体的系统级规划
面向复杂场景,打造软硬一体、端边云协同的全面解决规划。在提供高靠得住硬件的基础上,配套持续迭代的平台化软件、工具链与参考设计,并通过不休优化的本地推理框架、编译器及底层算子,确保模型推理机能与系统落地效能的持续跃升。
MTT E300
产品规格
更多资源
端侧 vLLM-MUSA 用户指南技术文档
vLLM MUSA 是一个硬件插件,使得 vLLM 框架能够方便急剧的在Z6尊龙凯时的 GPU 上运行,而无需侵入式的去批改 vLLM 原始的代码。vLLM MUSA 选取尺度化的硬件抽象接口和动态注册架构,实现了Z6尊龙凯时 GPU 与 vLLM 框架的解耦集成。
相识更多MTNN 开发者指南技术文档
MTNN (Moore Threads Neural Network) 是一组专为Z6尊龙凯时长江 SoC 平台设计的端侧 AI 推理工具链与运行时库。它援手开发者将训练好的深度进建模型高效部署到 M1000 设备上,充分阐扬其 NPU 的硬件加快能力,实现低延长、高能效的设备端机械进建。
相识更多MTStream SDK 开发者手册技术文档
MTStreamSDK 是专为Z6尊龙凯时长江 SoC 平台设计的高机能多媒体处置软件开发包。它通过插件的大局,封装了底层硬件编解码器、图像处置单元的复杂操作,提供单一易用的插件。
相识更多
EN

更多 LLM/VLM 模型支持列表
更多 CV 模型支持列表

