Z 您现在的位置: > 快讯 > DeepSeek宣布开源DeepGEMM

DeepSeek宣布开源DeepGEMM

2025-02-26 10:13:09来源:www.luwei123.com发布:二蛋

DeepSeek宣布开源DeepGEMM。DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法(GEMM)设计的库,具有细粒度缩放功能,如 DeepSeek-V3 中所提出。它支持普通和混合专家(MoE)分组的 GEMM。该库采用 CUDA 编写,在安装过程中无需编译,通过使用轻量级的即时编译(JIT)模块在运行时编译所有内核。

本站内容来源于互联网,旨在传递更多信息,并不意味着本站赞同其观点或证实其真实性。若涉及侵权问题,请与我们联系,我们将尽快予以处理

Copyright © 2017-2024 www.luwei123.com All rights reserved 芦苇下载站 版权所有

备案号:闽ICP备2024036174号-5

芦苇下载站订阅号