DeepSeek 于 AI 开源社区Hugging Face 上发布了一个名为 DeepSeek-Prover-V2-671B 的新模型。 据悉，DeepSeek-Prover-V2-671B 使用了更高效的 safetensors 文件格式，并支持多种计算精度，方便模型更快、更省资源地训练和部署，参数达 6710 亿，或为去年发布的 Prover-V1.5 数学模型升级版本。在模型架构上，该模型使用了 DeepSeek-V3 架构，采用 MoE（混合专家）模式，具有 61 层 Transformer 层，7168 维隐藏层。同时支持超长上下文，最大位置嵌入达 16.38 万，使其能处理复杂的数学证明，并且采用了 FP8 量化，可通过量化技术减小模型大小，提高推理效率。
DeepSeek 发布 Prover-V2 模型，参数量达 6710 亿
相关推荐
免责声明：
1、本网站所展示的内容均转载自网络其他平台，主要用于个人学习、研究或者信息传播的目的；所提供的信息仅供参考，并不意味着本站赞同其观点或其内容的真实性已得到证实；阅读者务请自行核实信息的真实性，风险自负。
2、如因作品内容、版权和其他问题请与本站管理员联系，我们将在收到通知后的3个工作日内进行处理。