当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek“开源周”第二天开源EP通信库

2周前 (02-25)Deepseek最新资讯53

新京报贝壳财经讯(记者罗亦丹)北京时间2月25日,DeepSeek发布了其“开源周”第二天的成果:DeepEP,第一个用于MoE模型(混合专家模型)训练和推理的开源EP通信库。

据了解,EP为Expert Parallelism(专家并行),是一种在大规模分布式AI模型训练中使用的技术,能用于提升模型并行处理能力和训练效率。

DeepSeek介绍,DeepEP的特点包括:高效且优化的全对全(all-to-all)通信,节点内和节点间支持NVLink和RDMA,用于训练和推理预填充的高吞吐量内核,用于推理解码的低延迟内核,原生FP8调度支持,灵活的GPU资源控制,实现计算与通信重叠。

DeepSeek发布公告截图


“DeepSeek“开源周”第二天开源EP通信库” 的相关文章

从0到1,适合大学生的DeepSeek使用指南

从0到1,适合大学生的DeepSeek使用指南

最近,AI圈可谓是热闹非凡,DeepSeek横空出世,迅速成为大家热议的焦点。它究竟有何神奇之处,能在高手如云的AI领域掀起如此大的波澜?今天,就让我们一起深入了解一下。01DeepSeek到底是什么...

网宿旗下爱捷云DeepSeek智算一体机发布

网宿旗下爱捷云DeepSeek智算一体机发布

每经AI快讯,近日,网宿科技旗下子公司爱捷云依托海量的智能算力资源、自研领先的全局算力调度平台和丰富的云平台运营等核心能力,正式推出爱捷云DeepSeek智算一体机,为企业提供开箱即用、高性能、安全可...

托普云农:目前暂无与DeepSeek合作计划

托普云农:目前暂无与DeepSeek合作计划

每经AI快讯,托普云农(301556)2月24日在互动平台表示,公司一直积极关注行业内的技术发展,但目前暂无与DeepSeek合作计划。未来,公司将持续深耕智慧农业行业,提升技术水平,在农业大数据分析...

从Deepseek谈东方数理哲学与AI新文明

从Deepseek谈东方数理哲学与AI新文明

2月28日下午,由北京市社会组织党建联合会与中关村超互联新基建产业创新联盟联合主办的 “从Deepseek谈东方数理哲学与AI新文明范式” 交流会在北京成功举办。此次活动汇聚了人工智能、传统文化、社会...

中国联通:针对DeepSeek系列模型进行了优化升级,平均节省30%推理计算量

中国联通:针对DeepSeek系列模型进行了优化升级,平均节省30%推理计算量

中国联通近日宣布,继1月开源元景“自适应慢思考”思维链大模型后,又针对DeepSeek系列模型进行了“自适应慢思考”优化升级,平均可节省约30%的推理计算量,现已开源。这也是目前业界首个对DeepSe...

黑龙江省进行DeepSeek大模型本地化部署

黑龙江省进行DeepSeek大模型本地化部署

原标题:我省进行DeepSeek大模型本地化部署近日,黑龙江省哈尔滨数字龙江智算中心成功部署国内领先的DeepSeek大模型,此次部署标志着黑龙江省在人工智能技术自主创新与产业应用领域迈出关键一步,为...