当前位置:首页 > Deepseek最新资讯 > 正文内容

DeepSeek发布新版本模型:优化推理效率,API降价超50%

  值得注意的是,此前有不少科技博主发现,DeepSeek-V3.2新模型已上传至其HuggingFace官方页面,随后被删除,此后DeepSeek正式公告新版本的推出。

  据DeepSeek介绍,作为迈向新一代架构的中间步骤,V3.2-Exp在V3.1-Terminus的基础上引入DeepSeek Sparse Attention(一种稀疏注意力机制),针对长文本的训练和推理效率进行探索性优化和验证。目前,官方App、网页端、小程序均已同步更新为DeepSeek-V3.2-Exp,同时API大幅度降价。

  据了解,DeepSeek Sparse Attention(DSA)首次实现细粒度稀疏注意力机制,在几乎不影响模型输出效果的前提下,实现长文本训练和推理效率的大幅提升。为严谨评估引入稀疏注意力带来的影响,把DeepSeek-V3.2-Exp的训练设置与V3.1-Terminus进行严格的对齐。在各领域的公开评测集上,DeepSeek-V3.2-Exp的表现与V3.1-Terminus基本持平。

  在新模型的研究过程中,需要设计和实现很多新的GPU算子,使用高级语言TileLang进行快速原型开发,以支持更深入的探索。在最后阶段,以TileLang作为精度基线,逐步使用底层语言实现更高效的版本。此次开源的主要算子包含TileLang与 CUDA两种版本。

  DeepSeek表示,得益于新模型服务成本的大幅降低,官方API价格也相应下调,开发者调用DeepSeek API的成本将降低50%以上。从价格来看,输入缓存命中从0.5元降至0.2元/百万tokens,缓存未命中从4元降至2元/百万tokens,输出由12元降至3元/百万tokens。

  除了DeepSeek,国内另一大模型厂商智谱的新一代旗舰模型GLM-4.6也即将发布,目前deepseek,在Z.ai官网可以看到,GLM-4.5标识为上一代旗舰模型。

  此前9月18日,梁文锋带着DeepSeek-R1的研究,登上最新一期国际顶级期刊《自然》(Nature)封面。

  《自然》杂志指出,如此总结DeepSeek-R1带来的进步:如果训练出的大模型能够规划解决问题所需的步骤,那么它们往往能够更好地解决问题。这种“推理”与人类处理更复杂问题的方式类似,但这对人工智能有极大挑战,需要人工干预来添加标签和注释。

  DeepSeek的研究人员揭示了他们如何能够在极少的人工输入下训练一个模型,并使其进行推理。DeepSeek-R1模型采用强化学习进行训练。在这种学习中,模型正确解答数学问题时会获得高分奖励,答错则会受到惩罚。原文出处:DeepSeek发布新版本模型:优化推理效率,API降价超50%,感谢原作者,侵权必删!

标签: deepseek

“DeepSeek发布新版本模型:优化推理效率,API降价超50%” 的相关文章

有感于某个吹塞斯科,把沃特金斯贬低成二流中锋的帖子

有感于某个吹塞斯科,把沃特金斯贬低成二流中锋的帖子

  沃特金斯那么多记者都说了 森林不想卖 或者低价不想卖 6000w磅买个三十岁前锋 而且可能受伤身体状态下降 沃特金斯去年下半赛季还没竞争过拉师傅 是不是应该留下拉师傅打中锋更有性价比...

穗森居启动《睡眠AI智荐系统》项目:AI重构睡眠生态,开启健康睡眠新纪元

穗森居启动《睡眠AI智荐系统》项目:AI重构睡眠生态,开启健康睡眠新纪元

  民以食为天,曾经人们见面最常用的问候语便是“您吃了吗”,而在如今快节奏的社会生活中,“昨晚睡得如何”成为另一句高频问候语。睡眠,已成为当下人们关心的大事。 据《2024中国居民睡眠健康...

deepseek显示服务器繁忙有没有什么解决方法?

deepseek显示服务器繁忙有没有什么解决方法?

最近下载的DeepSeek用户,都遇到了服务器繁忙的现象,deepseek显示服务器繁忙有没有什么解决方法?还有下面三种方式可以使用: 1.使用硅基流动API Key+ chatbox ai 在硅...

DeepSeek V3.1更新:代码能力与前端审美显著提升

DeepSeek V3.1更新:代码能力与前端审美显著提升

  据悉,DeepSeek悄悄更新至V3.1版本,官方仅提及上下文长度拓展至128K。此次更新在代码能力和前端审美方面有显著提升。模型尺寸达685B,支持BF16、F8_E4M3、F32等...

a16z发布全球AI应用榜:美图秀秀、豆包、DeepSeek等22款中国产品入选

a16z发布全球AI应用榜:美图秀秀、豆包、DeepSeek等22款中国产品入选

  新浪科技讯 8月28日下午消息,近日,全球知名风险投资公司a16z发布全球Top100消费级生成式AI应用榜单,来自中国应用开发者的产品在移动端Top50中占据22席,充分印证了中国A...

智谱、DeepSeek大模型密集上新 华为寒武纪芯片火速适配,国产AI生态加速“

智谱、DeepSeek大模型密集上新 华为寒武纪芯片火速适配,国产AI生态加速“

  值得一提的是,智谱官宣GLM-4.6在寒武纪国产芯片实现FP8+Int4混合量化部署,为首套投产的该模式芯片一体方案,其基于vLLM框架,还可在摩尔线程新一代GPU原生FP8精度稳定运...