券商之家
全国站

计算机行业大变局:长文本时代落幕,AI应用低成本爆发,全面看涨未来趋势!

来源:天风证券
2024-08-23 15:18:46
摘要
幻方AI发布了DeepseekV2模型,在模型性能一流的同时达到极低的价格,性价比凸显5月6日幻方发布了第二代MOE模型DeepSeek-V2。目前在大模型主流榜单中,DeepSeek-V2均表现出色,中文综合能力(AlignBench)开源模型中最强,与GPT-4-Turbo,...

幻方AI发布了DeepseekV2模型,在模型性能一流的同时达到极低的价格,性价比凸显

5月6日幻方发布了第二代MOE模型DeepSeek-V2。目前在大模型主流榜单中,DeepSeek-V2均表现出色,中文综合能力(AlignBench)开源模型中最强,与GPT-4-Turbo,文心4.0等闭源模型在评测中处于同一梯队,英文综合能力(MT-Bench)与最强的开源模型LLaMA3-70B同处第一梯队,超过最强MoE开源模型Mixtral8x22B,知识、数学、推理、编程等榜单结果也位居前列。同时,DeepSeek-V2API的定价处于极低的价格:32K上下文每百万tokens输入1元、输出2元,价格仅为GPT-4-Turbo的近百分之一,仅为同属于MoE架构的abab-6.5s模型的1/5,就中文能力来看,DeepSeek-V2在全球模型中处于第一档的位置,但其成本却是最低。

双重架构创新驱动极低训练与推理成本大幅降低

Deepseek-V2模型在模型架构上进行了全方位的创新,使用MLA(Multi-headLatentAttention)和DeepSeekMoE优化了Transformer架构中的Attention与FFN。为缓解键值缓存带来的推理效率下降问题,公司提出了MLA使用低秩键值联合压缩的方式,显著降低KV缓存;在FFN上,公司使用了DeepSeekMoE,采用了细颗粒度的专家分割与共享专家隔离,提高了专家的潜力,相较于Gshard等传统MoE架构,新提出的架构优势较大。在训练过程中,公司使用了约8.1Ttokens的训练语料库,随后使用收集的150万对话对大模型进行监督微调,同时采用GRPO,使模型进一步与人类偏好保持对齐。最终,模型在取得了良好效果的同时,训练成本与推理成本大幅降低,相较于DeepSeek67B模型,V2模型节省了42.5%的训练成本与93.3%的KV缓存,最大生成吞吐量提升至5.76倍。

大模型低成本进程加快,应用有望达到更好盈利水平,全面看多AI应用

降本是实现大模型规模化商业应用的关键,DeepSeek-V2模型通过架构创新,实现了大模型成本尤其是推理成本的显著下降。A16Z的合伙人MartinCasado在演讲中指出,历史上芯片和互联网都曾发生两次边际成本大幅下降,而发生的平台转移和行业革命的案例,随着大模型的成本下降甚至边际成本降到了零后,AI革命即将开始,而每一轮科技革命,从PC互联网到移动互联网都是应用赚最多的钱,因此我们认为以DeepSeek-V2为代表的大模型成本迅速下降,有望全面带动AI应用的发展。

建议关注:

(1)办公软件:金山办公、福昕软件;(2)多模态:万兴科技、美图公司(与海外团队联合覆盖)、虹软科技、光云科技;(3)金融、法律:同花顺、恒生电子、通达海、新致软件;(4)B端应用:金蝶国际、泛微网络、用友网络、致远互联、鼎捷软件、汉得信息;(5)算力:华为链+国产AI芯片四小龙

风险提示:应用推广节奏不及预期、国产算力进展不及预期、大模型发展历程不及预期

  【点击查看研报:PDF原文】

免责声明
本站所有收录的券商、游资及发布的图片、内容,均收集整理自互联网或自媒体,仅供参考。目的在于促进信息交流,不作为任何投资和交易的根据,据此操作风险自担。我们尊重作者版权,版权归属于原作者,不保证该信息的准确性、真实性、完整性、有效性、及时性、原创性等。

大家都在看

市场静待美联储会议纪要 美股三大指数小幅上涨

市场静待美联储会议纪要 美股三大指数小幅上涨

  8月21日,美股三大指数小幅上涨,截至发稿,道琼斯指数涨0.20%,纳斯达克指数涨0.40%,标普500指数涨0.33%。  个股方面,塔吉特大涨近15%,Q2业绩全线超预期、上调全年利润指引。  梅西百货股价大跌近15%,公司下调全
2024-08-21
新品销售等不及预期 倍益康上半年净利润大幅下滑

新品销售等不及预期 倍益康上半年净利润大幅下滑

  上证报中国证券网讯(记者李少鹏)以“康复”产品为核心的倍益康2024年上半年业绩表现并不理想。   北交所公司倍益康8月20日披露2024年半年报,上半年,公司实现营收1.17亿元,同比下降29.16%;净利润872.38万元,同比
2024-08-21
东南亚跨国犯罪集团“诈骗农场”内幕揭露:强迫劳动与性剥削猖獗

东南亚跨国犯罪集团“诈骗农场”内幕揭露:强迫劳动与性剥削猖獗

据联合国新闻发布的消息,位于东南亚的跨国有组织犯罪集团正通过“诈骗农场”推动人口贩运,这些农场已经在该地区蔓延,涉及强迫犯罪和性剥削。据估计,仅在菲律宾就有大约400家此类犯罪企业。它们几乎都是与有执照的...
2024-08-21
中贝通信:签署售后回租融资合同,金额不超2.08亿元

中贝通信:签署售后回租融资合同,金额不超2.08亿元

  中贝通信8月21日公告,公司拟与海通恒信国际融资租赁股份有限公司签署合同,采用售后回租方式融资,金额不超2.079亿元,期限三年。 (文章来源:界面新闻)...
2024-08-21
粤桂股份:目前公司在固态电池领域暂无成熟产品在下游厂商验证

粤桂股份:目前公司在固态电池领域暂无成熟产品在下游厂商验证

  粤桂股份8月21日在互动平台上表示,目前公司在固态电池领域暂无成熟产品在下游厂商验证。(文章来源:界面新闻)...
2024-08-21
创维数字录得6天4板

创维数字录得6天4板

  创维数字再度涨停,6个交易日内录得4个涨停,累计涨幅为27.16%,累计换手率为56.00%。截至9:39,该股今日成交量5983.00万股,成交金额6.19亿元,换手率5.35%。最新A股总市值达121.69亿元,A股流通市值118.25亿元。  证券时报·
2024-08-22
社保基金二季度现身163只股前十大流通股东榜

社保基金二季度现身163只股前十大流通股东榜

  证券时报网讯,证券时报·数据宝统计显示,社保基金最新出现在163只个股前十大流通股东名单中,合计持股量32.63亿股,期末持股市值合计429.72亿元。持股变动显示,不变37只,减持47只,新进28只,增持51只。   社保基
2024-08-22
民生证券给予南山铝业推荐评级

民生证券给予南山铝业推荐评级

  民生证券08月21日发布研报称,给予南山铝业(600219.SH,最新价:3.6元)推荐评级。评级理由主要包括:1)印尼氧化铝盈利丰厚;2)2024Q2业绩拆分:印尼氧化铝业务增厚主业利润。风险提示:汽车板需求不及预期,氧化铝价...
2024-08-21
快讯丨广汽埃安长沙工厂正式竣工投产

快讯丨广汽埃安长沙工厂正式竣工投产

  每经记者孙磊   8月21日,广汽埃安宣布,广汽埃安长沙智能生态工厂正式竣工投产,首辆下线车型为第二代AION V。据了解,该工厂基于原有燃油工厂改造升级二来,可年产20万辆新能源汽车。(文章来源:每日经济新闻)...
2024-08-21
消费电子概念股震荡走低 漫步者跌近7%

消费电子概念股震荡走低 漫步者跌近7%

  8月22日,消费电子概念股震荡走低,截至10时13分,漫步者跌近7%,安洁科技、朗科智能、海能实业、福蓉科技跌超5%,瀛通通讯、奥海科技、长盈精密、信维通信等跟跌。(文章来源:上海证券报·中国证券网)...
2024-08-22