券商之家
全国站

ChatGPT访问量狂飙至9亿,ScalingLaw“精度感知”现象引发热议!

来源:华福证券
2024-11-21 09:30:22
摘要
投资要点:本周数据中心板块超微电脑涨势一骑绝尘,GPU/CPU板块表现活跃。(1)GPU/CPU:本周(1118-1120)除英特尔外,算力芯片板块普涨,其中英伟达+3.54%,AMD+3.33%,龙芯中科+8.95%,寒武纪+9.98%,海光信息+3.81%。英伟达将于美东...

投资要点:

本周数据中心板块超微电脑涨势一骑绝尘,GPU/CPU板块表现活跃。

(1)GPU/CPU:本周(1118-1120)除英特尔外,算力芯片板块普涨,其中英伟达+3.54%,AMD+3.33%,龙芯中科+8.95%,寒武纪+9.98%,海光信息+3.81%。英伟达将于美东时间周三盘后披露三季度财报,建议继续关注。(2)数据中心硬件:超微电脑+52.15%,先前受安永辞职影响,超微电脑股价遭遇重创,11月18日其宣布聘请了新的独立审计师BDO并提交了合规计划,增强了投资者对公司未来合规性的信心。

“精度感知”scalinglaw首次提出,AI领域低精度加速时代即将结束。

根据新智元11月17日报道,哈佛斯坦福MIT等机构研究人员发现低精度训练会降低模型的有效参数量,对此他们提出了“精度感知”scalinglaw。

要点#1:传统scalinglaw忽视精度,低精度训练有效性受限。传统的scalinglaw主要关注参数规模和数据量,但忽视了精度这一关键因素。研究发现,低精度训练不仅影响模型的有效参数量,而且在推理过程中,随着训练数据量的增加,量化带来的性能损失也会增加,特别是在模型后期量化时。

因此,低精度训练的有效性受限。

要点#2:低精度加速时代接近尾声,未来范式将转向资源优化利用。尽管低精度加速曾经是AI进步的核心推动力,但这种趋势现在正接近尾声。研究表明,未来还需要超过8位的精度来训练许多模型。随着低精度方法达到极限,未来的AI研究范式将从单纯的规模扩展转向如何更有效地利用现有资源,更关注于如何通过AI提高人类的生产力。这种思维方式更侧重于流程和人的层面,而非技术本身。

马斯克旗下xAI122天建成10万GPU超算集群,科技巨头纷纷效仿。

根据新智元11月17日报道,马斯克的公司xAI仅用122天,成功建成配备了10万颗GPU的超算集群Colossus,专用于AI模型训练。

要点#1:马斯克采用非传统方法,超算建设速度从4年缩短至4个月。通常情况下,建设如此规模的GPU集群往往需要三年的规划与设计周期,再加上一年的建设时间方能投入使用。Colossus完工之所以如此迅速,是因马斯克采用非传统方法加速建设,包括在电力供应不足情况下开始建设,并使用移动天然气涡轮机作为临时电源。

要点#2:亚马逊、微软、谷歌和OpenAI等科技巨头纷纷效仿马斯克方法。业界普遍认为,服务器集群的规模越大,其训练出来的人工智能表现就越出色。马斯克的这一迅速建设方法已经引起了亚马逊、微软、谷歌和OpenAI等科技巨头的关注,他们正在尝试效仿这种方式,建设规模更大的数据中心。

大模型跟踪

ChatGPT访问量创新高,Kimi发布新推理模型带动下载量。据similarweb最新数据(1108-1114):(1)ChatGPT本周访问量突破9亿,断层第一愈发稳固。根据量子位11月15日报道,ChatGPT发布更新,Mac客户端支持“读屏编程”,可直接读取并处理开发工具中的代码;Windows客户端全量上线,免费用户也可使用,且支持高级语音模式和搜索功能。

据七麦最新数据(1113-1119):(1)Kimi11月16日单日下载量近300万。11月16日,Kimi发布最新一代推理模型k0-math,在数学能力已实现对标OpenAIo1-mini和o1-preview。(2)讯飞星火本周下载量有所增长。11月14日,讯飞星火多模态交互大模型正式上线,该模型实现音视频流实时多模交互,新增“多模态、超拟人和个性化”能力,实现语音、视觉、数字人交互三合一,支持一键调用,带动本周下载量。

建议关注

国产算力链:寒武纪、海光信息、龙芯中科、盛科通信等。

数据中心硬件:中际旭创、工业富联、新易盛、天孚通信、沃尔核材、英维克、沪电股份、胜宏科技。

风险提示

技术发展及落地不及预期;下游终端出货不及预期;下游需求不及预期;市场竞争加剧风险;地缘政治风险。

  【点击查看研报:PDF原文】

免责声明
本站所有收录的券商、游资及发布的图片、内容,均收集整理自互联网或自媒体,仅供参考。目的在于促进信息交流,不作为任何投资和交易的根据,据此操作风险自担。我们尊重作者版权,版权归属于原作者,不保证该信息的准确性、真实性、完整性、有效性、及时性、原创性等。

大家都在看

面板行业动态:一周面板市场深度解析!

板块指数周跟踪:上周SW面板下跌5.46%,SW电子下跌4.15%,沪深300下跌3.29%。面板行业相对电子行业跑输1.31%,相对沪深300跑输2.16%。板块个股周跟踪:上周面板行业个股中,涨幅前三分别为*ST合泰、维信诺、长阳科技,涨幅分别为1...
2024-11-20

揭秘家电行业新动向:24Q3基金持仓家电企业深度解析

行业核心观点:2024年Q3家电行业公募基金持仓比重连续7个季度持续提升,白电龙头标的、扫地机、家电零部件等细分领域主要个股均获增持,黑电主要个股遭减持;陆股通方面,三季度核心个股减持居多,厨卫电器/黑电部分个
2024-11-20

《工程机械行业双喜临门:国内筑底回暖,海外市场持续向好》

挖掘机:据中国工程机械工业协会对挖掘机主要制造企业统计,2024年10月销售各类挖掘机16791台,同比增长15.1%。其中国内销量8266台,同比增长21.6%;出口量8525台,同比增长9.46%。2024年1—10月,共销售挖掘机164172台,同比增长0.47...
2024-11-20

汽车新纪元:鸿蒙智行领跑智驾,智界成第二增长动力引擎

平安观点:华为ADS新增智驾里程保持领先,推出“智驾险”提升用户使用信心。华为智驾新增里程领先国内其他车企,10月华为乾崑智驾总里程达到1.97亿公里,在城区智驾方面,华为的领先优势更大,根据各家十一期间的智驾里...
2024-11-20

全球AI产业新动态:NVIDIA或助力马斯克旗下xAI融资,行业瞩目!

核心观点NVIDIA:或参与马斯克旗下xAI融资据观点网援引TheInformation,英伟达正与埃隆·马斯克旗下的人工智能初创公司xAI进行洽谈,计划参与其本轮融资。据IT之家,近期xAI在Supermicro的帮助下,在122天时间内完成搭建10万张英伟达...
2024-11-19

10月印度钻石出口现回暖,钻石行业再迎增长新机遇!

投资要点:10月培育钻石数据:印度培育钻石毛坯进口额同比跌幅进一步扩大,裸钻出口额同比由负转正。据GJEPC数据显示,2024年10月印度培育钻石毛坯进口额为0.64亿美元,同比-27.79%,跌幅较9月有所扩大;培育钻石裸钻出口额
2024-11-19

10月专用机械出口链飙升,主要消费出口链同比增长,制造出海企业备受关注

美元兑人民币汇率小幅升值,欧元兑人民币汇率小幅贬值;欧洲航线、美东航线、美西航线、东南亚航线海运费环比上升。1)汇率:2024年11月13日美元兑人民币即期汇率为7.23,环比11月6日上升0.84%,欧元兑人民币汇率为7.67,环
2024-11-19

百度AI眼镜惊艳亮相,国内芯片供应紧缩趋势加剧电子周热!

投资要点市场整体:本周(2024.11.11-11.15)市场大盘整体下跌,上证指数跌3.52%,深圳成指跌3.70%,创业板指跌3.36%,科创50跌3.78%,申万电子指数跌4.15%,Wind半导体指数跌4.99%。外围市场,费城半导体指数跌8.64%,台湾半导体指数跌...
2024-11-19

医药生物周报:DRG/DIP2.0政策助力创新药械腾飞,AI医疗政策频出,关注正当时!

投资要点本周、年初至今医药指数涨幅分别为-3.92%、-9.76%,相对沪深300的超额收益分别为2.57%、-8.10%;本周医疗商业(-1.52%)、医疗器械(-3.37%)及生物制品(-3.39%)等股价跌幅相对较小,原料药(-3.95%)、中药(-3.99%)及化学
2024-11-18

鸿蒙操作系统引领时代新篇章——计算机行业周报聚焦创新技术

投资要点当前国产操作系统参与厂商较多,鸿蒙有望成为重要力量。如果技术路线不统一,应用软件需要与不同的操作系统适配,来满足客户需求,会造成大量的资源浪费。信创正在加快推进,2027年是全面替代节点,四大类系
2024-11-18