《東方看點|英偉達即將發(fā)布L40s, 算力應用交相輝映》
時間:2023-08-09
英偉達近期預告即將推出L40s,L40s的推出主要針對小幾百億參數(shù)模型推理(行業(yè)垂直應用)、相關模型微調訓練等無需高顯存容量和帶寬場景。目前大卡緊缺,小卡推理算力利用率極低,高質量推理算力極為緊缺,同時L40s專門優(yōu)化了【FP32】的算力。
東方基金權益研究部認為,在使用ResNet50和Bert-Large經典模型下,L40s的推理性能和性價比皆優(yōu)于A800。L40s的推出不受臺積電CoWoS產能限制,供給充足,有助于改善算力產業(yè)鏈的預期。有助于促進行業(yè)垂直模型更加快速、低成本落地。L40s不是完全替代A800,一方面在推理端:應用于小幾百億及其以下的參數(shù)模型的推理(例如一些垂域模型);另一方面在訓練端:用于微調訓練(基于已經完成預訓練的模型,做fine-tuning等)??紤]到A800和H800受制于臺積電CoWoS產能,缺貨嚴重,L40s有助于實現(xiàn)對上述需求的增量供給。A/H卡在千億甚至未來萬億級別參數(shù)的大模型推理,以及大模型的預訓練階段仍然是不可替代的。建議關注人工智能的應用端以及算力端發(fā)展。
市場有風險,投資需謹慎。
|
關閉本頁 打印本頁 |