《東方看點｜英偉達即將發(fā)布L40s, 算力應用交相輝映》

英偉達近期預告即將推出L40s，L40s的推出主要針對小幾百億參數(shù)模型推理（行業(yè)垂直應用）、相關模型微調訓練等無需高顯存容量和帶寬場景。目前大卡緊缺，小卡推理算力利用率極低，高質量推理算力極為緊缺，同時L40s專門優(yōu)化了【FP32】的算力。

東方基金權益研究部認為，在使用ResNet50和Bert-Large經典模型下，L40s的推理性能和性價比皆優(yōu)于A800。L40s的推出不受臺積電CoWoS產能限制，供給充足，有助于改善算力產業(yè)鏈的預期。有助于促進行業(yè)垂直模型更加快速、低成本落地。L40s不是完全替代A800，一方面在推理端：應用于小幾百億及其以下的參數(shù)模型的推理（例如一些垂域模型）；另一方面在訓練端：用于微調訓練（基于已經完成預訓練的模型，做fine-tuning等）?？紤]到A800和H800受制于臺積電CoWoS產能，缺貨嚴重，L40s有助于實現(xiàn)對上述需求的增量供給。A/H卡在千億甚至未來萬億級別參數(shù)的大模型推理，以及大模型的預訓練階段仍然是不可替代的。建議關注人工智能的應用端以及算力端發(fā)展。

市場有風險，投資需謹慎。