每經AI快訊(xun)，2024年1月(yue)19日(ri)，德邦證券發布研報點評電子(zi)行業。

算(suan)(suan)(suan)力(li)參(can)(can)數：多(duo)廠(chang)商(shang)逐(zhu)鹿AI，矩陣計(ji)算(suan)(suan)(suan)為(wei)(wei)核心算(suan)(suan)(suan)力(li)參(can)(can)數。AI算(suan)(suan)(suan)力(li)參(can)(can)數種類繁多(duo)，其(qi)本質是(shi)精度與運算(suan)(suan)(suan)效率的(de)取舍。為(wei)(wei)更好適(shi)應(ying)AI大模(mo)型的(de)訓(xun)練(lian)與推理，FP32 TensorCore，BF16等(deng)新興數據(ju)(ju)類型應(ying)運而(er)生。以FP32 Tensor Core為(wei)(wei)例，其(qi)為(wei)(wei)英偉(wei)達張量計(ji)算(suan)(suan)(suan)的(de)數據(ju)(ju)格式，使(shi)得(de)模(mo)型訓(xun)練(lian)性(xing)(xing)能(neng)大幅提(ti)升(sheng)(sheng)。英偉(wei)達H200的(de)FP32算(suan)(suan)(suan)力(li)為(wei)(wei)67TFlops，對(dui)應(ying)FP32 Tensor Core算(suan)(suan)(suan)力(li)為(wei)(wei)989TFlops，性(xing)(xing)能(neng)大幅提(ti)升(sheng)(sheng)。而(er)國內各算(suan)(suan)(suan)力(li)廠(chang)商(shang)產品性(xing)(xing)能(neng)迭(die)代順(shun)(shun)利(li)，華為(wei)(wei)海(hai)思此前(qian)發布的(de)昇(sheng)騰910在FP16算(suan)(suan)(suan)力(li)性(xing)(xing)能(neng)上接近A100，下一代910B性(xing)(xing)能(neng)有望(wang)顯(xian)著提(ti)升(sheng)(sheng)。寒武紀370對(dui)標英偉(wei)達L2芯(xin)片。海(hai)光信息深(shen)算(suan)(suan)(suan)三號研發進展順(shun)(shun)利(li)；龍芯(xin)中科第二代圖(tu)形處理器LG200單節點(dian)性(xing)(xing)能(neng)達256GFlops-1TFlops，將基于2K3000的(de)GPGPU技(ji)術及3C6000的(de)龍鏈(lian)技(ji)術，研制專用GPGPU芯(xin)片。

互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)參數(shu)：多(duo)(duo)卡(ka)(ka)互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)為大(da)(da)模(mo)型(xing)(xing)(xing)(xing)桎梏(gu)，國(guo)內外差距(ju)巨(ju)大(da)(da)。相(xiang)(xiang)比小模(mo)型(xing)(xing)(xing)(xing)，大(da)(da)模(mo)型(xing)(xing)(xing)(xing)要(yao)求在模(mo)型(xing)(xing)(xing)(xing)切(qie)分后進(jin)(jin)行(xing)(xing)模(mo)型(xing)(xing)(xing)(xing)并(bing)行(xing)(xing)。模(mo)型(xing)(xing)(xing)(xing)并(bing)行(xing)(xing)使得(de)多(duo)(duo)個GPU能(neng)同(tong)時(shi)運行(xing)(xing)模(mo)型(xing)(xing)(xing)(xing)的(de)(de)一部分，并(bing)在共享結果后進(jin)(jin)入到(dao)下一層。大(da)(da)模(mo)型(xing)(xing)(xing)(xing)的(de)(de)發(fa)展使得(de)類似(si)英(ying)偉(wei)達NVLink、NVSwitch等互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)技(ji)術(shu)的(de)(de)重要(yao)性(xing)快速提(ti)(ti)升，同(tong)時(shi)互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)性(xing)能(neng)參數(shu)也成為各大(da)(da)模(mo)型(xing)(xing)(xing)(xing)實際(ji)效果好壞的(de)(de)重要(yao)憑依。大(da)(da)多(duo)(duo)數(shu)廠(chang)商利用PCIe進(jin)(jin)行(xing)(xing)互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)，而(er)英(ying)偉(wei)達的(de)(de)NVLink能(neng)夠(gou)實現GPU間的(de)(de)直(zhi)接互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)，從(cong)而(er)大(da)(da)幅提(ti)(ti)升通信效率，其NVLink帶寬可(ke)(ke)達到(dao)900 GB/s。在大(da)(da)規模(mo)高精度的(de)(de)3DFFT、3950億參數(shu)的(de)(de)大(da)(da)模(mo)型(xing)(xing)(xing)(xing)訓練(lian)上，H100+NVLink組合(he)的(de)(de)提(ti)(ti)升顯著。我們認為隨(sui)著大(da)(da)模(mo)型(xing)(xing)(xing)(xing)的(de)(de)復(fu)雜(za)化，NVLink等多(duo)(duo)卡(ka)(ka)互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)技(ji)術(shu)將愈加(jia)重要(yao)。在多(duo)(duo)卡(ka)(ka)互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)上，國(guo)內外廠(chang)商亦有所差距(ju)。以寒武(wu)(wu)紀MLU370-X8為例(li)，寒武(wu)(wu)紀為多(duo)(duo)卡(ka)(ka)系統專門設計了MLU-Link橋接卡(ka)(ka)，其可(ke)(ke)實現4張加(jia)速卡(ka)(ka)為一組的(de)(de)8顆思(si)元370芯片全互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)，每張加(jia)速卡(ka)(ka)可(ke)(ke)獲得(de)200GB/s的(de)(de)通訊吞吐性(xing)能(neng)，帶寬為PCIe 4.0的(de)(de)3.1倍。但相(xiang)(xiang)比英(ying)偉(wei)達NVLink 4.0的(de)(de)900GB/s，該互(hu)(hu)(hu)(hu)(hu)(hu)聯(lian)性(xing)能(neng)僅為英(ying)偉(wei)達的(de)(de)22%，仍有較(jiao)大(da)(da)提(ti)(ti)升空間。

建議關注：

算力芯(xin)(xin)片：寒武紀(ji)（思元590性能有望(wang)顯著提(ti)升）、海(hai)光信息(xi)（深算三號(hao)研(yan)發進(jin)展順利）、龍(long)芯(xin)(xin)中科(ke)（將基于2K3000的GPGPU技術及3C6000的龍(long)鏈技術研(yan)制專用GPGPU芯(xin)(xin)片）

AI應用：海(hai)康威視(shi)、大華股份(fen)、樂鑫科技、晶晨股份(fen)、恒玄科技、中科藍訊

服(fu)務(wu)器：工業富聯(lian)、滬電股份

服務器(qi)存儲：瀾(lan)起科(ke)技、聚辰股(gu)份

先進(jin)封裝(zhuang)：通富微電、長電科技(ji)、甬矽電子(zi)、華天(tian)科技(ji)

風(feng)(feng)險(xian)提示：下游需(xu)求復(fu)蘇不(bu)(bu)及預期(qi)，技術(shu)研發風(feng)(feng)險(xian)，國內外政策和技術(shu)摩擦不(bu)(bu)確(que)定性的風(feng)(feng)險(xian)。

(來源：慧博投研)

免責聲明：本文內(nei)容與(yu)數(shu)據僅供參考，不構成投(tou)資(zi)建議，使用前請核(he)實。據此操作，風險自擔。

(編輯 曾健輝)