AI時(shí)代FPGA何去何從？

2024-6-11 08:29| 發(fā)布者: admin| 查看: 216| 評(píng)論: 0

摘要: 作為一種可編程邏輯器件，F(xiàn)PGA在20多年中已從電子設(shè)計(jì)的外圍器件逐漸演變?yōu)閿?shù)字系統(tǒng)的核心。隨著云計(jì)算、人工智能時(shí)代的到來(lái)，善長(zhǎng)數(shù)據(jù)并行計(jì)算、更加靈活和低延遲的FPGA將受到更多關(guān)注，F(xiàn)PGA廠商也推出不同類(lèi)型的解 ...

AI時(shí)代FPGA何去何從？

作為一種可編程邏輯器件，F(xiàn)PGA在20多年中已從電子設(shè)計(jì)的外圍器件逐漸演變?yōu)閿?shù)字系統(tǒng)的核心。隨著云計(jì)算、人工智能時(shí)代的到來(lái)，善長(zhǎng)數(shù)據(jù)并行計(jì)算、更加靈活和低延遲的FPGA將受到更多關(guān)注，F(xiàn)PGA廠商也推出不同類(lèi)型的解決方案加以應(yīng)對(duì)——異構(gòu)計(jì)算平臺(tái)化、IP化，F(xiàn)PGA正展現(xiàn)出更多新的發(fā)展趨勢(shì)。

AI應(yīng)用驅(qū)動(dòng)，F(xiàn)PGA市場(chǎng)快速增長(zhǎng)

云計(jì)算、人工智能的應(yīng)用發(fā)展，對(duì)芯片的計(jì)算力提出了更高要求，F(xiàn)PGA可以同時(shí)進(jìn)行數(shù)據(jù)并行和任務(wù)并行計(jì)算，具備更大的靈活性。很多使用通用處理器或ASIC難以實(shí)現(xiàn)的底層硬件控制操作，利用FPGA可以很方便的實(shí)現(xiàn)。因此，近年來(lái)FPGA受到越來(lái)越多的關(guān)注和應(yīng)用。

“AI推斷需求的指數(shù)級(jí)增長(zhǎng)，需要特定架構(gòu)(DSA)以達(dá)到最大效率。然而，與AI創(chuàng)新的速度相比，固定硬件的DSA開(kāi)發(fā)周期太過(guò)漫長(zhǎng)?！辟愳`思細(xì)分核心市場(chǎng)副總裁Yousef Khalilollahi指出：“FPGA提供靈活應(yīng)變的平臺(tái)，支持可隨時(shí)根據(jù)最新AI技術(shù)定制的DSA，而且無(wú)需坐等漫長(zhǎng)硅片研發(fā)周期?！?br>
微軟亞洲研究院異構(gòu)計(jì)算組副研究員張宸在此前舉辦的“第六屆中國(guó)FPGA產(chǎn)業(yè)發(fā)展論壇”上也指出，這些年人工智能的崛起，依靠的是深度神經(jīng)網(wǎng)絡(luò)算法大型多層的網(wǎng)絡(luò)模型，典型的有循環(huán)神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)。這樣的模型一次推斷(inference)通常需要數(shù)十億甚至上百億次的運(yùn)算，而在線(xiàn)服務(wù)系統(tǒng)的響應(yīng)時(shí)間在毫秒量級(jí)。這就意味著需要每秒上萬(wàn)億次(TFLOPS)甚至百萬(wàn)億次的運(yùn)算性能，同時(shí)對(duì)器件的體積、功耗還有一定的約束。這使得人們期待的數(shù)據(jù)中心高性能計(jì)算硬件應(yīng)當(dāng)具備如下優(yōu)勢(shì)：低延遲、低開(kāi)銷(xiāo)和規(guī)?；Ｔ跀?shù)據(jù)中心，F(xiàn)PGA相比GPU的核心優(yōu)勢(shì)在于低延遲，使用FPGA來(lái)加速的話(huà)，只需要微秒級(jí)的PCIe延遲，微軟現(xiàn)在的FPGA是作為一塊PCIe加速卡。對(duì)通信密集型任務(wù)，F(xiàn)PGA相比CPU、GPU的優(yōu)勢(shì)更大。

在此情況下，近年來(lái)，F(xiàn)PGA的應(yīng)用領(lǐng)域正在不斷拓展，市場(chǎng)規(guī)模也不斷地?cái)U(kuò)大。研調(diào)機(jī)構(gòu)Global Market Insights的報(bào)告稱(chēng)，2022年FPGA規(guī)模有望超過(guò)99.8億美元。根據(jù)Semico Research預(yù)測(cè)數(shù)據(jù)，僅在人工智能應(yīng)用中，F(xiàn)PGA的市場(chǎng)規(guī)模將在未來(lái)4年內(nèi)增長(zhǎng)3倍，達(dá)到52億美元。

平臺(tái)化+異構(gòu)整合，F(xiàn)PGA展現(xiàn)新趨勢(shì)

面對(duì)拓展越來(lái)越大的應(yīng)用趨勢(shì)，各FPGA廠商也在推出不同的解決方案。這些解決方案反應(yīng)了不同廠商面對(duì)新市場(chǎng)需求形成不同的發(fā)展策略，也對(duì)FPGA的技術(shù)趨勢(shì)形成了不同影響。

去年，賽靈思在其2018開(kāi)發(fā)者大會(huì)(XDF)上發(fā)布了業(yè)界首款7nm自適應(yīng)計(jì)算加速平臺(tái)(ACAP)產(chǎn)品Versal。ACAP的核心是新一代的 FPGA架構(gòu)，并結(jié)合了分布式存儲(chǔ)器與硬件可編程DSP模塊、一個(gè)多核SoC以及一個(gè)或多個(gè)軟件可編程且同時(shí)又具備硬件靈活應(yīng)變性的計(jì)算引擎。從Versal ACAP的推出可以看出，賽靈思正在試圖改變以往以FPGA為單一核心的狀況，朝著異構(gòu)計(jì)算平臺(tái)化發(fā)展，希望以此將不同種類(lèi)的算法分配到更合適的異構(gòu)引擎當(dāng)中。新平臺(tái)可以支持更多應(yīng)用，適應(yīng)不同的開(kāi)發(fā)者。正如Yousef Khalilollahi所言：“單獨(dú)一個(gè)計(jì)算體系結(jié)構(gòu)，無(wú)法滿(mǎn)足當(dāng)今最流行的應(yīng)用所需要的性能和功耗要求。在后摩爾定律時(shí)代，異構(gòu)計(jì)算是唯一的發(fā)展之路。”

對(duì)于英特爾來(lái)說(shuō)，對(duì)FPGA的發(fā)展策略則是更多地整合多種處理器產(chǎn)品組合，面向云端提供綜合性計(jì)算解決方案。

在日前舉辦的“英特爾公司中國(guó)媒體紛享會(huì)”上，英特爾中國(guó)研究院院長(zhǎng)宋繼強(qiáng)提出“超異構(gòu)計(jì)算”概念，其中就包括了在未來(lái)芯片架構(gòu)設(shè)計(jì)上進(jìn)行靈活性的組合部署，實(shí)現(xiàn)CPU、FPGA、GPU等處理器的組合，顯示了英特爾將基于其在云計(jì)算上的強(qiáng)大實(shí)力，把服務(wù)器CPU與FPGA的加速功能進(jìn)行整合。FPGA正越來(lái)越深入地嵌入到英特爾云端處理解決方案當(dāng)中。英特爾數(shù)據(jù)中心事業(yè)部副總裁Caroline Y Chan也表示，隨著5G網(wǎng)絡(luò)的建設(shè)，像是快速部署無(wú)線(xiàn)網(wǎng)絡(luò)、確保網(wǎng)絡(luò)性能、建置虛擬化環(huán)境等，都是必須完成的工作。而FPGA的優(yōu)勢(shì)十分明顯，在實(shí)現(xiàn)網(wǎng)絡(luò)虛擬化加快當(dāng)中勢(shì)必會(huì)使用到它。另外，其可編程的特性也為網(wǎng)絡(luò)新增功能提供了更多靈活性與可擴(kuò)展性。

Achronix公司近日發(fā)布的Speedster7t代表了另一種發(fā)展趨勢(shì)，其力圖將FPGA的可編程性與ASIC的布線(xiàn)結(jié)構(gòu)和計(jì)算引擎相結(jié)合，通過(guò)對(duì)二維片上網(wǎng)絡(luò)(2D NoC)，以及高密度全新機(jī)器學(xué)習(xí)處理器(MLP)模塊陣列等的集成，簡(jiǎn)化用戶(hù)設(shè)計(jì)，以應(yīng)對(duì)人工智能機(jī)器學(xué)習(xí)應(yīng)用的需求?！癝peedster7t系統(tǒng)將數(shù)學(xué)函數(shù)、存儲(chǔ)器和可編程性整合到機(jī)器學(xué)習(xí)處理器中，再結(jié)合交叉芯片、二維NoC結(jié)構(gòu)，可以確保整個(gè)器件中數(shù)據(jù)自由流動(dòng)。而在人工智能機(jī)器學(xué)習(xí)應(yīng)用中，內(nèi)存帶寬就是一切，Speedster7t在這方面可以提供令人印象深刻的性能指標(biāo)。” Achronix Semiconductor總裁兼首席執(zhí)行官Robert Blake表示。

嵌入式FPGA，市場(chǎng)接受程度提升

不同于CPU、GPU等在移動(dòng)時(shí)代快速實(shí)現(xiàn)IP化的發(fā)展趨勢(shì)，嵌入式FPGA(eFPGA)一直沒(méi)有成為市場(chǎng)的主流。不過(guò)，隨著云計(jì)算、人工智能時(shí)代的到來(lái)，eFPGA的市場(chǎng)接受度有望進(jìn)一步提升，成為FPGA產(chǎn)品的主要發(fā)展趨勢(shì)之一。

對(duì)此，Robert Blake指出，F(xiàn)PGA是可以有效地實(shí)現(xiàn)IP化。eFPGA具有易用性，大大降低了使用門(mén)檻，可以快速滿(mǎn)足用戶(hù)多樣化需求，無(wú)論是系統(tǒng)級(jí)還是芯片級(jí)都可以支持。這在人工智能時(shí)代非常重要，特別是在邊緣側(cè)計(jì)算中受到歡迎。事實(shí)上，現(xiàn)在有很多用戶(hù)在尋問(wèn)FPGA的IP問(wèn)題。相信未來(lái)將有越來(lái)越多IP化的FPGA被應(yīng)用。

eFPGA是指將一個(gè)或多個(gè)FPGA以IP的形式嵌入ASIC、ASSP或SoC等芯片中的發(fā)展模式。eFPGA的特色之一是易用性，它降低了客戶(hù)集成FPGA加速器的門(mén)檻?？蛻?hù)通過(guò)定制其邏輯、Ram和Dsp資源需求，可以將多個(gè)IP進(jìn)行組合，以便為特定的應(yīng)用創(chuàng)建優(yōu)化的可編程功能。這種發(fā)展模式在CPU和GPU等芯片中被大量使用，但在FPGA上卻沒(méi)有得到推廣。

“eFPGA是令人興奮的新工具，它使SoC架構(gòu)師可以使他們的芯片更加靈活和可重新配置?！?Robert Blake表示。

AI時(shí)代FPGA何去何從？