基于FPGA的嵌入式AI解決方案——EdgeBoard硬件設(shè)計(jì)與解析
EdgeBoard是基于FPGA打造的嵌入式AI解決方案,能夠提供強(qiáng)大的算力,并支持定制化模型,適配各種不同的場(chǎng)景,并大幅提高設(shè)備的AI推理能deeplab力,具有高性能、高通用、易集成等特點(diǎn)。
EdgeBoard系列計(jì)算卡符合工業(yè)設(shè)計(jì)標(biāo)準(zhǔn)、滿足-40℃~85℃的溫度范圍,接口齊全,可廣泛適配如安防監(jiān)控、工業(yè)質(zhì)檢、醫(yī)療診斷、科研教學(xué)、智能零售等各種場(chǎng)景。
EdgeBoard產(chǎn)品分為三個(gè)系列,稱之為“三兄弟”,能夠滿足客戶不同的需求,既有滿足高性能計(jì)算的方案,也有高性價(jià)比的處理方案。本文將從“三兄弟”的特點(diǎn)及整體硬件框架兩個(gè)方面來(lái)介紹EdgeBoard。
1.為什么EdgeBoard使用FPGA
理想的異構(gòu)計(jì)算平臺(tái)應(yīng)該具備三種基本能力:首先專有的硬件加速能力,提高算法的性能;其次高效靈活適配算法的能力,適配不斷演進(jìn)的算法;最后豐富的外圍接口,適合不同的應(yīng)用場(chǎng)景。
CPU作為通用處理器,以邏輯計(jì)算作為出發(fā)點(diǎn),更偏重控制流數(shù)據(jù),適用于控制和調(diào)度類任務(wù),不易于進(jìn)行外圍電路的擴(kuò)展。GPU具有并行計(jì)算的特點(diǎn),廣泛應(yīng)用在訓(xùn)練階段,但由于功耗大、成本高等原因,少有部署在端上的產(chǎn)品,另外高延遲及缺少對(duì)外圍電路的支持也不利于部署到端上的產(chǎn)品中。ASIC作為一種專用集成電路芯片,具有體積小、功耗低、計(jì)算性能高等特點(diǎn),但AISC芯片研發(fā)時(shí)間長(zhǎng),資金投入大,由于芯片內(nèi)部結(jié)構(gòu)相對(duì)固定,無(wú)法適配快速演進(jìn)的AI算法,在應(yīng)用場(chǎng)景沒(méi)有明確之前ASIC顯然不是最優(yōu)的選擇。
FPGA作為一種現(xiàn)場(chǎng)可編程門陣列,具有低功耗、低延遲、高性能等優(yōu)勢(shì),其可編程的特性又可以靈活適配不同的算法,同時(shí)FPGA豐富的外圍接口可以滿足不同的應(yīng)用需求,F(xiàn)PGA差異化的內(nèi)部邏輯資源可以提供不同的算力支持,這些優(yōu)勢(shì)使得FPGA被廣泛應(yīng)用在AI推理加速上。
2.EdgeBoard計(jì)算卡介紹
2-1 概述
EdgeBoard是基于Xilinx Zynq UltraScale+ MPSoC系列芯片打造的計(jì)算卡,芯片內(nèi)部集成ARM處理器+GPU+FPGA的架構(gòu),既具有多核處理能力、也有視頻流硬解碼處理能力,還具有FPGA的可編程的特點(diǎn)。內(nèi)置Linux 4.14.0系統(tǒng)和深度學(xué)習(xí)預(yù)裝環(huán)境,與百度大腦模型定制平臺(tái)(AIStudio、EasyDL、EasyEdge)深度打通,實(shí)現(xiàn)模型的訓(xùn)練、部署、推理等一站式服務(wù)。
EdgeBoard計(jì)算卡產(chǎn)品可以分為FZ9、FZ5、FZ3三個(gè)系列,是分別基于XCZU9EG、XAZU5EV、XAZU3EG研發(fā)而來(lái),分別具有高性能,硬解碼,低成本等特點(diǎn),針對(duì)不同需求和應(yīng)用場(chǎng)景,有不同的市場(chǎng)定位和產(chǎn)品定位,滿足各類開(kāi)發(fā)者多樣性的需求。
2-2 FZ9系列計(jì)算卡
EdgeBoard FZ9系列計(jì)算卡是基于XCZU9EG芯片的高性能計(jì)算卡,具有較高的性能和集成功能。ZU9芯片PS端具有四核Cortex-A53和雙核Cortex-R5 以及Mali-400MP2 GPU;PL端資源DSP Slices 2520,計(jì)算性能達(dá)3.6Tops,片上存儲(chǔ)BRAM高達(dá)32.1Mb。
FZ9計(jì)算卡產(chǎn)品采用核心板+擴(kuò)展板的雙層設(shè)計(jì)方案,增加了對(duì)外接口的數(shù)量,其80*120mm的尺寸方便計(jì)算卡集成于到產(chǎn)品中,具備軟硬一體的解決方案(軟件+FPGA),支持多種視頻源(usb、mipi、bt1200、網(wǎng)絡(luò)攝像頭)的輸入,并具有強(qiáng)大的視頻預(yù)處理能力,視頻輸出DisplayPort接口兼容標(biāo)準(zhǔn)Linux視頻框架V4L2。高性能的視頻處理能力和標(biāo)準(zhǔn)化的視頻輸出接口可滿足機(jī)器學(xué)習(xí)、醫(yī)療診斷等行業(yè)需求。
EdgeBoard FZ9計(jì)算卡
2-3 FZ5系列計(jì)算卡
EdgeBoard FZ5系列計(jì)算卡是基于XAZU5EV芯片的計(jì)算卡,提供較高性能和功能集成,具有多路視頻流H264&H265標(biāo)準(zhǔn)的編解碼功能。ZU5芯片PS端同樣包含四核Cortex-A53 、雙核Cortex-R5、以及GPU Mali-400MP2;PL端資源DSP Slices 1248,計(jì)算性能達(dá)2.4Tops,片上存儲(chǔ)BRAM達(dá)5.1Mb,UltraRAM 18Mb。
FZ5計(jì)算卡產(chǎn)品延續(xù)了FZ9計(jì)算卡的產(chǎn)品形態(tài),采用核心板+擴(kuò)展板雙層設(shè)計(jì)方案,具有多視頻輸入接口,VCU(Video Codec Unit)硬核解碼,對(duì)視頻的輸入處理采用流水線設(shè)計(jì),實(shí)現(xiàn)高吞吐量和低時(shí)延,具有極佳的功耗性能比。產(chǎn)品可以廣泛應(yīng)用于具有硬解碼需求的視頻圖像推理,滿足安防監(jiān)控、工業(yè)質(zhì)檢、自動(dòng)駕駛等行業(yè)需求。
EdgeBoard FZ5計(jì)算卡
2-4 FZ3系列計(jì)算卡
EdgeBoard FZ3系列計(jì)算卡是基于XAZU3EG芯片的計(jì)算卡,處理器ZU3芯片內(nèi)置四核Cortex-A53和核心FPGA可編程邏輯模塊;PL端資源DSP Slices 360,實(shí)測(cè)計(jì)算性能達(dá)1.2Tops,片上存儲(chǔ)BRAM達(dá)7.6Mb。
FZ3計(jì)算卡產(chǎn)品具有高集成性的設(shè)計(jì)方案,板卡尺寸為80*70mm,具有usb3.0、bt1120、mipi、網(wǎng)絡(luò)等多視頻輸入接口,板載2GB 64bit位寬的 DDR4,整體功耗僅5W左右,極佳的功耗性能比。對(duì)于FZ3產(chǎn)品具有的高性能、低功耗、低成本、小體積的特點(diǎn),產(chǎn)品可以廣泛應(yīng)用于科研教學(xué)、智能零售、安防監(jiān)控等行業(yè)。
EdgeBoard FZ3計(jì)算卡
3.EdgeBoard框架及性能介紹
3-1 MPSoC系統(tǒng)框架
Zynq UltraScale+ MPSoC架構(gòu)提供頻率高達(dá)1.5GHz的四核Cortex®-A53 高效 64位 ARMv8 應(yīng)用處理器、具有雙核 ARM® Cortex®-R5 600MHz的實(shí)時(shí)低功耗協(xié)處理器,以及ARM® Mali™-400MP2 GPU達(dá)到667MHz,同時(shí)EV系列還包含 H.265/H.264 視頻編解碼器單元,可提供原生 UltraHD 壓縮及專用引擎,滿足動(dòng)態(tài)電源管理與安全配置需求。Zynq UltraScale+ MPSoC平臺(tái)系統(tǒng)頂層框圖如下:
MPSoC平臺(tái)系統(tǒng)框架
3-2 EdgeBoard計(jì)算卡配置比較
基于MPSoC平臺(tái)系統(tǒng)頂層框圖,EdgeBoard計(jì)算卡的系統(tǒng)框架設(shè)計(jì)如下:
EdgeBoard計(jì)算卡系統(tǒng)框架
EdgeBoard計(jì)算卡在配置方面,擁有4GB 和2GB 的不同DDR4內(nèi)存配置版本,存儲(chǔ)支持8GB eMMC,256MB NOR Flash,8Kb EEPROM,具有多路視頻(usb、mipi、bt1200、網(wǎng)絡(luò)視頻)輸入接口,同時(shí)為滿足開(kāi)發(fā)者調(diào)試便捷性,支持TF Card系統(tǒng)盤(pán)啟動(dòng)。
EdgeBoard計(jì)算卡的整體配置比較:
3-3 常用模型在EdgeBoard上的性能數(shù)據(jù)
EdgeBoard軟核仍在持續(xù)升級(jí),性能也將同步提升。不同版本的網(wǎng)絡(luò)模型對(duì)算力要求不同,針對(duì)具體項(xiàng)目應(yīng)用需求,可進(jìn)行定制優(yōu)化。
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專題
- 1 【一周車話】沒(méi)有方向盤(pán)和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無(wú)人駕駛車,還未迎來(lái)“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 6 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 7 神經(jīng)網(wǎng)絡(luò),誰(shuí)是盈利最強(qiáng)企業(yè)?
- 8 比蘋(píng)果偉大100倍!真正改寫(xiě)人類歷史的智能產(chǎn)品降臨
- 9 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類何去何從?
- 10 Open AI融資后成萬(wàn)億獨(dú)角獸,AI人才之爭(zhēng)開(kāi)啟
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市