一、他們是誰
他們是愛卡絲俱樂部,一家成立於2021年1月28日的新興團體。三位俱樂部成員分別是蘇天祺、程昕、薛睿鑫,均是南京大學電子係二年級研究生,俱樂部名稱取自南京大學ICAIS實驗室的音譯。俱樂部的指導老師是IEEE Fellow 王中風教授。
成員合影(左起)程昕 蘇天祺 薛睿鑫
二、他們做了什麽
他們俱樂部參加了第五屆集成電路創新創業大賽(海雲捷迅杯),針對mobilesNet V1的硬件加速器進行優化。一路過關斬將,熬夜調通代碼,更新迭代結果在華東分賽區獲得二等獎。最後絞盡腦汁進行優化,終於在全國總決賽獲得海雲捷迅杯一等獎(企業大獎)。
俱樂部成員程昕為他們的優化方案起名叫“基於稀疏卷積與層融合的流水線優化方案”。優化手段分別放在量化、排序、傳輸、計算、流水線這五個方麵。通過優化,他們將原3000ms的預測時間,壓縮到接近800ms,速度提升超過3.5倍。
(整體的優化思路和手段)
最後的推理效果和時間效果如圖(若將第二層卷積放在arm上進行,速度會慢一點但是精度會高一些)
所有卷積在FPGA上進行,速度快,精度稍低(左圖);第二層卷積在ARM上進行,速度稍慢,但是精度高(右圖)
三、他們的作品
他們的任務是需要針對基於mobilesNet V1的SSD目標檢測算法加速器進行優化,以達到快速的目標檢測效果。
1.整體架構
Data (數據)經UpSizer和BusMatrix進行仲裁,存儲到相應的SRAM中,他們將PingPong Buffer取代原SRAM,用來實現數據傳輸和計算的並行;重新設計卷積模塊,並將卷積結果直接傳入BiasRelu單元,二者采用層融合的方式連接,以便提高數據讀寫和傳輸效率。
(整體的架構圖)
2.卷積重構
他們采用row-wise,weight stationary的方式重新設計卷積模塊,並將乘法的並行度提高到96(3x32)使得網絡可以同時計算32個卷積核的一行數據,以加快卷積的計算速度並提高片上數據的複用性。
(普通卷積的計算數據流)
(逐點卷積的計算數據流)
3.流水線優化
為了進一步提高計算流水,他們將卷積(Conv)和偏移、激活(BiasReLU)融合起來並加入PingPong Buffer。
4.量化方案
他們也對量化過程進行優化,並在推理前對完成對數據的量化並保存結果。以減少權重的重複量化。
(量化過程示意圖)
5.硬件架構
上述架構的硬件設計如圖所示。他們設計的硬件單元包括包含32個Conv Core;每個Conv Core包括3個8bits乘法器和3個32bits加法器;Psum Processing負責累加並存儲卷積計算的中間值。
6.優化結果
經過他們的優化,在不同卷積層的加速達到了最高39倍加速比,平均4.5倍加速比。並且將整體的目標識別速度提升到了最快836ms!
普通卷積層(左)和逐點卷積層加速比
四、海雲捷迅對他們的評價
對於愛卡絲俱樂部,重慶海雲捷迅科技有限公司資深架構師萬毅做出如下評價:
南京大學的獲獎團隊,首先對模型demo耗時的地方做了詳細的定量分析,準確的找出了影響性能的問題所在,並根據分析結果,係統的提出和實現了改進措施。在量化策略、數據搬運、卷積實現、剪枝、並行化方麵都做了有效的工作,同時文檔、匯報ppt、代碼注釋也做的完善和仔細,測試效果經過評測達到了較好的效果,參賽的團隊做了很多行之有效的工作,是一個優秀的團隊。
——重慶海雲捷迅科技有限公司資深架構師 萬毅
五、他們的獲獎心得
愛卡絲俱樂部整個暑假都埋頭苦幹,終於一路披荊斬棘,最後拿到了想要的名次。讓美女直播全婐APP免费下载來聽聽各個成員的參賽心得吧!
蘇天祺:在這次比賽中,每位成員都有著很強的責任感和任務意識,大家主動給自己分配了需要學習的內容,所以即使是初次接觸,美女直播全婐APP免费下载的準備也足夠。而且凡是遇到困難,美女直播全婐APP免费下载都會相互討論並且請教有經驗的學長和老師,比賽氣氛簡直不要太好!
程昕:美女直播全婐APP免费下载每周都會開會啊,大家一股腦把問題拋出來然後相互討論,美女直播全婐APP免费下载就會碰撞出很多的火花。美女直播全婐APP免费下载也會給自己規定時間軸(雖然經常做不完),但是給自己一個ddl,自己就有很多的動力!
薛睿鑫:其實美女直播全婐APP免费下载初賽過後,性能並不是很好,但是大家也都不氣餒,也沒放棄,那個STP一直連不上,簡直要崩潰了,但是一遍一遍的嚐試,一遍一遍的請教相關老師,終於出了結果,美女直播全婐APP免费下载都非常高興。
星空人工智能美女福利导航網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com美女直播全婐APP免费下载將及時溝通與處理。！：首頁 > 星空人工智能產業 > VR|虛擬現實 » “芯”起征程——海雲捷迅杯企業大獎獲獎團隊愛卡絲俱樂部