黃仁勛談加速計(jì)算:將5%代碼卸載到加速器上,可提高100倍程序運(yùn)行速度

2024-09-12 11:02:09   來源:新浪科技   評(píng)論:0   [收藏]   [評(píng)論]
導(dǎo)讀:  新浪科技訊 9月12日上午消息,在出席高盛Communacopia Tech大會(huì)訪談時(shí),NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在談及通用計(jì)算與加速計(jì)算之間的區(qū)別時(shí)指出,如果將5%的代碼卸載到加速器上,從技術(shù)上將能將應(yīng)用程序
  新浪科技訊 9月12日上午消息,在出席高盛Communacopia Tech大會(huì)訪談時(shí),NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛在談及通用計(jì)算與加速計(jì)算之間的區(qū)別時(shí)指出,如果將5%的代碼卸載到加速器上,從技術(shù)上將能將應(yīng)用程序的速度提高100倍,而英偉達(dá)將圖像加速處理的速度提高了500倍。

  在黃仁勛看來,通常在軟件編寫的主體中有很多文件IO,需要設(shè)置數(shù)據(jù)結(jié)構(gòu),軟件內(nèi)部有一部分包含一些神奇的內(nèi)核和神奇的算法,這些算法因計(jì)算機(jī)圖形學(xué)、圖像處理或其他任何領(lǐng)域而異,可能是流體、粒子,也可能是圖像域類型的東西,所有這些不同的算法都是不同的。“因此,如果你創(chuàng)建了一個(gè)處理器,它在某些算法上非常出色,并且你在通用處理器(CPU)擅長的領(lǐng)域與 CPU 互補(bǔ),那么從理論上講,你可以大大加快應(yīng)用程序的速度,因?yàn)橥ǔ<s5%或10%的代碼,代表了99.999%的運(yùn)行時(shí)間。”

  黃仁勛以數(shù)據(jù)處理為例指出,為了加速數(shù)據(jù)處理,英偉達(dá)創(chuàng)建了一個(gè)名為cuDNN 的庫,這是世界上第一個(gè)神經(jīng)網(wǎng)絡(luò)計(jì)算庫,因此英偉達(dá)有了cuDNN,有用于組合優(yōu)化的cuOpt,也有用于量子模擬和仿真的cuQuantum等各種不同的庫。這些不同的庫,它們采用應(yīng)用程序中運(yùn)行的算法,并以英偉達(dá)加速器可以運(yùn)行的方式重構(gòu)算法,可以將程序的運(yùn)行速度提高100倍。

分享到:
責(zé)任編輯:zsz

網(wǎng)友評(píng)論