在進(jìn)博會(huì)第六屆虹橋國(guó)際經(jīng)濟(jì)論壇“智能科技與未來(lái)產(chǎn)業(yè)發(fā)展”分論壇上，高通公司中國(guó)區(qū)董事長(zhǎng)孟樸表示，隨著5G+AI進(jìn)入千行百業(yè)，終端側(cè)的生成式AI與云端的AI大模型相結(jié)合，將賦能各個(gè)產(chǎn)業(yè)的數(shù)字化轉(zhuǎn)型。孟樸所指的終端側(cè)生成式AI，指運(yùn)行在智能手機(jī)、PC、智能網(wǎng)聯(lián)汽車(chē)等智能終端上的AI應(yīng)用。常見(jiàn)的超大規(guī)模語(yǔ)言模型，如GPT-4等，則一般運(yùn)行在云端服務(wù)器上，此類(lèi)在云端運(yùn)行的AI稱為云端AI。

　　分享中孟樸解析了終端側(cè)AI與云端AI的差異。他首先指出，云端AI在現(xiàn)在以及未來(lái)，仍將發(fā)揮非常重要的作用。隨著技術(shù)的演進(jìn)，AI在終端側(cè)的發(fā)展將變得越來(lái)越重要。終端側(cè)AI在可靠性、情境化和個(gè)性化等方面，都更具優(yōu)勢(shì)。孟樸舉例，終端側(cè)AI能獲得更具即時(shí)性的信息，例如可以隨時(shí)獲得終端設(shè)備所處的位置環(huán)境等信息，而云端通用大模型一般不會(huì)獲取這些用戶側(cè)即時(shí)信息，無(wú)法與用戶當(dāng)下的環(huán)境相匹配。

　　此外，終端側(cè)AI在私密性和安全性上，也更具優(yōu)勢(shì)�，F(xiàn)在生成式AI正不斷地提升人機(jī)交互體驗(yàn)，例如在智能手機(jī)、語(yǔ)音助手、智能網(wǎng)聯(lián)汽車(chē)上，人機(jī)的交互已經(jīng)變得越來(lái)越自然且個(gè)性化。但一些用戶，并不希望自己與終端設(shè)備的交互內(nèi)容和個(gè)人習(xí)慣上傳到云端。在終端設(shè)備上部署AI大模型處理人機(jī)交互信息，則可以解除這一顧慮。終端側(cè)AI還具備更高的能效，可分擔(dān)云端AI的算力，有助于降低數(shù)據(jù)中心的成本，推動(dòng)生成式AI的快速普及。

　　孟樸介紹，就在上個(gè)月，高通推出兩款具備強(qiáng)大終端側(cè)AI能力的新產(chǎn)品，一個(gè)是高通第三代驍龍8 5G平臺(tái)，一個(gè)是新一代AI PC芯片驍龍X Elite。此前手機(jī)可運(yùn)行10億參數(shù)的AI大模型，而第三代驍龍8將參數(shù)規(guī)模提升至十倍，可運(yùn)行100億參數(shù)的AI大模型。此前手機(jī)運(yùn)行10億參數(shù)的圖片生成式AI，可在15秒內(nèi)完成20步推理，生成一張圖片，而第三代驍龍平臺(tái)將時(shí)間縮短到驚人的1秒以內(nèi)。另一款PC芯片產(chǎn)品驍龍X Elite具備更強(qiáng)大的硬件規(guī)格，其AI性能也比第三代驍龍8更加強(qiáng)大，算力達(dá)到75TOPS，支持運(yùn)行130億參數(shù)的AI大模型。

　　本次高通在進(jìn)博會(huì)設(shè)立了兩個(gè)展區(qū)，在4號(hào)館的是高通主展區(qū)，另外在3號(hào)館還有一個(gè)AI體驗(yàn)展示區(qū)。不過(guò)在這兩個(gè)展區(qū)，均可體驗(yàn)到高通與中國(guó)產(chǎn)業(yè)伙伴共同打造的終端側(cè)AI。孟樸也在分享的最后，邀請(qǐng)大家前往進(jìn)博會(huì)高通展臺(tái)參觀，去切身體驗(yàn)高通驍龍新平臺(tái)的各種5G、終端側(cè)生成式AI的落地應(yīng)用。