2024年7月14日，第二十六屆中國北京國際科技產(chǎn)業(yè)博覽會(簡稱 “北京科博會”)在北京國家會議中心舉行，由北京市政府主辦。本屆科博會首次推出“未來產(chǎn)業(yè)”系列推介發(fā)布活動，匯聚了中國聯(lián)通研究院、北京智源人工智能研究院、北京工業(yè)大學北京人工智能研究院等知名科研院所，以及IBM、高通、諾基亞貝爾等全球科技企業(yè)，共同分享對未來產(chǎn)業(yè)新技術、新產(chǎn)品、新模式等創(chuàng)新應用的見解和展望。

　　高通公司中國區(qū)研發(fā)負責人徐晧在該活動中發(fā)表了題為《讓智能計算無處不在 加速開啟數(shù)字化未來》的演講。他闡述了人工智能(AI)在無線通信領域，尤其是在5G和6G技術演進中的關鍵作用。徐晧還探討了如何運用模型量化和壓縮技術將大規(guī)模AI模型應用于手機等終端設備，并對AI在機器人等領域的應用前景進行了展望。

　　高通公司中國區(qū)研發(fā)負責人徐晧在2024年北京科博會“未來產(chǎn)業(yè)”系列推介發(fā)布活動上發(fā)言

　　以下為演講實錄：

　　很高興有機會與大家分享高通關于人工智能方面的規(guī)劃和布局。我們正處于一個技術創(chuàng)新的時代，作為一個系統(tǒng)開發(fā)者，我深感幸運，因為眾多技術方向都涌現(xiàn)出了大量創(chuàng)新。

　　在此，我想簡要介紹幾個方向以及我們正在推進的技術項目。首先，關于5G到6G的發(fā)展演進。今年標志著中國商用的第五年。業(yè)界普遍認為，中國已成為全球5G商用的領跑者。我們欣喜地看到，從5G-A到6G在中國正穩(wěn)步推進。從人工智能(AI)的角度來看，當前最顯著的趨勢是生成式AI的廣泛應用，涌現(xiàn)出諸多創(chuàng)新，例如ChatGPT和Stable Diffusion等大模型。這些模型會首先在云端上得到應用，接下來，我們將探討如何更有效地將這些大型語言模型集成到終端設備中。此外，除了智能手機，我們還在不斷探索將人工智能擴展到其他終端形態(tài)，如AI PC、機器人和XR(擴展現(xiàn)實)等。另一個值得關注的終端形態(tài)是軟件定義的汽車。中國在電動汽車領域同樣取得了全球領先的出口量，這為技術創(chuàng)新提供了廣闊的空間。最后，空間計算是一個新興領域，它預示著從2D到3D交互形式的轉(zhuǎn)變。未來，我們可以期待通過XR頭顯等設備獲得更加沉浸式的體驗，并采用更先進的交互方式，如語音交互和手勢識別等。

　　首先，讓我們探討人工智能與無線通信的緊密結合。在從5G到6G的技術演進中，除了傳統(tǒng)的編碼和調(diào)制解調(diào)技術，一個重要的新方向是如何將人工智能應用于無線通信。雖然無線通信已有幾十年的歷史，擁有成熟的解決方案，但仍存在一些挑戰(zhàn)，這正是人工智能可以發(fā)揮作用的領域。我們將從網(wǎng)絡和終端兩個層面，全面探討AI對無線通信的影響。

　　將AI應用于無線通信網(wǎng)絡可以分為三個階段：第一階段，在現(xiàn)有的無線通信系統(tǒng)中引入AI，替代某些模塊。例如，探索使用AI進行信號處理與傳統(tǒng)方法相比有何不同。第二階段，實現(xiàn)跨節(jié)點的AI應用，即如何讓手機與網(wǎng)絡之間，以及不同廠商的基站與手機之間，通過AI實現(xiàn)順暢的交流。這是當前5G-A階段關注的重點問題。第三階段，期望在6G時代，網(wǎng)絡在設計之初就融入AI的原生應用。

　　在端到端系統(tǒng)中，我們從網(wǎng)絡訓練到終端設備(如手機、電腦、機器人、汽車等)的應用，都需要考慮AI的整合。最近，我們與諾基亞合作進行了互操作性測試，旨在驗證網(wǎng)絡端和終端各自采用的AI算法如何協(xié)同工作。我們發(fā)現(xiàn)，只需交換訓練數(shù)據(jù)，而不必支持模型共享，雙方就能獨立訓練并實現(xiàn)良好協(xié)作。這一發(fā)現(xiàn)為AI在無線通信領域的推廣提供了有力證據(jù)。同時，我們還證明了不同手機采用不同訓練方式時，都能通過AI與基站實現(xiàn)順暢連接。這表明AI為無線通信帶來了全新的可能性。

　　接下來，我們將探討近年來在AI領域?qū)崿F(xiàn)終端側(cè)生成式AI的關鍵技術方向。首先，我們需要了解大語言模型通常擁有從十幾億到百億乃至千億級別的參數(shù)。如何將如此龐大的模型成功部署至終端設備，是一個至關重要的問題。其中一個解決方案是通過模型量化和壓縮技術，將大型模型進行有效縮減，使其能夠在手機等實際終端設備上正常運行。

　　第二點是預測性解碼，即利用小型模型提供高效的多個解碼結果的猜測(Token)，然后使用大語言模型一次多個token，從而快速提供解碼結果。

　　另一個方向是模仿學習思路，即將大型模型的知識遷移至小型模型。這類似于讓小型模型(學生)學習大型模型(老師)的行為。在終端或手機上運行的小型模型會根據(jù)大型模型的輸入輸出進行學習，不斷模仿老師的操作。未來，我們將在手機上看到一個不斷學習、模仿老師模型的學生模型。

　　第四點是高效的圖像和視頻處理框架架構，以及異構計算技術，這些技術專業(yè)性較強，這里不再詳細解釋。

　　通過上述技術，我們可以將原始的大型模型大幅度壓縮，并使其在實際應用中保持高效運行。正如我們所見(見下圖)，老師模型可能包含16個浮點運算，我們可以將其輸入輸出用于教導學生模型。這樣一來，學生模型便可以在手機上運行，這種方式被稱為知識提煉，它允許我們在手機上運行小型模型，同時每隔一段時間使用大型模型對小型模型生成的結果進行驗證和調(diào)整，從而使大型模型的知識和性能得以在小型終端模型上得到有效利用。

　　另一個關鍵技術是Orchestrator規(guī)劃器系統(tǒng)，它實際上是當前 AI Agent底層支持的重要組成部分。我們的目標是使手機不僅僅能夠回答問題或講笑話，而是能夠根據(jù)用戶的想法去規(guī)劃一整套復雜的任務。這意味著AI Agent不僅僅是調(diào)用一兩個程序，而是能夠調(diào)用手機上任何一個應用程序。例如，如果你想要從北京規(guī)劃一次前往新疆的旅行，AI Agent可以根據(jù)你的日歷確定空閑時間，然后為你規(guī)劃最合適的行程，包括提供酒店信息。目前我們的手機還無法實現(xiàn)這樣的功能，但如果有一個AI Agent或具體化的AI操作，它能夠調(diào)用不同的應用程序，了解你的喜好，掌握酒店和航班的最新情況，就能夠完成這些任務。在這個體系中，上層是一個應用程序，即AI Agent，而下層則是Orchestrator規(guī)劃器系統(tǒng)，負責調(diào)動所有資源。這是我們目前正在布局的一個新的發(fā)展方向。

　　另一個重要的人工智能應用領域是在機器人技術中。例如，在計算機視覺方面，機器人可以利用多種算法。借助大語音模型和AI，機器人實際上可以理解人類的需求和情感，從而執(zhí)行一系列復雜的操作。例如，機器人可以根據(jù)你的需求在貨架上選擇你需要的物品，并將其遞給你。

　　舉一個最近的演示例子，我們將大模型集成到了最新的高通驍龍支持的AI PC上。這臺AI PC能夠理解用戶的需求，生成相應的指令，驅(qū)動機器人執(zhí)行明確的匹配任務，并指揮機器人完成各種操作。例如，我們能夠與機器人進行對話。在聊天過程中，如果對機器人表示口渴，詢問有什么飲料可選，機器人會查看吧臺上的飲料，如水、可樂等，并詢問你想要哪一種。當你選擇要一杯水時，機器人會自動操作，走到吧臺，通過人工智能識別并取回礦泉水，遞給用戶。這樣的用例已經(jīng)是我們目前能夠?qū)崿F(xiàn)的。

　　在未來五年內(nèi)，我們將看到越來越多這樣的AI在終端設備上的應用，包括在無線技術方面的應用。我們非常期待在技術創(chuàng)新中，與國內(nèi)合作伙伴進行更多合作，共同推進人工智能的技術能力演進。謝謝。