AMD CVP兼總經理、計算和圖形首席架構師Sebastien Nussbaum

“核心問題在于市場產生了多少數據,以及我們能否有效處理和應用這些數據?”AMD CVP兼總經理、計算和圖形首席架構師Sebastien Nussbaum在分析當前客戶端人工智能愿景時指出。

自1970年微處理器誕生以來,信息的擴展和訪問速度顯著加快?;ヂ摼W時代的到來,尤其是2000年后的爆炸性增長,使得智能手機普及,信息量激增。預計到2020年,互聯網上的數據量將超過64 ZB字節,并在未來幾年內迅速增長至200ZB字節以上。

這種數據量的激增推動了信息技術的快速迭代和主流應用,人工智能技術也以驚人的速度和效率擴展,計算模型的增長達到了前所未有的水平。

當前客戶端人工智能愿景

目前,全球有超過74萬個在線人工智能模型,它們創造了多樣化的用例并解決了眾多問題。過去一年中,至少產生了155億張AI生成的圖像。預計到2024年,全球人工智能工具用戶將達到3.14億。

人工智能應用正逐漸成為主流,通用人工智能(AGI)時代正逐步到來。繼生成式AI之后,AI應用的下一個目標是發展自主式AI,這涉及到在特定領域訓練的簡單模型,以滿足特定需求并確保推理和目標的應用。

AMD正在聯手各類型合作伙伴,把各類新技術應用到云、醫療保健、工業制造、汽車、通信、PC、游戲和機器人等廣泛的領域,推動人工智能無處不在。

今日AMD的AI PC之旅

這些目標的實現,離不開與微軟長達5年的緊密合作。AMD推出的銳龍 9000系列桌面處理器和第三代Ryzen AI以某種方式改變并帶來了全新的PC體驗,凸顯了公司致力于設計和技術創新的決心;特別是微軟最近推出CoPilot+,將PC重新定義為AI PC,此舉超出了傳統漸進主義無法實現的目標;而與賽靈思的并購合作,將AMD XDNA集成到AMD APU,也加速了這一進程。

人工智能:開啟PC新進化的關鍵

Sebastien Nussbaum認為,解鎖PC下一代演進的關鍵在于技術驅動因素和基礎設施內部的變化。AI被視為重要的加速器,輔助框架功能。

將AI功能嵌入操作系統和其他核心功能至關重要。未來AI將具備三大特征:基于自然語言的人機交互、自主和無縫的體驗,以及始終在線的數據驅動用戶體驗。

那么,AI PC體驗從何開始,又將走向何方?

Sebastien Nussbaum以游戲為例介紹說,游戲是一種一直在尋找新的技術來解決種種難題,每一項新的開發都需要花費開發團隊大量的精力。而通過AI輔助游戲開發,時間就要快得多。比如,開發者不僅可以快速重新制作相同的內容,還能夠將傳統的分析計算功能 (例如視覺處理) 移動到基于AI的模型中,從而改善投影或特定場景的效果。

這些增強的功能只是開發流程的一部分。

North Star計劃:對大型語言模型體驗的不懈追求

人工智能應用分為本地和云端兩種形態。本地AI的優勢在于隱私保護、數據安全性和高性能,但可擴展性有限。而云端AI則提供了遠超本地的容量和吞吐量。

因此,對大模型的應用是在邊緣端還是在云端,是一個值得掂量的話題。

如何才能充分利用這兩個世界的優勢呢?

AMD正在推動技術創新,以充分利用本地和云端的優勢?;赗yzen AI 300處理器系列,AMD支持高達70億參數(量化精度為int4)的大型語言模型(LLM),輸入序列長度高達2K,提供每秒20個Token的生成速度,首個Token生成的延遲為1至4秒。

這遠遠不能滿足現實需求。

North Star計劃對比第三代Ryzen AI

為此,AMD正在盡全力推動技術創新,如提供更大的邏輯面積、性能更強的NPU,并且在內存總線的限制方面也取得突破,以硬件和軟件性能的巨大提升來應用未來的長期發展。正在研發的新型Ryzen AI PC芯片,將支持以每秒100個Token的速度在本地運行300億參數(量化精度為int4)的LLM,實現3K的語義長度,生成首個Token的延遲目標設置為低于100毫秒。

這就是AMD名為“北極星(North Star)”的計劃。

“North Star”計劃旨在實現15GB的內存和超過1.5 TBps的帶寬,性能接近配備HBM2的40GB Nvidia A100 PCIe卡。這一目標對AMD來說是一個巨大的挑戰,但同時也彰顯了其在AI領域的雄心和信心。

成功地將云、企業和AIPC連接

這樣,憑借獨特的優勢,AMD成功地將云、企業和AIPC連接在一起,利用為云創建的基礎設施開發、部署,并增強AIPC的功能和可用性。

結合本地和云端的人工智能

AMD與云合作伙伴共同開發技術組件,實現了無縫處理。例如,將生成式AI集成到視頻處理中,提高了效率和準確性。

一個典型的案例就是將生成式AI集成到視頻處理中,以提高效率和準確性。例如,在洛杉磯的電影開發工作室有效地應用AIPC在本地作為最終渲染的預覽,實現了非??焖俸透哔|量的迭代過程。

技術遷移對于從云端到AI PC的快速轉移至關重要,AMD通過結合本地技術和數據中心性能,實現了混合客戶端到云的數據遷移。

實現客戶端到云的數據遷移

要實現最佳效果,就必須有正確的技術解決方案,以便能夠以安全的方式在端點和云之間進行更多數據遷移。AMD將本地技術與專為大規模模型設計的數據中心以超過本地上百倍吞吐量的性能結合在一起,通過安全數據傳輸和機密計算安全實現了從混合客戶端到云的數據遷移,提高了處理能力和混合AI性能。

Blackmagic Design的應用是另一個成功的故事。該公司與AMD的合作實現了1.5倍的光線加速、3倍扭曲速度和4倍快的魔法面具。Blackmagic Design公司達芬奇軟件工程總監Rohit Gupta表示,“我們與AMD的合作使我們能夠利用DirectML在我們最具影響力的ML模型上實現出色的性能提升?!?/p>

這種混合云與本地相結合的方法,利用更大、更準確的模型獲得專業成果,同時通過機器學習優化增強本地設備能力,毫無疑問具有強大的生命力,因為,它已經成為每個人工作方式的基礎。

結語

看得出來,Ryzen AI 300展現了AMD在人工智能優化GPU設計和工作負載處理方面的強大能力。

Ryzen AI 300:被譽為人工智能道路上的開創性之旅

很顯然,AMD利用人工智能和技術進步推動了計算性能和創新的邊界,為未來發展奠定基礎。

未經允許不得轉載:存儲在線-存儲專業媒體 » 云端與本地結合的人工智能:創新的AMD客戶端AI視覺應用
分享到

謝世誠

相關推薦

精品国产午夜肉伦伦影院,双性老师灌满浓jing上课h,天天做天天爱夜夜爽,攵女乱h边做边走