在這個技術飛速發展的時代，云已成為人工智能（AI） 發展無處不在的基石。云計算承載著AI，以一種潤物細無聲的方式滲透進人們生活的方方面面。AI將以勢不可擋的趨勢在云端繼續蓬勃發展；而與此同時，它也將存在于用戶未來的筆記本電腦、臺式電腦及其他個人計算終端設備。
了解客戶端人工智能（On-Client AI）
AI處理從云端到邊緣的演變將產生深遠影響，它將重新定義人們與這一強大技術的交互方式并從中受益。這種新的范例被稱為客戶端AI（on-client AI），即直接在用戶的本地計算設備上部署并執行AI進程。
客戶端AI使海量處理能力更靠近終端用戶，讓用戶無需依賴云計算基礎設施就能使用AI的強大性能。這種適當規模的AI將使聯網設備變得更加強大和有效。本地AI處理的優勢在于安全性、速度和成本。
隱私和安全
使用AI生成的數據歷來都往返于云端。雖然這有利于提高便利性和連接性，但也引發了隱私和安全問題?？蛻舳薃I是朝著更加安全的數字世界所邁出的一大步。本地處理意味著用戶不必再擔心個人身份信息（PII）和知識產權會暴露于云端的潛在威脅之下。用戶對PII的許可和保護本質上是位于本地的，因此客戶端AI有望促進用戶隱私保護與合規。
速度和效率
快速響應在數字時代至關重要，而客戶端AI幾乎可以提供即時結果。從幫助用戶整理文件到增強攝像頭功能，客戶端AI有潛力做到在不影響設備處理能力的情況下快速產生結果。
成本效益
在數據方面，每個字節都有相應的成本，將數據傳輸到云端和從云端傳輸數據的成本都很高。從單個用戶層面，這些數據傳輸和存儲成本看起來似乎微不足道，但從整體范圍考慮，它們會“積沙成塔”。在本地處理可以最大程度地減少數據傳輸需求，進而降低云計算資源的成本。
開發更加智能的聯網設備
客戶端AI的主要目標之一是在智能手機和其他移動設備上運行大語言模型（LLM）。AI加持的移動設備和個人電腦將給終端用戶和開發者帶來巨大變化，新一代智能PC已呼之欲出，它們將具備實現客戶端AI所需的處理能力。
推動客戶端AI發展的技術進步有可能將大規模AI模型的部署從云端轉移到個人設備，從而使用戶能夠在筆記本電腦或智能手機上隨時隨地運行復雜的機器學習算法。比如，在工作站的單個GPU上運行一個70億參數的大語言模型可能既耗時，又成本高昂。如果能夠選擇使用客戶端AI運行這些大語言模型，那將徹底改變用戶與設備的交互方式。
有許多技術使得在用戶設備上運行大型機器學習模型和其他AI應用成為可能。其中最有前景的技術之一是“模型蒸餾 (Model Distillation)”，該技術能夠訓練較小的模型模仿較大模型的行為。較小的模型可以部署在用戶的設備上，而較大的模型則留在云端。
當然，客戶端AI將會補充而非取代云端AI處理。
云計算的優勢在于可擴展性、易訪問性和性能等。而本地設備上的AI處理將能夠克服云計算的一些局限性，如隱私、數據傳輸成本、延遲等。隨著客戶端AI設備的發展，用戶將能夠根據具體的工作負載需求，在云計算和本地處理之間進行切換。
但客戶端AI處理將對軟硬件架構提出新的要求，包括專為運行機器學習應用而設計的新型GPU和CPU等。要想實現客戶端AI，還需要有新的框架和平臺促進本地設備端AI處理的開發。
為下一代解決方案提供支持
AI正在離終端用戶越來越近。隨著AI算法的改進，使用芯片支持設備端AI（如生成式AI）的方式也在發生變化。片上處理能力的持續提升將推動下一代客戶端平臺和終端生態系統的發展，屆時AI處理將分布在外設、終端、邊緣和云端。
如果所開發的客戶端平臺帶有能夠運行AI處理的芯片，則將解鎖大量新的應用，為遠程協作會議到智能安全解決方案等一切應用提供支持。自適應用戶界面、自動支持等生成式AI體驗都將成為未來個人計算的一部分。云與本地計算的這一融合將實現由AI驅動的個性化、系統優化以及預測性操作，從而帶來無縫銜接且更加優質的用戶體驗。
這些差異化的體驗僅僅是未來個人計算的開始。當能夠在客戶端加速機器學習算法的硬件出現時，AI模型將變得更加高效并能夠在傳統的聯網設備上運行。新一代客戶端AI應用將逐漸從概念化為現實，直至觸手可及，讓我們做好準備，迎接重新定義的個人計算體驗。
