智能制造網(wǎng)APP
智能制造網(wǎng)手機(jī)站
智能制造網(wǎng)小程序
智能制造網(wǎng)官微
智能制造網(wǎng)服務(wù)號(hào)
智能控制
機(jī)器人
儀器儀表
物聯(lián)網(wǎng)
3D打印
工業(yè)軟件
回放
品牌
MRDVS
就在前幾天小米的年度演講中，雷軍提到小米的AI大模型能力，小愛(ài)同學(xué)正式升級(jí)為生成式大模型，現(xiàn)已經(jīng)進(jìn)入測(cè)試階段。小米高管公式在8月17號(hào)表示，小米將會(huì)很快實(shí)現(xiàn)端側(cè)AI模型能力。
01.端側(cè)AI的優(yōu)勢(shì)
端側(cè)也就是我們常說(shuō)的邊緣計(jì)算，這種模式可以更好的支持AloT場(chǎng)景。也就是：AI+IoT(Internet of Things 物聯(lián)網(wǎng))=AIoT。邊緣計(jì)算，是指在靠近物或數(shù)據(jù)源頭的一側(cè)，采用網(wǎng)絡(luò)、計(jì)算、存儲(chǔ)、應(yīng)用核心能力為一體的開(kāi)放平臺(tái)，就近提供最近端服務(wù)。邊緣計(jì)算也是一種分布式計(jì)算。它將數(shù)據(jù)資料的處理、應(yīng)用程序的運(yùn)行甚至一些功能服務(wù)的實(shí)現(xiàn)，由網(wǎng)絡(luò)中心下放到網(wǎng)絡(luò)邊緣的節(jié)點(diǎn)上，以減少業(yè)務(wù)的多級(jí)傳遞，降低核心網(wǎng)和傳輸?shù)呢?fù)擔(dān)。它的應(yīng)用程序是在邊緣側(cè)發(fā)起，產(chǎn)生更快的網(wǎng)絡(luò)服務(wù)相應(yīng)。對(duì)物聯(lián)網(wǎng)而言，邊緣計(jì)算技術(shù)取得突破，意味著許多控制將通過(guò)本地設(shè)備實(shí)現(xiàn)而無(wú)需交由云端，處理過(guò)程將在本地邊緣計(jì)算層完成。
端側(cè)AI具有如下優(yōu)點(diǎn):
Al 技術(shù)用于端側(cè)可以第一時(shí)間對(duì)收集的數(shù)據(jù)進(jìn)行處理，不需要通過(guò)網(wǎng)絡(luò)上傳到云側(cè)的處理中心，極大加快了系統(tǒng)響應(yīng)也減少了系統(tǒng)處理延遲;
端側(cè)計(jì)算可以更高效的處理有價(jià)值的關(guān)鍵數(shù)據(jù)，其余的數(shù)據(jù)只是臨時(shí)性的，在端側(cè)結(jié)合 AI 能力，不僅可以更及時(shí)處理數(shù)據(jù)，而且減輕網(wǎng)絡(luò)帶寬的限制和緩解對(duì)中心側(cè)數(shù)據(jù)存儲(chǔ)的壓力;
在端側(cè)的 Al 技術(shù)可以高效地對(duì)用戶的源數(shù)據(jù)進(jìn)行處理，將一些敏感的數(shù)據(jù)進(jìn)行清洗和保護(hù)，端側(cè)設(shè)備只將 Al 處理后的結(jié)果上報(bào)云端。
端側(cè)AI的技術(shù)難點(diǎn)：
硬件資源限制
存儲(chǔ)、內(nèi)存、計(jì)算資源
模型的版本管理、生命周期
終端的種類很多，不同硬件架構(gòu)的適配和模型遷移成本過(guò)高
第三點(diǎn)同時(shí)導(dǎo)致了端側(cè)AI應(yīng)用復(fù)雜度增加
02.5G和端側(cè)計(jì)算相輔相成
5G 是一項(xiàng)長(zhǎng)期演進(jìn)的技術(shù)，也許最開(kāi)始，我們對(duì)它的感知只是手機(jī)網(wǎng)速更快、時(shí)延更低，但 5G 的意義遠(yuǎn)不止于此。隨著 5G 標(biāo)準(zhǔn)從 Rel-15、Rel-16 到 Rel-17 等的不斷演進(jìn)，5G 也將不斷擴(kuò)展到更多行業(yè)。數(shù)據(jù)顯示，全球有200多家運(yùn)營(yíng)商已經(jīng)部署了5G商用網(wǎng)絡(luò)，另有將近300家運(yùn)營(yíng)商正在投資部署5G技術(shù)。在我國(guó)，目前已累計(jì)建成5G行業(yè)虛擬專網(wǎng)16000余個(gè)，應(yīng)用案例涵蓋交通、醫(yī)療、教育、智慧城市、農(nóng)業(yè)等多個(gè)領(lǐng)域。
在5G網(wǎng)絡(luò)在誕生之初，便定義了它的三大應(yīng)用場(chǎng)景：eMBB(增強(qiáng)移動(dòng)寬帶)、mMTC (海量機(jī)器類通信)和 uRLLC(超可靠低時(shí)延通信)，相應(yīng)的為滿足高清視頻、智慧城市、車聯(lián)網(wǎng)等業(yè)務(wù)需求提供技術(shù)支持。
但值得關(guān)注的是，每個(gè)業(yè)務(wù)場(chǎng)景在發(fā)展過(guò)程中都有其自身所面臨的一些挑戰(zhàn)。例如，eMBB將對(duì)網(wǎng)絡(luò)帶寬產(chǎn)生數(shù)百Gbps的超高需求，從而對(duì)回傳網(wǎng)絡(luò)造成巨大傳輸壓力，單方面投資擴(kuò)容匯聚與城域網(wǎng)絡(luò)將大幅提高單位媒體流傳輸成本，無(wú)法實(shí)現(xiàn)投資收益；uRLLC需要端到端1ms級(jí)超低時(shí)延支撐，僅僅依賴無(wú)線與固網(wǎng)物理層與傳輸層技術(shù)進(jìn)步，無(wú)法滿足苛刻的時(shí)延需求；mMTC將產(chǎn)生海量數(shù)據(jù)，導(dǎo)致運(yùn)營(yíng)管理的巨大挑戰(zhàn)，僅僅由云端集中統(tǒng)一監(jiān)控?zé)o法支撐如此復(fù)雜的物聯(lián)系統(tǒng)。
邊緣計(jì)算恰好可以為這些問(wèn)題帶來(lái)解決方案。首先，邊緣計(jì)算設(shè)備將為新的和現(xiàn)有的邊緣設(shè)備提供連接和保護(hù)；其次，盡管5G將為基于云的應(yīng)用程序提供更好的連接性和更低的延遲，但仍然存在處理和存儲(chǔ)數(shù)據(jù)的成本，混合邊緣計(jì)算/5G解決方案可以降低這些成本；最后，邊緣計(jì)算可以讓更多應(yīng)用程序在邊緣運(yùn)行，例如分析，網(wǎng)絡(luò)安全或合規(guī)性/監(jiān)管應(yīng)用程序，減短了由數(shù)據(jù)傳輸速度和帶寬限制所帶來(lái)的延時(shí)，并可對(duì)本地?cái)?shù)據(jù)做初步分析，為云分擔(dān)了一部分工作。
高通中國(guó)區(qū)研發(fā)負(fù)責(zé)人徐晧認(rèn)為，面對(duì)當(dāng)前AI技術(shù)取得重大突破，未來(lái)AI與5G-Advanced融合發(fā)展，將對(duì)智能終端和AI應(yīng)用發(fā)展帶來(lái)非常深遠(yuǎn)的影響。在5G-Advanced更大帶寬、更低時(shí)延的網(wǎng)絡(luò)能力支撐下，未來(lái)AI處理將通過(guò)“云-邊-網(wǎng)-端”架構(gòu)不斷從云端向邊緣、終端側(cè)擴(kuò)展，從而在手機(jī)、汽車、XR、無(wú)人機(jī)等多種形式的智能終端上催生出大量新興AI應(yīng)用。而多種形式的智能終端和豐富的AI應(yīng)用又會(huì)反過(guò)來(lái)進(jìn)一步促進(jìn)5G-Advanced繁榮發(fā)展。
浙公網(wǎng)安備 33010602000006號(hào)
智能制造網(wǎng)APP
智能制造網(wǎng)小程序
微信公眾號(hào)
