2023年是邊緣計(jì)算的重要節(jié)點(diǎn)!

隨著生成式AI的不斷演進(jìn),大模型在圖片、音視頻等多模態(tài)領(lǐng)域的表現(xiàn)展露了其在產(chǎn)業(yè)端應(yīng)用的巨大潛能。大模式在行業(yè)落地需要本地化推理與部署，在邊緣節(jié)點(diǎn)把大模型分拆，將部分大模型的能力部署到小模型或行業(yè)模型中，可以在邊緣節(jié)點(diǎn)處理本地?cái)?shù)據(jù)驅(qū)動(dòng)的模型。

因而2024邊緣計(jì)算報(bào)告我們把重心放在AI上，以邊緣視覺AI為主。對于當(dāng)下邊緣視覺AI的行業(yè)現(xiàn)狀，業(yè)內(nèi)皆有共識：

落地難：一方面是定制化需求多，每個(gè)項(xiàng)目都或多或少要重新定制開發(fā)，大部分客戶在細(xì)分需求面前很難承擔(dān)過多的開發(fā)費(fèi)，落地成本高，客戶不愿買單，廠商也賺不到錢;二是AI算法精準(zhǔn)度不夠，因?yàn)榫珳?zhǔn)度不夠，用戶體驗(yàn)不好，后期服務(wù)和調(diào)優(yōu)的成本也變得很高。所以需要更多的項(xiàng)目去分?jǐn)偝杀荆@樣帶來市場競爭的加劇。

碎片化：邊緣AI高度依賴于場景，其應(yīng)用場景非常廣泛，智能安防、智慧水務(wù)、智能建筑、智能制造等等各個(gè)場景都能應(yīng)用到，但是碎片化嚴(yán)重，在當(dāng)下各個(gè)細(xì)分場景的體量都很小，作為從業(yè)者來說，什么場景都去做，顯然不太現(xiàn)實(shí)，一方面是不夠聚焦對場景需求理解不夠，很難做出真正好用的產(chǎn)品，包括硬件與算法;另一方面精力也有限，很難覆蓋太多場景。因而選擇什么場景去深耕是邊緣計(jì)算廠商當(dāng)下需要做的重要抉擇，廠商還得根據(jù)自身能力、自身優(yōu)勢還有資源去選擇最適合自己的場景。

量升價(jià)跌：目前邊緣AI還處于行業(yè)發(fā)展初期，項(xiàng)目大多由政策驅(qū)動(dòng)，以政府項(xiàng)目居多，疫情加上經(jīng)濟(jì)下行，讓各級政府財(cái)政也比較吃緊，在項(xiàng)目上投入預(yù)算就更加有限。綜合來看雖然需求上升，但是預(yù)算降低、成本高、市場競爭加劇等因素讓市場利潤明顯萎縮，目前形成了一個(gè)量升價(jià)跌的趨勢。

那么行業(yè)什么時(shí)候能夠破局?最大的難點(diǎn)在AI算法上，2023之所以稱之為重要節(jié)點(diǎn)，是因?yàn)闃I(yè)內(nèi)人士皆認(rèn)為AI大模型能夠改變行業(yè)現(xiàn)狀。

隨著行業(yè)應(yīng)用的深入，場景變得多元化、復(fù)雜化，算法領(lǐng)域面臨以下幾個(gè)問題：

泛化能力不足：例如，一個(gè)僅使用白天采集的車輛數(shù)據(jù)訓(xùn)練出來的檢測模型，在夜晚使用時(shí)性能就會(huì)大打折扣。傳統(tǒng)的深度學(xué)習(xí)往往難以兼顧這些場景差異性，導(dǎo)致不得不為每一個(gè)場景量身定制模型。

傳統(tǒng)結(jié)構(gòu)出現(xiàn)性能天花板：傳統(tǒng)深度學(xué)習(xí)結(jié)構(gòu)，如 CNN、RNN、LSTM 等，關(guān)注于感知輸入信號的局部信息，對知識的容量有限，數(shù)據(jù)規(guī)模和模態(tài)種類持續(xù)增加帶來的邊際效益下降。

缺乏推理與認(rèn)知能力：傳統(tǒng)深度學(xué)習(xí)以監(jiān)督學(xué)習(xí)方法為主，其基本原理是訓(xùn)練神經(jīng)網(wǎng)絡(luò)來擬合監(jiān)督標(biāo)簽，無法形成邏輯認(rèn)知。對于沒有見過的新任務(wù)或復(fù)雜的業(yè)務(wù)邏輯均需要重標(biāo)重訓(xùn)或手工排程。

AI 1.0準(zhǔn)確率只有50-80%，系統(tǒng)誤報(bào)多，200路系統(tǒng)每天幾百上千起誤報(bào)，無人工不智能，需人工復(fù)核傳統(tǒng)AI一場景一算法，系統(tǒng)研發(fā)成本居高不下，客戶需求響應(yīng)慢，在傳統(tǒng)AI 1.0 體系的基礎(chǔ)上，利用多模態(tài)大模型技術(shù)，服務(wù)多場景，實(shí)現(xiàn)系統(tǒng)性能提升， 降本增效。