把大模型“裝”進(jìn)小盒子，云天勵(lì)飛在想什么？
分類(lèi): 最新資訊
禮儀詞典
編輯 : 禮儀知識(shí)
發(fā)布 : 04-01
閱讀 :483
作者 ｜周一笑郵箱 ｜zhouyixiao@pingwest.com3 月 28 日，云天勵(lì)飛舉辦 AI 大模型產(chǎn)品發(fā)布會(huì)，發(fā)布“深目”AI 模盒，同時(shí)宣布自研大模型“云天天書(shū)-2.0-68B”版本免費(fèi)向合作伙伴開(kāi)放。云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧在發(fā)布會(huì)提到：“未來(lái) 3 年，全球 80% 的企業(yè)都將使用大模型。大模型一次訓(xùn)練成本在千萬(wàn)級(jí)，主流的訓(xùn)推一體機(jī)價(jià)格普遍在百萬(wàn)元，絕大多數(shù)企業(yè)都無(wú)法承擔(dān)這樣高昂的成本。” 云天勵(lì)飛此次發(fā)布的 “深目”AI 模盒，屬于邊緣計(jì)算設(shè)備，側(cè)重在推理端，搭載了云天勵(lì)飛的自研大模型邊緣訓(xùn)推芯片 DeepEdge10 Max，以及自研多模態(tài)大模型“云天天書(shū)”，具備算法邊緣側(cè)在線(xiàn)學(xué)習(xí)能力。這種邊緣端標(biāo)準(zhǔn)化硬件，再加上大模型，除了能通過(guò)邊緣端部署，解決數(shù)據(jù)隱私問(wèn)題，還可以實(shí)現(xiàn)對(duì)多種長(zhǎng)尾場(chǎng)景的覆蓋。其搭載的 DeepEdge10 芯片可以針對(duì)不同的場(chǎng)景提供差異化算力，并且可以在線(xiàn)下載更新多種算法。在云天勵(lì)飛為客戶(hù)提供的算法訓(xùn)練平臺(tái)上，有大量與生態(tài)合作伙伴共同打造的算法商城，用戶(hù)可以直接調(diào)用預(yù)訓(xùn)練算法，并上傳自身場(chǎng)景圖片完成算法的微調(diào)和升級(jí)，快速訓(xùn)練出高精度算法。針對(duì)無(wú)訓(xùn)練數(shù)據(jù)的極端場(chǎng)景，例如加油站場(chǎng)景的吸煙識(shí)別，云天勵(lì)飛還使用了 AI 合成數(shù)據(jù)來(lái)訓(xùn)練算法，并在這一過(guò)程中引入了 3D 引擎，從而填補(bǔ)數(shù)據(jù)空白。“推理芯片沒(méi)有壟斷性巨頭”AI 芯片可以分為訓(xùn)練芯片和推理芯片。訓(xùn)練芯片多用于服務(wù)器，推理芯片則主要部署在邊端設(shè)備之上。當(dāng)大模型訓(xùn)練完成，開(kāi)始進(jìn)入到了實(shí)際應(yīng)用之后，對(duì)于 AI 推理的需求將會(huì)更多。云天立飛的 AI 芯片就定位在推理的應(yīng)用。DeepEdge10 系列是云天勵(lì)飛去年推出的大模型推理芯片，該芯片采用自主可控的國(guó)產(chǎn)工藝，內(nèi)含國(guó)產(chǎn) RISC-V 核，支持大模型訓(xùn)練推理部署。依托自研芯片 DeepEdge10 Max創(chuàng)新的 D2D chiplet 架構(gòu)打造的 X5000 推理卡，已適配并可承載 10 億級(jí) SAM、百億級(jí) Llama2 等大模型運(yùn)算，可應(yīng)用于 AIoT 邊緣視頻、移動(dòng)機(jī)器人等場(chǎng)景。談及推理芯片，陳寧表示，如果訓(xùn)練芯片是英偉達(dá)一騎絕塵，占有絕對(duì)的市場(chǎng)占有率，那么推理芯片今天沒(méi)有壟斷性的巨頭，今年大火的 Groq 也是 AI 推理芯片。“云天天書(shū)”是云天勵(lì)飛自研的多模態(tài)大模型，由 CV 大模型、NLP 大模型和多模態(tài)大模型組成。云天勵(lì)志在通用基礎(chǔ)大模型的基礎(chǔ)上，訓(xùn)練出行業(yè)大模型，包括智慧城市、智慧安防、智慧交通、智慧商超等等，最后再針對(duì)落地細(xì)分的場(chǎng)景，將數(shù)據(jù)集進(jìn)行微調(diào)，從而實(shí)現(xiàn)落地。深圳 CV 獨(dú)角獸，“算法芯片化”為核心競(jìng)爭(zhēng)力云天勵(lì)飛成立于 2014 年，是一家以計(jì)算機(jī)視覺(jué)（CV）應(yīng)用起家的公司，2022 年 4 月 4 日，作為“深圳 AI 第一股”在科創(chuàng)板上市，主營(yíng)業(yè)務(wù)為視覺(jué) AI 軟硬件產(chǎn)品及解決方案。解決方案中又以面向公共安防及交通治理領(lǐng)域?yàn)橹鳌９緸榭蛻?hù)提供算法軟件、芯片等自研產(chǎn)品，并按照客戶(hù)需求，將自己的產(chǎn)品，外購(gòu)的硬件產(chǎn)品、安裝施工服務(wù)等打包交付。2023 財(cái)年，云天勵(lì)飛營(yíng)業(yè)收入 5.35 億元，同比下降 2.14%；歸母凈利潤(rùn)虧損 3.9 億元，比上年同期的 -4.47 億元有所收窄。值得一提的是云天勵(lì)飛具備算法芯片化能力，同時(shí)自研的 AI 芯片也已實(shí)現(xiàn)商用。公司的 AI 芯片在 2018 年成功流片，2019 年開(kāi)始逐步對(duì)外銷(xiāo)售，客戶(hù)包括海康威視、阿里巴巴平頭哥、富瀚微電子等。并購(gòu)智能穿戴公司，G、B、C 全都要？“深目”AI 模盒的發(fā)布是云天勵(lì)飛從 AI 方案化到 AI 產(chǎn)品化的一次嘗試，通過(guò) AI 技術(shù)或解決方案轉(zhuǎn)化為標(biāo)準(zhǔn)化、通用化的產(chǎn)品或服務(wù)，從而滿(mǎn)足更廣泛的市場(chǎng)需求。在大模型方向上，作為一家在機(jī)器視覺(jué)賽道方向積淀已久的的 AI 企業(yè)，云天勵(lì)飛并沒(méi)有直接發(fā)布面向 C 端用戶(hù)的 LLM 產(chǎn)品。畢竟大模型需要長(zhǎng)期巨量燒錢(qián)，且商業(yè)化尚處于早期階段。而是選擇通過(guò)“深目”AI 模盒這樣的邊緣計(jì)算盒子，將大模型與自身 AI 產(chǎn)品落地相結(jié)合，尋求在 G 端和 B 端場(chǎng)景實(shí)現(xiàn)標(biāo)準(zhǔn)化和規(guī)模化。在 To C 方向上，云天勵(lì)飛也有所布局。近期，云天勵(lì)飛發(fā)布公告稱(chēng)擬以不超過(guò)人民幣 1.8 億元的對(duì)價(jià)收購(gòu)智能穿戴方案設(shè)計(jì)公司岍丞技術(shù)。岍丞技術(shù)主要從事智能穿戴產(chǎn)品的軟硬件開(kāi)發(fā)與技術(shù)服務(wù)，屬于智能耳機(jī)、智能手表等智能穿戴設(shè)備的 IDH（系 Independent Design House 的縮寫(xiě)，直譯為“獨(dú)立設(shè)計(jì)公司”）方案商。收購(gòu)岍丞技術(shù)后，云天勵(lì)飛擬開(kāi)展智能穿戴產(chǎn)品的軟硬件開(kāi)發(fā)與技術(shù)服務(wù)業(yè)務(wù)，探索"大模型 + 智能可穿戴"深度融合。云天勵(lì)飛董事長(zhǎng)兼 CEO 陳寧曾表示，“過(guò)去 10 年，AI 行業(yè)基本走完了 To G 的基礎(chǔ)設(shè)施建設(shè)的歷程，在向 To B 的企業(yè)級(jí)服務(wù)轉(zhuǎn)變；預(yù)計(jì) 3 年左右的時(shí)間，人工智能的行業(yè)會(huì)走向 ToC 的服務(wù)，尤其是隨著 ChatGPT 和多模態(tài)大模型的逐步成熟，行業(yè)最終會(huì)走向 To C 的服務(wù)。” 這似乎也表明了云天勵(lì)飛未來(lái)的探索方向。另外值得注意的是，同為視覺(jué) AI 起家的商湯科技也在今年發(fā)布了面向 C 端消費(fèi)者的 AI 臺(tái)燈產(chǎn)品。大模型技術(shù)加持下的 AI 行業(yè)競(jìng)爭(zhēng)愈演愈烈，考驗(yàn)著每一位參與者的底層技術(shù)能力、資金實(shí)力和戰(zhàn)略定力。并非所有玩家都能實(shí)現(xiàn)大而全的全面領(lǐng)先，聚焦自身的差異化優(yōu)勢(shì)，實(shí)現(xiàn)市場(chǎng)的精準(zhǔn)定位和有效突圍，或許才是破局之道。
