您好,歡迎來(lái)到深圳市智慧安防行業(yè)協(xié)會(huì )——(原深圳市視頻報警安防行業(yè)協(xié)會(huì ))
當前位置:協(xié)會(huì )首頁(yè) > 企業(yè)資訊 > 云天勵飛發(fā)布深目AI模盒,把大模型應用成本降到千元級別

云天勵飛發(fā)布深目AI模盒,把大模型應用成本降到千元級別

時(shí)間:2024-03-28 17:22:11 來(lái)源:云天勵飛 作者:智安協(xié)

3月28日,云天勵飛舉辦AI大模型產(chǎn)品發(fā)布會(huì ),正式發(fā)布“深目”AI模盒。該產(chǎn)品能夠做到“3個(gè)90%”——覆蓋場(chǎng)景超過(guò)90%、算法精度超過(guò)90%,使用成本降低90%,解決大模型在場(chǎng)景落地最后一公里的問(wèn)題,幫助更多中小企業(yè)客戶(hù)輕松使用大模型。

會(huì )上,云天勵飛還與鵬城實(shí)驗室、之江實(shí)驗室、中國電子、華為、華潤數科等單位成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應用路徑。

值得一提的是,云天勵飛還宣布“云天天書(shū)-2.0-68B”版本免費向合作伙伴開(kāi)放;即日起預訂“深目”AI模盒,即有機會(huì )獲得邀約測試的機會(huì )。

千元級成本,即可擁有專(zhuān)屬大模型

從ChatGPT到Sora,從文生文、文生圖像到文生視頻,大模型發(fā)展日新月異,持續給行業(yè)帶來(lái)驚喜,不僅國內掀起“百模大戰”,國外科技巨頭也在大模型上相互較勁。大模型的能力在不斷進(jìn)化,引發(fā)新一輪的AI變革。

云天勵飛董事長(cháng)兼CEO陳寧博士在發(fā)布會(huì )上提到:未來(lái)3年,全球80%的企業(yè)都將使用大模型。但是,要訓練專(zhuān)屬大模型,不僅需要大算力、大數據,還需要大量頂尖人才。大模型一次訓練成本在千萬(wàn)級,主流的訓推一體機價(jià)格普遍在百萬(wàn)元,絕大多數企業(yè)都無(wú)法承擔這樣高昂的成本。

為了能夠讓大模型“平民化”,成為人人都可用的產(chǎn)品,云天勵飛推出了“深目”AI模盒。

這款產(chǎn)品售價(jià)在千元級,用單手就能托起,搭載了云天勵飛的自研大模型邊緣訓推芯片DeepEdge10 Max以及自研多模態(tài)大模型“云天天書(shū)”,具備算法邊緣側在線(xiàn)學(xué)習能力,可實(shí)現算法場(chǎng)景覆蓋超過(guò)90%、算法精度超過(guò)90%,使用成本降低90%,讓人人都能夠根據自身場(chǎng)景需求,利用大模型能力,訓練出可實(shí)戰應用的算法,讓大模型唾手可得。

把大模型變“小”,云天勵飛是怎么做到的?

“能夠實(shí)現3個(gè)90%,離不開(kāi)云天勵飛的核心能力——算法芯片化?!标悓幉┦空f(shuō)。

“深目”AI模盒的算力基礎,來(lái)源于去年云天勵飛推出的14nm Chiplet大模型訓推芯片DeepEdge10 Max。該芯片采用自主可控的國產(chǎn)工藝,內含國產(chǎn)RISC-V核,支持大模型訓練推理部署。依托自研芯片DeepEdge10 Max創(chuàng )新的D2D chiplet架構打造的X5000推理卡,已適配并可承載10億級SAM、百億級Llama2等大模型運算,可廣泛應用于A(yíng)IoT邊緣視頻、移動(dòng)機器人等場(chǎng)景。

“深目”AI模盒的大模型能力,來(lái)源于云天勵飛自主研發(fā)的多模態(tài)大模型“云天天書(shū)”。云天天書(shū)大模型包含語(yǔ)言大模型、多模態(tài)大模型等不同系列,在C-Eval、CMMLU等權威測試中多次獲得第一,并于去年正式通過(guò)中央網(wǎng)信辦備案。云天天書(shū)1.0版本于2023年初正式推出,至今已完成3個(gè)版本的迭代,預計今年6月將迭代4.0 V版本。

以云天天書(shū)為底座,云天勵飛能夠與生態(tài)合作伙伴完成預訓練場(chǎng)景算法,再將預訓練算法提供給廣大中小企業(yè)用戶(hù),中小企業(yè)客戶(hù)可根據自身場(chǎng)景需求,在邊緣端完成算法微調。由于大模型具備泛化和學(xué)習的能力,客戶(hù)部署算法后,大模型還能夠不斷根據現實(shí)應用場(chǎng)景情況,在線(xiàn)學(xué)習、優(yōu)化算法,不斷提升算法精度。

“深目”AI模盒不僅僅是“壓縮”了大模型和芯片能力的一款全新產(chǎn)品,更是把云天勵飛大模型通過(guò)算法芯片化能力平臺“硬件化”的一次重要嘗試。把復雜的技術(shù)通過(guò)簡(jiǎn)單的產(chǎn)品提供給用戶(hù),讓用戶(hù)可以零學(xué)習成本,快速訓練出自己需要的算法。

場(chǎng)景算法,秒速訓練

“深目”AI模盒背后蘊藏了復雜的技術(shù),但對于用戶(hù)而言,他們只需要關(guān)心產(chǎn)品到底怎么用、好不好用。發(fā)布現場(chǎng),云天勵飛副總裁羅憶用實(shí)際場(chǎng)景演示了“深目”AI模盒是如何在數據少、無(wú)數據等極端情況下,快速完成算法訓練。

場(chǎng)景演示一:只需少量樣本,算法精度即可提升到90%以上

在算法使用初期,只有少量數據,用戶(hù)如何才能快速訓練高精度算法?

以店外經(jīng)營(yíng)為例,這是城市治理中最常見(jiàn)的問(wèn)題之一。當用戶(hù)需要訓練識別算法時(shí),可以直接使用平臺現成的算法對目標進(jìn)行識別。用戶(hù)只需要對識別結果標記“正確”和“誤報”,算法精度就能通過(guò)自學(xué)習快速提升。通過(guò)這樣的過(guò)程,算法精度通過(guò)1次訓練就能得到顯著(zhù)提升,經(jīng)過(guò)1周迭代后算法精度可超過(guò)90%。

羅憶介紹,云天勵飛為客戶(hù)提供的算法訓練平臺上,有大量與生態(tài)合作伙伴共同打造的算法商城,能夠提供覆蓋14個(gè)大類(lèi)、100+個(gè)小類(lèi)、千余種算法,用戶(hù)可以直接調用預訓練算法,并上傳自身場(chǎng)景圖片完成算法的微調和升級,快速訓練出高精度算法。

場(chǎng)景演示二:零數據樣本,用AIGC數據訓練AI

天災人禍等極端場(chǎng)景識別訓練的數據幾乎空白,面對這樣“無(wú)數據”的情況,用戶(hù)該如何訓練算法?

以加油站場(chǎng)景的吸煙識別為例,這類(lèi)行為的數據極難獲取,因為這類(lèi)危險行為往往伴隨著(zhù)成不可挽回的后果。而平臺能夠利用大模型能力,以加油站為背景,生成在該環(huán)境抽煙行為的人物,并將數據用于算法訓練中,填補訓練數據的空白。

使用AI合成數據來(lái)訓練算法,不僅能夠填補數據空白,還能夠規避隱私安全等問(wèn)題,已經(jīng)逐漸成為大模型時(shí)代下訓練新算法和提升算法精度的一條重要路徑。

場(chǎng)景演示三:識別對象標準不統一,大模型泛化能力解決問(wèn)題

現場(chǎng)以“購物中心提袋識別”為例,演示了如何利用大模型泛化能力,解決識別對象標準不統一帶來(lái)的算法訓練難題。

大型購物中心一般沒(méi)有統一的結算中心,購物中心難以掌握逛街顧客是否消費,也難以評估營(yíng)銷(xiāo)活動(dòng)對實(shí)際消費轉化的效果。而顧客是否提購物袋,是大型商場(chǎng)判斷顧客是否消費的重要標準之一。但是,各品牌購物袋的大小、顏色均不統一;而且難以與顧客的背包區分,算法難以精準識別。

但在云天勵飛的算法訓練平臺上,借助場(chǎng)景自適應能力,能夠實(shí)現“千店千袋”的識別。首先,用戶(hù)需要調用“拎手提袋識別”算法,識別所有的手提袋,再基于識別結果進(jìn)行特定手提袋的識別訓練,從而衍生出特定手提袋的識別算法,最后即可實(shí)現專(zhuān)用門(mén)店手提袋的精準識別。

做物理世界的解碼者

從2014年成立至今,云天勵飛一直堅持將AI技術(shù)與物理世界相結合,這也是云天勵飛從成立之初自研芯片的重要原因。芯片是AI與物理世界的連接器,AI通過(guò)芯片為實(shí)體賦能,物理世界的數據又通過(guò)芯片反哺AI,推動(dòng)AI進(jìn)步發(fā)展。

“AI商業(yè)化發(fā)展有三個(gè)階段:AI方案化、AI運營(yíng)化、AI產(chǎn)品化?!标悓幉┦吭诎l(fā)布會(huì )現場(chǎng)說(shuō)道。在A(yíng)I方案化階段,AI企業(yè)主要通過(guò)項目制滿(mǎn)足不同垂直領(lǐng)域客戶(hù)需求。在打磨行業(yè)標桿項目的過(guò)程中,AI企業(yè)不斷積累行業(yè)認知和數據,AI技術(shù)實(shí)力不斷增強,并形成具備越來(lái)越強的泛化能力AI平臺,企業(yè)也得以開(kāi)啟AI運營(yíng)業(yè)務(wù)。而最終,所有的技術(shù)都需要通過(guò)物理實(shí)體賦能,因此AI最終必須走向產(chǎn)品化。

云天勵飛業(yè)務(wù)發(fā)展路徑也沿著(zhù)這條路徑展開(kāi)。在A(yíng)I方案化方面,云天勵飛在警務(wù)、城市治理、智慧交通、人居生活等領(lǐng)域打造諸多標桿項目,并且在低空經(jīng)濟、智慧教育等創(chuàng )新領(lǐng)域持續展開(kāi)探索?;谠诖罅啃袠I(yè)的落地經(jīng)驗,云天勵飛已形成數據運營(yíng)、新能源運營(yíng)平臺,走向AI運營(yíng)化。如今,云天勵飛還逐步走向AI產(chǎn)品化。去年,云天勵飛與華為昇騰聯(lián)合推出基于昇騰910B的天舟大模型訓推一體機;如今又推出面向邊緣訓推場(chǎng)景的“深目”AI模盒。此外,云天勵飛還通過(guò)資本紐帶,進(jìn)軍智能穿戴和機器人等硬件領(lǐng)域,形成日益完善的大模型產(chǎn)品體系。

從AI方案化、AI運營(yíng)化再到AI產(chǎn)品化,云天勵飛一直在致力于做物理世界的“解碼者”,通過(guò)算法芯片化的能力,為“無(wú)形”的技術(shù)和“有形”的世界構建通道,讓AI不僅僅是一個(gè)在虛擬世界的工具,而是轉化為物理世界的生產(chǎn)力。

一個(gè)小彩蛋:云天天書(shū)限時(shí)免費開(kāi)放

為了共同探索更多大模型低成本、高效率落地應用路徑,云天勵飛與鵬城實(shí)驗室、之江實(shí)驗室、上海交通大學(xué)城市治理研究院、哈工大深圳研究生院、中科院深圳先進(jìn)研究院、中國電子、華為、深圳移動(dòng)、深圳電信、深圳聯(lián)通、華潤數科、神州數碼、中國鐵塔深圳分公司、有人物聯(lián)網(wǎng)、云賽智聯(lián)等單位共同成立“深目2.0”生態(tài)聯(lián)盟,共同探索更多大模型落地應用路徑。

在發(fā)布會(huì )最后,云天勵飛還發(fā)出了2個(gè)實(shí)實(shí)在在的福利。

一是“云天天書(shū)-2.0-68B”版本免費向合作伙伴開(kāi)放。合作伙伴可免費獲取“云天天書(shū)-2.0-68B”部署包及6個(gè)月推理服務(wù)授權,免費使用天書(shū)平臺自帶的管理、支撐、應用及API等服務(wù),快速構建場(chǎng)景應用。(微信搜索“云天勵飛”小程序,可報名申請)

二是從即日起預訂“深目”AI模盒,即有機會(huì )獲得邀約測試的機會(huì ),限額50名!

關(guān)于“深目”背后的故事

2014年,云天勵飛憑借對深度學(xué)習的深刻理解,推出了基于CV小模型的人工智能產(chǎn)品——“深目”1.0,成功引領(lǐng)了AI產(chǎn)業(yè)化應用的浪潮,為“AI+公共安全”市場(chǎng)開(kāi)啟了新紀元。

如今,人工智能已邁入大模型時(shí)代。在大模型技術(shù)的強力驅動(dòng)下,AI能力得以更廣泛地拓展與應用。每一個(gè)場(chǎng)景都蘊藏著(zhù)巨大的潛力,等待著(zhù)我們用大模型去重塑、去挖掘其更深層次的價(jià)值。在這個(gè)奇點(diǎn)時(shí)刻,我們選擇二次創(chuàng )業(yè),并推出了一款基于自研芯片和大模型技術(shù)的“深目”AI模盒。這款產(chǎn)品能夠低成本地快速生成并運行算法,為碎片化場(chǎng)景下復雜多變的AI應用提供了強有力的支持。

這款產(chǎn)品,我們依然命名為“深目”。雖然名字未變,但“深目”已經(jīng)從最初我們對AI方案化構想,進(jìn)化成了如今成熟的產(chǎn)品化現實(shí)。它的技術(shù)底座已煥然一新,方案和產(chǎn)品均實(shí)現了全面的升級與蛻變。我們期望“深目”系列產(chǎn)品能夠賦能更廣闊的碎片化場(chǎng)景,真正實(shí)現AI技術(shù)的普惠,讓千行百業(yè)都能受益于其強大功能。同時(shí),“深目2.0”這個(gè)品牌也將承載著(zhù)云天人不斷創(chuàng )新、超越自我的創(chuàng )業(yè)精神,為我們開(kāi)啟二次創(chuàng )業(yè)的新征程。我們堅信,在大家的共同努力下,“深目”將煥發(fā)出新的活力與光彩,為AI產(chǎn)業(yè)的發(fā)展貢獻更多力量,共同開(kāi)創(chuàng )更加美好的未來(lái)!

企業(yè)資訊
愛(ài)鑫微針對LED會(huì )議一體機推出intel 12-14代CPU+16G獨顯高性能5G+8K方案的電腦模塊
6月9日-12日,第29屆廣州國際照明展覽會(huì )(以下簡(jiǎn)稱(chēng)“光亞展”)于6月9-12日在廣州中國進(jìn)出口商品交易會(huì )展館盛大舉辦,匯聚了
2024城軌展暨高峰論壇 愛(ài)鑫微攜軌道交通PIS系統OPS播控器亮相
6月13日,2024北京-南京國際城市軌道交通展覽會(huì )暨高峰論壇在南京國際博覽中心開(kāi)幕。展會(huì )以“多元融合??高質(zhì)量可持續發(fā)展”為主
擇高而立,向寬而行!熵基科技合作伙伴大會(huì )2024成功舉辦
3月28日-29日, “熵基科技合作伙伴大會(huì )2024”在美麗的莞城盛大舉行。本次大會(huì )以“擇高而立,向寬而行”為主題,采用了“主會(huì )
項目活動(dòng)
熱門(mén)專(zhuān)題
  • 熵基科技出席數字經(jīng)濟及智慧城市空間未來(lái)應用創(chuàng )新峰會(huì )
  • 2021年智能安防機器人市場(chǎng)或將進(jìn)入井噴期
  • 2021年的智慧城市建設該怎么發(fā)展?聽(tīng)聽(tīng)行業(yè)大咖的觀(guān)點(diǎn)
  • 達實(shí)信息:顛覆傳統經(jīng)營(yíng)模式 構建互聯(lián)網(wǎng)+門(mén)禁新時(shí)代
日韩精品欧美激情|亚洲国产AV无码综合|亚洲av日韩综合一区|久久久久波多野结衣高潮|亚洲自偷自偷在线制服