在這個“無產(chǎn)業(yè)不AI,無應用不AI,無芯片不AI”的時代,AI芯片作為人工智能時代的技術核心之一,決定了平臺的基礎架構和發(fā)展生態(tài),在全球具有深不可測的市場規(guī)模。但是,目前國內(nèi)外都面臨一個共同的難題——缺乏統(tǒng)一的芯片評測標準。因此,打破AI芯片測評領域混亂無序的阻礙,對整個人工智能產(chǎn)業(yè)的發(fā)展而言至關重要。
11月1-2日,由中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟、杭州市人民政府主辦的“AIIA2019人工智能開發(fā)者大會(AIDC)暨第四屆中國(杭州)人工智能產(chǎn)業(yè)發(fā)展論壇”在杭州召開。借此業(yè)內(nèi)學術泰斗齊聚,百家名企同堂的難逢之機,中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟總體組組長孫明俊在主報告會上重磅發(fā)布AIIA DNN benchmark v0.5 云側推斷任務基準測試首輪試評估結果,引起巨大反響。
AIIA DNN benchmark項目是由中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟聯(lián)合20余家企業(yè)、高校及科研機構深入研發(fā),傾情推出的AI芯片測評認證工具,旨在提供專業(yè)評估評測服務,助力AI芯片行業(yè)快速爆發(fā),引領人工智能行業(yè)飛躍發(fā)展。
中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟總體組組長孫明俊
中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟總體組組長孫明俊解讀道:“目前,我們已經(jīng)制定兩套評估規(guī)范,完成兩輪共7款端側評估,v0.5云側評估評測工作于今年7月啟動,經(jīng)過4個月的努力,完成了首輪的試評估工作。”這意味著AIIA DNN benchmark的端+云全方位基準測試方案已經(jīng)形成,相應網(wǎng)站也已全新上線(www.aiiaorg.cn/benchmark),將為人工智能行業(yè)帶來一番風云變化。
下面,帶你解讀, AIIA DNN benchmark v0.5 云側推斷任務首輪試評估工作。報告全文(此處附超鏈接:https://mp.weixin.qq.com/s/36nYEUzrPbnx2UWWL26eQg)
亮點一:多角度全面助力評測行業(yè)發(fā)展
在深度學習模型的發(fā)展史中,殘差網(wǎng)絡因其簡單而有效的結構與異常有效的結果占據(jù)了非常重要的位置。隨著網(wǎng)絡結構或模型的快速迭代,以及芯片工藝的不斷更新,ResNet50這個業(yè)界的黃金標桿是否還能真正反映芯片能力?
AIIA DNN benchmark以更加貼近真實應用場景的測評方式,打破了基準測試單網(wǎng)絡單指標刷榜的模式,可提供7種場景13種網(wǎng)絡測試,其所有指標旨在提供準確的比對維度,如實反映當前提升深度學習處理能力的AI加速器的現(xiàn)狀。
亮點二:五大維度衡量芯片性能
中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟根據(jù)實際部署中所考慮的指標,經(jīng)過前期向20余家企業(yè)、科研機構的相關專家進行意見征集及展開專業(yè)討論,最終確定AIIA DNN benchmark v0.5版本云側推斷任務從以下五個維度出發(fā),衡量云側加速卡整體性能,可客觀反映當前行業(yè)現(xiàn)狀。
延遲: 作為推斷任務的重要指標,能夠直觀反映芯片處理任務的速度。
精度損失: 在部署深度學習任務過程中,各家加速卡都有自己的推理框架以用于模型的轉(zhuǎn)換和部署,其顯示的精度損失可用于反映測試數(shù)據(jù)集推斷所達到的處理效果。
吞吐量: 在實際深度學習推理任務部署中,多batch的處理能力尤為重要。
功耗: 芯片的晶體管數(shù)量和芯片面積決定了算力,面積越大,算力越強,但功耗也將隨之增加,可作為推斷芯片性能的指標之一。
能效比(每瓦算力): 算力與能耗往往相互制約,該方案可測算AI芯片能耗比,反饋給企業(yè)及時改良,助其進一步實現(xiàn)高性能與低功耗、低延遲、低成本之間的平衡。
亮點三:“芯”能力榜單助力企業(yè)宣傳
在缺乏評估標準的情況下,芯片企業(yè)無法清晰確認自己的技術優(yōu)勢及目標市場。同時,由于場景與部署位置的差異性,很難用單一指標與網(wǎng)絡展現(xiàn)芯片性能,導致市場也對芯片企業(yè)的真正實力難以判斷。
AIIA DNN benchmark推出多維度評測方式為芯片企業(yè)提供第三方評測結果,能從不同角度呈現(xiàn)不同芯片的各自優(yōu)勢所在,切實反映芯片能力。該項目還提供了單項與總分榜,支持企業(yè)前來參與“打榜”,積極展示自身獨特的“芯”能力,成功上榜的企業(yè)可在業(yè)內(nèi)獲得更加廣泛的知名度和市場信任感。
亮點四:用戶選型一目了然
人工智能在不同算法、不同場景下,對芯片提出了不同的要求,如硬件架構、延遲、帶寬、能耗、神經(jīng)網(wǎng)絡模型、參數(shù)等都是用戶方選擇AI芯片的重要參考。
中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟作為專業(yè)的第三方,首次公布了典型AI芯片在處理深度學習任務時的參考指標——“算力/單價”比,為應用企業(yè)選型提供參考,以便用戶能更經(jīng)濟地選取最適用于自己需求的AI芯片。
AIIA DNN benchmark,用純粹的科研之心,讓科技之“芯”更美好。該項目的發(fā)布,促進了芯片供給側與需求側的交流,讓需求方的意見能夠更快傳達到芯片企業(yè),讓企業(yè)進行有針對性的改良。同時,AIIA DNN benchmark堅持以“版本迭代、不斷豐富、不斷完善”的工作方式持續(xù)更新項目,計劃下一步啟動第二輪評估工作,迭代AIIA DNN benchmark V1.0,積極推進企業(yè)“芯”能力榜單的評選,努力打造一個開放、共贏的人工智能產(chǎn)業(yè)生態(tài),拓寬人工智能行業(yè)從業(yè)者的交流接口,推動中國AI芯片市場進一步發(fā)展與成熟,以傲人之姿屹立世界前沿科技之林。
申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!
2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團隊
這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特
文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務,建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定
美團曾經(jīng)的二號人物王慧文對標OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團,再度引發(fā)市場對大模型的熱議。
2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。
我覺得我們AI的目標是:從芯片設計到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級AI體系。所以這是俺對未來5年中國AI圈的展望和判斷。(1)2026年,英偉達造車、國產(chǎn)開車26年國產(chǎn)芯片會在推理和垂直場景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會以軟件彌補硬件不足,所以訓練和推理分開,訓練就
文/道哥在深陷“后門”風波、接受網(wǎng)信辦問詢之后,英偉達的“特供版”H20芯片,又有了新消息。近日,美國科技媒體《TheInformation》援引知情人士消息稱,英偉達已悄然向其關鍵供應商——包括負責封裝的安靠科技、供應高帶寬內(nèi)存的三星電子、以及承擔后端處理的富士康發(fā)出指令,要求暫停所有與H20AI
文/二風來源/節(jié)點財經(jīng)一場關于“中國芯”的IPO審議,正把投資者們的目光鎖定在上交所。根據(jù)上交所發(fā)布的公告,上市審核委員會已定于9月26日審議摩爾線程的科創(chuàng)板首發(fā)申請。作為中國半導體自主化浪潮中最受矚目的“考生”之一,包括其創(chuàng)始人顯赫的英偉達背景、高達80億元人民幣的募資雄心,以及在國產(chǎn)GPU領域取
技術的進步永無止境,繼創(chuàng)下TPC-C性能&性價比雙冠之后,阿里云PolarDB云原生數(shù)據(jù)庫再度實現(xiàn)關鍵突破。9月24日杭州云棲大會上,阿里云宣布推出全球首款基于CXL(ComputeExpressLink)2.0Switch技術的PolarDB數(shù)據(jù)庫專用服務器。在原有RDMA網(wǎng)絡的基礎上,Polar
2025年9月24日,在杭州舉辦的云棲大會上,阿里云正式發(fā)布全新一代服務器操作系統(tǒng)AlibabaCloudLinux4(簡稱Alinux4)。Alinux4基于Linux6.6內(nèi)核打造,是首個全面遵循龍蜥社區(qū)“開源生態(tài)合作倡議”規(guī)范的商業(yè)發(fā)行版。它不僅兼容主流開源社區(qū)生態(tài),更針對阿里云最新9代ECS
9月24日,杭州云棲大會技術主論壇上,阿里云重磅發(fā)布AI安全護欄,提供五項核心安全能力,護航AI安全。一方面為客戶提供融入AIAgent開發(fā)全鏈路的原生安全防護,另一方面持續(xù)用AI賦能安全產(chǎn)品智能化升級,打造Agentic-SOC安全運營,提升安全威脅檢測和響應效率。在過去的一年,AIAgent正在
9月24日,魔搭社區(qū)舉辦了“全球協(xié)作?科學突破?創(chuàng)意無限”的專題論壇,并發(fā)布魔搭社區(qū)國際版、科學智能專區(qū)與AIGC創(chuàng)作引擎FlowBench,旨在連接全球開發(fā)者、加速科研范式創(chuàng)新、賦能創(chuàng)意表達。自2022年11月初成立至今,魔搭社區(qū)已成長為中國最大AI開源社區(qū),其模型數(shù)量已突破10萬,服務了全球20
9月24日,2025云棲大會現(xiàn)場,阿里云CTO周靖人接連發(fā)布了七款大模型技術產(chǎn)品。七款技術產(chǎn)品覆蓋語言、語音、視覺、多模態(tài)、代碼等模型領域,在模型智能水平、Agent工具調(diào)用以及Coding能力、深度推理、多模態(tài)等方面均實現(xiàn)突破。在大語言模型中,阿里通義旗艦模型Qwen3-Max全新亮相,性能超過G
9月24日,阿里云在云棲大會上宣布新一輪全球基礎設施擴建計劃:將在巴西、法國和荷蘭首次設立云計算地域節(jié)點(region),并將擴建墨西哥、日本、韓國、馬來西亞和迪拜的數(shù)據(jù)中心,以便更好服務全球客戶日益增長的AI和云計算需求。目前,阿里云在全球29個地區(qū)運營91個可用區(qū),是中國最大、亞太第一的云服務商