WAVE SUMMIT 2022深度學(xué)習(xí)開發(fā)者峰會(huì)上周圓滿落幕,來自產(chǎn)學(xué)研界的專家學(xué)者和資深A(yù)I工程師在七大平行論壇帶來了精彩的技術(shù)分享。 本次峰會(huì)專設(shè)【智能硬核 生態(tài)共創(chuàng)】平行論壇,昆侖芯科技生物計(jì)算研發(fā)總監(jiān)鄭煥鑫受邀參會(huì),并進(jìn)行“昆侖芯×飛槳:共創(chuàng)智能計(jì)算‘芯’生態(tài)”的主題演講 。
昆侖芯適配百度飛槳等主流框架,支持推理和訓(xùn)練場(chǎng)景,生態(tài)建設(shè)正在逐漸完備,已在豐富的業(yè)務(wù)場(chǎng)景落地。作為國(guó)內(nèi)人工智能芯片領(lǐng)域的先行者,昆侖芯科技依托團(tuán)隊(duì)多年耕耘芯片和智能計(jì)算領(lǐng)域的行業(yè)影響力,致力于攜手上下游合作伙伴,打造智能計(jì)算“芯”生態(tài)。
以下內(nèi)容來自演講實(shí)錄:
大家好,我是來自昆侖芯科技的鄭煥鑫。
昆侖芯科技是一家AI芯片公司,2021年4月完成了獨(dú)立融資,首輪估值約130億元。公司前身是百度智能芯片及架構(gòu)部,在實(shí)際業(yè)務(wù)場(chǎng)景中深耕AI加速領(lǐng)域已十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場(chǎng)景應(yīng)用均有深厚積累的AI芯片企業(yè)。
昆侖芯科技研發(fā)實(shí)力雄厚,團(tuán)隊(duì)成員擁有全球頂尖學(xué)術(shù)背景,并提出了100%自研的通用AI計(jì)算處理器核心架構(gòu)昆侖芯XPU,研究成果也在Hot Chips、ISSCC等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議中成功發(fā)表。
在落地實(shí)現(xiàn)上,昆侖芯1代在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬(wàn)片,是國(guó)內(nèi)唯一一款經(jīng)歷過互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片產(chǎn)品。昆侖芯2代采用7nm制程,也已于2021年8月量產(chǎn)。更先進(jìn)的昆侖芯3代、自動(dòng)駕駛芯片等多個(gè)產(chǎn)品均已啟動(dòng)研發(fā)。
隨著AI越來越普及,其依托的算力需求也越來越大。在這個(gè)時(shí)代背景下,昆侖芯的愿景是“成為劃時(shí)代,全球領(lǐng)先的智能計(jì)算公司”,為AI發(fā)展提供算力賦能。
昆侖芯在AI芯片上經(jīng)歷了超過10年的發(fā)展歷程。我們?cè)?011年啟動(dòng)FPGA AI加速器項(xiàng)目,到2015年部署5000片,2017年部署超過12000片,是業(yè)界最大的量;2017年發(fā)布自研架構(gòu)昆侖芯XPU;2018年啟動(dòng)昆侖芯;2020年昆侖芯1代大規(guī)模部署;2021年昆侖芯2代量產(chǎn)。
昆侖芯軟硬件架構(gòu)及兩代產(chǎn)品
不同于GPU的發(fā)展歷程,昆侖芯1代在AI發(fā)展相對(duì)成熟的時(shí)候量產(chǎn),在設(shè)計(jì)階段就更好地理解了AI場(chǎng)景,提供了更多的加速計(jì)算單元,并且保留了足夠的通用計(jì)算單元,最終達(dá)到了更好的性價(jià)比。
這是我們的昆侖芯XPU架構(gòu):SDNN-軟件定義神經(jīng)網(wǎng)絡(luò)引擎,是我們自研的核心張量計(jì)算單元,用于加速卷積和矩陣乘法;Cluster為我們的通用計(jì)算部件;我們也是國(guó)內(nèi)業(yè)界率先支持GDDR6的廠商之一;我們的Shared Memory片上共享內(nèi)存,有力保證了計(jì)算單元的高并發(fā)、低時(shí)延訪問;提供高達(dá)200GB/s的片間互聯(lián)帶寬,有效提升了大規(guī)模分布式訓(xùn)練中的數(shù)據(jù)傳輸效率,減少通訊延時(shí);支持PCIe第四代接口,雙向帶寬可達(dá)到64GB/s。
這是我們的軟件架構(gòu)圖:在應(yīng)用層,我們支持訓(xùn)練、推理以及科學(xué)計(jì)算;在框架層,除了深度合作的PaddlePaddle,還支持TensorFlow,PyTorch等;我們提供了豐富的SDK,包括編輯器、圖引擎、高性能算子庫(kù)、高性能通訊庫(kù),以及驅(qū)動(dòng);在環(huán)境部署上,我們支持公有云服務(wù)、智算中心、智能邊緣設(shè)備等。
這是我們的產(chǎn)品研發(fā)路線,昆侖芯1代采用14nm工藝,昆侖芯2代采用7nm工藝,此外我們的昆侖芯3代、昆侖芯4代都在研發(fā)路徑中。
昆侖芯1代產(chǎn)品包括兩種形式,其中K100是K200的算力一半版本,主要用在邊緣端。昆侖芯2代產(chǎn)品中,R200 AI加速卡主要用于推理,支持INT8/INT16/INT32/FP16/FP32等精度,非常值得一提的是昆侖芯R200 AI加速卡支持視頻編解碼能力;R480-X8 AI加速器組是我們的單機(jī)8卡訓(xùn)練方案,提供200GB/s的片間互聯(lián)帶寬。
概括起來,昆侖芯2代有如下特點(diǎn):
1.通用計(jì)算能力顯著增強(qiáng),可靈活支持AI算法的演進(jìn),提升資源投入效用;
2.硬件虛擬化,提升AI算力資源的利用率;
3.高性能分布式AI系統(tǒng),加速AI數(shù)據(jù)并行和模型并行中的高速數(shù)據(jù)交換。
介紹完硬件參數(shù),我們看看昆侖芯的軟件參數(shù)。以R200 AI加速卡為例,相比較于業(yè)界主流產(chǎn)品,典型AI負(fù)載性能提升1.5倍左右,其中GEMM矩陣乘法性能為1.7倍,BERT典型自然語(yǔ)言處理性能加速比為1.4倍。對(duì)Transformer類有同樣的效果;Yolov3,Yolov5性能加速1.3倍;ResNet50視覺分類算法加速1.2倍。
昆侖芯AI算力賦能千行百業(yè)
昆侖芯科技前身為百度智能芯片及架構(gòu)部,天然對(duì)互聯(lián)網(wǎng)AI應(yīng)用有深入了解。以百度搜索場(chǎng)景為例,我們實(shí)現(xiàn)了過萬(wàn)片的部署,與飛槳聯(lián)合優(yōu)化模型:DeepFM、Wide&Deep。此外,我們?cè)诎ò俣仍趦?nèi)的多家互聯(lián)網(wǎng)公司上均有不錯(cuò)的落地表現(xiàn)
在智能城市領(lǐng)域,萬(wàn)級(jí)別攝像機(jī)收集視頻流,通過芯片編解碼獲取圖片,對(duì)圖片進(jìn)行人臉檢索以及比對(duì)。該場(chǎng)景主要是以CV類算法為主,我們和飛槳聯(lián)合優(yōu)化模型包括:ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。
工業(yè)質(zhì)檢場(chǎng)景,高清工業(yè)相機(jī)拍攝零件照片進(jìn)行質(zhì)量檢測(cè)。搭載國(guó)產(chǎn)AI算力機(jī)的質(zhì)檢設(shè)備替代人工質(zhì)檢,大大節(jié)省了人力,14個(gè)月即可收回成本。同時(shí),“5G+AI+工業(yè)互聯(lián)網(wǎng)”解決方案大大提高了整廠的智能化水平,幫助企業(yè)降低損耗,提升約10%的良品率。在這個(gè)方向上,我們和飛槳聯(lián)合開發(fā)了Yolov3-DarkNet53、SSD-ResNet34。
在目前國(guó)內(nèi)前沿的生物計(jì)算領(lǐng)域,我們也對(duì)基因測(cè)序算法Blast以及蛋白質(zhì)折疊預(yù)測(cè)算法進(jìn)行了硬件適配,并取得了不錯(cuò)的加速比。
綜上,我們?cè)诨ヂ?lián)網(wǎng)、智慧城市、智慧工業(yè)、生物計(jì)算、智慧金融、智慧政務(wù)、智算中心以及智慧交通等各行業(yè) AI 應(yīng)用落地場(chǎng)景中均提供了多種解決方案。
總結(jié)來看,昆侖芯科技最獨(dú)特優(yōu)勢(shì)在于:在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬(wàn)片,是國(guó)內(nèi)唯一一款經(jīng)歷了互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片,產(chǎn)品的可用性、可靠性、穩(wěn)定性、魯棒性得到了驗(yàn)證,也證明了團(tuán)隊(duì)在芯片架構(gòu)、軟件棧、工程化系統(tǒng)層級(jí)的技術(shù)實(shí)力。此外,昆侖芯靈活支持多個(gè)AI場(chǎng)景,如視覺、語(yǔ)音、NLP和推薦等;不僅如此,昆侖芯也支持HPC、生物計(jì)算等算法的加速。
申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!
雖然我國(guó)汽車芯片行業(yè)還處在發(fā)展初期,但已經(jīng)迸發(fā)出無限潛力。一方面,智能汽車的發(fā)展不斷帶動(dòng)需求增長(zhǎng);另一方面,政策引導(dǎo)下,汽車芯片企業(yè)持續(xù)搶占高地。對(duì)此,在7月5日-7日舉辦的2023年中國(guó)汽車論壇上,中國(guó)汽車工業(yè)協(xié)會(huì)副秘書長(zhǎng)李邵華就做出表示,“中國(guó)將成為未來汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的
2023世界人工智能大會(huì)將于7月6日至8日在上海舉辦。云天勵(lì)飛將在大會(huì)上展示自主設(shè)計(jì)開發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片,并公布“天書”大模型的最新動(dòng)態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺(tái)參觀交流!同時(shí),云天勵(lì)飛也將與中國(guó)電子、中國(guó)信通院、華為等合作伙伴,在WAIC的舞臺(tái)
近日,酷學(xué)院智能產(chǎn)品發(fā)布會(huì)在深圳閃亮登場(chǎng)。近200位現(xiàn)場(chǎng)觀眾和近萬(wàn)人次在線觀看,共同見證了這一激動(dòng)人心的時(shí)刻。發(fā)布會(huì)上,酷學(xué)院引領(lǐng)大家探索企業(yè)培訓(xùn)學(xué)習(xí)和人才發(fā)展領(lǐng)域的新高度,并揭幕其全新的產(chǎn)品智能升級(jí)和突破??釋W(xué)院產(chǎn)品負(fù)責(zé)人徐晨通過形象生動(dòng)、邏輯嚴(yán)謹(jǐn)?shù)闹v述,揭曉了全新的智能企業(yè)培訓(xùn)和人才發(fā)展平臺(tái),以
隨著人工智能技術(shù)的快速發(fā)展,各行各業(yè)都受到了深刻影響,特別是中小學(xué)人工智能教育的普及,已經(jīng)成為當(dāng)今不可忽視的重要課程。ChatGPT等人工智能技術(shù)的出現(xiàn),讓我們看到了人工智能將成為未來推動(dòng)科技跨越發(fā)展、生產(chǎn)力整體躍升的重要驅(qū)動(dòng)力量之一。在這個(gè)背景下,中小學(xué)教育已經(jīng)將人工智能作為重要學(xué)習(xí)內(nèi)容,并將科技
四個(gè)月前邀請(qǐng)碼炒至10萬(wàn)元,如今官網(wǎng)變灰、社交賬號(hào)清空,這家AI新貴的閃電遷移折射中國(guó)科技企業(yè)出海潮涌。7月11日,打開Manus官網(wǎng)的用戶發(fā)現(xiàn)一則突兀提示:“Manus在你所在的地區(qū)不可用”。而就在不久前,這個(gè)位置還顯示著“Manus中文版本正在開發(fā)中”的樂觀聲明。同時(shí),Manus官方微博和小紅書
文/十界來源/節(jié)點(diǎn)財(cái)經(jīng)一場(chǎng)圍繞算力自主的競(jìng)賽,正在科創(chuàng)板上演。近日,國(guó)產(chǎn)全功能GPU廠商摩爾線程遞交科創(chuàng)板招股書,擬募資約80億人民幣,成為今年上半年科創(chuàng)板擬募資規(guī)模最大的沖刺者,也打響了“國(guó)產(chǎn)英偉達(dá)”上市的第一槍。據(jù)招股書顯示,摩爾線程自2020年成立以來,主營(yíng)全功能GPU芯片的研發(fā)與銷售,以自主
“AI大模型六小虎”百川智能危機(jī)重重。這是前搜狗CEO王小川創(chuàng)辦的AI公司。昨天就爆出新聞,百川智能的聯(lián)合創(chuàng)始人離職,這是王小川入局AI的第一道大坎。接下的成敗非常關(guān)鍵:(1)拿下河北(2)學(xué)習(xí)科大訊飛百川智能離職高端概覽:(1)2025年7月10日,百川智能技術(shù)聯(lián)合創(chuàng)始人謝劍將離職。他是百川只能的
百度AI團(tuán)隊(duì)今日正式推出PaddleOCR3.1版本,以突破性的多語(yǔ)言組合識(shí)別(MultilingualCompositionPerception,MCP)技術(shù)為核心,徹底重構(gòu)復(fù)雜文檔處理邊界。此次升級(jí)標(biāo)志著OCR領(lǐng)域首次實(shí)現(xiàn)對(duì)同一文檔內(nèi)任意混合語(yǔ)言文本的精準(zhǔn)識(shí)別,為全球化企業(yè)、跨境業(yè)務(wù)及多元文化場(chǎng)
“宇樹已形成硬件、算法、場(chǎng)景聯(lián)動(dòng)的業(yè)務(wù)飛輪,自研率超95%的技術(shù)壁壘讓其成為全球機(jī)器人賽道不可忽視的中國(guó)力量?!笔壮藤Y本管理合伙人朱方文在追加投資時(shí)如是評(píng)價(jià)。7月7日,據(jù)每日經(jīng)濟(jì)新聞從宇樹科技投資方處獲悉,國(guó)內(nèi)人形機(jī)器人領(lǐng)軍企業(yè)宇樹科技(UnitreeRobotics)已明確計(jì)劃于科創(chuàng)板IPO,預(yù)計(jì)
推理與多模態(tài)的終極融合,將徹底終結(jié)用戶在不同模型間切換的煩惱。7月7日,OpenAI正式確認(rèn)將在今年夏季推出新一代人工智能模型GPT-5。這一突破性產(chǎn)品將整合現(xiàn)有的多個(gè)強(qiáng)大模型,特別是融合專注推理能力的“O系列”與具備多模態(tài)功能的“GPT系列”,為用戶提供前所未有的統(tǒng)一體驗(yàn)。OpenAI開發(fā)者體驗(yàn)負(fù)
高考一結(jié)束,忙壞了海內(nèi)外一眾大模型。豆包、DeepSeek、ChatGPT、元寶、文心一言、通義千問……掀起了一波“AI趕考”大戰(zhàn)。據(jù)悉,去年高考期間,大模型的成績(jī)才勉強(qiáng)過一本線,今年集體晉升985。據(jù)悉,豆包甚至過了清北的錄取線。頭部大模型在高考“考場(chǎng)”上玩得不亦樂乎,中小AI創(chuàng)企的處境卻日益尷尬
文/二風(fēng)來源/節(jié)點(diǎn)財(cái)經(jīng)每年高考成績(jī)放榜后,數(shù)千萬(wàn)考生和家長(zhǎng)將迎來另一場(chǎng)硬仗——填報(bào)志愿。今年,這一領(lǐng)域迎來了AI的全面介入,多家互聯(lián)網(wǎng)大廠和教育公司紛紛推出智能志愿填報(bào)產(chǎn)品,為考生提供院校和專業(yè)選擇建議。據(jù)艾媒咨詢數(shù)據(jù),2023年中國(guó)高考志愿填報(bào)市場(chǎng)付費(fèi)規(guī)模約9.5億元,近九成考生愿意借助志愿填報(bào)服
蘋果還沒從WWDC25的“群嘲”中走出,又迎來了一次新的痛擊。據(jù)路透社報(bào)道,21日,蘋果公司遭到股東集體起訴,被指在信息披露中低估了將先進(jìn)生成式AI整合進(jìn)語(yǔ)音助手Siri所需的時(shí)間,導(dǎo)致iPhone銷量受影響、股價(jià)下滑,構(gòu)成證券欺詐。在這份訴訟中,庫(kù)克、首席財(cái)務(wù)官凱文·帕雷克及前首席財(cái)務(wù)官盧卡·馬埃
華為的盤古大模型終于推出新版本了。6月20日華為云計(jì)算CEO張平安宣布基于CloudMatrix384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線,盤古大模型5.5同步發(fā)布。不過,當(dāng)前國(guó)內(nèi)的AI大模型競(jìng)爭(zhēng)可謂是相當(dāng)激烈,華為的盤古大模型在眾多大模型中并不是十分出眾。華為云此次重磅推出的盤古大模型5.5能否從