WAVE SUMMIT 2022深度學(xué)習(xí)開(kāi)發(fā)者峰會(huì)上周圓滿落幕，來(lái)自產(chǎn)學(xué)研界的專(zhuān)家學(xué)者和資深A(yù)I工程師在七大平行論壇帶來(lái)了精彩的技術(shù)分享。 本次峰會(huì)專(zhuān)設(shè)【智能硬核 生態(tài)共創(chuàng)】平行論壇，昆侖芯科技生物計(jì)算研發(fā)總監(jiān)鄭煥鑫受邀參會(huì)，并進(jìn)行“昆侖芯×飛槳：共創(chuàng)智能計(jì)算‘芯’生態(tài)”的主題演講 。
昆侖芯適配百度飛槳等主流框架，支持推理和訓(xùn)練場(chǎng)景，生態(tài)建設(shè)正在逐漸完備，已在豐富的業(yè)務(wù)場(chǎng)景落地。作為國(guó)內(nèi)人工智能芯片領(lǐng)域的先行者，昆侖芯科技依托團(tuán)隊(duì)多年耕耘芯片和智能計(jì)算領(lǐng)域的行業(yè)影響力，致力于攜手上下游合作伙伴，打造智能計(jì)算“芯”生態(tài)。
以下內(nèi)容來(lái)自演講實(shí)錄：
大家好，我是來(lái)自昆侖芯科技的鄭煥鑫。
昆侖芯科技是一家AI芯片公司，2021年4月完成了獨(dú)立融資，首輪估值約130億元。公司前身是百度智能芯片及架構(gòu)部，在實(shí)際業(yè)務(wù)場(chǎng)景中深耕AI加速領(lǐng)域已十余年，是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場(chǎng)景應(yīng)用均有深厚積累的AI芯片企業(yè)。
昆侖芯科技研發(fā)實(shí)力雄厚，團(tuán)隊(duì)成員擁有全球頂尖學(xué)術(shù)背景，并提出了100%自研的通用AI計(jì)算處理器核心架構(gòu)昆侖芯XPU，研究成果也在Hot Chips、ISSCC等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議中成功發(fā)表。
在落地實(shí)現(xiàn)上，昆侖芯1代在百度搜索引擎、小度等業(yè)務(wù)中部署超過(guò)2萬(wàn)片，是國(guó)內(nèi)唯一一款經(jīng)歷過(guò)互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片產(chǎn)品。昆侖芯2代采用7nm制程，也已于2021年8月量產(chǎn)。更先進(jìn)的昆侖芯3代、自動(dòng)駕駛芯片等多個(gè)產(chǎn)品均已啟動(dòng)研發(fā)。
隨著AI越來(lái)越普及，其依托的算力需求也越來(lái)越大。在這個(gè)時(shí)代背景下，昆侖芯的愿景是“成為劃時(shí)代，全球領(lǐng)先的智能計(jì)算公司”，為AI發(fā)展提供算力賦能。
昆侖芯在AI芯片上經(jīng)歷了超過(guò)10年的發(fā)展歷程。我們?cè)?011年啟動(dòng)FPGA AI加速器項(xiàng)目，到2015年部署5000片，2017年部署超過(guò)12000片，是業(yè)界最大的量;2017年發(fā)布自研架構(gòu)昆侖芯XPU;2018年啟動(dòng)昆侖芯;2020年昆侖芯1代大規(guī)模部署;2021年昆侖芯2代量產(chǎn)。
昆侖芯軟硬件架構(gòu)及兩代產(chǎn)品
不同于GPU的發(fā)展歷程，昆侖芯1代在AI發(fā)展相對(duì)成熟的時(shí)候量產(chǎn)，在設(shè)計(jì)階段就更好地理解了AI場(chǎng)景，提供了更多的加速計(jì)算單元，并且保留了足夠的通用計(jì)算單元，最終達(dá)到了更好的性價(jià)比。
這是我們的昆侖芯XPU架構(gòu)：SDNN-軟件定義神經(jīng)網(wǎng)絡(luò)引擎，是我們自研的核心張量計(jì)算單元，用于加速卷積和矩陣乘法;Cluster為我們的通用計(jì)算部件;我們也是國(guó)內(nèi)業(yè)界率先支持GDDR6的廠商之一;我們的Shared Memory片上共享內(nèi)存，有力保證了計(jì)算單元的高并發(fā)、低時(shí)延訪問(wèn);提供高達(dá)200GB/s的片間互聯(lián)帶寬，有效提升了大規(guī)模分布式訓(xùn)練中的數(shù)據(jù)傳輸效率，減少通訊延時(shí);支持PCIe第四代接口，雙向帶寬可達(dá)到64GB/s。
這是我們的軟件架構(gòu)圖：在應(yīng)用層，我們支持訓(xùn)練、推理以及科學(xué)計(jì)算;在框架層，除了深度合作的PaddlePaddle，還支持TensorFlow，PyTorch等;我們提供了豐富的SDK，包括編輯器、圖引擎、高性能算子庫(kù)、高性能通訊庫(kù)，以及驅(qū)動(dòng);在環(huán)境部署上，我們支持公有云服務(wù)、智算中心、智能邊緣設(shè)備等。
這是我們的產(chǎn)品研發(fā)路線，昆侖芯1代采用14nm工藝，昆侖芯2代采用7nm工藝，此外我們的昆侖芯3代、昆侖芯4代都在研發(fā)路徑中。
昆侖芯1代產(chǎn)品包括兩種形式，其中K100是K200的算力一半版本，主要用在邊緣端。昆侖芯2代產(chǎn)品中，R200 AI加速卡主要用于推理，支持INT8/INT16/INT32/FP16/FP32等精度，非常值得一提的是昆侖芯R200 AI加速卡支持視頻編解碼能力;R480-X8 AI加速器組是我們的單機(jī)8卡訓(xùn)練方案，提供200GB/s的片間互聯(lián)帶寬。
概括起來(lái)，昆侖芯2代有如下特點(diǎn)：
1.通用計(jì)算能力顯著增強(qiáng)，可靈活支持AI算法的演進(jìn)，提升資源投入效用;
2.硬件虛擬化，提升AI算力資源的利用率;
3.高性能分布式AI系統(tǒng)，加速AI數(shù)據(jù)并行和模型并行中的高速數(shù)據(jù)交換。
介紹完硬件參數(shù)，我們看看昆侖芯的軟件參數(shù)。以R200 AI加速卡為例，相比較于業(yè)界主流產(chǎn)品，典型AI負(fù)載性能提升1.5倍左右，其中GEMM矩陣乘法性能為1.7倍，BERT典型自然語(yǔ)言處理性能加速比為1.4倍。對(duì)Transformer類(lèi)有同樣的效果;Yolov3，Yolov5性能加速1.3倍;ResNet50視覺(jué)分類(lèi)算法加速1.2倍。
昆侖芯AI算力賦能千行百業(yè)
昆侖芯科技前身為百度智能芯片及架構(gòu)部，天然對(duì)互聯(lián)網(wǎng)AI應(yīng)用有深入了解。以百度搜索場(chǎng)景為例，我們實(shí)現(xiàn)了過(guò)萬(wàn)片的部署，與飛槳聯(lián)合優(yōu)化模型：DeepFM、Wide&Deep。此外，我們?cè)诎ò俣仍趦?nèi)的多家互聯(lián)網(wǎng)公司上均有不錯(cuò)的落地表現(xiàn)
在智能城市領(lǐng)域，萬(wàn)級(jí)別攝像機(jī)收集視頻流，通過(guò)芯片編解碼獲取圖片，對(duì)圖片進(jìn)行人臉檢索以及比對(duì)。該場(chǎng)景主要是以CV類(lèi)算法為主，我們和飛槳聯(lián)合優(yōu)化模型包括：ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。
工業(yè)質(zhì)檢場(chǎng)景，高清工業(yè)相機(jī)拍攝零件照片進(jìn)行質(zhì)量檢測(cè)。搭載國(guó)產(chǎn)AI算力機(jī)的質(zhì)檢設(shè)備替代人工質(zhì)檢，大大節(jié)省了人力，14個(gè)月即可收回成本。同時(shí)，“5G+AI+工業(yè)互聯(lián)網(wǎng)”解決方案大大提高了整廠的智能化水平，幫助企業(yè)降低損耗，提升約10%的良品率。在這個(gè)方向上，我們和飛槳聯(lián)合開(kāi)發(fā)了Yolov3-DarkNet53、SSD-ResNet34。
在目前國(guó)內(nèi)前沿的生物計(jì)算領(lǐng)域，我們也對(duì)基因測(cè)序算法Blast以及蛋白質(zhì)折疊預(yù)測(cè)算法進(jìn)行了硬件適配，并取得了不錯(cuò)的加速比。
綜上，我們?cè)诨ヂ?lián)網(wǎng)、智慧城市、智慧工業(yè)、生物計(jì)算、智慧金融、智慧政務(wù)、智算中心以及智慧交通等各行業(yè) AI 應(yīng)用落地場(chǎng)景中均提供了多種解決方案。
總結(jié)來(lái)看，昆侖芯科技最獨(dú)特優(yōu)勢(shì)在于：在百度搜索引擎、小度等業(yè)務(wù)中部署超過(guò)2萬(wàn)片，是國(guó)內(nèi)唯一一款經(jīng)歷了互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片，產(chǎn)品的可用性、可靠性、穩(wěn)定性、魯棒性得到了驗(yàn)證，也證明了團(tuán)隊(duì)在芯片架構(gòu)、軟件棧、工程化系統(tǒng)層級(jí)的技術(shù)實(shí)力。此外，昆侖芯靈活支持多個(gè)AI場(chǎng)景，如視覺(jué)、語(yǔ)音、NLP和推薦等;不僅如此，昆侖芯也支持HPC、生物計(jì)算等算法的加速。
申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
雖然我國(guó)汽車(chē)芯片行業(yè)還處在發(fā)展初期，但已經(jīng)迸發(fā)出無(wú)限潛力。一方面，智能汽車(chē)的發(fā)展不斷帶動(dòng)需求增長(zhǎng)；另一方面，政策引導(dǎo)下，汽車(chē)芯片企業(yè)持續(xù)搶占高地。對(duì)此，在7月5日-7日舉辦的2023年中國(guó)汽車(chē)論壇上，中國(guó)汽車(chē)工業(yè)協(xié)會(huì)副秘書(shū)長(zhǎng)李邵華就做出表示，“中國(guó)將成為未來(lái)汽車(chē)芯片發(fā)展的集聚地”。車(chē)規(guī)芯片行業(yè)近日的
2023世界人工智能大會(huì)將于7月6日至8日在上海舉辦。云天勵(lì)飛將在大會(huì)上展示自主設(shè)計(jì)開(kāi)發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片,并公布“天書(shū)”大模型的最新動(dòng)態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺(tái)參觀交流!同時(shí),云天勵(lì)飛也將與中國(guó)電子、中國(guó)信通院、華為等合作伙伴,在WAIC的舞臺(tái)
近日,酷學(xué)院智能產(chǎn)品發(fā)布會(huì)在深圳閃亮登場(chǎng)。近200位現(xiàn)場(chǎng)觀眾和近萬(wàn)人次在線觀看,共同見(jiàn)證了這一激動(dòng)人心的時(shí)刻。發(fā)布會(huì)上,酷學(xué)院引領(lǐng)大家探索企業(yè)培訓(xùn)學(xué)習(xí)和人才發(fā)展領(lǐng)域的新高度,并揭幕其全新的產(chǎn)品智能升級(jí)和突破?？釋W(xué)院產(chǎn)品負(fù)責(zé)人徐晨通過(guò)形象生動(dòng)、邏輯嚴(yán)謹(jǐn)?shù)闹v述,揭曉了全新的智能企業(yè)培訓(xùn)和人才發(fā)展平臺(tái),以
隨著人工智能技術(shù)的快速發(fā)展，各行各業(yè)都受到了深刻影響，特別是中小學(xué)人工智能教育的普及，已經(jīng)成為當(dāng)今不可忽視的重要課程。ChatGPT等人工智能技術(shù)的出現(xiàn)，讓我們看到了人工智能將成為未來(lái)推動(dòng)科技跨越發(fā)展、生產(chǎn)力整體躍升的重要驅(qū)動(dòng)力量之一。在這個(gè)背景下，中小學(xué)教育已經(jīng)將人工智能作為重要學(xué)習(xí)內(nèi)容，并將科技
百度AI團(tuán)隊(duì)今日正式推出PaddleOCR3.1版本，以突破性的多語(yǔ)言組合識(shí)別（MultilingualCompositionPerception,MCP）技術(shù)為核心，徹底重構(gòu)復(fù)雜文檔處理邊界。此次升級(jí)標(biāo)志著OCR領(lǐng)域首次實(shí)現(xiàn)對(duì)同一文檔內(nèi)任意混合語(yǔ)言文本的精準(zhǔn)識(shí)別，為全球化企業(yè)、跨境業(yè)務(wù)及多元文化場(chǎng)
“宇樹(shù)已形成硬件、算法、場(chǎng)景聯(lián)動(dòng)的業(yè)務(wù)飛輪，自研率超95%的技術(shù)壁壘讓其成為全球機(jī)器人賽道不可忽視的中國(guó)力量?！笔壮藤Y本管理合伙人朱方文在追加投資時(shí)如是評(píng)價(jià)。7月7日，據(jù)每日經(jīng)濟(jì)新聞從宇樹(shù)科技投資方處獲悉，國(guó)內(nèi)人形機(jī)器人領(lǐng)軍企業(yè)宇樹(shù)科技（UnitreeRobotics）已明確計(jì)劃于科創(chuàng)板IPO，預(yù)計(jì)
推理與多模態(tài)的終極融合，將徹底終結(jié)用戶在不同模型間切換的煩惱。7月7日，OpenAI正式確認(rèn)將在今年夏季推出新一代人工智能模型GPT-5。這一突破性產(chǎn)品將整合現(xiàn)有的多個(gè)強(qiáng)大模型，特別是融合專(zhuān)注推理能力的“O系列”與具備多模態(tài)功能的“GPT系列”，為用戶提供前所未有的統(tǒng)一體驗(yàn)。OpenAI開(kāi)發(fā)者體驗(yàn)負(fù)
高考一結(jié)束，忙壞了海內(nèi)外一眾大模型。豆包、DeepSeek、ChatGPT、元寶、文心一言、通義千問(wèn)……掀起了一波“AI趕考”大戰(zhàn)。據(jù)悉，去年高考期間，大模型的成績(jī)才勉強(qiáng)過(guò)一本線，今年集體晉升985。據(jù)悉，豆包甚至過(guò)了清北的錄取線。頭部大模型在高考“考場(chǎng)”上玩得不亦樂(lè)乎，中小AI創(chuàng)企的處境卻日益尷尬
文/二風(fēng)來(lái)源/節(jié)點(diǎn)財(cái)經(jīng)每年高考成績(jī)放榜后，數(shù)千萬(wàn)考生和家長(zhǎng)將迎來(lái)另一場(chǎng)硬仗——填報(bào)志愿。今年，這一領(lǐng)域迎來(lái)了AI的全面介入，多家互聯(lián)網(wǎng)大廠和教育公司紛紛推出智能志愿填報(bào)產(chǎn)品，為考生提供院校和專(zhuān)業(yè)選擇建議。據(jù)艾媒咨詢數(shù)據(jù)，2023年中國(guó)高考志愿填報(bào)市場(chǎng)付費(fèi)規(guī)模約9.5億元，近九成考生愿意借助志愿填報(bào)服
蘋(píng)果還沒(méi)從WWDC25的“群嘲”中走出，又迎來(lái)了一次新的痛擊。據(jù)路透社報(bào)道，21日，蘋(píng)果公司遭到股東集體起訴，被指在信息披露中低估了將先進(jìn)生成式AI整合進(jìn)語(yǔ)音助手Siri所需的時(shí)間，導(dǎo)致iPhone銷(xiāo)量受影響、股價(jià)下滑，構(gòu)成證券欺詐。在這份訴訟中，庫(kù)克、首席財(cái)務(wù)官凱文·帕雷克及前首席財(cái)務(wù)官盧卡·馬埃
華為的盤(pán)古大模型終于推出新版本了。6月20日華為云計(jì)算CEO張平安宣布基于CloudMatrix384超節(jié)點(diǎn)的新一代昇騰AI云服務(wù)全面上線，盤(pán)古大模型5.5同步發(fā)布。不過(guò)，當(dāng)前國(guó)內(nèi)的AI大模型競(jìng)爭(zhēng)可謂是相當(dāng)激烈，華為的盤(pán)古大模型在眾多大模型中并不是十分出眾。華為云此次重磅推出的盤(pán)古大模型5.5能否從
一場(chǎng)沒(méi)有羅永浩的“羅永浩直播”，正在改寫(xiě)帶貨規(guī)則當(dāng)數(shù)字人羅永浩在百度直播間舉起青島啤酒，以標(biāo)志性幽默回應(yīng)粉絲提問(wèn)時(shí)，彈幕瘋狂刷出“這是真的還是假的？”的疑問(wèn)。這場(chǎng)持續(xù)近7小時(shí)的直播，創(chuàng)下1300萬(wàn)人次觀看、GMV突破5500萬(wàn)元的驚人戰(zhàn)績(jī)，甚至超過(guò)了他本人一個(gè)月前真人直播5000萬(wàn)元的成績(jī)。數(shù)字人主
高頻互動(dòng)、個(gè)性化教學(xué)、突破成本壁壘，AI老師讓英語(yǔ)學(xué)習(xí)更普惠。6月24日，新東方正式推出面向消費(fèi)者的首款原創(chuàng)AI教育產(chǎn)品——“新東方AI1對(duì)1”。這款產(chǎn)品標(biāo)志著新東方在教育+AI戰(zhàn)略布局中邁出關(guān)鍵一步，旨在以科技力量推動(dòng)優(yōu)質(zhì)教育資源的普惠發(fā)展。在發(fā)布會(huì)現(xiàn)場(chǎng)，新東方教育科技集團(tuán)CEO周成剛表示：“AI
大家好，我是白楊SEO，專(zhuān)注SEO十年以上，全網(wǎng)SEO流量實(shí)戰(zhàn)派，AI搜索優(yōu)化研究者。為什么想分享這個(gè)AI工作流及coze扣子這個(gè)？因?yàn)槲覀兏懔髁康娜绻麑W(xué)會(huì)了用AI給我們生產(chǎn)提效將更有助于我們?nèi)カ@客。目前白楊SEO用得并不是很好，分享僅供參考，希望給你一些啟發(fā)。老規(guī)矩，先說(shuō)下文章大綱如下：1、AI工
