量子比特報(bào)道 | 官方賬號(hào)

經(jīng)過(guò)6年的潛心打造和優(yōu)化，如今已到了8.0版本，曠視技術(shù)體系的這一關(guān)鍵支柱正式開(kāi)源。

剛剛，中國(guó)最早以深度學(xué)**為驅(qū)動(dòng)的AI獨(dú)角獸曠視科技宣布開(kāi)源自研的深度學(xué)**框架（Brain++的核心組件之一），中文名天元，取自圍棋棋盤(pán)的中心點(diǎn)。

發(fā)布會(huì)上，曠視聯(lián)合創(chuàng)始人、CTO唐文斌透露，這也是一種對(duì)“人工智能”的致敬。

與以往開(kāi)源的“前輩”框架不同，曠視科技開(kāi)源AI框架，是其創(chuàng)業(yè)、成長(zhǎng)，以及屢創(chuàng)行業(yè)紀(jì)錄的核心驅(qū)動(dòng)引擎。

那么曠視天元為什么要開(kāi)源？目的是什么？又將給行業(yè)帶來(lái)哪些改變？

在介紹天元開(kāi)源時(shí)，唐文斌介紹了“天元”的另一層含義：萬(wàn)事萬(wàn)物的根本。

他說(shuō)：“我們希望通過(guò)天元這樣的深度學(xué)**框架，能夠作為中國(guó)人工智能的基石，幫助中國(guó)的人工智能做得更好�！�

聚焦曠視自身，開(kāi)源也是其“以算法為核心向產(chǎn)業(yè)升級(jí)，打造AI基礎(chǔ)設(shè)施”戰(zhàn)略的延伸，近幾年的一系列動(dòng)作都是朝著這個(gè)方向的持續(xù)推進(jìn)。

智能時(shí)代的生產(chǎn)力工具

2019年初，曠視科技發(fā)布AIoT操作系統(tǒng)“河圖”，應(yīng)用于物流場(chǎng)景，讓更多硬件能夠連接，實(shí)現(xiàn)平臺(tái)的統(tǒng)一管控和調(diào)度。

同時(shí)，這個(gè)體系也能讓更多的生態(tài)伙伴參與其中，發(fā)展自己的智能物流解決方案，創(chuàng)造場(chǎng)景價(jià)值。

“河圖”發(fā)布后，雖然平臺(tái)軟件讓更多硬件能夠連接、AI+場(chǎng)景更加豐富，但曠視發(fā)現(xiàn)，一個(gè)更大的需求出現(xiàn)了——場(chǎng)景是無(wú)限的。

他們認(rèn)為，這導(dǎo)致各種場(chǎng)景對(duì)算法的需求是無(wú)限的，但沒(méi)有哪家公司能夠創(chuàng)造所有的算法。要解決這個(gè)矛盾，激發(fā)整個(gè)行業(yè)的算法創(chuàng)新，需要一套對(duì)所有人開(kāi)放的人工智能基礎(chǔ)設(shè)施。

那么什么是AI基礎(chǔ)設(shè)施？

唐文斌在發(fā)布會(huì)上表示，只有AI芯片平臺(tái)、AI生產(chǎn)力平臺(tái)才能稱(chēng)為AI基礎(chǔ)設(shè)施。

其中，毫無(wú)疑問(wèn)的是，AI計(jì)算需要有AI芯片平臺(tái)支撐，而AI生產(chǎn)力則需要來(lái)自“框架”。

此前，我們?cè)谟^察和評(píng)估AI框架的時(shí)候，也有更宏觀的視角：

縱觀人類(lèi)社會(huì)三次生產(chǎn)力大爆發(fā)的時(shí)代，生產(chǎn)力的焦點(diǎn)都是規(guī)模工具的重要性，農(nóng)耕文明時(shí)代的核心是犁的使用，使農(nóng)業(yè)得以規(guī)�；�發(fā)展。

工業(yè)革命的關(guān)鍵是蒸汽機(jī)的引入和推廣，讓機(jī)器得以大規(guī)模部署和應(yīng)用，取代了手工作坊。而在智能時(shí)代，如何實(shí)現(xiàn)數(shù)據(jù)的大規(guī)模應(yīng)用和處理，成為競(jìng)爭(zhēng)力的關(guān)鍵。

通常，我們把技術(shù)視為第一生產(chǎn)力，但過(guò)于關(guān)注技術(shù)，往往會(huì)忽視“技術(shù)”大規(guī)模應(yīng)用的工具。

如果我們回過(guò)頭來(lái)看，就會(huì)發(fā)現(xiàn)這樣的一個(gè)規(guī)律：誰(shuí)掌握了時(shí)代的生產(chǎn)工具，誰(shuí)就掌握了生產(chǎn)力，誰(shuí)就有可能成為時(shí)代紅利的最大受益者，在競(jìng)爭(zhēng)中占據(jù)上風(fēng)。

按照產(chǎn)業(yè)經(jīng)濟(jì)學(xué)理論，生產(chǎn)效率的本質(zhì)在于減少消耗、增加產(chǎn)出，從而利用剩余推動(dòng)進(jìn)一步發(fā)展，并在每次增長(zhǎng)瓶頸時(shí)抓住產(chǎn)業(yè)變革的奇點(diǎn)，實(shí)現(xiàn)范式轉(zhuǎn)移和產(chǎn)能跨越，從而真正跨越周期。

具體到當(dāng)前AI驅(qū)動(dòng)的智能時(shí)代，打造人工智能算法框架無(wú)疑是降低消耗的利器：AI算法的大規(guī)模推行將促進(jìn)產(chǎn)出，各行各業(yè)將進(jìn)入新一輪能效轉(zhuǎn)型戰(zhàn)。

因此在產(chǎn)業(yè)智能化的大趨勢(shì)下，算法開(kāi)發(fā)框架的意義進(jìn)一步凸顯，成為構(gòu)建數(shù)字基礎(chǔ)設(shè)施、產(chǎn)生AI生產(chǎn)力的核心工具之一。

從這個(gè)角度來(lái)看天元，曠視科技開(kāi)源天元，不僅是對(duì)技術(shù)社區(qū)的貢獻(xiàn)，更是曠視科技引入開(kāi)放創(chuàng)新、打造Brain++生產(chǎn)力平臺(tái)、競(jìng)逐產(chǎn)業(yè)智能時(shí)代的戰(zhàn)略舉措。

唐文斌認(rèn)為，任何一個(gè)行業(yè)，只有引發(fā)標(biāo)準(zhǔn)化、規(guī)�；�的連鎖反應(yīng)，才能迎來(lái)真正的繁榮。

這是天元的設(shè)計(jì)哲學(xué)，直接體現(xiàn)在框架設(shè)計(jì)的功能和能力上。

天元框架四大特點(diǎn)

天元是曠視Brain++的核心組件之一，主要功能是借助友好的編程接口幫助開(kāi)發(fā)者進(jìn)行大規(guī)模深度學(xué)**模型的訓(xùn)練和部署。

按照曠視官方給出的總結(jié)，天元具備訓(xùn)練推理一體化、動(dòng)靜結(jié)合、包容性強(qiáng)、靈活高效等四大特點(diǎn)，可以媲美其他主流深度學(xué)**框架。

所謂訓(xùn)練推理一體化，是指通過(guò)天元訓(xùn)練得到的模型和產(chǎn)品，可以直接用于產(chǎn)品推理和封裝，在部署時(shí)，還能幫助開(kāi)發(fā)人員自動(dòng)刪除冗余代碼，實(shí)現(xiàn)模型自動(dòng)優(yōu)化。

動(dòng)靜合一，意味著天元融合了“靜態(tài)圖形性能高、占用資源少、易部署”與“動(dòng)態(tài)圖形簡(jiǎn)潔靈活、易調(diào)試、易使用”的優(yōu)勢(shì)。

在充分發(fā)揮動(dòng)態(tài)圖模型訓(xùn)練優(yōu)勢(shì)的同時(shí)，開(kāi)發(fā)者可以利用天元一鍵動(dòng)靜轉(zhuǎn)換功能，以靜態(tài)圖的形式完成生產(chǎn)部署。此外，天元還支持動(dòng)靜混合編程，靈活性更高。

發(fā)布會(huì)上，曠視研究院高級(jí)技術(shù)總監(jiān)田中博舉了一個(gè)例子。

他說(shuō)：“利用天元的動(dòng)態(tài)圖形功能的時(shí)候，大概一秒鐘就能計(jì)算出來(lái)，如果轉(zhuǎn)換成靜態(tài)圖像的話(huà)，可以支持到這個(gè)水平�！�

但這還不是全部。

他還介紹說(shuō)：“這種情況下如果要訓(xùn)練更大batch、更大的模型，可以使用亞線(xiàn)性自動(dòng)內(nèi)存優(yōu)化技術(shù)，天元可以在不降低計(jì)算速度的情況下，實(shí)現(xiàn)訓(xùn)練能力�！�

隨著模型變得越來(lái)越大、越來(lái)越深，它會(huì)發(fā)揮更好的作用。

田中博透露，根據(jù)曠視內(nèi)部的一些評(píng)估，對(duì)于一些大型模型，可以實(shí)現(xiàn)20倍以上的內(nèi)存節(jié)省，而速度幾乎沒(méi)有變化。

兼容性體現(xiàn)在天元的易用性上，其API學(xué)**成本較低，對(duì)于**慣了傳統(tǒng)機(jī)器學(xué)**的開(kāi)發(fā)者來(lái)說(shuō)，也很容易上手。此外，天元還支持直接導(dǎo)入模型的功能，遷移成本低，大大方便了模型復(fù)現(xiàn)。

靈活高效具體指天元對(duì)多平臺(tái)、多設(shè)備的適應(yīng)能力強(qiáng)，通過(guò)匯編、指令重排序等技術(shù)，天元內(nèi)置的算子無(wú)論在推理還是生產(chǎn)環(huán)境中都能充分發(fā)揮多核的優(yōu)勢(shì)，靈活調(diào)用設(shè)備的算力，尤其適合大模型算法的訓(xùn)練。

那么問(wèn)題來(lái)了，天元的能力和特性，其關(guān)鍵的秘密到底是什么呢？

建筑設(shè)計(jì)。

天元框架整體架構(gòu)

從架構(gòu)上看，天元分為計(jì)算接口、圖形表示、優(yōu)化編譯、運(yùn)行管理、計(jì)算內(nèi)核五層。

在頂層計(jì)算接口上，天元配置C++及接口，解決框架學(xué)**接口不同，模型難以復(fù)現(xiàn)的問(wèn)題；

在圖表示層，天元內(nèi)置動(dòng)靜轉(zhuǎn)換功能，支持開(kāi)發(fā)人員混合使用動(dòng)態(tài)圖和靜態(tài)圖模式進(jìn)行編程；

在優(yōu)化編譯層，天元構(gòu)建核心計(jì)算圖以支撐高效的用戶(hù)交互，并進(jìn)一步優(yōu)化和編譯API中表達(dá)的計(jì)算，包括自動(dòng)導(dǎo)數(shù)、圖優(yōu)化、圖編譯功能。

在運(yùn)行時(shí)設(shè)備管理方面，天元配置了計(jì)算調(diào)度和內(nèi)存管理兩大模塊，通過(guò)計(jì)算調(diào)度模塊將設(shè)備抽象成執(zhí)行流，通過(guò)調(diào)度器實(shí)現(xiàn)智能調(diào)度。

在內(nèi)存優(yōu)化方面，天元同時(shí)采用動(dòng)態(tài)和靜態(tài)內(nèi)存分配方式，支持自動(dòng)子線(xiàn)性?xún)?nèi)存優(yōu)化，同時(shí)曠視自主研發(fā)了自動(dòng)子線(xiàn)性?xún)?nèi)存管理優(yōu)化器，讓天元能夠達(dá)到更優(yōu)的內(nèi)存優(yōu)化效果。

天元底層（計(jì)算內(nèi)核）擁有基于異構(gòu)架構(gòu)的計(jì)算內(nèi)核，內(nèi)置高效的計(jì)算機(jī)視覺(jué)算子，并具備對(duì)X86、CUDA等主流硬件設(shè)備的智能適配能力。

它可以利用內(nèi)置算法根據(jù)設(shè)備本身啟發(fā)式地選擇最優(yōu)內(nèi)核，也可以讓用戶(hù)選擇最適合計(jì)算的內(nèi)核。

此外，天元配備高性能異構(gòu)通信庫(kù)，支持用戶(hù)在不同的機(jī)器、計(jì)算卡之間進(jìn)行高性能通信，實(shí)現(xiàn)多機(jī)多卡、大規(guī)模、分布式算法訓(xùn)練。

在實(shí)踐中使用這樣的框架會(huì)產(chǎn)生什么效果？

正如開(kāi)篇所言，曠視科技能夠成長(zhǎng)為全球估值最高的AI獨(dú)角獸之一，離不開(kāi)這個(gè)框架的強(qiáng)大驅(qū)動(dòng)。

核心中的核心

六年來(lái)，天元框架作為曠視“真核”Brain++的一部分，與深度學(xué)**云計(jì)算平臺(tái)（）、數(shù)據(jù)管理平臺(tái)（）一起支撐了曠視全部業(yè)務(wù)。

曠視科技首席科學(xué)家、研究院院長(zhǎng)孫劍表示：“曠視科技1400名研發(fā)人員全部采用天元框架，并應(yīng)用到數(shù)百款產(chǎn)品、數(shù)十個(gè)計(jì)算平臺(tái)上�！�

在孫劍看來(lái)，天元和谷歌推出的天元有很大不同。

“AI公司和平臺(tái)公司的深度學(xué)**框架考慮的點(diǎn)、位置、方向都不一樣，”他說(shuō)，“我們的深度學(xué)**框架（天元）??是基于曠視核心業(yè)務(wù)的，我們希望讓特定領(lǐng)域的AI開(kāi)發(fā)者受益，希望他們可以同時(shí)使用不同的框架，或者用不同的框架來(lái)解決不同的問(wèn)題�！�

例如在主流的計(jì)算機(jī)視覺(jué)模型（18、、v2和V2）上，天元的訓(xùn)練速度與其他主流框架存在差異。

此次開(kāi)源，曠視科技還發(fā)布了一系列圍繞天元框架的開(kāi)發(fā)工具。

例如，開(kāi)箱即用的在線(xiàn)深度學(xué)**工具，讓開(kāi)發(fā)者可以快速體驗(yàn)天元的框架，進(jìn)行模型訓(xùn)練；天元還推出了包含頂尖算法的模型中心，包括曠視研究院的最新技術(shù)和研究成果。

同時(shí)，曠視還將分布式計(jì)算中的數(shù)據(jù)并行、模型并行應(yīng)用于天元，進(jìn)一步提高大規(guī)模圖像數(shù)據(jù)處理和模型訓(xùn)練的效率。

為了在更大范圍、更多類(lèi)型的設(shè)備上部署，天元提供了神經(jīng)架構(gòu)搜索、網(wǎng)絡(luò)剪枝、構(gòu)建低比特小型神經(jīng)網(wǎng)絡(luò)等功能。

而且天元還融入曠視科技的最新技術(shù)，自動(dòng)設(shè)計(jì)深度學(xué)**算法的各個(gè)關(guān)鍵環(huán)節(jié)，讓算法訓(xùn)練算法、讓AI創(chuàng)造AI，從而降低進(jìn)入門(mén)檻。

以上這些能力都證明了天元是曠視最核心、最強(qiáng)大的能力。

最直接的例子是曠視連續(xù)三年斬獲COCO“物體檢測(cè)”冠軍，統(tǒng)治力堪比“中國(guó)乒乓球隊(duì)”。 2019年奪得ICCV冠軍后，孫劍再次感謝Brain++，稱(chēng)一系列成績(jī)的取得都離不開(kāi)背后強(qiáng)大的Brain++。

而負(fù)責(zé)Brain++平臺(tái)算法制作/研發(fā)的天元則扮演著更為重要的角色。

但即便是如此強(qiáng)大的武器，核心中的核心，如今也被曠視科技開(kāi)源了。

為什么？

耗時(shí)6年打造優(yōu)化，開(kāi)源是一場(chǎng)“無(wú)限游戲”

對(duì)于曠視科技來(lái)說(shuō)，推動(dòng)開(kāi)源的直接因素有兩個(gè)：一是技術(shù)是否成熟，二是時(shí)機(jī)是否合適。

曠視聯(lián)合創(chuàng)始人兼CEO印奇表示，這與AI產(chǎn)業(yè)的發(fā)展有直接關(guān)系。

他說(shuō)，當(dāng)算法成為改變甚至顛覆軟件行業(yè)的力量時(shí)，最后的關(guān)鍵就是這些AI公司是否具備平臺(tái)能力，即“能否批量、高效、比競(jìng)爭(zhēng)對(duì)手更迅速地供給優(yōu)質(zhì)算法”。

這場(chǎng)競(jìng)爭(zhēng)的決定性因素就是是否掌握了核心引擎的框架。

因此曠視科技在2014年就自主研發(fā)了“天元”框架，開(kāi)發(fā)時(shí)間較早。

2015年中，天元框架在曠視科技內(nèi)部全面推廣，業(yè)務(wù)線(xiàn)內(nèi)的模型全部更換為使用自研框架訓(xùn)練的版本。

同年11月，谷歌開(kāi)源該框架后，曠視一度猶豫是否繼續(xù)開(kāi)發(fā)深度學(xué)**框架，但經(jīng)過(guò)大規(guī)模評(píng)估后，曠視還是決定自己開(kāi)發(fā)框架，畢竟新框架的效果并不理想。

如今，天元在不斷完善，Brain++逐漸成型，曠視科技在不斷壯大，所競(jìng)爭(zhēng)的市場(chǎng)也在不斷擴(kuò)大，開(kāi)源已經(jīng)成為一家行業(yè)領(lǐng)先公司的責(zé)任。

“我們認(rèn)為我們應(yīng)該為中國(guó)整個(gè)人工智能生態(tài)系統(tǒng)做出一些貢獻(xiàn)。我不知道這個(gè)貢獻(xiàn)會(huì)有多大，但我認(rèn)為這是我們應(yīng)該做的�！币�奇說(shuō)。

在天元開(kāi)源發(fā)布會(huì)上，唐文斌還進(jìn)一步透露了曠視對(duì)天元的期待，希望通過(guò)開(kāi)源，能夠與更多人一起，利用AI的力量創(chuàng)造更多價(jià)值。

當(dāng)然，曠視作為一家AI創(chuàng)業(yè)公司，如何在最大程度發(fā)揮開(kāi)源能力的同時(shí)，保證核心業(yè)務(wù)不受損害？天元是否開(kāi)源、如何開(kāi)源，這也是外界關(guān)注的核心問(wèn)題。

從天元的發(fā)展路線(xiàn)圖中，我們可以看出曠視科技對(duì)于這些問(wèn)題的態(tài)度，不僅沒(méi)有回避，而且相當(dāng)坦誠(chéng)。

唐文斌坦言，此次開(kāi)源的天元是Alpha版本，基于.0，約有35萬(wàn)行代碼，覆蓋了絕大多數(shù)應(yīng)用場(chǎng)景。

6月份，曠視將發(fā)布天元Beta版本，增加對(duì)ARM系列CPU的支持、更多加速設(shè)備支持、量化與低位計(jì)算支持等功能。

9月，曠視將發(fā)布1.0正式版本，全面支持主流計(jì)算設(shè)備，升級(jí)動(dòng)態(tài)計(jì)算能力，優(yōu)化整個(gè)訓(xùn)練和推理流程的用戶(hù)體驗(yàn)。

唐文斌表示，也希望更多人能夠?qū)ξ覀兊漠a(chǎn)品提出批評(píng)、建議、貢獻(xiàn)代碼，共同建設(shè)更好的天元。

但不管怎樣，從現(xiàn)在開(kāi)始，開(kāi)發(fā)人員在選擇構(gòu)建模型算法的框架時(shí)，多了一個(gè)不可忽視的可靠選擇。

此外，對(duì)于整個(gè)AI行業(yè)來(lái)說(shuō)，競(jìng)爭(zhēng)維度也進(jìn)一步增強(qiáng)，開(kāi)源競(jìng)爭(zhēng)不再是某個(gè)算法或模型單點(diǎn)的開(kāi)源，而是變成了框架、平臺(tái)、生態(tài)群體之間的爭(zhēng)奪。

正如唐文斌所言：“AI可以賦能很多行業(yè)、很多場(chǎng)景，這是一場(chǎng)無(wú)限的游戲�！�

在這場(chǎng)博弈中，曠視因 Brain++ 而強(qiáng)大，Brain++ 因天元而無(wú)處不在。AI 復(fù)興讓曠視成為第一家上市的 AI 創(chuàng)業(yè)公司。如今，曠視正通過(guò)天元，將自己的 AI 影響力和能力傳播到更廣闊的智能時(shí)代。

量子位還問(wèn)CEO印奇，天元開(kāi)源內(nèi)部的小目標(biāo)是什么？

尹奇回答：中國(guó)開(kāi)發(fā)者中口碑最好的框架。

如今，天元已正式開(kāi)放，接受大家的考察和評(píng)鑒。

門(mén)戶(hù)網(wǎng)站：

天元深度學(xué)**框架官網(wǎng)：

開(kāi)源地址：

- 超過(guò)-

·今日頭條簽約

關(guān)注我們，第一時(shí)間獲取最新前沿科技資訊