avav588con,最近2019中文免费字幕在线观看,欧美一道本一区二区三区,九九热在线观看,经典好看免费AV

移動版

當前位置：智慧城市網(wǎng)資訊中心市場分析

新發(fā)產(chǎn)品更多
繼華為曠視之后 騰訊優(yōu)圖開源人臉識別底層技術(shù) 意欲何為？
2020年06月28日 09:27:31來源：CPS中安網(wǎng)點擊量：36491
導讀6月10日，騰訊優(yōu)圖團隊開源了全新升級的輕量級深度學習前端推理框架TNN，通過底層技術(shù)優(yōu)化實現(xiàn)在多個不同平臺的輕量部署落地，性能優(yōu)異、簡單易用。
　　【安防展覽網(wǎng) 市場分析】 6月10日，騰訊優(yōu)圖團隊開源了全新升級的輕量級深度學習前端推理框架TNN，通過底層技術(shù)優(yōu)化實現(xiàn)在多個不同平臺的輕量部署落地，性能優(yōu)異、簡單易用。
 
　　開源助力底層技術(shù)發(fā)展
 
　　作為騰訊旗下頂級AI實驗室，騰訊優(yōu)圖長期致力于AI基礎(chǔ)設(shè)施的研發(fā)和推進。
 
　　此前，騰訊優(yōu)圖已開發(fā)了 Rapidnet 前向計算框架、RapidAIoT 邊緣計算框架，實現(xiàn)了業(yè)界專注移動端的推斷框架 ncnn 的開源，并在業(yè)界受到廣泛推崇。
 
　　從2017年開源至今，ncnn在GitHub上的star(8.9k)數(shù)和fork(2.3k)數(shù)均于其它推理框架。
 
　　據(jù)悉，TNN已于3月中旬在騰訊內(nèi)部開源，為騰訊QQ、QQ空間、騰訊微視、騰訊云、天天P圖等多款產(chǎn)品和服務(wù)持續(xù)提供技術(shù)能力，釋放出更多效能。
 
繼華為曠視之后，騰訊優(yōu)圖開源人臉識別底層技術(shù)，意欲何為？
TNN框架結(jié)構(gòu)圖
 
　　TNN框架特性總結(jié)：
 
　　TNN采用統(tǒng)一的ONNX模型作為中轉(zhuǎn)，兼容各大框架，這也反映出業(yè)界對于ONNX模型的中轉(zhuǎn)方式的認可和推動；
 
　　TNN支持FP16和int8的量化；
 
　　TNN支持計算圖的優(yōu)化，至于具體采用了何種優(yōu)化模式進行優(yōu)化，還需要進一步深入代碼了解；
 
　　TNN通過抽象化的kernel接口使得算子可以跑在不同的硬件平臺之上，支持ARM，GPU，NPU等計算。
 
　　另外，根據(jù)TNN的描述，它還具有優(yōu)點：
 
　　通過ONNX支持TensorFlow，PyTorch，MXNet，Caffe等多種訓練框架，充分利用和融入不斷完善的ONNX開源生態(tài)。當前支持ONNX算子55個，近期會完善到約80個，覆蓋主流CNN網(wǎng)絡(luò)；
 
　　支持主流安卓、iOS、Embedded Linux 操作系統(tǒng)，支持ARM CPU，GPU硬件平臺(近期還會加入達芬奇 NPU 支持)；
 
　　模塊化設(shè)計，將模型解析、計算圖構(gòu)建、優(yōu)化、底層硬件適配、高性能kernel實現(xiàn)各部分抽象隔離，通過Factory Mode注冊、構(gòu)建設(shè)備，方便接入更多的底層硬件、加速方案；
 
　　Runtime無任何第三方庫依賴，CPU動態(tài)庫尺寸僅約400KB，并提供基礎(chǔ)圖像變換操作，調(diào)用簡單便捷?？缙脚_模型統(tǒng)一、調(diào)用接口統(tǒng)一，通過單個配置參數(shù)快速切換。
 
繼華為曠視之后，騰訊優(yōu)圖開源人臉識別底層技術(shù)，意欲何為？
 
　　輕量級部署，TNN助力深度學習提速增效
 
　　深度學習對算力的巨大需求一直制約著其更廣泛的落地，尤其是在移動端，由于手機處理器性能弱、算力無法多機拓展、運算耗時長等因素常常導致發(fā)熱和高功耗，直接影響到app等應(yīng)用的用戶體驗。
 
　　針對這些問題，優(yōu)圖團隊對TNN框架做出了三類主要優(yōu)化：
 
　　?‍ 計算優(yōu)化
 
　　針對不同架構(gòu)在硬件指令發(fā)射、吞吐、延遲、緩存帶寬、緩存延遲、寄存器數(shù)量等特點，深度優(yōu)化底層算子，*利用硬件算力；
 
　　主流硬件平臺(CPU: ARMv7，ARMv8，GPU: Mali，Adreno， Apple) 深度調(diào)優(yōu)；
 
　　CNN核心卷積運算通過Winograd，Tile-GEMM，Direct Conv等多種算法實現(xiàn)，保證不同參數(shù)、計算尺度下高效計算；
 
　　Op融合：離線分析網(wǎng)絡(luò)計算圖，多個小Op(計算量小、功能較簡單)融合運算，減少反復(fù)內(nèi)存讀取、kernel 啟動等開銷。
 
　　?‍低精度優(yōu)化
 
　　支持INT8，F(xiàn)P16低精度計算，減少模型大小、內(nèi)存消耗，同時利用硬件低精度計算指令加速計算；
 
　　支持INT8 Winograd算法，(輸入6bit)，在精度滿足要求的情況下，進一步降低模型計算復(fù)雜度；
 
　　支持單模型多種精度混合計算，加速計算同時保證模型精度。
 
　　?‍ 內(nèi)存優(yōu)化
 
　　高效”內(nèi)存池”實現(xiàn)：通過 DAG 網(wǎng)絡(luò)計算圖分析，實現(xiàn)無計算依賴的節(jié)點間復(fù)用內(nèi)存，降低 90% 內(nèi)存資源消耗；
 
　　跨模型內(nèi)存復(fù)用：支持外部實時*用于網(wǎng)絡(luò)內(nèi)存，實現(xiàn)“多個模型，單份內(nèi)存”。
 
　　騰訊優(yōu)圖基于自身在深度學習方面的技術(shù)積累，并借鑒業(yè)內(nèi)主流框架優(yōu)點，推出了針對手機端的高性能、輕量級移動端推理框架TNN。
 
　　TNN在設(shè)計之初便將移動端高性能融入核心理念，對2017年開源的ncnn框架進行了重構(gòu)升級。通過GPU深度調(diào)優(yōu)、ARMSIMD深入?yún)R編指令調(diào)優(yōu)、低精度計算等技術(shù)手段，在性能上取得了進一步提升。
 
　　目前TNN框架在騰訊QQ、騰訊微視、天天P圖等應(yīng)用中的落地，也獲得了廣泛的好評。優(yōu)圖團隊的框架開源，顯示出騰訊在推動底層技術(shù)革新和擁抱開源文化的態(tài)度。
 
　　近期，繼曠視天元Brain++，華為MindSpore框架后，騰訊也開源了其深度學習推理框架。
 
　　目前人工智能技術(shù)的火熱發(fā)展，離不開作為基礎(chǔ)設(shè)施的深度學習組件、框架的積累。
 
　　在開源文化興起的大環(huán)境下，頭部企業(yè)對于底層框架的開源，將帶動整個行業(yè)對底層技術(shù)的關(guān)注和投入，從而更好地推動人工智能技術(shù)地發(fā)展與升級。
關(guān)鍵詞 華為曠視騰訊優(yōu)圖
相關(guān)閱讀更多
版權(quán)與免責聲明：

凡本網(wǎng)注明“來源：智慧城市網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-智慧城市網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：智慧城市網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責任。

本網(wǎng)轉(zhuǎn)載并注明自其它來源（非智慧城市網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點或和對其真實性負責，不承擔此類作品侵權(quán)行為的直接責任及連帶責任。其他媒體、網(wǎng)站或個人從本網(wǎng)轉(zhuǎn)載時，必須保留本網(wǎng)注明的作品第一來源，并自負版權(quán)等法律責任。

如涉及作品內(nèi)容、版權(quán)等問題，請在作品發(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。

正在閱讀：繼華為曠視之后 騰訊優(yōu)圖開源人臉識別底層技術(shù) 意欲何為？
我要投稿
  • 投稿請發(fā)送郵件至：(郵件標題請備注“投稿”）afzhan@foxmail.com
  • 聯(lián)系電話0571-87756384
智慧城市行業(yè)“互聯(lián)網(wǎng)+”服務(wù)平臺
智慧城市網(wǎng)APP

功能豐富 實時交流

智慧城市網(wǎng)小程序

訂閱獲取更多服務(wù)

微信公眾號

關(guān)注我們

抖音

智慧城市網(wǎng)

抖音號：afzhan

打開抖音 搜索頁掃一掃
i

視頻號

AF智慧城市網(wǎng)

視頻號ID：sphF7DOyrojJnp8

打開微信掃碼關(guān)注視頻號

小紅書

智慧城市

小紅書ID：2537047074

打開小紅書 掃一掃關(guān)注
反饋