阿里巴巴公布X-Deep Learning開源計劃,引領高維稀疏數(shù)據(jù)場景的深度學習標準

2018-11-28 10:14:21來源:威易網(wǎng)作者:

這是阿里巴巴首次公開的深度學習框架,也是業(yè)界首個面向高維稀疏數(shù)據(jù)場景的深度學習開源框架,突破了現(xiàn)有深度學習開源框架大都面向圖像、語音等低維稠密數(shù)據(jù)而設計的現(xiàn)狀,相關代碼鏈接將在12月中旬正式發(fā)布。

雙11可以說是阿里巴巴龐大商業(yè)操作系統(tǒng)的集中展示,僅僅半個月之后,阿里巴巴宣布將其中一大重要業(yè)務板塊——阿里媽媽的重要技術框架進行開源,這也是該商業(yè)操作系統(tǒng)中最具商業(yè)價值的業(yè)務板塊之一。

作為阿里巴巴旗下的大數(shù)據(jù)營銷平臺,阿里媽媽基于自身廣告業(yè)務,自主研發(fā)了深度學習框架X-Deep Learning(下文簡稱XDL),并已經(jīng)大規(guī)模部署應用在核心生產(chǎn)場景。

這是阿里巴巴首次公開的深度學習框架,也是業(yè)界首個面向高維稀疏數(shù)據(jù)場景的深度學習開源框架,突破了現(xiàn)有深度學習開源框架大都面向圖像、語音等低維稠密數(shù)據(jù)而設計的現(xiàn)狀,相關代碼鏈接將在12月中旬正式發(fā)布。

數(shù)據(jù)的高維稀疏性既是阿里媽媽業(yè)務場景的重要特征,也是互聯(lián)網(wǎng)的眾多核心應用場景(如廣告/推薦/搜索等)的特征,覆蓋了大多數(shù)互聯(lián)網(wǎng)企業(yè)的數(shù)據(jù)應用模式。對于難以與BAT研發(fā)能力比肩的眾多互聯(lián)網(wǎng)公司而言,工業(yè)級深度學習框架XDL及內(nèi)置算法方案的開源,將助力各大公司的技術升級,大大提升廣告/推薦/搜索場景的精準性,縮短技術迭代周期。

面向廣告、推薦、搜索研發(fā),XDL覆蓋互聯(lián)網(wǎng)最核心的場景

隨著深度學習的風靡,阿里媽媽以算法先行的方式進行了探索,實驗效果非常好,但很快也發(fā)現(xiàn),已有的開源框架很難滿足其廣告場景的規(guī)模性及生產(chǎn)迭代要求,自研面向工業(yè)應用的分布式深度學習框架隨即被提上了日程。

新框架XDL針對阿里媽媽業(yè)務數(shù)據(jù)高維稀疏的場景特點進行了極致優(yōu)化,性能遠超當時業(yè)界眾多的開源框架,自2016年下半年開始逐步部署到阿里媽媽的業(yè)務系統(tǒng),至2017年初全面完成了生產(chǎn)化。以阿里媽媽定向廣告為例,XDL框架助力了業(yè)務場景所有核心算法的深度學習創(chuàng)新,當年,以XDL為基礎的深度學習算法升級帶來的廣告收入提升超過百億。

不僅是廣告場景,互聯(lián)網(wǎng)其它的核心場景如推薦、搜索等,也具有典型的高維稀疏數(shù)據(jù)特性,例如微博、抖音、今日頭條等都屬于該范疇內(nèi)。因此,XDL在這些場景中也具有非常高的通用性,這為開源提供了基礎。不管是以廣告、推薦、搜索為代表業(yè)務的企業(yè)級用戶,還是對此感興趣的個人用戶,都可以加入到開源計劃當中。

值得一提的是,在阿里巴巴XDL開源之前,業(yè)界的深度學習開源框架基本是面向圖像、語音處理等場景數(shù)據(jù)而設計,這與整個人工智能領域的研究重點有關,圖像和語音是率先取得理論突破的場景,但在工業(yè)級互聯(lián)網(wǎng)場景中實現(xiàn)大突破還屬首次。

開放與易用,阿里巴巴引領業(yè)界高維稀疏數(shù)據(jù)的技術標準

據(jù)阿里媽媽透露,XDL框架從設計之初,就具備了足夠的開放性和易用性,開源是水到渠成的一步。

XDL創(chuàng)造性地采用了橋接的架構設計理念,重點打造面向工業(yè)級應用的分布式規(guī)模能力,單機能夠處理的計算則引用現(xiàn)有開源框架。這種橋接的架構,使得XDL跟業(yè)界的開源社區(qū)是無縫對接的,例如用戶可以非常方便地在XDL框架上應用基于Tensorflow或者Pytorch編寫的最先進開源深度學習算法。此外,對于已經(jīng)在使用其它開源框架的企業(yè)或者個人用戶,也可以在原有系統(tǒng)基礎上輕松進行擴展,享受XDL帶來的高維稀疏數(shù)據(jù)場景下極致的分布式能力。

除了核心的XDL訓練框架外,阿里媽媽透露將全面開源面向高維稀疏數(shù)據(jù)場景的系統(tǒng)化解決方案,計劃分批次對外發(fā)布,包括面向在線實時服務的高性能深度學習預估引擎、面向全庫實時檢索的全新深度學習匹配引擎;同時還內(nèi)置阿里媽媽自主研發(fā)的一系列創(chuàng)新算法,涉及CTR預估模型、CVR預估模型、匹配召回模型、模型壓縮訓練算法等等。

阿里媽媽“讓天下沒有難做的營銷”的使命在近年來又多了一層含義,Ad Tech 技術驅(qū)動廣告的色彩明顯。阿里媽媽產(chǎn)品技術部資深總監(jiān)蓋坤表示,阿里媽媽不只自身在打造前沿的AI技術,更希望通過技術開源來賦能大家,推動整個領域技術的前進,讓創(chuàng)新的算法方案層出不窮。