柚子快報邀請碼778899分享：知識、數(shù)據(jù)雙驅動模型論文閱讀

http://yzkb.51969.com/

[論文閱讀]數(shù)據(jù)驅動與知識引導結合下人工智能算法模型（綜述）

當前人工智能的學習模式主要以數(shù)據(jù)驅動為主要手段，以深度神經網絡為主流的機器學習算法取得了顯著進展。但是這種數(shù)據(jù)驅動的人工智能手段依然面臨數(shù)據(jù)獲取成本高、可解釋性弱、魯棒性不強等不足。該文認為在現(xiàn)有機器學習算法中引入先驗假設、邏輯規(guī)則和方程公式等知識，建立數(shù)據(jù)和知識雙輪驅動的人工智能方法，將推動更通用計算范式的變革創(chuàng)新。

該文將可用于引導人工智能算法模型知識歸納為4種——邏輯知識、視覺知識、物理定律知識和因果知識，探討將這些知識與現(xiàn)有數(shù)據(jù)驅動模型相互結合的典型方法。

1. 數(shù)據(jù)與邏輯知識雙驅動方法

邏輯知識一般采取基于知識圖譜(Knowledge Graph)的方式表征。目前將知識圖譜引入深度學習的技術主要有兩種方式：

一是將知識圖譜的語義信息輸入到深度學習中，例如以翻譯嵌入(Translating Embeddings, TransE)、旋轉嵌入( Rotation Embedding, RotatE)為代表的知識表示算法和圖卷積網絡、圖注意力網絡等圖神經網絡模型。

二是使用知識圖譜的知識作為優(yōu)化的約束條件。

知識圖譜與深度學習的融合雖然已有較多研究工作，但目前仍未實現(xiàn)深度融合，知識表示產生的損失、常識和領域知識的融合等問題都有待進一步解決。

2. 數(shù)據(jù)與視覺知識雙驅動方法

視覺知識目前主要依賴變分自動編碼器、膠囊網絡、3維重建等算法對圖像進行處理和建模來實現(xiàn)視覺知識的學習，可以被廣泛應用在視覺識別、圖像生成、3維重建等后續(xù)計算機視覺任務中。主要是通過對視覺圖像的特征解耦，區(qū)分背景和物體以及在未知環(huán)境中的遷移等任務。

視覺知識具有典型和范疇結構、層次結構和動作結構，可以清晰地限定類別邊界和層級關系，降低模型對大規(guī)模標注數(shù)據(jù)的依賴。因此，如何進一步將視覺知識與目前數(shù)據(jù)驅動下的深度學習技術進行融合是重要的研究方向。

3. 數(shù)據(jù)與科學定律知識雙驅動方法

科學領域中大量的知識已經被數(shù)學定義和表達，包括代數(shù)、微分方程和不等式等等。人工智能與科學研究相互結合可以對刻畫物理世界的復雜方程進行求解，如預測化學反應中分子之間微觀運動和揭示大氣中湍流變化規(guī)律，以計算方式合理應用科學定律來系統(tǒng)化地解決現(xiàn)實中復雜問題。

簡單形式的方程可以作為約束來規(guī)范訓練過程，例如使用動力學方程作為正則化項預測重力作用下的物體軌跡；復雜形式的方程例如偏微分方程，就可以研究人工智能與科學相互結合的途徑，探索相關的智能模型和解算方案，助力實現(xiàn)在這些方程所屬科學領域的重大科學問題的研究突破。

4. 數(shù)據(jù)與因果知識雙驅動方法

Judea Pearl將推理按照由易到難程度分成3個層次：

從可觀測結果中得到的數(shù)據(jù)關聯(lián)(association)對觀測結果進行干預介入(intervention)后的決策問題對已經發(fā)生的結果進行否定的反事實推理(counter-factual)。

因果效應評估是洞悉觀測數(shù)據(jù)中因果關聯(lián)的重要途徑，其關鍵挑戰(zhàn)在于消除混淆變量(confounder)對干預變量(treatment)的影響。

因果知識和深度學習相互融合的方式有以下兩種：

(1) 大數(shù)據(jù)驅動因果推理

傳統(tǒng)機器學習算法在使用大數(shù)據(jù)相關關系進行模型推理時，忽略了潛在的混淆變量可能導致的數(shù)據(jù)間的虛假相關和虛假獨立，從而影響推理結果。

在大數(shù)據(jù)環(huán)境下，傳統(tǒng)因果推理面臨噪聲變量、高維變量、未觀測變量等多種形式的混淆變量的挑戰(zhàn)，因此更需要排除混淆變量找出真正的因果關系。

(2)因果啟發(fā)的機器學習

旨在將因果關系引入機器學習，讓算法能夠學習因果關系，從而解決傳統(tǒng)機器學習的不可解釋、不可泛化問題。

5. 總結

柚子快報邀請碼778899分享：知識、數(shù)據(jù)雙驅動模型論文閱讀

http://yzkb.51969.com/

推薦文章