柚子快報激活碼778899分享：人工智能 時序知識圖譜

http://yzkb.51969.com/

本文是對論文A Survey on Knowledge Graphs: Representation, Acquisition and Applications的翻譯，刪繁就簡，使用盡量通俗的語言。由于本人能力有限，難免會有錯誤，請見諒！

6. 時序知識圖譜

當(dāng)前知識圖譜研究大多關(guān)注靜態(tài)KG，不會隨時間變化，而時變的KG探索較少。但是時序信息非常重要，因為很多結(jié)構(gòu)化的知識只在特定的之間內(nèi)有效，facts的變化遵循一個時間序列。近來的研究開始將時序信息融入到KRL和KGC中，稱為時序知識圖譜。

（1）時序信息Embedding

時間感知的Embedding主要融入了時序的信息，將三元組擴展到四元組(h,r,t,τ)，τ提供了關(guān)于fact的額外的時間信息。Leblay, 2018在帶有時間標(biāo)注的三元組上研究了時間范圍預(yù)測，簡單地擴展了已有的embedding方法，基于向量的TransE方法TTransE，定義為：

fτ(h,r,t)=?||h+r+τ?t||L1/2

時間范圍4元組在原來3元組的基礎(chǔ)上添加了時間范圍[τs,τe]，其中τs,τe分別表示三元組有效的起始和終止時間。當(dāng)給定一個時間戳τ的時候，可以根據(jù)動態(tài)KG得到靜態(tài)的子圖Gτ。HyTE, 2018將時間戳看做超平面wτ，將實體和關(guān)系的表征進行映射，以head實體為例Pτ(h)=h?(wτTh)wτ，tail實體和關(guān)系同理。時間映射打分函數(shù)為：

fτ(h,r,t)=||Pτ(h)+Pτ(r)?Pτ(t)||L1/L2

其中，映射轉(zhuǎn)義公式為Pτ(h)+Pτ(r)≈Pτ(t)。

LSE4KGC, 2018將為詞序列和時間詞序列進行拼接，然后使用LSTM編碼拼接后的時間感知的謂詞序列。LSTM的最后的隱層作為時間感知的關(guān)系Embedding?rtemp。擴展的TransE和DistMult對應(yīng)的打分函數(shù)分別為‖h+rtemp?t‖2,(h°t)rtempT。通過將實體e的上下文定義為包含e的事實的集合，Liu, 2019提出上下文選擇器來捕獲有用的上下文，然后使用選擇的上下文衡量時序一致性。

（2）動態(tài)實體

現(xiàn)實中的時間會影響實體的狀態(tài)以及對應(yīng)的關(guān)系。為了改善時間范圍推理，CTPM, 2014將時間范圍問題建模為狀態(tài)變化檢測，使用上下文學(xué)習(xí)狀態(tài)到狀態(tài)改變的向量。Know-evolve, 2017，深度進化知識網(wǎng)絡(luò)，研究了實體在KG中的演化以及它們演化之后的關(guān)系。有研究使用多源時間點過程模擬facts的變化，使用RNN學(xué)習(xí)非線性時間演化的表征。為了捕獲節(jié)點之間的交互，RENET, 2019通過基于RNN的事件編碼器和鄰居聚合器建模事件序列。具體來說，RNN用來捕獲時間實體交互，通過鄰居聚合器聚合并發(fā)的交互。

（3）時序關(guān)系依賴

現(xiàn)有的時序依賴主要以遵循時間線的關(guān)系鏈形式存在，比如wasBornIn --> graduateFrom --> workAt --> diedIn。Jiang, 2016提出時間感知Embedding，基于時序正則化的聯(lián)合學(xué)習(xí)框架，來融合事件序列和一致性信息。定義時序打分函數(shù)為f(?rk,rl?)=‖rkT?rl‖L1/2，T∈Rd×d是一個對稱矩陣，對于一個時間序列關(guān)系對$$編碼關(guān)系的時間順序。利用整數(shù)線性規(guī)劃公式，進一步應(yīng)用分離、有序和段落這3個時間一致性約束。

（4）時序邏輯推理

也有研究使用邏輯規(guī)則進行時序推理。Chekol, 2017探索馬爾科夫邏輯網(wǎng)絡(luò)和概率軟邏輯，在不確定時序KG上進行推理。RLvLR-Stream, 2019考慮時間相鄰路徑規(guī)則，從KG流中學(xué)習(xí)規(guī)則的結(jié)構(gòu)用于推理。

柚子快報激活碼778899分享：人工智能 時序知識圖譜

http://yzkb.51969.com/

相關(guān)閱讀