[TOC]
考虑 KG 中并发事实之间的结构依赖关系、跨时间相邻事实的顺序模式和实体的静态属性。
考虑了所有的依赖关系
在时间t有指向的多关系图，V指实体集合，R表示关系，😱
剩下的表示在时间t的事实集合，他可以用4元组来表示
其中的意思就是这就是一个事实，即一个关系为r的事实，什么事实呢，就是s和o在t时刻的事实
实体预测 (𝑠, 𝑟, ?, 𝑡 +1) (？, 𝑟, o, 𝑡 +1)
关系预测 (𝑠, ？, o, 𝑡 +1)
预测的取决于下面的
Ht和Rt 用到实体和关系在t时刻的嵌入矩阵
REGCN MODEL
RE-GCN 在每个时间戳、跨时间相邻事实的信息顺序模式和实体的静态属性集成到实体和关系的进化表示中。
多任务评分函数，
The Evolution Unit
The evolution unit consists of a relation-aware GCN, two gate recurrent components, and a static graph constraint component.
a relation-aware GCN：attempts to capture the structural dependencies within the KG at each timestamp.
two gate recurrent components：model the historical KG sequence auto-regressively.
a static graph constraint component：integrates the static properties to the evolutional embeddings by adding some constraints between static embeddings and evolutional embeddings of entities. 将静态属性集成到进化嵌入中。
（具体来说，时间门循环组件和 GRU 组件相应地获得每个时间戳实体和关系的演变表示。）
并发事实之间的结构依赖性
时间相邻事实的顺序模式
包含时间相邻事实信息的一种直接有效的方法是使用输出实体嵌入矩阵
潜在的顺序模式是通过堆叠层关系感知 GCN 来建模的。
可能会导致梯度消失问题，因此采用时间门控循环来解决问题
当前时间戳实体嵌入矩阵和上一个时间戳的
𝜎 (·) is the sigmoid function and W4 ∈ R𝑑×𝑑 is the weight matrix of the time gate.
因为是不断进化的，所以关系矩阵又会有变化
当前timestamp嵌入的关系矩阵收到之前关联实体的影响，因此采用 GRU 组件对关系的顺序模式进行建模。
实体嵌入矩阵Ht-1
Static Properties
构成静态图的实体的一些静态属性可以看作是TKG的背景知识，有助于模型学习更准确的实体演化表示。因此，我们将静态图合并到进化表示的建模中。、
R-GCN 可以对多关系图进行建模，而无需对关系进行任何额外的嵌入。因此，我们采用没有自循环的 1 层 R-GCN 来获得 TKG 中实体的静态嵌入。
我们将进化嵌入和同一实体的静态嵌入之间的角度限制在不超过时间戳相关阈值。随着时间的推移，它会增加，因为实体的进化嵌入的允许变量范围会随着出现越来越多的事实而持续扩展。
Score Functions for Different Tasks
选择ConvTransE[30]作为我们的解码器。ConvTransE 包含一个一维卷积层和一个全连接层。我们使用 ConvTransE (·) 来表示这两个层。然后，所有实体的概率向量为：
Parameter Learning
关键： 可以更好的进化嵌入实体和关系矩阵
时间门控循环组件的必要性
