Time2Vec

我们使用 τ 来表示时间的标量概念

将时间特征和其他的特征连接在一起 拼接

我们设计了一种时间表示，可用于通过可学习参数逼近任何函数。

主要的函数 上面的 ω φ是可以学习的参数

直观地说，位置可以被认为是时间，项目可以被认为是当时发生的事件。

因此，Time2Vec 可以被认为是使用正弦函数来表示连续时间而不是离散位置。Time2Vec 中的正弦函数还能够捕获位置编码中不是目标的周期性行为。

将 Time2Vec 作为模型的输入（或模型中的某个门），而不是将其添加到其他向量表示中

用 Time2Vec 替换时间可以提高性能。

学习频率和相移，而不是固定它们有助于提高模型的性能

也就是说，我们将输入特征 xxx 与 k 个正弦信号连接起来，并馈送串联[xxx；sin(ω1τ+φ1)；.; sin(ωkτ + φk)] 进入序列模型。可以通过取不同权重的加权和来使用这些正弦信号创建不同的时间函数。

我们允许序列模型的权重结合正弦信号并创建适合任务的时间函数。

time2vec

是一个很好的 处理时间的一个方法