关于attention计算的实现

[xbingsun]

您好，请问AMNet在论文中计算节点和滤波向量attention权重的时候，利用了如下公式：
$$w_k^i = q^T \cdot tanh(W^Z {z_k^i}^T + W^X x_i)$$
但是在代码实验中按照了以下公式：
$$w_k^i = tanh(W^Z {z_k^i}^T)^T \cdot tanh(W^X x_i)$$
因为这两种方式并不等价，所以想请问这个细节为什么和论文中不是对应的呢？