模型结构

[fangding678]

老哥，我对你代码的理解，first_order是F维，second_order是K维，Deep层输出维度。这三个维度concat之后再加权输出？
这个跟论文好像不一样呀……

[ghost]

我猜应该是你的理解错了

[sudongxiang]

仔细看代码吧，问题不大

[futureer]

concat之后再输出，在计算结果上，和论文中 sigmoid(y_FM+y_DNN) 单独计算再加和是一样的。

我觉得first order乘以feature_bias是多余的。因为embedding的结果与deep、second order拼接最后接一个projection layer，只看feat_value-projection这一块就已经是等价LR <w, x>的形式（论文中的公式2），在前面乘以一个feature_bias又不加非线性激活函数完全没必要。

PS：在gayhub上讨论，是不是还是用英语更合适？

[van19]

concat之后再输出，在计算结果上，和论文中 sigmoid(y_FM+y_DNN) 单独计算再加和是一样的。

我觉得first order乘以feature_bias是多余的。因为embedding的结果与deep、second order拼接最后接一个projection layer，只看feat_value-projection这一块就已经是等价LR <w, x>的形式（论文中的公式2），在前面乘以一个feature_bias又不加非线性激活函数完全没必要。

PS：在gayhub上讨论，是不是还是用英语更合适？

我也有此疑问，
按论文中的意思，y_FM= reduce_sum(first_order,1) + reduce_sum(second_order,1)
y_DNN = reduce_sum(y_deep,1)，这个和
concat([first_order, second_order, y_deep]) X weights["concat_projection"])是不等价的吧，毕竟weights["concat_projection"]是不全为1的向量（变量），而且只有wx和DNN最后一层需要乘，second_order的<vi,vj>xixj项不需要乘weight
不知道是不是我理解不对？

[ninesky110]

concat之后再输出，在计算结果上，和论文中 sigmoid(y_FM+y_DNN) 单独计算再加和是一样的。
我觉得first order乘以feature_bias是多余的。因为embedding的结果与deep、second order拼接最后接一个projection layer，只看feat_value-projection这一块就已经是等价LR <w, x>的形式（论文中的公式2），在前面乘以一个feature_bias又不加非线性激活函数完全没必要。
PS：在gayhub上讨论，是不是还是用英语更合适？

我也有此疑问，
按论文中的意思，y_FM= reduce_sum(first_order,1) + reduce_sum(second_order,1)
y_DNN = reduce_sum(y_deep,1)，这个和
concat([first_order, second_order, y_deep]) X weights["concat_projection"])是不等价的吧，毕竟weights["concat_projection"]是不全为1的向量（变量），而且只有wx和DNN最后一层需要乘，second_order的<vi,vj>xixj项不需要乘weight
不知道是不是我理解不对？

我们俩理解的一样，测一测哪一种策略指标高一点