FFM

FFM

1. 论文

Field-aware Factorization Machines for CTR Prediction

创新：FFM模型，但本实验只是为了测试，无实际用途，参考FFM库https://github.com/ycjuan/libffm；

2. 模型结构

3. 实验数据集

采用Criteo数据集进行测试。数据集的处理见../data_process文件，主要分为：

1. 考虑到Criteo文件过大，因此可以通过read_part和sample_sum读取部分数据进行测试；
2. 对缺失数据进行填充；
3. 对密集数据I1-I13进行离散化分桶（bins=100），对稀疏数据C1-C26进行重新编码LabelEncoder；
4. 整理得到feature_columns；
5. 切分数据集，最后返回feature_columns, (train_X, train_y), (test_X, test_y)；

4. 模型API

class FFM(Model):
    def __init__(self, feature_columns, k, w_reg=1e-6, v_reg=1e-6):
        """
        FFM architecture
        :param feature_columns: A list. sparse column feature information.
        :param k: the latent vector
        :param w_reg: the regularization coefficient of parameter w
		:param field_reg_reg: the regularization coefficient of parameter v
        """

5. 实验超参数

• file：Criteo文件；
• read_part：是否读取部分数据，True；
• sample_num：读取部分时，样本数量，10000；
• test_size：测试集比例，0.2；
• k：隐向量，10；
• learning_rate：学习率，0.001；
• batch_size：512；
• epoch：5；

6. 实验结果

采用Criteo数据集中前100w条数据，最终测试集的结果为：AUC:0.665989 【500w因为参数量太大，直接oom】