关于原理和代码，可以参考我的博客。
1、构建docker容器：bin/build.sh
2、训练：
- 训练mnist数据集，纯softmax：
bin/train.docker 1 mnist.ce, 1是显卡的序号，从0开始 - 训练mnist数据集，使用arcface：
bin/train.docker 1 mnist.arcface - 训练人脸数据集，使用arcface：
bin/train.docker 1 face
3、单独跑测试：bin/train.docker 1 test，这个集成到训练过程中了，也可以单独跑
4、启动tensorboard：bin/tboard.sh，可以观察2维可视化、查看训练中的样本图像采样、查看loss/acc等指标
我们使用了CeleBa的训练集（20万张），LFW的验证集（6000张）。
由于我们服务器上是CUDA7，对应pytorch是1.0，程序有很多问题。 于是，我们使用了docker方式训练（docker可以封装CUDA，且像显卡驱动低版本兼容）， 我们使用了tensorflow2.0-gpu的容器，然后跑了一个Dockerfile， build出来我们自己的训练容器：[arcface.img:v1]。 然后使用命令train.docker，会启动容器进行训练。
训练不收敛，后来，尝试了Mnist数据集，用一个小的数据集确认了arcface的有效性， 虽然可视化感觉是收敛的（2维可视化），但是和论文里那种聚簇到一起、类间距很大的效果还是差很多。
最终的结果：
在最后的各类调整后，结果收敛：
- 用了resnet的avg层，放弃了5x5x2048的方式，减少了全连接的参数量
- m=1.2，s=64
- 设置easy_margin = True，(夹角超过180度，CosFace 代替 ArcFace)
训练大概10个小时，1万个分类，train acc接近到1，test acc大概是82%，还和论文有一定差距，需要再优化。
训练的详细过程，防止在训练日志中，以供参考
基于原有版本，我们做了如下改进：
- 追加注释，对每行代码理解，与论文严格对应并注释
- 构建了上述的训练docker容器，方便pytorch1.7-gpu版本的docker容器方式训练
- 实现了一个ealy stop，来方便早停
- 改造了Visualizer，方便与容器外的visdom服务器通讯
- 还增加了tensorboard的支持，作为visdom的备份（visdom不好用）
- 改造了数据集加载，配合使用下面说的数据集加载
- 为了对比验证，增加了Mnist数据集的测试，分别测试一般的全连接，和arcface的约束
- 增加了mnist的可视化plot，画了一个二维的环形图，用于和论文的效果做对比
旧代码用的训练集是Webface数据：CASIA-webface做训练集，
我改成了CelebA数据集作为训练集：CelebA数据集
测试集仍然使用原代码的lfw数据集，用于计算acc：LfW数据集
训练数据
train <--- CelebA数据集
├── Anno
│ └── identity_CelebA.txt
└── Img
└── img_align_celeba
├── 010353.jpg
├── 134059.jpg
└── 139608.jpg
测试数据
val <--- lfw数据集
├── images
│ ├── AJ_Cook
│ │ └── AJ_Cook_0001.jpg
│ ├── AJ_Lamas
│ │ └── AJ_Lamas_0001.jpg
│ ├── Aaron_Eckhart
│ │ └── Aaron_Eckhart_0001.jpg
-
构建容器 容器其实不太好构建，你得清楚docker容器是包含CUDA的，且，CUDA是向下兼容显卡driver的，否则，你可能会逼着自己把服务器显卡驱动升级， 我不是说升级不好，但是升级就需要重启服务器，我不想这么折腾。
-
代码理解 loss里面的exp( s * cos(θ + m) )，需要使用三角函数的和差化积，你要是不理解这个细节，就会盯着代码发蒙半天 另外，就是要对arcface的loss深刻理解，特别是理解W就是分类的中心，如果你不知道我在说什么，请回去看论文
-
数据集 原作者使用的是webface数据集，10575个人，494414张人脸图像（1万人，50万张脸），不过我看有人说，数据有噪音， 所以，我就选择了CeleBrayA数据集，10177人，202599万张图片，说是噪音少一些，好吧，其实对数据集的选择很主观的。 所以，用lfw，另外一个数据集来做test，也算是公平把。 未来，我可以再用webface训练一遍，看看到底效果是否可以提升吧。
wc -l identity_CelebA.txt > 202599 identity_CelebA.txt <---- 图像确实202599张 cat identity_CelebA.txt|awk '{print $2}'|sort|uniq|wc -l >10177 <---- 分类数确实是10177常见的数据集：
人脸识别数据集
WebFace 10k+人，约500K张图片 非限制场景，图像250x250 FaceScrub 530人，约100k张图片 非限制场景 YouTubeFace 1,595个人 3,425段视频 非限制场景、视频 LFW 5k+人脸，超过10K张图片 标准的人脸识别数据集，图像250x250 MultiPIE 337个人的不同姿态、表情、光照的人脸图像，共750k+人脸图像 限制场景人脸识别 MegaFace 690k不同的人的1000k人脸图像 新的人脸识别评测集合 IJB-A 人脸识别，人脸检测 CAS-PEAL 1040个人的30k+张人脸图像，主要包含姿态、表情、光照变化 限制场景下人脸识别 Pubfig 200个人的58k+人脸图像 非限制场景下的人脸识别 CeleBrayA 200k张人脸图像40多种人脸属性，图像178x218人脸检测数据集
FDDB 2845张图片中的5171张脸 标准人脸检测评测集 链接 IJB-A 人脸识别，人脸检测 链接 Caltech10k WebFaces 10k+人脸，提供双眼和嘴巴的坐标位置 人脸点检测 链接 -
图像加载 训练图像用的是PLI加载后，调用pytorch的transforms包，来的调用的，这个包必须要求是PIL的image。 而测试的图像加载使用的是cv2，为了保持一致，需要把cv2的GBR通道转化成RGB通道， 另外，训练的图像都做了归一化，所以，测试加载也把图像做了归一化处理（ - 127.5 / 255 ) 注意，这个不是严格意义上的归一化，应该是 - mean/max，不过，训练也是这样做的，所以就OK了。
-
网络的改进 为了验证arcface可以类内聚，类间分开，我构建了一个mnist网络，用来通过可视化plot来展示分离效果， trick是要把embedding搞成2维，这样也不需要用什么tsne/pca了，但是2维肯定无法表示人脸， 所以才引入mnist数据集来测试的，我看论文中也都是使用mnist和二维embedding来验证loss函数的有效性的。
人脸的网络，其实是用resnet做了特征抽取后，再接了一个全连接降维到128，然后在用128和1万个分类做全连接， 之后，再加上和Weight（也就是类中心）的约束后，得到当前embedding和每个类的cos值，用cos值再做交叉熵。
参数量：
resnet50：23454912 降维FC： 262144 = 2048x128 分类FC： 1280000 = 128x10000 合计： 24997056 = 2500万
# arcface-pytorch
pytorch implement of arcface
# References
https://github.com/deepinsight/insightface
https://github.com/auroua/InsightFace_TF
https://github.com/MuggleWang/CosFace_pytorch
# pretrained model and lfw test dataset
the pretrained model and the lfw test dataset can be download here. link: https://pan.baidu.com/s/1tFEX0yjUq3srop378Z1WMA pwd: b2ec
the pretrained model use resnet-18 without se. Please modify the path of the lfw dataset in config.py before you run test.py.