人脸活体识别2：Pytorch实现人脸眨眼 张嘴 点头 摇头识别(含训练代码和数据集)
目录
人脸活体识别2：Pytorch实现人脸眨眼 张嘴 点头 摇头识别(含训练代码和数据集)
1. 前言
人脸活体识别技术是确保人脸识别系统安全性的关键，主要用于区分真实人脸与伪造攻击（如照片、视频、3D面具等）。本项目基于深度学习技术，构建了一套高鲁棒性的面部活体检测系统，可精准识别眨眼（闭眼）、张嘴、点头（低头）、摇头（侧脸）等生物特征动作，可有效防范照片、视频、3D面具等伪造攻击等多种场景，可应用于金融支付、远程身份核验（如银行开户）等场景。
本篇是项目《人脸活体识别》系列之《Pytorch实现人脸眨眼 张嘴 点头 摇头识别(含训练代码和数据集)》；项目基于深度学习框架Pytorch开发一个高精度，可实时的人脸活体识别算法；项目源码支持模型有Resnet18, Resnet34，Resnet50，Mobilenet以及MobileVit等常见的深度学习模型，用户也可以自定义自己的模型进行训练；项目源码配套了完整的训练代码和数据集，配置好开发环境，即可开始训练。
准确率还挺高的，采用轻量级mobilenet_v2模型的人脸活体识别准确率也可以高达99.9661%左右，满足业务性能需求。
| 模型 | input size | Test准确率 |
| Mobilenet | 112×112 | 99.9661 |
| Resnet18 | 112×112 | 99.9322 |
| MobileVit | 112×112 | 99.9322 |
先展示一下，Python版本的人脸活体识别Demo效果
【尊重原创，转载请注明出处】https://blog.csdn.net/guyuealian/article/details/148774036
更多人脸识别和活体识别文章，请参考：
- 人脸活体识别1：眨眼 张嘴 点头 摇头人脸数据集
- 人脸活体识别2：Pytorch实现人脸眨眼 张嘴 点头 摇头识别(含训练代码和数据集)
- 人脸活体识别3：C/C++实现人脸眨眼 张嘴 点头 摇头识别(可实时检测)
- 人脸活体识别4：Android实现人脸眨眼 张嘴 点头 摇头识别(可实时检测)
- 人脸识别2：InsightFace实现人脸识别Face Recognition(含源码下载)
- 人脸识别3：C/C++ InsightFace实现人脸识别Face Recognition(含源码)
- 人脸识别4：Android InsightFace实现人脸识别Face Recognition(含源码)
2.人脸活体识别方法
人脸活体识别的方法有很多，如基于人脸动作的活体识别，基于红外的活体识别，基于深度的活体识别等等方法。
（1）基于人脸动作的检测
要求用户配合完成随机指令动作（如眨眼、点头、张嘴、摇头等），通过计算机视觉算法（如光流法、关键点跟踪）分析动作的自然性和时序连贯性。
优点：实现简单，能有效抵御照片和静态视频攻击。
缺点：依赖用户配合，体验较差；可能被高仿动态视频（如Deepfake）欺骗。
（2）基于红外的活体识别
利用红外摄像头捕捉人脸的红外反射特性或热辐射分布，如采用红外光谱分析，活体皮肤对特定波长红外光的吸收/反射模式与非活体不同。
优点：无需用户配合，可抵御照片、视频及部分3D面具攻击。
缺点：设备成本较高；受环境温度影响（如低温可能降低检测精度）。
（3）基于深度的活体识别
通过3D深度摄像头（如结构光、ToF）获取人脸的三维几何信息（如鼻梁高度、曲面曲率），非活体（照片、屏幕）缺乏真实的深度结构。
优点：防御能力最强，可识别高级3D头套攻击。
缺点：硬件成本高，需专用3D传感器。
本项目实现方案是采用基于人脸动作的活体识别方法，即先采用通用的人脸检测模型，进行人脸检测定位人脸区域，然后按照一定规则裁剪人脸检测区域，再训练一个人脸活体识别分类器，完成人脸活体识别的任务。人脸动作主要包含：眨眼（闭眼）、张嘴、点头（低头）、摇头（侧脸）。
3.人脸活体识别数据集
（1）人脸活体识别数据集说明
项目对人脸图像进行人脸动作标注，人脸动作主要包含：眨眼（闭眼）、张嘴、点头（低头）、摇头（侧脸），标注工具：使用labelme或者AnyLabeling(推荐)进行图片标注。关于人脸活体识别数据集的说明，请参考文章：https://blog.csdn.net/guyuealian/article/details/147820499
4.人脸检测模型
本项目人脸检测训练代码请参考：https://github.com/Linzaer/Ultra-Light-Fast-Generic-Face-Detector-1MB
这是一个基于SSD改进且轻量化后人脸检测模型，很slim，整个模型仅仅1.7M左右，在普通Android手机都可以实时检测。人脸检测方法在网上有一大堆现成的方法可以使用，完全可以不局限我这个方法。
当然可以基于YOLOv5训练一个人脸检测模型：人脸检测和行人检测2：YOLOv5实现人脸检测和行人检测(含数据集和训练代码)
5.人脸活体识别模型训练
准备好人脸活体识别数据后，接下来就可以开始训练活体识别分类模型了；项目模型支持Resnet18, Mobilenet以及MobileVit等常见的深度学习模型，考虑到后续我们需要将人脸活体识别模型部署到Android平台中，因此项目选择计算量比较小的轻量化模型mobilenet_v2；如果不用端上部署，完全可以使用参数量更大的模型，如resnet50等模型。
整套工程项目基本结构如下：
.
├── classifier # 训练模型相关工具
├── configs # 训练配置文件
├── data # 训练数据
├── libs
│ ├── convertor # 将模型转换为ONNX、NCNN等工具
│ ├── detection # 人脸检测
│ ├── face_detector.py # 人脸检测demo
│ └── README.md
├── demo.py # demo
├── README.md # 项目工程说明文档
├── requirements.txt # 项目相关依赖包
└── train.py # 训练文件（1）项目安装
推荐使用Python3.8或Python3.10，更高版本可能存在版本差异问题， 项目依赖python包请参考requirements.txt，使用pip安装即可：
# python3.10
beautifulsoup4==4.13.4
bs4==0.0.2
easydict==1.13
imageio==2.37.0
imgaug==0.4.0
loguru==0.7.3
matplotlib==3.10.1
numpy==1.26.4
onnx==1.17.0
onnx-simplifier==0.4.36
onnxruntime==1.21.1
onnxruntime-gpu==1.21.1
opencv-contrib-python==4.11.0.86
opencv-python==4.11.0.86
opencv-python-headless==4.11.0.86
pandas==2.2.3
pillow==10.4.0
pyarrow==19.0.1
PyYAML==6.0.2
requests==2.32.3
scikit-image==0.25.2
scikit-learn==1.6.1
scipy==1.15.2
seaborn==0.13.2
tensorboardX==2.6.2.2
#torch
#torchaudio==2.1.0+cu121
#torchvision==0.16.0+cu121
tqdm==4.67.1
Werkzeug==3.1.3
xmltodict==0.14.2
basetrainer==0.9.5
pybaseutils
项目安装教程请参考（初学者入门，麻烦先看完下面教程，配置好开发环境）：
- 项目开发使用教程和常见问题和解决方法
- 视频教程：1 手把手教你安装CUDA和cuDNN(1)
- 视频教程：2 手把手教你安装CUDA和cuDNN(2)
- 视频教程：3 如何用Anaconda创建pycharm环境
- 视频教程：4 如何在pycharm中使用Anaconda创建的python环境
- 推荐使用Python3.8或Python3.10，更高版本可能存在版本差异问题
（2）准备数据
下载人脸活体识别数据集：Face-Gesture-v1，Face-Gesture-v2，Face-Gesture-v3和Face-Gesture-test，然后解压
关于人脸活体识别数据集的使用说明请参考我的一篇博客： https://blog.csdn.net/guyuealian/article/details/147820499
（3）人脸活体识别模型训练(Pytorch)
项目在《Pytorch基础训练库Pytorch-Base-Trainer(支持模型剪枝 分布式训练)》基础上实现了人脸活体识别分类模型训练和测试，整套训练代码非常简单操作，用户只需要将相同类别的图片数据放在同一个目录下，并填写好对应的数据路径，即可开始训练了。
训练框架采用Pytorch，整套训练代码支持的内容主要有：
- 目前支持的backbone有：resnet18,resnet34,resnet50, mobilenet_v2、googlenet以及mobilevit等常见的深度学习模型。其他backbone可以自定义添加
- 训练参数可以通过(configs/config.yaml)配置文件进行设置
修改配置文件的数据路径：configs/config.yaml：
- train_data和test_data修改为自己的数据路径
- 注意数据路径分隔符使用【/】,不是【\】
- 项目不要出现含有中文字符的目录文件或路径，否则会出现很多异常！
# 训练数据集，可支持多个数据集
train_data:
- '/path/to/Face-Gesture/Face-Gesture-v1/image'
- '/path/to/Face-Gesture/Face-Gesture-v2/image'
- '/path/to/Face-Gesture/Face-Gesture-v3/image'
# 测试数据集
test_data: '/path/to/Face-Gesture/Face-Gesture-test/image'
# 类别文件
class_name: [ "face","闭眼","张嘴","低头","侧脸" ]
data_type: "labelme"
train_transform: "train" # 训练使用的数据增强方法
test_transform: "val" # 测试使用的数据增强方法
crop_scale: [ 1.2,1.2 ]
work_dir: "work_space/" # 保存输出模型的目录
net_type: "resnet18" # 骨干网络,支持：resnet18/50,mobilenet_v2,googlenet,inception_v3,mobilevit，vit_l_16,vit_b_16
width_mult: 1.0
input_size: [ 112,112 ] # 模型输入大小
rgb_mean: [ 0.5, 0.5, 0.5 ] # for normalize inputs to [-1, 1],Sequence of means for each channel.
rgb_std: [ 0.5, 0.5, 0.5 ] # for normalize,Sequence of standard deviations for each channel.
batch_size: 64
lr: 0.01 # 初始学习率
optim_type: "SGD" # 选择优化器，SGD,Adam
loss_type: "CrossEntropyLoss" # 选择损失函数：支持CrossEntropyLoss,LabelSmooth
momentum: 0.9 # SGD momentum
num_epochs: 120 # 训练循环次数
num_warn_up: 10 # warn-up次数
num_workers: 8 # 加载数据工作进程数
weight_decay: 0.0005 # weight_decay，默认5e-4
scheduler: "multi-step" # 学习率调整策略：multi-step,cosine
milestones: [ 30,50,100 ] # 下调学习率方式
gpu_id: [ 0 ] # GPU ID
log_freq: 100 # LOG打印频率
progress: True # 是否显示进度条
pretrained: True # 是否使用pretrained模型
finetune: False # 是否进行finetune开始训练，在终端输入：
python train.py -c configs/config.yaml
训练完成后，训练集的Accuracy在99.0%以上，测试集的Accuracy在99.0%左右
（4） 可视化训练过程
训练过程可视化工具是使用Tensorboard，在终端(Terminal)输入命令：
使用教程，请参考：项目开发使用教程和常见问题和解决方法
# 需要安装tensorboard==2.5.0和tensorboardX==2.1
# 基本方法
tensorboard --logdir=path/to/log/
# 例如
tensorboard --logdir=tensorboard --logdir=/home/PKing/nasdata/release/tmp/PyTorch-Classification-Trainer/work_space/resnet18_1.0_112_112_CrossEntropyLoss_20250506_181748_8970/log可视化效果
（5） 人脸活体识别效果
训练完成后，训练集的Accuracy在99%以上，测试集的Accuracy在97.5%左右，下表给出已经训练好的三个模型，其中mobilenet_v2的测试集准确率可以达到97.8682%，googlenet的准确率可以达到98.4496%，resnet18的准确率可以达到98.2558%
| 模型 | input size | Test准确率 |
| Mobilenet | 112×112 | 99.9661 |
| Resnet18 | 112×112 | 99.9322 |
| MobileVit | 112×112 | 99.9322 |
- 测试图片文件
# 测试图片文件(目录)
python demo.py -c work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/config.yaml -m work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/model/best_model_119_99.9661.pth --image_dir data/test_images
- 测试视频文件
# 测试视频文件(path/to/video.mp4 测试视频文件，如*.mp4,*.avi等)
python demo.py -c work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/config.yaml -m work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/model/best_model_119_99.9661.pth --video_file data/test-video.mp4
- 测试摄像头
# 测试摄像头(video_file填写USB摄像头ID)
python demo.py -c work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/config.yaml -m work_space/mobilenet_v2_1.0_112_112_CrossEntropyLoss_20250430_182131_2868/model/best_model_119_99.9661.pth --video_file 0
（6） 一些优化建议
如果想进一步提高模型的性能，可以尝试：
- 增加训练的样本数据： 建议根据自己的业务场景，采集相关数据，比如采集多个人的活体识别的数据，提高模型泛化能力；
- 使用参数量更大的模型： 本教程使用的是mobilenet_v2模型，属于比较轻量级的分类模型，采用更大的模型（如resnet50），理论上其精度更高，但推理速度也较慢。
- 尝试不同数据增强的组合进行训练
- 增加数据增强： 已经支持： 随机裁剪，随机翻转，随机旋转，颜色变换等数据增强方式，可以尝试诸如mixup，CutMix等更复杂的数据增强方式
- 样本均衡： 原始数据活体识别类别数据并不均衡，类别face的样本数据偏多，而其他类别数据偏少，这会导致训练的模型会偏向于样本数较多的类别。建议进行样本均衡处理。
- 清洗数据集：原始数据已经进行人工清洗了，但依然存在一些模糊的，低质的，模棱两可的样本；建议你，在训练前，再次清洗数据集，不然会影响模型的识别的准确率。
- 调超参： 比如学习率调整策略，优化器（SGD,Adam等）
- 损失函数： 目前训练代码已经支持：交叉熵，LabelSmoothing，可以尝试FocalLoss等损失函数
（7） 一些运行错误处理方法
大部分异常都可以看这里解决：项目开发使用教程和常见问题和解决方法
项目不要出现含有中文字符的目录文件或路径，否则会出现很多异常！！！！！！！！
6.项目源码下载
如需下载项目源码，请WX关注【AI吃大瓜】，回复【活体识别】即可下载
（1）训练版本
提供人脸活体识别数据集：Face-Gesture-v1，Face-Gesture-v2，Face-Gesture-v3和Face-Gesture-test，总数50000+的人脸活体识别数据。
支持自定义数据集进行训练
- 提供人脸活体识别模型训练代码：train.py
- 提供人脸活体识别模型测试代码：demo.py，支持眨眼（闭眼）、张嘴、点头（低头）、摇头（侧脸）动作识别，识别准确率可以高达99.9661%左右
- Demo支持图片，视频和摄像头测试
- 项目支持模型：resnet18,resnet34,resnet50, mobilenet_v2、googlenet以及mobilevit等常见的深度学习模型。
- 项目源码自带训练好的模型文件，无需重新训练，可直接运行测试: python demo.py
- 在普通电脑CPU/GPU上可以实时检测和识别
（2）推理版本
推理版本不含训练代码和数据集
- 提供人脸活体识别模型测试代码：demo.py，支持眨眼（闭眼）、张嘴、点头（低头）、摇头（侧脸）动作识别，识别准确率可以高达99.9661%左右
- Demo支持图片，视频和摄像头测试
- 项目支持模型：resnet18,resnet34,resnet50, mobilenet_v2、googlenet以及mobilevit等常见的深度学习模型。
- 项目源码自带训练好的模型文件，无需重新训练，可直接运行测试: python demo.py
- 在普通电脑CPU/GPU上可以实时检测和识别
7. C++实现人脸活体识别
参考文章：人脸活体识别3：C/C++实现人脸眨眼 张嘴 点头 摇头识别(可实时检测)
8. Android实现人脸活体识别
参考文章：人脸活体识别4：Android实现人脸眨眼 张嘴 点头 摇头识别(可实时检测)
