虹软人脸识别 - faceId及IR活体检测的介绍

前几天虹软推出了 Android ArcFace 2.2版本的SDK，相比于2.1版本，2.2版本中的变化如下：

VIDEO模式新增faceId（类似于之前文章中提到的trackId）
新增IR活体检测功能
新增IR、RGB的活体阈值设置

一、faceId介绍

1. 定义

在连续的视频帧中，当一个人脸进入视频画面直到离开，其faceId不变。

2. 应用场景举例

在门禁应用场景下，若一个人长时间停留在画面中，借助faceId的功能，在此人的人脸特征提取成功后，可不再对此人的后续人脸信息进行处理。

3. 注意事项

faceId在VIDEO模式下有意义；
faceId在IMAGE模式下无效。

二、 IR活体检测

1. 接口介绍

支持的颜色格式如下：
Windows:
GRAY、DEPTH_U16、NV21、NV12、I420
Android:
GRAY、DEPTH_U16、NV21
注：若图像数据的颜色格式不在上述列表中，必须对图像数据进行格式转换。

2. IR活体检测实现方案

单目摄像头检测方案（IR）

单目摄像头检测流程

注意：在Windows平台下，若通过OpenCV获取IR摄像头的图像数据，由于其颜色格式为BGR_24，不能用于IR活体检测，需要转成GRAY（或IR活体检测接口支持的其他颜色格式），但BGR_24数据可直接用于人脸检测。

双目摄像头检测方案（IR + RGB）

双目摄像头检测流程

人脸检测结果信息调整：若RGB摄像头和IR摄像头的成像不一致（存在偏移、旋转、镜像等问题），需要将传递给IR活体检测的人脸信息（人脸框、人脸角度）进行调整。

3. 双目IR活体检测遇到的坑

在双目的画面有明显的不一致的情况时，若我们直接把RGB摄像头的人脸检测结果用于IR活体检测，很有可能会报81925（人脸置信度低）错误。原来，摄像头回传的数据和我们直接看到的画面很可能是不一样的，我们看到的画面可能是经过处理的（缩放、旋转、镜像等）。

检测方法
最直观的检查方法就是将摄像头数据显示到屏幕上。只要我们把2个摄像头回传的数据显示到屏幕上，就能了解两个摄像头数据的成像关系。例如Android平台可使用以下方式查看NV21数据：
示例流程
```
nv21 -> YuvImage -> jpg bytes -> bitmap -> ImageView
```
示例代码

  @Override

  public void onPreview(final byte[] nv21, Camera camera) {

    ......

    //30帧一次，把帧数据显示到界面上（要是每帧都做就太卡了），若还是影响UI请放到子线程处理

    if (index++ % 30 == 0) {

      YuvImage yuvImage = new YuvImage(nv21, ImageFormat.NV21, previewSize.width, previewSize.height, null);

      ByteArrayOutputStream baos = new ByteArrayOutputStream();

      yuvImage.compressToJpeg(new Rect(0, 0, previewSize.width, previewSize.height), 100, baos);

      byte[] bytes = baos.toByteArray();

      ivFrame.setImageBitmap(BitmapFactory.decodeByteArray(bytes, 0, bytes.length));

    }

    ......

  }

解决方案

1. RGB和IR摄像头图像数据的其中一个被左右镜像
对于这种情况，我们在将RGB数据的人脸检测结果用于IR活体检测时，需要将其人脸框（rect）进行左右镜像调整。（Android demo中已提供左右镜像的代码）：

  /**

     * 人脸框水平镜像

     *

     * @param rect 人脸框

     * @return 水平镜像后的人脸框

     */

    private Rect mirrorRectHorizontal(Rect rect) {

        Rect newRect = new Rect(rect);

        newRect.right = previewSize.width - rect.left;

        newRect.left = previewSize.width - rect.right;

        return newRect;

    }

2. RGB和IR摄像头图像数据均被镜像或均未被镜像
对于这种情况，RGB数据的人脸检测结果用于IR活体检测时，不需要进行镜像调整。

3.
RGB和IR摄像头图像数据有旋转关系
若有旋转关系，我们不仅要旋转人脸信息（FaceInfo）中的人脸框（rect），还需要修改人脸角度（orient）。否则IR活体检测将无法解析人脸，报81925错误。
（Android demo中已提供将orient单次旋转90度的代码）：

 /**

     * 获取逆时针旋转90度后的人脸角度

     *

     * @param orient 人脸角度信息，即{@link FaceInfo#orient}属性，由{@link FaceEngine#detectFaces(byte[], int, int, int, List)}接口获取

     * @return 旋转后的人脸角度

     */

    private int rotateOrient(int orient) {

        switch (orient) {

            case FaceEngine.ASF_OC_0:

                return FaceEngine.ASF_OC_90;

            case FaceEngine.ASF_OC_90:

                return FaceEngine.ASF_OC_180;

            case FaceEngine.ASF_OC_180:

                return FaceEngine.ASF_OC_270;

            case FaceEngine.ASF_OC_270:

                return FaceEngine.ASF_OC_0;

            default:

                throw new IllegalArgumentException("unsupported orient '" + orient + "'");

        }

    }

若需要下载虹软sdk，可以到官网：

https://ai.arcsoft.com.cn/product/arcface.html?utm_source=cnblogs&utm_medium=referral