前言

OpenVINO C# API 是一个 OpenVINO 的 .Net wrapper,应用最新的 OpenVINO 库开发,通过 OpenVINO C API 实现 .Net 对 OpenVINO Runtime 调用,使用习惯与 OpenVINO C++ API 一致。OpenVINO C# API 由于是基于 OpenVINO 开发,所支持的平台与 OpenVINO 完全一致,具体信息可以参考 OpenVINO。通过使用 OpenVINO C# API,可以在 .NET、.NET Framework等框架下使用 C# 语言实现深度学习模型在指定平台推理加速。

OpenVINO C# API 项目链接为:

  1. https://github.com/guojin-yan/OpenVINO-CSharp-API.git

项目源码链接为:

  1. https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples.git

1. 简介

   Blazeface模型是Google推出的一款专为移动GPU推理量身定制的轻量级且性能卓越的人脸检测器,BlazeFace 在旗舰移动设备上以200-1000 + FPS的速度运行。 在本文中,我们将使用OpenVINO C# API 部署 Blazeface 实现人脸检测。

2. 项目环境与依赖

  该项目中所需依赖已经支持通过NuGet Package进行安装,在该项目中,需要安装以下NuGet Package:

  • OpenVINO C# API NuGet Package:
  1. OpenVINO.CSharp.API
  2. OpenVINO.runtime.win
  3. OpenVINO.CSharp.API.Extensions
  • OpenCvSharp NuGet Package:
  1. OpenCvSharp4
  2. OpenCvSharp4.Extensions
  3. OpenCvSharp4.runtime.win

3. 项目输出

  项目使用的是控制台输出,运行后输出如下所示:

  1. <00:00:00> Sending http request to https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/releases/download/Model/blazeface_1000e.tar.
  2. <00:00:01> Http Response Accquired.
  3. <00:00:01> Total download length is 0.47 Mb.
  4. <00:00:01> Download Started.
  5. <00:00:01> File created.
  6. <00:00:01> Downloading: [■■■■■■■■■■] 100% <00:00:01 0.24 Mb/s> 0.47 Mb/0.47 Mb downloaded.
  7. <00:00:01> File Downloaded, saved in E:\GitSpace\OpenVINO-CSharp-API-Samples\model_samples\face_detection\blazeface_opencvsharp\bin\Release\net6.0\model\blazeface_1000e.tar.
  8. <00:00:00> Sending http request to https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/releases/download/Image/face1.jpg.
  9. <00:00:01> Http Response Accquired.
  10. <00:00:01> Total download length is 0.14 Mb.
  11. <00:00:01> Download Started.
  12. <00:00:01> File created.
  13. <00:00:01> Downloading: [■■■■■■■■■■] 100% <00:00:01 0.08 Mb/s> 0.14 Mb/0.14 Mb downloaded.
  14. <00:00:01> File Downloaded, saved in E:\GitSpace\OpenVINO-CSharp-API-Samples\model_samples\face_detection\blazeface_opencvsharp\bin\Release\net6.0\model\face1.jpg.
  15. [ INFO ] ---- OpenVINO INFO----
  16. [ INFO ] Description : OpenVINO Runtime
  17. [ INFO ] Build number: 2024.0.0-14509-34caeefd078-releases/2024/0
  18. [ INFO ] Predict model files: ./model/blazeface_1000e.xml
  19. [ INFO ] Predict image files: ./model/face1.jpg
  20. [ INFO ] Inference device: CPU
  21. [ INFO ] Start RT-DETR model inference.
  22. [ INFO ] 1. Initialize OpenVINO Runtime Core success, time spend: 3.2045ms.
  23. [ INFO ] 2. Read inference model success, time spend: 46.1753ms.
  24. [ INFO ] Inference Model
  25. [ INFO ] Model name: Model0
  26. [ INFO ] Input:
  27. [ INFO ] name: scale_factor
  28. [ INFO ] type: float
  29. [ INFO ] shape: Shape : {1,2}
  30. [ INFO ] name: image
  31. [ INFO ] type: float
  32. [ INFO ] shape: Shape : {1,3,640,640}
  33. [ INFO ] name: im_shape
  34. [ INFO ] type: float
  35. [ INFO ] shape: Shape : {1,2}
  36. [ INFO ] Output:
  37. [ INFO ] name: multiclass_nms3_0.tmp_0
  38. [ INFO ] type: float
  39. [ INFO ] shape: Shape : {750,6}
  40. [ INFO ] name: multiclass_nms3_0.tmp_2
  41. [ INFO ] type: int32_t
  42. [ INFO ] shape: Shape : {1}
  43. [ INFO ] 3. Loading a model to the device success, time spend:213.1551ms.
  44. [ INFO ] 4. Create an infer request success, time spend:0.4506ms.
  45. [ INFO ] 5. Process input images success, time spend:74.6076ms.
  46. [ INFO ] 6. Set up input data success, time spend:1.7392ms.
  47. [ INFO ] 7. Do inference synchronously success, time spend:21.3498ms.
  48. [ INFO ] 8. Get infer result data success, time spend:1.1302ms.
  49. [ INFO ] 9. Process reault success, time spend:0.4035ms.
  50. [ INFO ] The result save to E:\GitSpace\OpenVINO-CSharp-API-Samples\model_samples\face_detection\blazeface_opencvsharp\bin\Release\net6.0\model\face1_result.jpg

  图像预测结果如下图所示:

4. 代码展示

  以下为嘛中所使用的命名空间代码:

  1. using OpenCvSharp.Dnn;
  2. using OpenCvSharp;
  3. using OpenVinoSharp;
  4. using OpenVinoSharp.Extensions;
  5. using OpenVinoSharp.Extensions.utility;
  6. using System.Runtime.InteropServices;
  7. using OpenVinoSharp.preprocess;
  8. using OpenVinoSharp.Extensions.result;
  9. using OpenVinoSharp.Extensions.process;
  10. using System;
  11. using System.Reflection.Metadata;
  12. namespace blazeface_opencvsharp
  13. {
  14. internal class Program
  15. {
  16. ....
  17. }
  18. }

  下面为定义的模型预测代码:

  1. static void face_detection(string model_path, string image_path, string device)
  2. {
  3. // -------- Step 1. Initialize OpenVINO Runtime Core --------
  4. Core core = new Core();
  5. // -------- Step 2. Read inference model --------
  6. Model model = core.read_model(model_path);
  7. Dictionary<string, PartialShape> pairs = new Dictionary<string, PartialShape>();
  8. pairs.Add("scale_factor", new PartialShape(new Shape(1, 2)));
  9. pairs.Add("im_shape", new PartialShape(new Shape(1, 2)));
  10. pairs.Add("image", new PartialShape(new Shape(1, 3, 640, 640)));
  11. model.reshape(pairs);
  12. OvExtensions.printf_model_info(model);
  13. // -------- Step 3. Loading a model to the device --------
  14. CompiledModel compiled_model = core.compile_model(model, device);
  15. // -------- Step 4. Create an infer request --------
  16. InferRequest infer_request = compiled_model.create_infer_request();
  17. // -------- Step 5. Process input images --------
  18. Mat image = new Mat(image_path); // Read image by opencvsharp
  19. Mat mat = new Mat();
  20. Cv2.Resize(image, mat, new Size(640, 640));
  21. mat = Normalize.run(mat, new float[] { 123f, 117f, 104f }, new float[] { 1 / 127.502231f, 1 / 127.502231f, 1 / 127.502231f },
  22. false);
  23. float[] input_data = Permute.run(mat);
  24. // -------- Step 6. Set up input data --------
  25. Tensor input_tensor_data = infer_request.get_tensor("image");
  26. //input_tensor_data.set_shape(new Shape(1, 3, image.Cols, image.Rows));
  27. input_tensor_data.set_data<float>(input_data);
  28. Tensor input_tensor_shape = infer_request.get_tensor("im_shape");
  29. input_tensor_shape.set_shape(new Shape(1, 2));
  30. input_tensor_shape.set_data<float>(new float[] { 640, 640 });
  31. Tensor input_tensor_factor = infer_request.get_tensor("scale_factor");
  32. input_tensor_factor.set_shape(new Shape(1, 2));
  33. input_tensor_factor.set_data<float>(new float[] { ((float)640.0f / image.Rows), ((float)640.0 / image.Cols) });
  34. // -------- Step 7. Do inference synchronously --------
  35. infer_request.infer();
  36. // -------- Step 8. Get infer result data --------
  37. Tensor output_tensor = infer_request.get_output_tensor(0);
  38. Shape output_shape = output_tensor.get_shape();
  39. int output_length = (int)output_tensor.get_size();
  40. float[] result_data = output_tensor.get_data<float>(output_length);
  41. Tensor output_tensor1 = infer_request.get_output_tensor(1);
  42. int output_length1 = (int)output_tensor1.get_size();
  43. int[] result_len = output_tensor1.get_data<int>(output_length1);
  44. // -------- Step 9. Process reault --------
  45. List<Rect> position_boxes = new List<Rect>();
  46. List<float> confidences = new List<float>();
  47. // Preprocessing output results
  48. for (int i = 0; i < result_len[0]; i++)
  49. {
  50. double confidence = result_data[6 * i + 1];
  51. if (confidence > 0.5)
  52. {
  53. float tlx = result_data[6 * i + 2];
  54. float tly = result_data[6 * i + 3];
  55. float brx = result_data[6 * i + 4];
  56. float bry = result_data[6 * i + 5];
  57. Rect box = new Rect((int)tlx, (int)tly, (int)(brx - tlx), (int)(bry - tly));
  58. position_boxes.Add(box);
  59. confidences.Add((float)confidence);
  60. }
  61. }
  62. for (int i = 0; i < position_boxes.Count; i++)
  63. {
  64. int index = i;
  65. Cv2.Rectangle(image, position_boxes[index], new Scalar(255, 0, 0), 1, LineTypes.Link8);
  66. Cv2.PutText(image, confidences[index].ToString("0.00"),
  67. new OpenCvSharp.Point(position_boxes[index].TopLeft.X, position_boxes[index].TopLeft.Y - 5),
  68. HersheyFonts.HersheySimplex, 0.4, new Scalar(255, 0, 0), 1);
  69. }
  70. string output_path = Path.Combine(Path.GetDirectoryName(Path.GetFullPath(image_path)),
  71. Path.GetFileNameWithoutExtension(image_path) + "_result.jpg");
  72. Cv2.ImWrite(output_path, image);
  73. Slog.INFO("The result save to " + output_path);
  74. Cv2.ImShow("Result", image);
  75. Cv2.WaitKey(0);
  76. }

  下面为程序运行的主函数代码,该代码会下载转换好的预测模型,并调用预测方法进行预测:

  1. static void Main(string[] args)
  2. {
  3. string model_path = "";
  4. string image_path = "";
  5. string device = "CPU";
  6. if (args.Length == 0)
  7. {
  8. if (!Directory.Exists("./model"))
  9. {
  10. Directory.CreateDirectory("./model");
  11. }
  12. if (!File.Exists("./model/blazeface_1000e.xml")
  13. && !File.Exists("./model/blazeface_1000e.bin"))
  14. {
  15. if (!File.Exists("./model/blazeface_1000e.tar"))
  16. {
  17. _ = Download.download_file_async("https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/releases/download/Model/blazeface_1000e.tar",
  18. "./model/blazeface_1000e.tar").Result;
  19. }
  20. Download.unzip("./model/blazeface_1000e.tar", "./model/");
  21. }
  22. if (!File.Exists("./model/face1.jpg"))
  23. {
  24. _ = Download.download_file_async("https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/releases/download/Image/face1.jpg",
  25. "./model/face1.jpg").Result;
  26. }
  27. model_path = "./model/blazeface_1000e.xml";
  28. image_path = "./model/face1.jpg";
  29. }
  30. else if (args.Length >= 2)
  31. {
  32. model_path = args[0];
  33. image_path = args[1];
  34. device = args[2];
  35. }
  36. else
  37. {
  38. Console.WriteLine("Please enter the correct command parameters, for example:");
  39. Console.WriteLine("> 1. dotnet run");
  40. Console.WriteLine("> 2. dotnet run <model path> <image path> <device name>");
  41. }
  42. // -------- Get OpenVINO runtime version --------
  43. OpenVinoSharp.Version version = Ov.get_openvino_version();
  44. Slog.INFO("---- OpenVINO INFO----");
  45. Slog.INFO("Description : " + version.description);
  46. Slog.INFO("Build number: " + version.buildNumber);
  47. Slog.INFO("Predict model files: " + model_path);
  48. Slog.INFO("Predict image files: " + image_path);
  49. Slog.INFO("Inference device: " + device);
  50. Slog.INFO("Start RT-DETR model inference.");
  51. face_detection(model_path, image_path, device);
  52. }

5. 总结

  在该项目中,我们结合之前开发的 OpenVINO C# API 项目部署 Blazeface 模型,成功实现了人脸检测。

  • 项目完整代码链接为:
  1. https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/blob/master/model_samples/face_detection/blazeface_opencvsharp/Program.cs
  • 为了方便EmguCV用户使用需求,同时开发了EmguCV版本,项目链接为:
  1. https://github.com/guojin-yan/OpenVINO-CSharp-API-Samples/blob/master/model_samples/face_detection/blazeface_emgucv/Program.cs

最后如果各位开发者在使用中有任何问题,欢迎大家与我联系。

【OpenVINO™】基于 C# 和 OpenVINO™ 部署 Blazeface 模型实现人脸检测的更多相关文章

  1. 手把手教你 在Pytorch框架上部署和测试 关键点人脸检测项目DBFace,成功实现人脸检测效果

    这期教向大家介绍仅仅 1.3M 的轻量级高精度的关键点人脸检测模型DBFace,并手把手教你如何在自己的电脑端进行部署和测试运行,运行时bug解决. 01. 前言 前段时间DBFace人脸检测库横空出 ...

  2. 基于OpenCv的人脸检测、识别系统学习制作笔记之一

    基于OpenCv从视频文件到摄像头的人脸检测 在OpenCv中读取视频文件和读取摄像头的的视频流然后在放在一个窗口中显示结果其实是类似的一个实现过程. 先创建一个指向CvCapture结构的指针 Cv ...

  3. 基于FastAPI和Docker的机器学习模型部署快速上手

    针对前文所述 机器学习模型部署摘要 中docker+fastapi部署机器学习的一个完整示例 outline fastapi简单示例 基于文件内容检测的机器学习&fastapi 在docker ...

  4. [转]基于AWS的自动化部署实践

    作者 徐桂林 发布于 2014年1月22日 -------------------------------------------------------------------- 1. 背景 在过去 ...

  5. 谈谈分布式事务之二:基于DTC的分布式事务管理模型[下篇]

    [续上篇] 当基于LTM或者KTM的事务提升到基于DTC的分布式事务后,DTC成为了本机所有事务型资源管理器的管理者:此外,当一个事务型操作超出了本机的范 围,出现了跨机器的调用后,本机的DTC需要于 ...

  6. 使用pmml实现跨平台部署机器学习模型

    一.概述   对于由Python训练的机器学习模型,通常有pickle和pmml两种部署方式,pickle方式用于在python环境中的部署,pmml方式用于跨平台(如Java环境)的部署,本文叙述的 ...

  7. 使用pmml跨平台部署机器学习模型Demo——房价预测

      基于房价数据,在python中训练得到一个线性回归的模型,在JavaWeb中加载模型完成房价预测的功能. 一. 训练.保存模型 工具:PyCharm-2017.Python-39.sklearn2 ...

  8. 基于隐马尔科夫模型(HMM)的地图匹配(Map-Matching)算法

    文章目录 1. 1. 摘要 2. 2. Map-Matching(MM)问题 3. 3. 隐马尔科夫模型(HMM) 3.1. 3.1. HMM简述 3.2. 3.2. 基于HMM的Map-Matchi ...

  9. 基于SourceTree 下的 Git Flow 模型

    基于SourceTree 下的 Git Flow 模型 1. sourceTree  是一个开源的git 图形管理工具,可下载mac版本,windows版本 2. Git Flow 是一套使用Git进 ...

  10. 基于AWS的自动化部署实践

    过年前,我给InfoQ写了篇文章详细介绍我们团队在过去4年基于AWS的自动化部署实践.文章包括了:为什么选择AWS.AWS上自动化部署的优势和挑战.我们的解决方案,以及和AWS DevOps方案(Op ...

随机推荐

  1. 一种基于DeltaE(CIE 1976)的找色算法

    // QuickFinder.cpp : 此文件包含 "main" 函数.程序执行将在此处开始并结束. // #include <iostream> #define _ ...

  2. 选择适合您网站的 SQL 托管:MS SQL Server、Oracle、MySQL

    SQL托管 如果您希望您的网站能够存储和检索数据,您的Web服务器应该能够访问使用SQL语言的数据库系统.以下是一些常见的SQL托管选项: MS SQL Server Microsoft的SQL Se ...

  3. Windows系统自定义盘符图标

    记录一个小知识: 自定义Windows系统盘符的图标,其实这个东西很简单,就像设置U盘的图标一样 首先准备一张ico图片,如果没有ico图片,只有jpg或其他格式的,可以使用这个在线转ico的网站,把 ...

  4. openGauss系统函数添加指导

    openGauss 系统函数添加指导 1.函数架构简介 openGauss 内函数的可以分为两个部分: ​ 身份注册声明:openGauss 中存在一个系统表 pg_proc,这个表存放了所有函数的基 ...

  5. stack smashing--canary报错利用

    stack smashing--canary报错利用 一般这种都是考察点比较狭窄,因为这个漏洞在libc2.23以上就被修复了,漏洞产生的原因是因为当覆盖掉canary的时候程序会报错,程序会执行 _ ...

  6. 第一篇:Python入门基础

    主要内容 1.Python简介 2.变量 3.字符编码 4.用户交互 5.if 流程判断 6.while循环 7.for循环 一.Python简介 1.python的创始人为吉多·范罗苏姆(Guido ...

  7. 微信小程序为什么引入 rpx

    前言 众所周知,px 是一个叫做像素的东西,pixel. 像素是指由图像的小方格组成的,这些小方块都有一个明确的位置和被分配的色彩数值,小方格颜色和位置就决定该图像所呈现出来的样子. 可以将像素视为整 ...

  8. CTFshow命令执行29-123

    命令执行 WEB29 eval是php中执行以PHP脚本执行的命令 PHP命令可以执行脚本命令 本题使用方法是先 system(cp f*.php 1.txt) 然后访问1.txt WEB30 在PH ...

  9. mmdeploy源码安装 (转换faster rcnn r50/yolox为tensorrt,并用mmdeploy sdk推理)

    mmdeploy源码安装 (转换faster rcnn r50/yolox为tensorrt,并进行推理) 这个系列是一个随笔,是我走过的一些路,有些地方可能不太完善.如果有那个地方没看懂,评论区问就 ...

  10. uniapp小程序页面实现元素与胶囊进行居中对齐

    无论是否为uni,关键在于获取胶囊中点的位置,如果是原生小程序根据小程序文档获取,其余逻辑处理是一致的 代码语法都只是技术选择,重点是逻辑处理,对于技术的运用,代码技术好比是积木,好的程序就是好的组合 ...