Trong khuôn khổ chuỗi seminar học thuật năm 2022, sáng ngày 20/10/2022, Khoa Mạng máy tính và Truyền thông (MMT&TT) đã tổ chức buổi seminar lần thứ 6 tại Phòng E8.3 kết hợp với trực tuyến, với chủ đề “An Intelligent Edge System For Face Mask Recognition Application” do ThS. Lê Anh Tuấn – Giảng viên Khoa MMT&TT trình bày.
Trong thời đại ngày nay, sự phát triển không ngừng của các hệ thống nhúng, IoT, 5G và trí tuệ nhân tạo đã thúc đẩy sự phát triển của các ứng dụng thông minh dựa trên tính toán cận biên. Hướng tiếp cận này nhằm giải quyết một số vấn đề của điện toán đám mây về tiêu hao năng lượng, băng thông mạng, tốn chi phí hoạt động và độ trễ phản hồi đối với các ứng dụng yêu cầu xử lý theo thời gian thực.
Trong buổi seminar này, hệ thống cận biên được đề xuất dùng công nghệ ảo hóa và điều phối container gọn nhẹ, có hỗ trợ GPU cũng như các chức năng nền tảng, giúp cho việc quản lý và phát triển các ứng dụng AI (dựa vào kiến trúc microservices) xử lý theo thời gian thực trên các máy tính nhúng trở nên dễ dàng, nhanh chóng và hiệu quả hơn. Giải pháp ảo hóa tối ưu phần cứng, gọn nhẹ, hỗ trợ triển khai ứng dụng nhanh. Hệ thống này điều phối các ứng dụng tự động, đảm bảo tính sẵn sàng, khả năng mở rộng, tự phục hồi, cân bằng tải và triển khai tự động. Các chức năng quản lý và giám sát tập trung đơn giản hóa việc quản trị các dịch vụ chạy trên nền tảng ảo hóa và điều phối container, đặc biệt với số lượng lớn các thiết bị và dịch vụ. Ngoài ra, chức năng quản lý container image và DevOps giúp tự động hóa việc phân phối liên tục phần mềm cập nhật cho các ứng dụng chạy trên nền tảng ảo hóa và điều phối container tại cận biên. Hơn nữa, nhằm đảm bảo tính sẵn sàng, dữ liệu được nhân bản, sao lưu dự phòng trên hệ thống cluster và trung tâm đám mây giúp khôi phục dữ liệu trong trường hợp cấp bách.
Thời gian qua, sự bùng nổ của đại dịch COVID-19 gây ra thiệt hại nghiêm trọng về người và tài sản trên toàn thế giới. Trong đó, việc đeo khẩu trang là một trong những biện pháp thiết thực nhất để ngăn ngừa lây lan dịch bệnh trong cộng đồng. Với nhu cầu cấp thiết của đề tài, ứng dụng AI nhận diện mặt người không đeo khẩu trang được chọn để triển khai thực nghiệm trong việc nghiên cứu và xây dựng hệ thống cận biên thông minh sử dụng các giải pháp và hướng tiếp cận đã được trình bày ở trên.
Tổng quan về kiến trúc hệ thống được đề xuất bao gồm ba tầng: Cloud, Edge và End Devices, được mô tả như hình sau:
Hình 1. Tổng quan về kiến trúc hệ thống.
Một số hình ảnh triển khai:
Hình 2. Ứng dụng IoT, desktop và di động.
Một số kết quả thực nghiệm:
Bảng 1. Đánh giá độ chính xác của mô hình.
| Mô hình | mAP – Validation | mAP – Test | ||||
| IoU 0.25 | IoU 0.5 | IoU 0.75 | IoU 0.25 | IoU 0.5 | IoU 0.75 | |
| YOLOv4-Tiny-3L-1024 | 85.5 | 83.0 | 49.5 | 84.7 | 82.6 | 49.2 |
| YOLOv4-Tiny-640 | 85.5 | 83.3 | 54.0 | 85.4 | 83.0 | 52.8 |
| YOLOv4-Tiny-1024 | 87.9 | 85.8 | 52.3 | 86.0 | 83.5 | 52.4 |
Hình 3. Biểu đồ đánh giá độ chính xác của mô hình.
Bảng 2. Đánh giá hiệu suất của mô hình.
| Skip interval (frame) | |||
| 0 | 1 | 2 | |
| Hiệu suất (FPS) | 13.70 | 27.86 | 29.94 |
| Chế độ công suất hoạt động (W) | Hiệu suất (FPS) |
| 5 | 27.16 |
| 10 | 29.94 |
Hình 4. Biểu đồ đánh giá hiệu suất của mô hình.
Bảng 3. Đánh giá tài nguyên phần cứng sử dụng.
| Thành phần | Trước | Sau | Chênh lệch | ||
| 0 | 1 | 2 | |||
| CPU (%) | 19.12 | 35.12 | 35.73 | 32.27 | 15.26% |
| GPU (%) | 0.00 | 93.92 | 94.82 | 71.73 | 86.82% |
| Bộ nhớ (MB) | 1,538.20 | 2,550.36 | 2,546.48 | 2,573.86 | 1,018.70 |
Hình 5. Biểu đồ đánh giá tài nguyên phần cứng sử dụng.
Kết luận và hướng phát triển tương lai:
Với mô hình triển khai hiện tại, hệ thống cận biên được đề xuất sử dụng các công nghệ hiện đại có thể áp dụng vào các dự án thực tế, hỗ trợ triển khai và quản lý các ứng dụng AI trên các máy tính nhúng tại cận biên trên nền tảng ảo hóa và điều phối container có hỗ trợ GPU. Tuy nhiên, hệ thống được triển khai vẫn trong giai đoạn phát triển, cần thêm nguồn lực, kiểm thử khả năng tích hợp nhiều thiết bị tại cận biên, từ đó đo đạc hiệu năng và cải tiến hệ thống.
Về hướng phát triển tương lai, hệ thống sẽ được nâng cấp và mở rộng, bao gồm: tích hợp thêm các chức năng khác, củng cố và mở rộng hệ sinh thái cho hệ thống. Bên cạnh đó, tích hợp thêm chức năng tái cấu hình, hỗ trợ nạp các mô hình thông qua giao diện quản lý xuống các dịch vụ tại cận biên; khám phá thêm các thuật toán mới có độ chính xác cao đồng thời tối ưu hóa tốc độ xử lý trên các máy tính nhúng có tài nguyên phần cứng hạn chế; nghiên cứu và áp dụng AI vào việc quản lý tài nguyên của hệ thống đề xuất; Ngoài ra, phát triển nền tảng ứng dụng hỗ trợ xây dựng nhanh các dịch vụ AI tại cận biên đối với dịch vụ chăm sóc sức khỏe và một số lĩnh vực khác.
Một số hình ảnh buổi seminar:
