Luận án Nghiên cứu tối ưu hóa thuật toán tự động phân loại dữ liệu đám mây điểm hỗ trợ xây dựng mô hình 3D thành phố thông minh

BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC MỎ - ĐỊA CHẤT LÊ ĐÌNH HIỂN NGHIÊN CỨU TỐI ƯU HÓA THUẬT TOÁN TỰ ĐỘNG PHÂN LOẠI DỮ LIỆU ĐÁM MÂY ĐIỂM HỖ TRỢ XÂY DỰNG MÔ HÌNH 3D THÀNH PHỐ THÔNG MINH LUẬN ÁN TIẾN SĨ KỸ THUẬT HÀ NỘI - 2023 BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC MỎ - ĐỊA CHẤT LÊ ĐÌNH HIỂN NGHIÊN CỨU TỐI ƯU HÓA THUẬT TOÁN TỰ ĐỘNG PHÂN LOẠI DỮ LIỆU ĐÁM MÂY ĐIỂM HỖ TRỢ XÂY DỰNG MÔ HÌNH 3D THÀNH PHỐ THÔNG MINH Ngành: Kỹ thuật Trắc địa - Bản đồ Mã số: 9520503 LUẬN ÁN TIẾN SĨ KỸ THUẬT Người hướng dẫn khoa học: PGS. TS Bùi Ngọc Quý HÀ NỘI - 2023 i LỜI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cứu của riêng tôi. Toàn bộ quá trình nghiên cứu được tiến hành một cách khoa học, các số liệu, kết quả nêu trong luận án là chính xác, trung thực và chưa từng được công bố trong bất cứ công trình nào khác. Tác giả luận án Lê Đình Hiển ii MỤC LỤC LỜI CAM ĐOAN ....................................................................................................i MỤC LỤC ............................................................................................................. ii LỜI CẢM ƠN ........................................................................................................vi DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT ...................................... vii DANH MỤC BẢNG BIỂU ...................................................................................ix DANH MỤC CÁC HÌNH VẼ ................................................................................ x MỞ ĐẦU ................................................................................................................ 1 1. Tính cấp thiết của đề tài ...................................................................................... 1 2. Mục tiêu nghiên cứu ........................................................................................... 3 3. Đối tượng nghiên cứu ......................................................................................... 3 4. Phạm vi nghiên cứu ............................................................................................ 3 5. Nội dung nghiên cứu ........................................................................................... 3 6. Phương pháp nghiên cứu .................................................................................... 4 7. Ý nghĩa khoa học và thực tiễn của đề tài ........................................................... 4 8. Luận điểm bảo vệ ................................................................................................ 5 9. Những điểm mới của đề tài ................................................................................. 5 10. Cấu trúc của luận án.......................................................................................... 6 CHƯƠNG 1: TỔNG QUAN CÁC VẤN ĐỀ NGHIÊN CỨU ............................... 7 1.1. Tổng quan về thành phố thông minh ............................................................... 7 1.1.1. Trên thế giới ........................................................................................... 7 1.1.2. Ở Việt Nam ............................................................................................ 8 1.1.3. Các thành phần của thành phố thông minh .......................................... 11 1.1.4. Vai trò của dữ liệu không gian trong thành phố thông minh ............... 12 1.1.5. Vai trò của mô hình 3D thành phố thông minh ................................... 16 1.1.6. Mô hình 3D thành phố thông minh ...................................................... 17 1.1.7. Mức độ chi tiết của mô hình 3D thành phố thông minh ...................... 19 1.2. Tổng quan về phương pháp và thuật toán phân loại dữ liệu đám mây điểm . 21 1.2.1. Tổng quan về phương pháp phân loại dữ liệu đám mây điểm ............. 21 1.2.2. Tổng quan về thuật toán phân loại dữ liệu đám mây điểm .................. 24 1.2.3. Tình hình nghiên cứu về thuật toán phân loại đám mây điểm ở Việt Nam ................................................................................................................................ 30 1.3. Tổng quan về các thuật toán phân loại đám mây điểm sử dụng trong luận án ....................................................................................................................................... 31 iii 1.3.1. Thuật toán lọc mặt đất .......................................................................... 31 1.3.2. Thuật toán lọc mái nhà ......................................................................... 32 1.3.3. Thuật toán phân loại theo độ cao ......................................................... 33 1.3.4. Thuật toán phân loại dựa theo cường độ tia quét ................................. 33 1.3.5. Thuật toán phân loại dựa theo chỉ số NDVI ........................................ 35 1.4. Tiểu kết chương 1 .......................................................................................... 37 1.5. Hướng nghiên cứu của đề tài luận án ............................................................ 37 CHƯƠNG 2: TỐI ƯU HÓA THUẬT TOÁN TỰ ĐỘNG PHÂN LOẠI DỮ LIỆU ĐÁM MÂY ĐIỂM ........................................................................................................ 39 2.1. Nghiên cứu công nghệ thu nhận dữ liệu và cấu trúc của hệ thống quét LiDAR hàng không City Mapper Leica ..................................................................................... 39 2.1.1 Các tính năng kĩ thuật của hệ thống CityMapper (cơ bản) ................... 40 2.1.2. Nghiên cứu đặc điểm, tính chất của đám mây điểm thu nhận từ công nghệ quét LiDAR hàng không ................................................................................ 43 2.2. Nghiên cứu và xây dựng các thuật toán trong tự động phân loại dữ liệu đám mây điểm ....................................................................................................................... 54 2.2.1. Thuật toán lọc nhiễu ............................................................................. 54 2.2.2. Thuật toán lọc mặt đất .......................................................................... 55 2.2.3. Phân loại lớp đường nhựa bằng ngưỡng cường độ phản xạ ................ 62 2.2.4. Phương pháp phân loại thực vật bằng ngưỡng độ cao và chỉ số NDVI ................................................................................................................................ 64 2.2.5. Thuật toán phân loại nhà ...................................................................... 65 2.3. Đề xuất xây dựng quy trình tối ưu hóa tự động phân loại dữ liệu đám mây điểm ............................................................................................................................... 69 2.4. Đề xuất quy trình xây dựng mô hình 3D thành phố thông minh tự động từ dữ liệu LiDar hàng không ................................................................................................... 72 2.5. Tiểu kết chương 2 .......................................................................................... 74 CHƯƠNG 3: XÂY DỰNG MÔ HÌNH 3D THÀNH PHỐ THÔNG MINH KHU VỰC HÒN GAI, HẠ LONG ......................................................................................... 75 3.1. Giới thiệu khu vực nghiên cứu ...................................................................... 75 3.2. Xây dựng chương trình máy tính phân loại dữ liệu đám mây điểm .............. 75 3.2.1. Mục đích và yêu cầu xây dựng chương trình máy tính phân loại dữ liệu đám mây điểm ......................................................................................................... 76 3.2.2. Thiết kế tổng thể chương trình máy tính phân loại dữ liệu đám mây điểm iv ................................................................................................................................ 76 3.2.3. Thiết kế chức năng của chương trình máy tính phân loại dữ liệu đám mây điểm ................................................................................................................. 79 3.2.4. Lập trình xây dựng chương trình phân loại dữ liệu đám mây điểm .... 81 3.2.5. Đóng gói và chạy thử ........................................................................... 83 3.3. Lựa chọn các phần mềm xử lý dữ liệu ........................................................... 84 3.3.1. Phần mềm MissionPro (Leica)............................................................. 84 3.3.2. Phần mềm Flight Pro (Leica) ............................................................... 84 3.3.3. Phần mềm Inertial Explorer (NovAtel - Canada) ................................ 84 3.3.4. Hệ thống phần mềm HxMap ................................................................ 85 3.3.5 Phần mềm TerraSolid (Phần Lan)......................................................... 86 3.4. Thực nghiệm thành lập mô hình 3D thành phố từ dữ liệu LiDAR hàng không ....................................................................................................................................... 86 3.4.1. Công tác chuẩn bị dữ liệu để xây dựng mô hình 3D ........................... 87 3.4.2. Xử lý dữ liệu ảnh và đám mây điểm LiDAR ....................................... 88 3.4.3. Công đoạn phân loại dữ liệu đám mây điểm ....................................... 91 3.4.4. Công đoạn xây dựng mô hình 3D thành phố thông minh .................... 97 3.5. Đánh giá các kết quả nghiên cứu ................................................................. 103 3.5.1. Phương pháp đánh giá kết quả ........................................................... 103 3.5.2. Lựa chọn khu vực đánh giá kết quả phân loại ................................... 104 3.5.3. Đánh giá độ chính xác của thuật toán phân loại điểm mặt đất .......... 106 3.5.4. Đánh giá độ chính xác quá trình tự động phân loại đám mây điểm .. 108 3.5.6. Đánh giá khả năng ứng dụng của quy trình công nghệ tự động phân loại dữ liệu đám mây điểm .......................................................................................... 116 3.6. Đánh giá khả năng ứng dụng của mô hình 3D thành phố thông minh thực nghiệm ......................................................................................................................... 116 3.6.1. Quy hoạch đô thị ................................................................................ 116 3.6.2. Hiển thị không gian ............................................................................ 117 3.6.3. Phân tích tầm nhìn ............................................................................. 118 3.6.4. Phòng chống thiên tai, ứng phó tình huống ....................................... 120 3.6.5. Quản lý tài sản & phát hiện thay đổi ................................................. 121 v 3.6.6. Thăm vấn cộng đồng .......................................................................... 122 3.6.7. Du lịch & bảo tồn di sản .................................................................... 123 3.6.8. Xác định các vấn đề môi trường và quản lý môi trường đô thị ......... 124 KẾT LUẬN VÀ KIẾN NGHỊ ............................................................................ 126 1. Kết luận ........................................................................................................... 126 2. Kiến nghị ......................................................................................................... 127 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC CỦA TÁC GIẢ ................... 129 ĐÃ CÔNG BỘ CÓ LIÊN QUAN TỚI LUẬN ÁN ............................................ 129 TÀI LIỆU THAM KHẢO .................................................................................. 131 PHỤ LỤC ........................................................................................................... 145 PHỤ LỤC 1: HƯỚNG DẪN SỬ DỤNG CHƯƠNG TRÌNH HUMG – POINT CLOUD CLASSIFIER ................................................................................................ 145 PHỤ LỤC 2 – MÃ NGUỒN CHƯƠNG TRÌNH HUMG – POINT CLOUD CLASSIFIER ............................................................................................................... 156 vi LỜI CẢM ƠN Trong quá trình thực hiện luận án, NCS đã nhận được sự giúp đỡ tận tình của thầy hướng dẫn khoa học: PGS.TS Bùi Ngọc Quý cùng các cán bộ, giảng viên thuộc Bộ môn Bản đồ, Khoa Trắc địa – Bản đồ và Quản lý đất đai thông qua các đề tài, dự án với thầy hướng dẫn như: Đề tài Khoa học và công nghệ cấp Bộ Giáo dục và đào tạo, mã số B2021-MDA-01. Bên cạnh đó, NCS cũng nhận được sự hướng dẫn về ngôn ngữ lập trình từ TS. Trần Thùy Dương (Trường Đại học Mỏ - Địa chất). NCS xin bày tỏ lòng biết ơn sâu sắc tới sự dìu dắt quý báu này từ quý thầy cô. Trong thời gian học tập và nghiên cứu, NCS còn nhận được những ý kiến trao đổi thẳng thắn về chuyên môn cũng như sự hỗ trợ về tài liệu tham khảo rất quý báu từ Cơ quan công tác là Công ty TNHH MTV Tài nguyên và Môi trường Việt Nam, Bộ Tài nguyên và Môi trường cùng các đồng nghiệp ở các cơ quan sản xuất và nghiên cứu khoa học như Cục Viễn thám Quốc gia, Nhà xuất bản Tài nguyên, môi trường và bản đồ Việt Nam, Cục Đo đạc bản đồ và thông tin địa lý Việt Nam, Viện Khoa học Đo đạc và Bản đồ (Bộ Tài nguyên và Môi trường), Trường Đại học Khoa học Tự nhiên (Đại học Quốc gia Hà Nội),... NCS xin chân thành cảm ơn những sự giúp đỡ quý báu này. NCS xin chân thành cảm ơn Trường Đại học Mỏ - Địa chất đã tạo mọi điều kiện để NCS có thể hoàn thành bản luận án này. NCS cũng xin trân trọng cảm ơn sự động viên, khích lệ của gia đình, bạn bè, đồng nghiệp trong suốt quá trình học tập, nghiên cứu và thực hiện luận án này. vii DANH MỤC CÁC KÝ HIỆU, CÁC CHỮ VIẾT TẮT DEM Digital Elevation Model Mô hình số độ cao DSM Digital Surface Model Mô hình số độ cao bề mặt DTM Digital Terrain Model Mô hình số địa hình EM Expectation Maximization Cực đại hóa kỳ vọng GIS Geographic Information System Hệ thống thông tin địa lý GNSS Global Navigation Satellite System Hệ thống vệ tinh dẫn đường toàn cầu GML Geography Markup Language Ngôn ngữ đánh dấu địa lý GPS Global Positioning System Hệ thống định vị toàn cầu GRID Lưới ô vuông HUMG Hanoi University of Minning and Geology Đại học Mỏ Địa Chất – Hà Nội IMU Inertial Measurement System Đơn vị đo lường quán tính INS Inertial Navigation System Hệ thống hàng hướng quán tính IoT Internet of Things Internet vạn vật LiDAR Light Detection And Ranging Công nghệ đo khoảng cách bằng tia laser LoD Level of Detail Cấp độ chi tiết NCS Nghiên cứu sinh NDVI Normalized Difference Vegetation Index Chỉ số thực vật NIR Near Infrared Cận hồng ngoại MCC Multiscale Curvature Classification Phân loại dựa trên nguyên lý lặp đa tỉ lệ MP Mega Pixel Đơn vị pixel ảnh viii OGC Open Geospatial Consortium Tổ chức không gian địa lý mở PPP Precise Point Positioning Công nghệ định vị điểm chính xác PRF Pulse Rate per Frame Tần số phát xung (số xung/giây) RGB Red Green Blue Đỏ Lục Lam TIN Triangulation Irregular Network Lưới tam giác không đồng đều TPTM Smart city Thành phố thông minh UAV Umanned Aerial Vehicle Thiết bị bay không người lái WGS World Geodetic System Hệ thống trắc địa thế giới ix DANH MỤC BẢNG BIỂU Bảng 2.1. Thông số kỹ thuật máy quét LiDAR Hyperion .................................... 40 Bảng 2.2. Thông số kỹ thuật Máy ảnh đa phổ RCD30 ......................................... 41 Bảng 2.3. Thông số kỹ thuật Bộ đo quán tính IMU LCI - 100C .......................... 42 Bảng 2.4. Thông số kỹ thuật Hệ thống giá đỡ ổn định: PAV - 100 ..................... 42 Bảng 2.5. Cường độ phản hồi của các loại bề mặt khác nhau .............................. 62 Bảng 3.1. Kết quả so sánh độ chính xác và độ hoàn thành của thuật toán lọc mặt đất đề xuất so với thuật toán PTD cổ điển. .................................................................. 108 Bảng 3.2. Kết quả độ chính xác và mức độ hoàn thành của thuật toán phân loại đường nhựa cho 3 khu vực nghiên cứu ....................................................................... 109 Bảng 3.3. Kết quả độ chính xác và mức độ hoàn thành của thuật toán phân loại mái nhà cho 3 khu vực nghiên cứu ..................................................................................... 111 Bảng 3.4. Kết quả độ chính xác và mức độ hoàn thành của thuật toán phân loại thực vật cho 3 khu vực nghiên cứu .............................................................................. 113 Bảng 3.5. Kết quả độ khớp, độ chính xác và mức độ hoàn thành của thuật toán tự động số hóa nhà cho 3 khu vực đánh giá ..................................................................... 115 x DANH MỤC CÁC HÌNH VẼ Hình 1.1. Sự phân loại các thành phần của thành phố thông minh trong chương trình “Hướng tới 100 thành phố thông minh” [33]........................................................ 12 Hình 1.2. Sơ đồ quản lý các kết nối đến các ứng dụng và dịch vụ thông qua hạ tầng cơ sở dữ liệu không gian................................................................................................ 15 Hình 1.3. Các các mác 1.3. mức h (LoD) trong mô hình 3D thành phố ............. 21 Hình 1.4. Các nhóm thuật toán phân loại dữ liệu đám mây điểm ........................ 25 Hình 1.5. Kết quả của một quá trình phân loại được thực hiện bởi thuật toán phân loại phát triển vùng ........................................................................................................ 27 Hình 1.6. Thuật toán phân loại RANSAC cho khối trụ ........................................ 28 Hình 1.7. Cường độ và số xung phản hồi của tia quét LiDAR ............................. 35 Hình 1.8. Thể trạng của lá cây khác nhau cho giá trị NDVI khác nhau ............... 36 Hình 2.1. Chế độ quét vòng tròn : chùm tia có thể hướng tới mọi nơi. ................ 39 Hình 2.2. Cấu tạo hệ thống Citymapper cơ bản.................................................... 40 Hình 2.3. Nguyên tắc đo khoảng cách bằng laser................................................. 44 Hình 2.4. Đồ thị Gaussion của xung ..................................................................... 45 Hình 2.5. Chùm tín hiệu phản hồi từ cây .............................................................. 46 Hình 2.6. Số hoá dạng sóng sự phản hồi của xung ............................................... 47 Hình 2.7. Sơ đồ véc tơ hình học trong công nghệ LiDAR ................................... 48 Hình 2.8. Sơ đồ véc tơ hình học trong hệ thống tích hợp LiDAR với máy ảnh số ....................................................................................................................................... 51 Hình 2.9. Nguyên lý thu thập của dữ liệu LiDAR. ............................................... 53 Hình 2.10. Giá trị góc lặp và khoảng cách lặp trong thuật toán PTD................... 56 Hình 2.11. Thuật toán lọc điểm mặt đất tăng cường ............................................ 57 Hình 2.12. Phương pháp phân loại lớp đường nhựa bằng ngưỡng cường độ phản xạ ................................................................................................................................... 64 Hình 2.13. Phương pháp phân loại thực vật bằng ngưỡng độ cao và chỉ số NDVI ....................................................................................................................................... 65 Hình 2.14. Thuật toán lọc mái nhà ....................................................................... 66 xi Hình 2.15. Sơ đồ quy trình tối ưu hóa tự động phân loại đám mây điểm ra 8 phân lớp khác nhau. ..............................................................................................