Luận án Nghiên cứu giải pháp nâng cao hiệu năng định hướng nguồn tín hiệu vô tuyến ứng dụng mạng nơ ron học sâu

BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ NGUYỄN DUY THÁI NGHIÊN CỨU GIẢI PHÁP NÂNG CAO HIỆU NĂNG ĐỊNH HƯỚNG NGUỒN TÍN HIỆU VÔ TUYẾN ỨNG DỤNG MẠNG NƠ RON HỌC SÂU LUẬN ÁN TIẾN SĨ KỸ THUẬT Hà Nội – 2024 BỘ GIÁO DỤC VÀ ĐÀO TẠO BỘ QUỐC PHÒNG VIỆN KHOA HỌC VÀ CÔNG NGHỆ QUÂN SỰ NGUYỄN DUY THÁI NGHIÊN CỨU GIẢI PHÁP NÂNG CAO HIỆU NĂNG ĐỊNH HƯỚNG NGUỒN TÍN HIỆU VÔ TUYẾN ỨNG DỤNG MẠNG NƠ RON HỌC SÂU Ngành: Kỹ thuật điện tử Mã số: 9 52 02 03 LUẬN ÁN TIẾN SĨ KỸ THUẬT NGƯỜI HƯỚNG DẪN KHOA HỌC: 1. PGS.TS Hoàng Văn Phúc 2. TS Lê Thanh Hải Hà Nội – 2024 i LỜI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cứu của tôi. Các kết quả nghiên cứu trong luận án là trung thực, chưa từng được ai công bố ở trong bất kỳ công trình nào khác, tài liệu tham khảo được trích dẫn đầy đủ. Hà Nội, ngày tháng 06 năm 2024 TÁC GIẢ LUẬN ÁN Nguyễn Duy Thái ii LỜI CẢM ƠN Trong quá trình học tập, nghiên cứu và hoàn thành đề tài luận án, Nghiên cứu sinh (NCS) luôn nhận được sự quan tâm, tạo điều kiện về mọi mặt của Thủ trưởng đơn vị, cơ quan quản lý đào tạo và gia đình; sự nhiệt tình và tâm huyết của tập thể giáo viên hướng dẫn; các ý kiến đóng góp quý báu của các nhà khoa học và đồng nghiệp trong và ngoài đơn vị. Trước hết, NCS xin được bày tỏ lời cảm ơn sâu sắc tới PGS.TS Hoàng Văn Phúc, TS Lê Thanh Hải đã trực tiếp hướng dẫn NCS trong quá trình nghiên cứu và hoàn thành luận án. Xin cảm ơn TS Đoàn Văn Sáng và nhóm nghiên cứu thực hiện đề tài Nghị định thư với Cộng hòa Séc mã số NĐT/CZ/22/12 đã có những tư vấn, góp ý bổ ích cho NCS trong việc xây dựng các mô hình mạng nơ-ron học sâu. NCS trân trọng cảm ơn Ban Giám đốc Viện KH-CN quân sự, Thủ trưởng Viện Điện tử, Thủ trưởng Phòng Đào tạo và các bộ phận quản lý liên quan đã tạo mọi điều kiện thuận lợi để NCS hoàn thành nhiệm vụ. NCS xin chân thành cảm ơn Quý thầy cô, các nhà khoa học của Viện Khoa học và Công nghệ quân sự; Viện Điện tử; Học viện Kỹ thuật quân sự; Học viện Hải quân; Đại học Bách khoa Hà Nội vv đã có các góp ý, nhận xét, đánh giá quý báu cho NCS trong quá trình thực hiện và hoàn thiện luận án này. Xin được trân trọng và biết ơn sự hy sinh và chia sẻ của gia đình. Xin cảm ơn đồng nghiệp, bạn bè luôn quan tâm, động viên, giúp đỡ NCS vượt qua khó khăn để hoàn thành luận án này. Hà Nội, ngày tháng 06 năm 2024 TÁC GIẢ LUẬN ÁN Nguyễn Duy Thái iii MỤC LỤC Trang MỤC LỤC ................................................................................................................. iii DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT ...................................................... vi DANH MỤC CÁC BẢNG .......................................................................................... x DANH MỤC CÁC HÌNH VẼ.................................................................................... xi MỞ ĐẦU ..................................................................................................................... 1 Chương 1 TỔNG QUAN VỀ ĐỊNH HƯỚNG NGUỒN TÍN HIỆU VÔ TUYẾN .... 6 1.1. Giới thiệu về định hướng nguồn tín hiệu vô tuyến .............................................. 6 1.1.1. Khái niệm, phân loại ......................................................................................... 6 1.1.2. Thiết bị định hướng nguồn tín hiệu vô tuyến .................................................... 8 1.2. Mô hình tín hiệu mảng ăng ten .......................................................................... 10 1.2.1. Mô hình tổng quát ........................................................................................... 10 1.2.2. Mô hình mảng ăng ten tuyến tính ................................................................... 13 1.3. Các phương pháp định hướng nguồn tín hiệu vô tuyến ..................................... 15 1.3.1. Phương pháp quét búp sóng ............................................................................ 15 1.3.2. Phương pháp phân tích không gian con .......................................................... 17 1.4. Trí tuệ nhân tạo và ứng dụng trong định hướng nguồn tín hiệu vô tuyến ......... 21 1.4.1. Khái quát về trí tuệ nhân tạo, học máy, học sâu ............................................. 21 1.4.2. Mạng nơ-ron nhân tạo ..................................................................................... 24 1.4.3. Mạng nơ-ron tích chập .................................................................................... 31 1.4.4. Ứng dụng trí tuệ nhân tạo định hướng nguồn tín hiệu vô tuyến ..................... 34 1.5. Tình hình nghiên cứu về định hướng nguồn tín hiệu vô tuyến .......................... 36 1.5.1. Tình hình nghiên cứu trong nước .................................................................... 36 1.5.2. Tình hình nghiên cứu ngoài nước ................................................................... 39 1.6. Đặt vấn đề nghiên cứu ........................................................................................ 42 1.7. Kết luận Chương 1 ............................................................................................. 44 Chương 2 GIẢI PHÁP NÂNG CAO HIỆU NĂNG ĐỊNH HƯỚNG NGUỒN TÍN HIỆU VÔ TUYẾN BẰNG MẠNG NƠ RON TÍCH CHẬP KẾT NỐI DƯ .... 45 2.1. Khảo sát, đánh giá khả năng ước lượng DOA của các thuật toán học máy ....... 45 2.1.1. Thuật toán SVM .............................................................................................. 46 iv 2.1.2. Thuật toán kNN ............................................................................................... 49 2.1.3. Đánh giá khả năng ước lượng hướng đến của SVM và kNN ......................... 50 2.2. Đánh giá khả năng ước lượng hướng đến của mạng nơ-ron .............................. 52 2.2.1. Khả năng ước lượng hướng đến của mạng nơ-ron tiêu chuẩn ........................ 52 2.2.2. Khả năng ước lượng hướng đến của mạng nơ-ron tích chập .......................... 54 2.3. Nghiên cứu đề xuất mô hình CNN cấu trúc kết nối dư ước lượng DOA cho mảng ăng ten tuyến tính không đồng đều ................................................................. 56 2.3.1. Cấu trúc mô hình DOA-ResNet đề xuất ......................................................... 57 2.3.2. Tạo lập dữ liệu, huấn luyện và kiểm tra mô hình ........................................... 58 2.3.3. Đánh giá hiệu năng ước lượng DOA của mô hình DOA-ResNet khi thay đổi số lượng kênh lọc ................................................................................................ 61 2.3.4. Đánh giá hiệu năng ước lượng DOA của mô hình DOA-ResNet khi thay đổi kích thước kênh lọc ............................................................................................. 63 2.3.5. So sánh hiệu năng ước lượng DOA của mô hình DOA-ResNet với các thuật toán học máy ............................................................................................................. 64 2.4. Nghiên cứu đề xuất mô hình CNN cấu trúc kết nối dư phép nhân tự động hiệu chỉnh sai số hệ thống nâng cao hiệu năng ước lượng hướng đến ............................. 65 2.4.1. Mô hình tín hiệu mảng ăng ten có chứa sai số hệ thống ................................. 66 2.4.2. Cấu trúc mô hình DOA-CNN đề xuất ............................................................. 68 2.4.3. Tạo lập dữ liệu, huấn luyện và kiểm tra mô hình ........................................... 70 2.4.4. Đánh giá độ chính xác ước lượng DOA của mô hình DOA-CNN trong các trường hợp có sai số hệ thống ................................................................................... 73 2.4.5. So sánh hiệu năng ước lượng DOA của mô hình DOA-CNN với các mô hình học máy, học sâu khác ...................................................................................... 77 2.5. Kết luận Chương 2 ............................................................................................. 78 Chương 3 GIẢI PHÁP NÂNG CAO HIỆU NĂNG ĐỊNH HƯỚNG NGUỒN TÍN HIỆU VÔ TUYẾN BẰNG MẠNG NƠ-RON UNET KẾT HỢP THUẬT TOÁN MUSIC, ROOTMUSIC ................................................................................ 80 3.1. Mạng nơ-ron Unet .............................................................................................. 80 3.2. Nghiên cứu đề xuất mô hình UFCnet kết hợp thuật toán MUSIC, Root- MUSIC nâng cao hiệu năng ước lượng DOA ........................................................... 81 v 3.2.1. Mô hình tín hiệu tạo lập dữ liệu ...................................................................... 81 3.2.2. Cấu trúc mô hình UFCnet đề xuất .................................................................. 82 3.2.3. Tạo lập dữ liệu, huấn luyện và kiểm tra mô hình ........................................... 84 3.2.4. Đánh giá khả năng phân biệt góc ước lượng ................................................... 86 3.2.5. Đánh giá độ chính xác ước lượng DOA trong trường hợp mảng ăng ten là lý tưởng ..................................................................................................................... 87 3.2.6. Đánh giá độ chính xác ước lượng DOA trong trường hợp mảng ăng ten có các sai lệch vị trí các phần tử, pha và biên độ do đường truyền ............................... 88 3.3. Nghiên cứu đề xuất mô hình UNet kết hợp thuật toán MUSIC, RootMUSIC nâng cao hiệu năng ước lượng DOA nguồn tín hiệu tương quan. ............................ 90 3.3.1. Mô hình tín hiệu tạo lập dữ liệu xét đến sự tương quan của tín hiệu .............. 90 3.3.2. Cấu trúc mô hình UNet đề xuất ...................................................................... 93 3.3.3. Tạo lập dữ liệu, huấn luyện và kiểm tra mô hình ........................................... 95 3.3.4. Đánh giá khả năng ước lượng DOA nguồn tín hiệu tương quan .................... 97 3.3.5. Đánh giá hiệu năng ước lượng DOA khi thay đổi các tham số kênh lọc trong lớp tích chập ..................................................................................................... 98 3.3.6. Đánh giá độ chính xác ước lượng DOA khi thay đổi số lượng phần tử mảng ăng ten. .................................................................................................................... 100 3.3.7. Đánh giá độ chính xác ước lượng DOA khi thay đổi số lượng mẫu tín hiệu101 3.3.8. Đánh giá độ chính xác ước lượng DOA khi thay đổi tần số tín hiệu ............ 102 3.3.9. Đánh giá độ chính xác ước lượng DOA trong các trường hợp xảy ra sai số hệ thống .............................................................................................................. 103 3.3.10. Đánh giá độ phân giải góc ước lượng ......................................................... 108 3.4. So sánh các phương pháp, mô hình đề xuất trong luận án ............................... 109 3.4.1. Cấu trúc, cách thức hoạt động của các mô hình đề xuất ............................... 110 3.4.2. Hiệu năng ước lượng DOA của các mô hình đề xuất ................................... 112 3.5. Kết luận Chương 3 ........................................................................................... 116 KẾT LUẬN ............................................................................................................. 117 DANH MỤC CÁC CÔNG TRÌNH KHOA HỌC ĐÃ CÔNG BỐ ........................ 119 TÀI LIỆU THAM KHẢO ....................................................................................... 120 vi DANH MỤC CÁC KÝ HIỆU, CHỮ VIẾT TẮT a Một biến số a Một vector A Một ma trận ai,j Phần tử hàng i, cột j của ma trận [.]H Phép chuyển vị liên hiệp phức ma trận [.]T Phép chuyển vị ma trận  Bước sóng, m f, fc Tần số, tần số trung tâm, [Hz] P Số nguồn tín hiệu tới M Số phần tử mảng ăng ten N Số mẫu tín hiệu trong một cửa sổ d Khoảng cách giữa 2 phần tử cạnh nhau mảng ăng ten, [m] DA Khẩu độ mảng ăng ten 2 N Phương sai nhiễu  Góc tới trong mặt phẳng phương vị s(t) Tín hiệu P nguồn phát tới mảng ăng ten x(t) Tín hiệu thu được bởi mảng ăng ten M phần tử n(t) Nhiễu tác động ên M phần tử mảng ăng ten A(θ) Ma trận định hướng Ts Chu kỳ lấy mẫu bộ biến đổi tương tự - số E {.} Toán tử kỳ vọng R Ma trận hiệp phương sai I Ma trận đơn vị vii w Vector trọng số P(θ) Phổ công suất theo không gian f (.) Hàm kích hoạt y (.) Giá trị đầu ra min {.}, max {.} Lấy giá trị cực tiểu, cực đại Conv {.} Phép tích chập maxpooling {.} Phép gộp cực đại averpooling {.} Phép gộp trung bình Norm {.} Phép chuẩn hóa real {x} Hàm lấy giá trị thực của số phức image {x} Hàm lấy giá trị ảo của số phức triu{A} Hàm lấy các phần tử tam giác trên của ma trận tril{A} Hàm lấy các phần tử tam giác dưới của ma trận diag{A} Hàm lấy các phần tử đường chéo chính của ma trận randi {.} Toán tử ngẫu nhiên số nguyên ADAM Ước tính mô-men thích nghi (Adaptive Moment Estimation) ADC Biến đổi tương tự - số (Analog – Digital Converter) AE Tự động mã hóa (Autoencoder) AI Trí tuệ nhân tạo (Artificial Intelligence) ANN Mạng nơ-ron nhân tạo (Artificial Neural Network) AWGN Tạp âm trắng cộng tính Gauss (Additive White Gaussian Noise) Asym -AWPC Ăng ten không tâm pha bất đối xứng (Asymmetric Antenna Without Phase Center) CBF Quét búp sóng thông thường (Conventional Beamforming) CFO Dịch tần số sóng mang (Carrier Frequency Offset) CNN Mạng nơron tích chập (Convolutional Neural Network) viii CRLB Biên dưới Cramer – Rao (Cramer – Rao Lower Bound) CS Thuật toán nén mẫu (Compressive Sensing) DL Học sâu (Deep Learning) DNN Mạng nơ-ron sâu (Deep Neural Networks) DOA Hướng đến (Direction of Arrival) DT Cây quyết định (Decision Tree) ELU Hàm kích hoạt ELU (Exponential Linear Unit) ESPRIT Ước lượng tham số tín hiệu thông qua kỹ thuật quay bất biến (Estimation of Signal Parameter via rotational invariance techniques) FC Kết nối đầy đủ (Fully Connection) FDOA Sai lệch tần số đến (Frequency difference of arrival) FOV Vùng quan sát (Field of View) GANs Mạng nơ-ron tự sinh (Generative Adversarial Networks) GNB Thuật toán GNB (Gausian Naive Bayes) GPU Card xử lý đồ họa (Graphic Processing Unit) I/Q Đồng pha/Vuông pha (In phase/Quadrature-phase) kNN k láng giềng gần nhất (k-Nearest Neighbors) LUT Bảng tìm kiếm (Look-up table) LSTM Bộ nhớ dài – ngắn (Long Short Term Memory) MIMO Đa đầu vào đa đầu ra (Multiple Input Multiple Output) ML Học máy (Machine Learning) MLP Perceptron nhiều lớp (Multi-layer Perceptron) MUSIC Phân loại đa tín hiệu (Multiple Signal Classification) MVDR Đáp ứng không biến dạng phương sai cực tiểu (Minimum Variance Distortionless Response) ix NCS Nghiên cứu sinh (PhD student) NLA Mảng tuyến tính không đồng đều (Non-uniform Linear Array) PCA Phân tích thành phần chính (Principal Component Analysis) PLL Vòng khóa pha (Phase-Locked Loop) RCNN Mạng nơ-ron tích chập định hướng (Recurrent Convolutional Neural Network) ResNet Mạng kết nối dư (Residual Connection Network) RF Thuật toán rừng ngẫu nhiên (Random Forest) RMSE Sai số căn quân phương (Root Mean Square Error) RNN Mạng nơ-ron hồi quy (Recurrent Neural Network) SDMA Đa truy nhập phân chia theo không gian (Space Division Multiple Access) SGD Giảm độ dốc ngẫu nhiên (Stochastic Gradient Descent) SGDM SGD với mô-men (SGD with momentum) SNR Tỷ số tín trên tạp (Signal to Noise Ratio) SVM Máy vectơ hỗ trợ (Support Vector Machine) SVR Hồi quy vector hỗ trợ (Support Vector Regression) TFBMP Ma trận Pencil thuận ngược (Total Forward-Backward Matrix Pencil) TOA Thời gian đến (Time of Arrival) UAV Phương tiện bay không người lái (Unmanned Aerial Vehicle) UCA Mảng tròn đồng đều (Uniform Circular Array) ULA Mảng tuyến tính đồng đều (Uniform Linear Array) x DANH MỤC CÁC BẢNG Trang Bảng 2.1. Độ lớn và thời gian thực thi của DOA-ResNet khi thay đổi số lượng kênh lọc ..................................................................................................................... 63 Bảng 2.2. Độ lớn và thời gian thực thi của DOA-ResNet khi thay đổi kích thước kênh lọc ..................................................................................................................... 64 Bảng 2.3. Tham số giả định tạo tập dữ liệu huấn luyện và kiểm chứng ................... 70 Bảng 3.1. Số lượng trọng số và thời gian thực thi của các phiên bản Unet .............. 99 Bảng 3.2. So sánh đặc điểm của các mô hình đề xuất ............................................ 111 Bảng 3.3. Số lượng trọng số và thời gian thực thi của các mô hình đề xuất .......... 115 xi DANH MỤC CÁC HÌNH VẼ Trang Hình 1.1. Một số hệ thống trinh sát điện tử: ............................................................... 9 Hình 1.2. Mô hình thu tín hiệu tổng quát của mảng ăng ten. .................................... 11 Hình 1.3. Mô hình thu tín hiệu mảng ăng ten tuyến tính đồng đều .......................... 15 Hình 1.4. Cách chia mảng điển hình trong phương pháp ESPRIT ........................... 20 Hình 1.5. Mối quan hệ giữa AI, ML, DL, ANN, DNN và CNN .............................. 23 Hình 1.6. Cấu trúc mạng nơ-ron nhiều lớp .............................................................. 24 Hình 1.7. Cấu trúc của một nơ-ron nhân tạo điển hình ............................................ 25 Hình 1.8. Minh họa phép tính tích chập .................................................................... 32 Hình 1.9. Minh họa 2 phép tính gộp cực đại và trung bình. ..................................... 33 Hình 1.10. Sơ đồ khối tổng quan hệ thống ứng dụng AI định hướng nguồn tín hiệu ............................................................................................................................ 36 Hình 2.1. Mối quan hệ giữa 21 và 31 và sự phân cụm pha ................................ 47 Hình 2.2. Minh họa thuật toán SVM lựa chọn đường phân tách phù hợp ................ 47 Hình 2.3. Minh họa nguyên tắc ra quyết định của thuật toán kNN với k = 5 ........... 49 Hình 2.4. Độ chính xác ước lượng DOA của kNN và SVM .................................... 51 Hình 2.5. Mô hình mạng MLP đánh giá khả năng định hướng. ............................... 53 Hình 2.6. Độ chính xác ước lượng DOA của mô hình MLP .................................... 53 Hình 2.7. Mô hình mạng CNN đánh giá khả năng định hướng. ............................... 55 Hình 2.8. Độ chính xác ước lượng DOA của mô hình CNN .................................... 55 Hình 2.9. Độ chính xác ước lượng DOA của SVM, kNN, MLP và CNN ................ 56 Hình 2.10. Cấu trúc của mạng nơ-ron DOA-ResNet đề xuất ................................... 58 Hình 2.11. Mô hình thu tín hiệu mảng ăng ten NLA ................................................ 59 Hình 2.12. Sơ đồ huấn luyện và kiểm chứng mô hình DOA-ResNet đề xuất .......... 60 Hình 2.13. Độ chính xác phân loại và sai số ước lượng DOA của mô hình DOA- ResNet khi thay đổi số lượng kênh lọc ..................................................................... 62 Hình 2.14. Độ chính xác phân loại và sai số ước lượng DOA của mô hình DOA- ResNet khi thay đổi kích thước kênh lọc .................................................................. 63 xii Hình 2.15. Độ chính xác ước lượng DOA của mô hình DOA-ResNet và các thuật toán học máy ............................................................................................................. 64 Hình 2.16. Mô hình thu tín hiệu mảng ăng ten ULA có các sai số ........................... 66 Hình 2.17. Cấu trúc mô hình DOA-CNN đề xuất. .................................................... 68 Hình 2.18. Minh họa phép tích chập trong lớp tích chập mô hình DOA-CNN. ....... 69 Hình 2.19. Sự thay đổi giá trị mất mát và độ chính xác phân loại góc trong quá trình huấn luyện mô hình