Khóa luận Giải pháp mở rộng thông tin ngữ cảnh phiên duyệt web người dùng nhằm nâng cao chất lượng tư vấn trong hệ thống tư vấn tin tức

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Uông Huy Long GIẢI PHÁP MỞ RỘNG THÔNG TIN NGỮ CẢNH PHIÊN DUYỆT WEB NGƯỜI DÙNG NHẰM NÂNG CAO CHẤT LƯỢNG TƯ VẤN TRONG HỆ THỐNG TƯ VẤN TIN TỨC KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành: Công nghệ thông tin HÀ NỘI - 2010 Lời cảm ơn Trước tiên, tôi xin gửi lời cảm ơn và lòng biết ơn sâu sắc nhất tới Phó Giáo sư Tiến sĩ Hà Quang Thụy và Thạc sĩ Trần Mai Vũ, người đã tận tình chỉ bảo và hướng dẫn tôi trong suốt quá trình thực hiện khoá luận tốt nghiệp. Tôi chân thành cảm ơn các thầy, cô đã tạo những điều kiện thuận lợi cho tôi học tập và nghiên cứu tại trường Đại Học Công Nghệ. Tôi cũng xin gửi lời cảm ơn tới các anh chị và các bạn sinh viên trong nhóm “Khai phá dữ liệu” đã giúp tôi rất nhiều trong việc hỗ trợ kiến thức chuyên môn để hoàn thành tốt khoá luận. Cuối cùng, tôi muốn gửi lời cảm vô hạn tới gia đình và bạn bè, những người thân yêu luôn bên cạnh và động viên tôi trong suốt quá trình thực hiện khóa luận tốt nghiệp. Tôi xin chân thành cảm ơn! Sinh viên Uông Huy Long ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Uông Huy Long GIẢI PHÁP MỞ RỘNG THÔNG TIN NGỮ CẢNH PHIÊN DUYỆT WEB NGƯỜI DÙNG NHẰM NÂNG CAO CHẤT LƯỢNG TƯ VẤN TRONG HỆ THỐNG TƯ VẤN TIN TỨC KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành: Công nghệ thông tin Cán bộ hướng dẫn: Th.S Trần Mai Vũ HÀ NỘI - 2010 i Lời cảm ơn Trước tiên, tôi xin gửi lời cảm ơn và lòng biết ơn sâu sắc nhất tới Phó Giáo sư Tiến sĩ Hà Quang Thụy và Thạc sĩ Trần Mai Vũ, người đã tận tình chỉ bảo và hướng dẫn tôi trong suốt quá trình thực hiện khoá luận tốt nghiệp. Tôi chân thành cảm ơn các thầy, cô đã tạo những điều kiện thuận lợi cho tôi học tập và nghiên cứu tại trường Đại Học Công Nghệ. Tôi cũng xin gửi lời cảm ơn tới các anh chị và các bạn sinh viên trong nhóm “Khai phá dữ liệu” đã giúp tôi rất nhiều trong việc hỗ trợ kiến thức chuyên môn để hoàn thành tốt khoá luận. Cuối cùng, tôi muốn gửi lời cảm vô hạn tới gia đình và bạn bè, những người thân yêu luôn bên cạnh và động viên tôi trong suốt quá trình thực hiện khóa luận tốt nghiệp. Tôi xin chân thành cảm ơn! Sinh viên Uông Huy Long ii Tóm tắt Với sự phát triển của Internet, con người ngày nay không chỉ có nhiều hơn cơ hội tiếp xúc với các nguồn cung cấp tin tức mà còn có thể có được nó đúng lúc hơn. Các tờ báo điện tử ở Việt Nam cung cấp mỗi ngày hàng chục cho tới hàng trăm tin mới thuộc nhiều lĩnh vực khác nhau sẵn sàng đáp ứng các yêu cầu mọi lúc, mọi nơi của người đọc. Tuy nhiên, bên cạnh những tiện ích, tồn tại những vấn đề cần được giải quyết như sự gia tăng về số lượng, tính đa dạng về nội dung của tin tức ở các nguồn khác nhau, sự phù hợp cá nhân,...Trong bối cảnh đó, sự giúp đỡ của một hệ thống tư vấn tin tức là cần thiết, bằng cách duyệt qua không gian các lựa chọn, nó dự đoán các tin tức hữu ích tiềm năng với từng người dùng cá nhân. Xây dựng hồ sơ sở thích người dùng là một trong các thành phần cơ bản nhất của hệ thống tư vấn. Tuy nhiên, những mô hình (như trong khảo sát của Gauch và cộng sự [14] ) đang được sử dụng hiện nay vẫn tồn tại nhiều vấn đề chưa được giải quyết, ví dụ như: tính nhập nhằng ngữ nghĩa trong các hồ sơ dựa trên từ khóa, hoặc đòi hòi thông tin suy diễn từ WordNet để xác định ngữ nghĩa trong các hồ sơ dựa trên mạng ngữ nghĩa,...Thêm vào đó, các giải pháp này còn thiếu khả năng tính hợp mềm dẻo các nhân tố ngữ cảnh. Khóa luận này trình bày một mô hình hệ thống tư vấn tin tức sử dụng một mô hình sở thích ngươi dùng mới. Dựa trên khai phá dữ liệu từ ngữ cảnh duyệt web của người dùng, hệ thống coi sở thích của người sử dụng là một kết hợp của tập các chủ đề ẩn xuất hiện phổ biến và tập các thực thể trong các tin tức người dùng từng quan tâm. iii Mục lục Mở đầu .......................................................................................................................... 1 Chương 1. Khái quát về các hệ thống tư vấn .................................................................. 3 1.1. Bài toán tư vấn ............................................................................................... 3 1.2. Các kĩ thuật tư vấn .......................................................................................... 5 1.2.1. Kĩ thuật tư vấn dựa trên nội dung ............................................................. 5 1.2.2. Kĩ thuật tư vấn cộng tác ........................................................................... 8 1.2.3. Kĩ thuật tư vấn lai................................................................................... 11 1.3. Sơ lược về hệ thống tư vấn tin tức của khóa luận .......................................... 13 1.3.1. Đặc trưng của tư vấn tin tức. .................................................................. 13 1.3.2. Hướng tiếp cận của khóa luận ................................................................ 14 Chương 2. Mô hình hóa sở thích người dùng cho các hệ tư vấn dựa trên nội dung. ...... 16 2.1. Tiến trình mô hình sở thích người dùng ........................................................ 16 2.2. Thu thập thông tin về người dùng ................................................................. 17 2.2.1. Phương pháp định danh người dùng ....................................................... 17 2.2.2. Các phương pháp thu thập thông tin ....................................................... 18 2.3. Xây dựng mô hình sở thích người dùng ........................................................ 21 2.3.1. Phương pháp dựa trên từ khóa có trọng số.............................................. 21 2.3.2. Phương pháp dựa trên mạng ngữ nghĩa .................................................. 22 2.3.3. Phương pháp dựa trên cây phân cấp khái niệm ....................................... 23 Chương 3. Mô hình ...................................................................................................... 24 3.1. Cơ sở lý thuyết ............................................................................................. 25 3.1.1. Phân tích thông tin chủ đề dựa trên mô hình chủ đề LDA. ...................... 25 3.1.2. Nhận dạng các thực thể trong tài liệu dựa trên từ điển ............................ 27 3.2. Phân tích sở thích người dùng ....................................................................... 28 3.2.1. Thông tin trong phiên duyệt web người dùng ......................................... 28 3.2.2. Mô hình sở thích người dùng ................................................................. 29 3.3. Áp dụng mô hình môi quan tâm người dùng vào tư vấn tin tức ..................... 30 3.3.1. Pha phân tích dữ liệu tư vấn ................................................................... 30 3.3.2. Pha tư vấn trực tuyến ............................................................................. 33 3.4. Đánh giá kết quả tư vấn. ............................................................................... 36 Chương 4: Thực nghiệm và đánh giá ........................................................................... 37 iv 4.1. Môi trường thực nghiệm ............................................................................... 37 4.2. Dữ liệu và công cụ ........................................................................................ 37 4.2.1. Dữ liệu ................................................................................................... 37 4.2.2. Công cụ .................................................................................................. 38 4.3. Thực nghiệm ................................................................................................ 39 4.3.1. Ví dụ về phân tích tin tức ....................................................................... 39 4.3.2. Ví dụ phân tích sở thích người dùng ....................................................... 40 4.3.3. Tư vấn tin tức ......................................................................................... 42 4.4. Kết quả thực nghiệm và đánh giá .................................................................. 43 Kết luận ....................................................................................................................... 46 Tài liệu tham khảo ....................................................................................................... 48 v Danh sách hình Hình 1. Các thành phần chính của hệ thống tư vấn. ........................................................ 4 Hình 2. Tiến trình mô hình hóa sở thích người dùng. ................................................... 16 Hình 3. Các hệ thống tư vấn dựa trên thông tin phản hồi hiện. ..................................... 19 Hình 4. Mô hình mối quan tâm người dùng dựa trên từ khóa. ...................................... 22 Hình 5. Mô hình mối quan tâm người dùng dựa trên mạng ngữ nghĩa .......................... 22 Hình 6. Mô hình mối quan tâm người dùng dựa trên mạng khái niệm .......................... 23 Hình 7. Tài liệu với K chủ đề ẩn. ................................................................................. 25 Hình 8. Biểu diễn đồ họa LDA ..................................................................................... 26 Hình 9. Ước lượng tham số tập dữ liệu văn bản. .......................................................... 26 Hình 10. Suy diễn chủ đề sử dụng tập dữ liệu VnExpress ............................................ 27 Hình 11. Mô hình sở thích người dùng dựa trên chủ đề ẩn và thực thể. ........................ 29 Hình 12. Mô hình pha phân tích dữ liệu tư vấn ............................................................ 31 Hình 13. Mô hình pha tư vấn trực tuyến. ...................................................................... 33 Hình 14. Biểu diễn tin tức theo chủ đề và thực thể. ...................................................... 39 Hình 15. Kết quả phân tích cho thấy các thông tin liên quan đến chủ đề 19. ................. 42 vi Danh sách các bảng Bảng 1. Đánh giá theo thang điểm về một số bộ phim đã xem. ...................................... 5 Bảng 2. Các kĩ thuật thu thập thông tin ẩn. ................................................................... 20 Bảng 3. Ví dụ về một hồ sơ sở thích người dùng. ......................................................... 24 Bảng 4. Thông tin trong phiên duyệt web. .................................................................... 28 Bảng 5. Môi trường thực nghiệm. ................................................................................ 37 Bảng 6. Công cụ. ......................................................................................................... 38 Bảng 7. Một số chủ đề ẩn ............................................................................................. 39 Bảng 8. Ví dụ về phân tích sở thích người dùng. .......................................................... 40 Bảng 9. Đánh giá mô hình phân tích sở thích. .............................................................. 44 Bảng 10. Độ chính xác của mô hình dựa vào đánh giá của người sử dụng. ................... 44 1 Mở đầu Từ khi những bài báo đầu tiên về lọc công tác được công bố từ những năm 90 của thế kỉ trước, hệ tư vấn đã chứng tỏ được vai trò quan trọng của mình trong cả hai khía cạnh nghiên cứu và ứng dụng. Chúng ta có thể dễ dàng tiếp cận với các bài báo khoa học liên quan đến từ khóa “Recommender System” trong hơn 8600 kết quả trả về từ máy tìm kiếm GoogleScholar 1 với hơn 1100 kết quả cho riêng năm 2009 hoặc sử dụng các ứng dụng tư vấn nổi tiếng như sách trên Amazon2, phim trên NetFlix3. Các hệ tư vấn hoạt động như một bộ lọc thông tin [8], nhằm cố gắng đưa ra các thông tin về nội dung hoặc thông tin về sản phẩm (như phim, sách, website, tin tức,…) có nhiều khả năng thuộc được người dùng quan tâm. Thông thường, một hệ tư vấn so sánh mối quan tâm của người dùng (trong khóa luận, hai khái niệm mối quan tâm người dùng hay sở thích người dùng có thể được sử dụng thay thế cho nhau) với một vài đặc trưng tham chiếu để đưa ra các ước lượng đánh giá cho các sản phẩm. Các đặc trưng này có thể đến từ các thông tin của sản phẩm (hướng tiếp cận lọc dựa trên nội dung) hoặc từ môi trường xã hội người dùng (hướng tiếp cận lọc cộng tác). Mặc dù các hệ thống tư vấn đã được nghiên cứu từ khá lâu, và đã có nhiều ứng dụng chứng minh được tính hiệu quả của các hệ thống tư vấn trên thế giới, các nghiên cứu về lĩnh vực này ở Việt Nam còn hạn chế. Mong muốn phát triển một hệ thống tư vấn, khóa luận tập trung vào xây dựng một hệ thống tư vấn các tin tức tiếng Việt. Ngày nay, khái niệm “báo điện tử” cũng như việc đọc tin tức điện tử đã không còn xa lạ với đa số người dân Việt Nam. Những thống kê trong gần đây trên BaoMoi4 về số lượt người sử dụng internet để xem các tin tức điện tử hiện nay đang cho thấy nhu cầu ngày một tăng của xã hội trong lĩnh vực truyền thông này. Tuy nhiên, một vấn đề còn tồn tại hiện nay đó là trong khi có quá nhiều tin tức mỗi ngày được cập nhật, người dùng giường như bị chìm ngập trong biển thông tin mà vẫn không tìm ra được các thông tin phù hợp, đó chính là môi trường cho các lĩnh vực liên quan đến tư vấn tin tức phát triển. Nắm bắt được nhu cầu này, khóa luận đề xuất một giải pháp tư vấn các nội dung thông tin liên quan đến ngữ cảnh tiếp nhận thông tin hiện tại của người sử dụng, qua đó mong 1 2 3 4 2 muốn cung cấp được những chỉ dẫn đúng, nhanh chóng, và không có các phiền toái từ việc phải đăng kí hay cung cấp các thông tin cá nhân. Nội dung chính của khóa luận được chia làm 4 phần:  Chương 1. Các hệ thống tư vấn: Trình bày các khái niệm, các thuật ngữ, các kĩ thuật liên quan đến hệ thống tư vấn. Các ưu và nhược điểm của các kĩ thuật này cũng được trình bày chi tiết hơn trong các mục 1.2 và 1.3.  Chương 2. Mô hình hóa sở thích người dùng cho các hệ tư vấn dựa trên nội dung: Giới thiệu về bài toán xây dựng sở thích người dùng, các thông tin được sử dụng để phân tích và một số kĩ thuật mô hình sở thích người dùng.  Chương 3. Mô hình: Trình bày đề xuất xây dựng sở thích người dùng dựa trên phân tích chủ đề ẩn phổ biến và các thực thể, và áp dụng của mô hình này vào hệ thống tư vấn tin tức.  Chương 4. Thực nghiệm và đánh giá: Trình bày một số kết quả đánh giá ban đầu. 3 Chương 1. Khái quát về các hệ thống tư vấn Trong cuộc sống hàng ngày, khi đứng trước quá nhiều lựa chọn, người ta thường dựa trên những ý kiến hay lời khuyên của mọi người xung quanh. Nhưng trong kỉ nguyên thông tin, hàng triệu thông tin được đưa lên internet mỗi ngày, điều này dẫn tới yêu cầu phải có các phương pháp tự động thu thập thông tin và đưa ra lời khuyên để hỗ trợ cho các phương pháp truyền thống trên . Hệ tư vấn (recommender system) là một giải pháp như vậy. Hệ thống này đưa ra gợi ý dựa trên những gì người dùng đã làm trong quá khứ, hoặc dựa trên tổng hợp ý kiến của những người dùng khác. Hệ tư vấn đã trở thành một ứng dụng quan trọng và thu hút được sự quan tâm lớn của các nhà nghiên cứu cũng như các doanh nghiệp. Một số hệ tư vấn nổi tiếng hiện nay như [26] :  Phim / TV/ âm nhạc: MovieLens, EachMovie, Morse, Firefly, Flycasting  Tin tức / báo chí: Tapestry, GroupLens, Lotus Notes, Anatagonomy…  Sách / Tài liệu: Amazon.com, Foxtrot, InfoFinder…  Web: Phoaks, Gab, Fab, IfWeb, Let's Browse …  Nhà hàng: Adaptive Place Advisor, Polylens, Pocket restaurent finder…  Du lịch: Dietorecs, LifestyleFinder … 1.1. Bài toán tư vấn Một cách hình thức, bài toán tư vấn được các tác giả Adomavicius và Tuzhilin [2] mô tả như sau: Gọi U = (uଵ,uଶ, uଷ, … , u୑ ) là tập hợp tất cả người dùng trong hệ thống tư vấn, ܫ = (iଵ, iଶ, iଷ, … , i୒) là tập tất cả các sản phẩm có thể tư vấn. Một hàm g = ܷ × ܫ → ܴ, trong đó R là một tập hợp có thứ tự, được dùng để đo sự phù hợp của sản phẩm in với người dùng um. Như vậy, với mỗi người dùng um thuộc vào U, hệ tư vấn cần chọn ra các sản phẩm i௠௔௫,௨೘ ∈ ܫ, chưa biết với người dùng um sao cho hàm g đạt giá trị lớn nhất. ∀u୫ ∈ ܷ, i௠௔௫,௨೘ = arg max g(u୫, i୬) 4 Trong các hệ thống tư vấn, mức độ phù hợp của sản phẩm thường được biểu diễn theo đánh giá thang điểm (rating), phụ thuộc vào từng ứng dụng, các đánh giá này có thể được thực hiện trực tiếp bởi người dùng hoặc được tính toán bởi hệ thống. Mỗi người dùng thuộc không gian ngươi dùng U được xác định bởi một hồ sơ (user profile), những thông tin lưu trong hồ sơ này có thể bao gồm các thông tin như giới tính, tuổi, quốc gia, tính trạng hôn nhân, … hay cũng có thể bao gồm các thông tin về sở thích, mối quan tâm của họ. Tương tự như vậy, mỗi sản phẩm cũng được mô tả bởi tập hợp các đặc trưng của chúng. Ví dụ, trong hệ thống tư vấn phim, các đặc trưng của một bộ phim có thể là tên phim, thể loại, đạo diễn, diễn viên chính,… Một cách khát quát tiến trình tư vấn có thể được mô tả như sau: Hình 1. Các thành phần chính của hệ thống tư vấn. Đầu tiên, bộ phận học hồ sơ người dùng phân tích các sở thích ngươi dùng. Một khi hệ thống hiểu được người dùng quan tâm đến điều gì, nó thực thi một thuật toán tư vấn, so sánh, tổ hợp giữa các hồ sơ người dùng hoặc giữa hồ sơ người dùng với các đặc trưng sản phẩm, sau đó chọn ra tập hợp những sản phẩm người dùng có thể ưa thích. Vấn đề chính của hệ tư vấn là hàm g không được xác định trên toàn không gian ܷ × ܫ mà chỉ trên một miền nhỏ của không gian đó. Điều này dẫn tới việc hàm g phải được ngoại suy trong không gian này. Thông thường, độ phù hợp được thể hiện bằng điểm và chỉ xác định trên tập các sản phẩm đã từng được người dùng đánh giá từ trước 5 (thường khá ít). Ví dụ, bảng 2 là đánh giá của một số người dùng với các phim mà họ đã xem (thang điểm từ 0-10, kí hiệu ∅ nghĩa là bộ phim chưa được người dùng cho điểm). Từ những thông tin đó, hệ thống tư vấn phải dự đoán (ngoại suy) điểm cho các bộ phim chưa được người dùng đánh giá, từ đó đưa ra những gợi ý phù hợp nhất. Bảng 1. Đánh giá theo thang điểm về một số bộ phim đã xem. Spartacus Back to the Future 3 HarryPotter 6 Up A 2 ∅ 8 9 B 8 7 ∅ ∅ C ∅ ∅ 6 5 D ∅ 4 ∅ 7 1.2. Các kĩ thuật tư vấn Có rất nhiều cách để dự đoán, ước lượng hạng/điểm cho các sản phẩm như sử dụng học máy, lí thuyết xấp sỉ, các thuật toán dựa trên kinh nghiệm… Các hệ thống tư vấn thường được phân thành ba loại dựa trên cách nó dùng để ước lượng các đánh giá về sản phẩm:  Dựa trên nội dung (content-based): người dùng được gợi ý những sản phẩm tương tự như các sản phẩm từng được họ đánh giá cao.  Cộng tác (collaborative): người dùng được gợi ý những sản phẩm mà những người cùng sở thích với họ đánh giá cao.  Lai ghép (hybrid): kết hợp cả hai phương pháp trên. 1.2.1. Kĩ thuật tư vấn dựa trên nội dung Hệ tư vấn dựa trên nội dung đưa ra các tư vấn dựa trên phỏng đoán rằng một người có thể thích các sản phẩm có nhiều đặc trưng tương tự với các sản phẩm mà họ đã từng ưa thích. Theo đó, độ phù hợp g(u,i) của sản phẩm i với người dùng u được đánh giá dựa 6 trên độ phù hợp g(u, ij), trong đó ij ∈ ܫ và tương tự về nội dung i. Ví dụ, để gợi ý một bộ phim cho người dùng u, hệ thống tư vấn sẽ nhận ra sở thích của u qua các đặc điểm của những bộ phim từng được u đánh giá cao (như thể loại, tên đạo diễn…); sau đó chỉ những bộ phim tương đồng với sở thích của u mới được giới thiệu. Hướng tiếp cận dựa trên nội dung bắt nguồn từ những nghiên cứu về thu thập thông tin (IR - information retrieval) và lọc thông tin (IF - information filtering). Do đó, rất nhiều hệ thống dựa trên nội dung hiện nay tập trung vào tư vấn các đối tượng chứa dữ liệu text như văn bản, tin tức, website… Những tiến bộ so với hướng tiếp cận cũ của IR là do việc sử dụng hồ sơ về người dùng (chứa thông tin về sở thích, nhu cầu…). Hồ sơ này được xây dự