Áp dụng kỹ thuật olap và kho dữ liệu trong dự báo tài chính

2 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Vũ Ngọc Anh ÁP DỤNG KỸ THUẬT OLAP VÀ KHO DỮ LIỆU TRONG DỰ BÁO TÀI CHÍNH KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành: Các hệ thống thông tin HÀ NỘI - 2010 3 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ Vũ Ngọc Anh ÁP DỤNG KỸ THUẬT OLAP VÀ KHO DỮ LIỆU TRONG DỰ BÁO TÀI CHÍNH KHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành: Các hệ thống thông tin Cán bộ hướng dẫn: TS. Nguyễn Hà Nam Cán bộ đồng hướng dẫn: Ths. Nguyễn Thu Trang HÀ NỘI - 2010 4 Lời cảm ơn Trước tiên tôi xin gửi lời cảm ơn và lòng biết ơn sâu sắc tới TS.Nguyễn Hà Nam và Ths.Nguyễn Thu Trang đã tận tình chỉ bảo và hướng dẫn tôi trong suốt quá trình thực hiện khóa luận tốt nghiệp. Tôi xin chân thành cảm ơn các thầy, các cô đã tạo cho tôi những điều kiện thuận lợi để học tập và nghiên cứu tại trường Đại Học Công Nghệ. Tôi xin cảm ơn các bạn trong nhóm làm “Data Warehouse và OLAP” đã cùng thảo luận và trao đổi và giúp tôi rất nhiều trong quá trình thu thập tài liệu. Tôi xin gửi lời cảm ơn vô hạn tới gia đình, bạn bè, những người thân yêu đã luôn bên cạnh động viên tôi trong suốt quá trình thực hiện khóa luận. Tôi xin chân thành cảm ơn! Sinh viên Vũ Ngọc Anh 1 Mục lục Mục lục ....................................................................................................................... 1 Danh sách các hình ...................................................................................................... 3 Bảng từ viết tắt ............................................................................................................ 5 Lời mở đầu .................................................................................................................. 6 Chương 1. Giới thiệu kho dữ liệu và dữ liệu tài chính .................................................. 7 1.1. Dữ liệu trong lĩnh vực tài chính ...................................................................... 7 1.2. Kho dữ liệu (Data warehouse) ........................................................................ 8 1.2.1. Kho dữ liệu .............................................................................................. 8 1.2.2. Mục đích của kho dữ liệu ......................................................................... 9 1.2.3. Lợi ích của kho dữ liệu............................................................................. 9 1.2.4. Thành phần của kho dữ liệu ................................................................... 10 1.2.5. Cấu trúc của kho dữ liệu......................................................................... 11 1.2.6. Mô hình thực thể trong kho dữ liệu ........................................................ 12 1.2.7. Các lĩnh vực ứng dụng của kho dữ liệu .................................................. 15 Chương 2. Kỹ thuật phân tích OLAP ......................................................................... 16 2.1. Giới thiệu OLAP .......................................................................................... 16 2.2. Mô hình dữ liệu đa chiều .............................................................................. 16 2.3. Kiến trúc khối (Cube) của OLAP .................................................................. 18 2.4. So sánh OLAP và OLTP ............................................................................... 19 2.5. Các thành phần của OLAP ............................................................................ 20 2.6. Chuyển đổi dữ liệu từ OLTP tới OLAP ........................................................ 21 2.7. Các mô hình lưu trữ hỗ trợ OLAP ................................................................. 22 2.7.1. Mô hình Multidimentional OLAP (MOLAP) ......................................... 22 2.7.2. Mô hình Relational OLAP (ROLAP) ..................................................... 23 2.7.3. Mô hình Hybird OLAP (HOLAP) .......................................................... 24 2.7.4. So sánh các mô hình ............................................................................... 25 Chương 3. Bộ công cụ Pentaho .................................................................................. 26 3.1 Tổng quan .................................................................................................... 26 3.2 Các khả năng BI của pentaho ........................................................................ 26 2 3.3 Những đặc tính và lợi ích .............................................................................. 29 Chương 4. Giới thiệu bài toán triển khai trên Pentaho và kết quả đạt được ................ 33 4.1. Giới thiệu bài toán ........................................................................................ 33 4.2. Thu thập,xử lý dữ liệu................................................................................... 33 4.3. Tạo data warehouse ...................................................................................... 36 4.4. Xử lý dữ liệu bằng kỹ thuật OLAP ............................................................... 42 4.4.1. Tạo cube ................................................................................................ 42 4.4.2. Analysis View ........................................................................................ 43 Kết luận ..................................................................................................................... 52 Tài liệu tham khảo ..................................................................................................... 53 3 Danh sách các hình Hình 1. Các thành phần của kho dữ liệu ....................................................................... 11 Hình 2. Mô hình sao ...................................................................................................... 13 Hình 3. Mô hình bông tuyết .......................................................................................... 14 Hình 4. Mô hình chòm sao ............................................................................................ 15 Hình 5. Mô phỏng các chiều trong kinh doanh ............................................................. 17 Hình 6. Mô hình dữ liệu MOLAP ................................................................................. 22 Hình 7. Mô hình dữ liệu ROLAP .................................................................................. 23 Hình 8. Mô hình dữ liệu HOLAP .................................................................................. 24 Hình 9. Cấu trúc Pentaho ............................................................................................... 26 Hình 10. Dữ liệu tỷ giá .................................................................................................. 33 Hình 11. Dữ liệu giá vàng ............................................................................................. 34 Hình 12. Dữ liệu giá dầu ............................................................................................... 35 Hình 13. Dữ liệu chỉ số VnIndex ................................................................................... 35 Hình 14. Dữ liệu tổng hợp ............................................................................................. 36 Hình 15. Mô hình kho dữ liệu ....................................................................................... 37 Hình 16. Spoon workspace ............................................................................................ 37 Hình 17. Spoon nhập dữ liệu ......................................................................................... 38 Hình 18. Combination Lookup/Update ......................................................................... 38 Hình 19. Thay đổi thuộc tính ......................................................................................... 39 Hình 20. Kết nối cơ sở dữ liệu ....................................................................................... 39 Hình 21. Tạo bảng Dim_time ........................................................................................ 40 Hình 22. Tạo bảng dim_factor ....................................................................................... 40 Hình 23. Tạo Table Output ............................................................................................ 41 4 Hình 24. Tạo bảng fact_price ........................................................................................ 41 Hình 25. Nhập dữ liệu ................................................................................................... 42 Hình 26. Kết nối cơ sở dữ liệu ....................................................................................... 42 Hình 27. Kiến trúc Cube ................................................................................................ 43 Hình 28. Repository Login ............................................................................................ 43 Hình 29. Kết nối cơ sở dữ liệu ....................................................................................... 44 Hình 30. Khung làm việc Pentaho ................................................................................. 45 Hình 31. Chọn schema và cube ..................................................................................... 45 Hình 32. Dữ liệu schema và cube .................................................................................. 45 Hình 33. Nội dung phân tích ......................................................................................... 46 Hình 34. Chọn Measures ............................................................................................... 46 Hình 35. Chọn factor ..................................................................................................... 46 Hình 36. Chọn năm phân tích ........................................................................................ 47 Hình 37. Chọn chi tiết ngày tháng ................................................................................. 47 Hình 38. Chọn loại biểu đồ ............................................................................................ 48 Hình 39. Biểu đồ tỷ giá USD/VND ............................................................................... 48 Hình 40. Biểu đồ giá vàng ............................................................................................. 49 Hình 41. Biểu đồ giá dầu ............................................................................................... 49 Hình 42. Biểu đồ chỉ số VnIndex .................................................................................. 50 Hình 43. Biểu đồ giá vàng và giá dầu ........................................................................... 50 Hình 44. Biểu đồ tỷ giá và giá vàng .............................................................................. 51 Hình 45. Biểu đồ giá vàng và VNIndex ........................................................................ 51 5 Bảng từ viết tắt OLAP Online Analysis Processing MOLAP Multidimensional Online Analysis Processing ROLAP Relational Online Analysis Processing HOLAP Hybird Online Analysis Processing BI Business Intelligence OLTP OnLine Transaction Processing 6 Lời mở đầu Cùng với việc áp dụng rộng rãi công nghệ thông tin vào trong hầu hết các lĩnh vực trong đời sống, kinh tế, xã hội đó là việc dữ liệu thu nhận được qua thời gian ngày càng nhiều.Vì vậy, yêu cầu thiết yếu đặt ra đối với các doanh nghiệp đó là việc khai thác các dữ liệu này một các hiệu quả để phục vụ cho việc kinh doanh ngày càng tốt hơn. Khóa luận này với đề tài “Áp dụng kỹ thuật OLAP và kho dữ liệu trong báo cáo tài chính” giới thiệu về kho dữ liệu, phương pháp OLAP và ứng dụng trong phân tích biên động giá dầu, giá vàng và chỉ số VNIndex bằng công cụ Pentaho. Khóa luận gồm bốn chương: Chương 1. Giới thiệu kho dữ liệu và dữ liệu tài chính giới thiệu về đặc điểm của dữ liệu tài chính, giới thiệu tổng quan về kho dữ liệu, cấu trúc kho dữ liệu, các thành phần của kho dữ liêu, cách thiết kế kho dữ liệu và ứng dụng của kho dữ liệu. Chương 2. Giới thiệu tổng quan về OLAP giới thiệu tổng quan về kỹ thuật OLAP, các mô hình lưu trữ hỗ trợ kỹ thuật OLAP, ưu điểm và nhược điểm của các mô hình. Các bước để chuyển dữ liệu từ OLTP sang OLAP. Chương 3. Giới thiệu bộ công cụ Pentaho giới thiệu tổng quan bộ công cụ Pentaho, kiến trúc, công nghệ, và các tiện ích của Pentaho. Chương 4. Giới thiệu bài toán triển khai trên Pentaho và kết quả đạt được triển khai Pentaho trên một bài toán thực, áp dụng kỹ thuật kho dữ liệu và kỹ thuật OLAP để thực hiện Phần kết luận tổng kết và tóm lược những kết quả, đóng góp chính của khóa luận. 7 Chương 1. Giới thiệu kho dữ liệu và dữ liệu tài chính 1.1. Dữ liệu trong lĩnh vực tài chính Với đặc điểm tính toán chính xác, nhanh chóng, khách quan nên công nghệ thông tin được áp dụng khá rộng rãi trong lĩnh vực tài chính từ rất sớm. Dữ liệu trong lĩnh vực tài chính có đặc điểm sau: - Luôn luôn biến đổi - Dữ liệu phân tán - Giao dịch chồng chéo - Số lượng giao dịch lớn Do đó, cần có một chiến lược lưu trữ dữ liệu một cách hiệu quả.Những hệ thống đáp ứng được các đặc điểm trên thuộc nhóm hệ thống xử lý giao dịch trực tuyến OLTP (OnLine Transaction Processing)[4]. Các ứng dụng xử lý giao dịch trực tuyến – OLTP (OnLine Transaction Processing) là những ứng dụng giúp người dùng truy cập trực tiếp thông tin theo hình thức ứng dụng Client/Server. OLTP bao gồm một dãy lệnh: thu nhận (gathering) dữ liệu đầu vào, xử lý (processing) dữ liệu, và cập nhật (updating) dữ liệu cũ với dữ liệu mới được nhập và xử lý. OLTP là phương thức hiệu quả khi người dùng muốn: - Xử lý các dữ liệu đơn với số lượng và tần số không thể ước lượng. - Truy cập tức thì vào dữ liệu đã được cập nhật, phản ánh các giao dịch trước đó. - Thay đổi dữ liệu tức thì để phản ánh giao dịch vừa xử lý. Các chức năng cơ bản của OLTP[4]: cùng với khả năng truy cập và cập nhật các dữ liệu chia sẻ, các hệ thống OLTP còn hỗ trợ các user khả năng truy cập trực tuyến (online), khả năng truy cập tức thời (availability), khả năng phản hồi nhanh chóng (response), và tiết kiệm chi phí đối với từng transaction (low cost). Để trả lời các câu hỏi đơn giản trong quá trình kinh doanh như doanh thu của tháng 8 này bao nhiêu? Tháng này bán được bao nhiêu sản phẩm… những sản phẩm về số liệu chi tiết được hệ thống OLTP trả lời 1 cách nhanh chóng.Nhưng đối với các nhà quả lý cấp cáo trong doanh nghiệp, họ không yêu cầu những dữ liệu quá chi tiết như vậy. Họ yêu cầu muốn biết những thông tin mang tính hoạch định và lãnh đạo ví dụ như: mặt hàng này đang bán chạy ở khu vực này liệu có bán chạy ở khu vực khác không?...Nếu trả lời các câu hỏi này ở hệ thống OLTP thì sẽ rất khó và hiệu quả thấp vì dữ liệu của OLTP quá chi tiết, lưu trữ phân tán…Để giải quyết vấn đề này, hệ thống data warehouse (kho dữ liệu) ra đời cùng với các kỹ thuật OLAP, Data mining (khai phá dữ liệu) để có thể giúp được người quản trị cấp cao trả lời các câu hỏi mà họ yêu cầu. 1.2. Kho dữ liệu (Data warehouse) 1.2.1. Kho dữ liệu Data warehouse - kho dữ liệu là 1 tập hợp thông tin cơ bản trên máy vi tính mà chúng có tính quyết định đến việc thực hiện thành công bước đầu trong công việc kinh doanh[1]. Một kho dữ liệu, gọi một cách chính xác hơn là kho thông tin (information warehouse), là một cơ sở dữ liệu hướng đối tượng được thiết kế với việc tiếp cận các ý kiến trong mọi lĩnh vực kinh doanh. Nó cung cấp các công cụ để đáp ứng thông tin cần thiết cho các nhà quản trị kinh doanh tại mọi cấp độ tổ chức - không những chỉ là những yêu cầu dữ liệu phức hợp, mà còn là điều kiện thuận tiện nhất để đạt được việc lấy thông tin nhanh, chính xác. Một kho dữ liệu được thiết kế để người sử dụng có thể nhận ra thông tin mà họ muốn có và truy cập đến bằng những công cụ đơn giản[9]. Một kho dữ liệu là một sự pha trộn của nhiều công nghệ, bao gồm các cơ sở dữ liệu đa chiều và mối quan hệ giữa chúng, kiến trúc chủ khách, giao diện người dùng đồ họa và nhiều nữa. Dữ liệu trong kho dữ liệu không giống dữ liệu của hệ điều hành là loại chỉ có thể đọc nhưng không chỉnh sửa được. Hệ điều hành tạo ra, chỉnh sửa và xóa những dữ liệu sản xuất mà những dữ liệu này cung cấp cho kho dữ liệu. Nguyên nhân chính cho sự phát triển một kho dữ liệu là hoạt động tích hợp dữ liệu từ nhiền nguồn khác nhau vào một kho dữ liệu đơn lẻ và dày đặc mà kho này cung cấp cho việc phân tích và ra quyết định trong công việc kinh doanh. Đối với một số công việc kinh doanh thông tin là nguồn tài nguyên có giá trị rất lớn thì một kho dữ liệu tương đối giống như một nhà kho chứa hàng. Hệ điều hành tạo 9 ra những phần dữ liệu và nạp chúng vào kho. Một số phần được tóm tắt trong thành phần thông tin và được cất vào kho. Người sử dụng kho dữ liệu đưa ra những yêu cầu và được cung cấp sản phẩm được tạo ra từ các thành phần và các phân đoạn được lưu trong kho. Một kho dữ liệu được xác định đúng hướng, hoạt động hiệu quả có thể trở thành một công cụ cạnh tranh có giá trị cao trong kinh doanh. 1.2.2. Mục đích của kho dữ liệu Mục tiêu chính của kho dữ liệu là đạt những mục tiêu sau: - Phải có khả năng đáp ứng mọi thông tin yêu cầu của người dùng - Hỗ trợ nhân viên của tổ chức thực hiện tốt, hiệu quả công việc của họ - Giúp các tổ chức xác định, quản lý, điều hành các dự án, nghiệp vụ một cách hiệu quả và chính xác. - Tíc hợp dữ liệu và siêu dữ liệu từ nhiều nguồn khác nhau. Muốn đạt được các mục tiêu trên thì kho dữ liệu phải: - Nâng cao chất lượng dữ liệu bằng cách làm sạch và hướng chủ đề nhất định - Tổng hợp và kết nối dữ liệu - Đồng bộ hóa các nguồn dữ liệu - Phân định và đồng nhất các hệ cơ sở dữ liệu tác nghiệp - Quản lý siêu dữ liệu - Cung cấp thông tin được tích hợp, tóm tắt hoặc được liên kết, tổ chức theo các chủ đề - Dùng trong các hệ thống hỗ trợ ra quyết định. 1.2.3. Lợi ích của kho dữ liệu Tạo ra những quyết định có ảnh hưởng lớn. Một kho dữ liệu cho phép trích rút tài nguyên nhân lực và máy tính theo yêu cầu để cung cấp các câu truy vấn và các báo cáo dựa vào cơ sở dữ liệu hoạt động và sản xuất. Điều này tạo ra sự tiết kiệm đáng kể. 10 Có kho dữ liệu cũng trích rút tài nguyên khan hiếm của hệ thống sản xuất khi thực thi một chương trình quá lâu hoặc các báo cáo và các câu truy vấn phức hợp. Công việc kinh doanh trở nên thông minh hơn. Tăng thêm chất lượng và tính linh hoạt của việc phân tích kinh doanh do phát sinh từ cấu trúc dữ liệu đa tầng của kho dữ liệu, đó là nơi cung cấp dữ liệu được sắp xếp từ mức độ chi tiết của công việc kinh doanh cho đến mức độ cao hơn - mức độ tổng quát. Đảm bảo được dữ liệu chính xác và đáng tin cậy do đảm bảo được là trong kho dữ liệu chỉ chứa duy nhất dữ liệu có chất lượng cao và ổn định (trusted data). Dịch vụ khách hàng được nâng cao. Một doanh nghiệp có thể giữ gìn mối quan hệ với khách hàng tốt hơn do có mối tương quan với dữ liệu của tất cả khách hàng qua một kho dữ liệu riêng. Tái sáng tạo những tiến trình kinh doanh. Sự cho phép phân tích không ngừng thông tin kinh doanh thường cung cấp sự hiểu biết mọi mặt của phương thức kinh doanh do đó có thể làm nảy sinh ra những ý kiến cho sự sáng tạo ra những tiến trình này lại. Chỉ khi xác định chính xác các nhu cầu từ kho dữ liệu thì mới giúp ta đánh giá được những hạn chế và mục tiêu kinh doanh một cách chính xác hơn. Tái sáng tạo hệ thống thông tin. Một kho dữ liệu là nền tảng cho các yêu cầu dữ liệu trong mọi lĩnh vực kinh doanh, nó cung cấp một chi phí ảnh hưởng nghĩa là đưa ra thói quen cho cho cả hai sự chuẩn hóa dữ liệu và sự chuẩn hóa hoạt động của hệ điều