| 中文摘要 | 第8-9页 |
| Abstract | 第9-10页 |
| Chapter 1 Introduction | 第12-16页 |
| 1.1 Background and Motivation | 第12-13页 |
| 1.1.1 Background | 第12-13页 |
| 1.1.2 Motivation | 第13页 |
| 1.2 Research Status at Home and Abroad | 第13-15页 |
| 1.3 Objective of Research Work | 第15页 |
| 1.4 Methodology | 第15页 |
| 1.5 Required Resources | 第15页 |
| 1.6 Structure of Thesis | 第15-16页 |
| Chapter 2 Overview of Big Data Text Analysis Basedon Hadoop Architecture | 第16-30页 |
| 2.1 Big Data Overview | 第16-17页 |
| 2.2 Big Data Characteristics | 第17-20页 |
| 2.2.1 Volume | 第17-18页 |
| 2.2.2 Velocity | 第18-19页 |
| 2.2.3 Variety | 第19页 |
| 2.2.4 Veracity | 第19页 |
| 2.2.5 Value | 第19-20页 |
| 2.3 Different Types of Data | 第20-23页 |
| 2.3.1 Structured Data | 第22页 |
| 2.3.2 Unstructured Data | 第22-23页 |
| 2.3.3 Semi-Structured Data | 第23页 |
| 2.3.4 Metadata | 第23页 |
| 2.4 Data Analysis | 第23-24页 |
| 2.5 Big Data Adoption and Planning Considerations | 第24-28页 |
| 2.5.1 Data Procurement | 第25页 |
| 2.5.2 Privacy | 第25-26页 |
| 2.5.3 Security | 第26页 |
| 2.5.4 Provenance | 第26-27页 |
| 2.5.5 Limited Realtime Support | 第27-28页 |
| 2.5.6 Distinct Performance Challenges | 第28页 |
| 2.6 Hadoop Overview | 第28-30页 |
| 2.6.1 Hadoop Architecture | 第28-29页 |
| 2.6.2 MapReduce | 第29页 |
| 2.6.3 Hadoop Distributed File System | 第29-30页 |
| Chapter 3 Implementation plan | 第30-36页 |
| 3.1 Big Data Analysis Techniques | 第30-31页 |
| 3.2 Quantitative Analysis | 第31页 |
| 3.3 Qualitative Analysis | 第31-32页 |
| 3.4 Data Mining | 第32页 |
| 3.5 Statistical Analysis | 第32-36页 |
| 3.5.1 A/B Testing | 第32-33页 |
| 3.5.2 Correlation | 第33-34页 |
| 3.5.3 Regression | 第34-35页 |
| 3.5.4 Conclusions | 第35-36页 |
| Chapter 4 Experimental result | 第36-51页 |
| 4.1 Text Analysis Within Hadoop | 第36-37页 |
| 4.2 Test Cases | 第37-39页 |
| 4.3 Dataservices vs Hadoop: Comparing the Results | 第39-41页 |
| 4.4 Transferring Text Data Processing Libraries To The Hadoop Cluster | 第41-42页 |
| 4.5 Optimizing Text Data Processing For Use In The Hadoop Framework | 第42页 |
| 4.6 HDFS Source File Formats | 第42-43页 |
| 4.7 Text Data Processing Pushed Down to Hadoop | 第43-44页 |
| 4.8 Problem Tracking | 第44-46页 |
| 4.9 Other Type of Errors to Watch Out | 第46页 |
| 4.10 University Mobile App for Collecting Big Data | 第46-48页 |
| 4.11 Using GPS Location Coordinate for Text Analysis | 第48-49页 |
| 4.12 Results Comparison | 第49-51页 |
| Chapter 5 Summary and future work | 第51-53页 |
| 5.1 Summary | 第51-52页 |
| 5.2 Future Work | 第52-53页 |
| References | 第53-60页 |
| Acknowledgements | 第60-61页 |
| Appendix A. Mobile Apps Developed during the master's degree program | 第61-62页 |
| Appendix B. Key Codes used in this thesis | 第62-76页 |