基于Java的数据采集（一）

之前写过2篇关于PHP数据采集入库的文章：

基于PHP数据采集入库（一）：http://www.cnblogs.com/lichenwei/p/3872307.html

基于PHP数据采集入库（二）：http://www.cnblogs.com/lichenwei/p/3873281.html

《基于Java的数据采集（二）》：http://www.cnblogs.com/lichenwei/p/3905370.html

《基于Java数据采集入库（三）》：http://www.cnblogs.com/lichenwei/p/3907007.html

《基于Java数据采集入库（终结篇）》：http://www.cnblogs.com/lichenwei/p/3910492.html

其实采集的原理都是一样的：远程获取信息->提取所需内容（正则）->分类存储->读取->展示

用什么编程语言没所谓，编程语言只是种工具

这次来采集一个足球网站的数据：http://www.footballresults.org/league.php?league=EngDiv1

下图是我们要采集的数据：

好了，关于采集原理就看上面那2篇文章吧，剩下的直接上代码：

GerData.java(采集数据方法封装)

其实也就是简单的匹配正则：

group():返回在以前匹配操作期间由给定组捕获的输入子序列。

find():尝试查找与该模式匹配的输入序列的下一个子序列。

 package com.lcw.curl;

 import java.util.regex.Matcher;
 import java.util.regex.Pattern;
 
 public class GetData {
 
     /**
      *
      * @param regex 正则表达式
      * @param content 所要匹配的内容
      * @return
      */
     public String getData(String regex,String content){
         Pattern pattern=Pattern.compile(regex, Pattern.CASE_INSENSITIVE);//设定正则表达式，不区分大小写
         Matcher matcher=pattern.matcher(content);
         if(matcher.find()){
             return matcher.group();
         }else{
             return "";
         }
     }
 
 }

CurlMain.java（主程序）

InputStreamReader()是字节流通向字符流的桥梁。

InputStreamReader()是字节流通向字符流的桥梁。

openStream()打开到此URL的连接并返回一个用于从该连接读入的字节流。


 package com.lcw.curl;
 
 import java.io.BufferedReader;
 import java.io.InputStreamReader;
 import java.net.URL;
 
 public class CurlMain {
 
     /**
      * @param args
      */
     public static void main(String[] args) {
         try {
             String address="http://www.footballresults.org/league.php?league=EngDiv1";
             URL url=new URL(address);
             InputStreamReader inputStreamReader=new InputStreamReader(url.openStream(),"utf-8");//打开地址，以UTF-8编码的形式返回字节并转为字符
             BufferedReader bufferedReader=new BufferedReader(inputStreamReader);//从字符输入流中读取文本，缓冲各个字符，从而提供字符、数组和行的高效读取。
 
             GetData data=new GetData();
             String content="";//用来接受每次读取的行字符
             int flag=0;//标志,队伍信息刚好在日期信息后面,则正则相同，用于分离数据
             String dateRegex="\\d{1,2}\\.\\d{1,2}\\.\\d{4}";//日期匹配正则表达式
             String teamRegex=">[^<>]*</a>";//队伍匹配正则表达式
             String scoreRegex=">(\\d{1,2}-\\d{1,2})</TD>";//比分正则表达式
             int i=0;//记录信息条数
 
             while((content=bufferedReader.readLine())!=null){//每次读取一行数据
                 //获取比赛日期信息
                 String dateInfo=data.getData(dateRegex, content);
                 if(!dateInfo.equals("")){
                     System.out.println("日期:"+dateInfo);
                     flag++;
                 }
                 //获取队伍信息，需先读到日期信息让标志符自增
                 String teamInfo=data.getData(teamRegex, content);
                 if(!teamInfo.equals("")&&flag==1){
                     teamInfo=teamInfo.substring(1, teamInfo.indexOf("</a>"));
                     System.out.println("主队:"+teamInfo);
                     flag++;
                 }else if (!teamInfo.equals("") && flag == 2) {
                     teamInfo = teamInfo.substring(1, teamInfo.indexOf("</a>"));
                     System.out.println("客队:" + teamInfo);
                     flag = 0;
                 }
                 //获取比分信息
                 String scoreInfo=data.getData(scoreRegex, content);
                 if(!scoreInfo.equals("")){
                     scoreInfo=scoreInfo.substring(1, scoreInfo.indexOf("</TD>"));
                     System.out.println("比分:"+scoreInfo);
                     System.out.println();
                     i++;
                 }
 
             }
             bufferedReader.close();
             System.out.println("一共收集到了"+i+"条信息");
         } catch (Exception e) {
             e.printStackTrace();
         }
 
     }
 
 }

数据轻松采集，效果如下图：