首页 > 代码库 > 【技术宅5】抓去网页数据的3种方法

【技术宅5】抓去网页数据的3种方法

抓去网页数据无非就两步:1、抓取;2:分析

       抓取分几种情况:1、普通字符串,就是普通网页源码,用file_get_contents或curl抓取,2、有序数据如xml,可以用simplexml_load_file抓取

       分析:如果是第二种情况,就按照xml数据来遍历处理好了。 如果是第一种情况,用preg_match来匹配目标数据

      

1.使用file_get_contents 

    $url = "http://www.34ways.com"; 

    $contents = file_get_contents($url); 

    //如果出现中文乱码使用下面代码 

    //$getcontent = iconv("gb2312", "utf-8",$contents); 

    echo $contents;  

 

2.使用curl         

       //初始化一个cURL对象

    $ch = curl_init();         

       //设置抓取的URL

    $url = "http://www.34ways.com"; 

    curl_setopt($ch, CURLOPT_URL, $url);       

       //设置header

    curl_setopt($ch,CURLOPT_HEADER,1);      

       //设置参数,要求结果保存到字符串中还是输出到屏幕上

    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);      

       //设置参数

       $timeout = 5;

    curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);       

    //在需要用户检测的网页里需要增加下面两行 

    //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY); 

    //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);      

       //允许curl,请求网页

    $contents = curl_exec($ch);      

       //关闭请求

    curl_close($ch);      

       //输出数据

    echo $contents; 

   

3.使用fopen->fread->fclose      

    $handle = fopen ("http://www.34ways.com", "rb"); 

    $contents = ""; 

    do { 

       $data = http://www.mamicode.com/fread($handle, 1024);

       if (strlen($data) == 0) { 

         break; 

       } 

       $contents .= $data; 

    } while(true); 

    fclose ($handle); 

    echo $contents; 

 

 

最后提醒几点:

  1.使用file_get_contents和fopen必须空间开启allow_url_fopen。

       方法:编辑php.ini,设置allow_url_fopen =On,allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。

 

  2.使用curl必须空间开启curl。

       方法:windows下修改php.ini,将extension=php_curl.dll前面的分号去掉,而且需要拷贝ssleay32.dll和libeay32.dll到C:\WINDOWS\system32下;Linux下要安装curl扩展。

【技术宅5】抓去网页数据的3种方法