<pre name="code" class="python">use  LWP::UserAgent;

use utf8;

use DBI;

use POSIX;

use Data::Dumper;

use HTML::TreeBuilder;

  use HTML::TreeBuilder::XPath;

my $ua = LWP::UserAgent->new;

$ua->timeout(10);

$ua->env_proxy;

$ua->agent("Mozilla/8.0");

#my $response = $ua->get('http://data.10jqka.com.cn/financial/yjyg/date/2016-12-31/board/ALL/field/enddate/order/desc/page/1/ajax/1/');

#my $response = $ua->get('http://data.10jqka.com.cn/financial/yjyg/');

my @array=('2016-12-31','2016-03-31','2015-12-31','2015-09-30','2015-06-30','2015-03-31','2014-12-31','2014-09-30','2014-03-31');

foreach (@array){

print "\$_ is $_\n";

my $url="http://data.10jqka.com.cn/financial/yjyg/date/$_/board/ALL/field/enddate/order/desc/page/1/ajax/1/";

print "\$url is $url\n";

my $response = $ua->get($url);

if ($response->is_success) {

open DATAFH,">data.html" || die "open data file failed:$!";

print DATAFH "<html>";

print 	DATAFH "\n";

print DATAFH  $response->decoded_content;  # or whatever

print DATAFH "</html>";

print DATAFH "\n";

};

close DATAFH;

unlink("ths.html");

system('cp data.html ths.html');

$tree= HTML::TreeBuilder::XPath->new;

$tree->parse_file( "ths.html");

my $title="$_";

#my $title=  $tree->findvalue('/html/body//span[@class="text-value"]');

print "\$title is $title\n";

my @pages="";

my @titlepage="";

$max="";

my    @pages=$tree->find_by_tag_name('a');

print "\@pages is @pages\n";

                      #@urlall除了包含每个类别的文章,还包含阅读排行里的文章

                      foreach (@pages) {

                                               @titlepage = $_->attr('page');

                                               foreach (@titlepage) {

                                                 if ($_){

                                                 if ( $_ > $max ){

                                                   $max=$_;

							};				   ###获取版块中每个页面的url

                                                     };

                                           };

};

unless ($max){$max=1};

print "\$max is $max\n";

sleep (5);

for ($m=1;$m<=$max; $m++){

my $url="http://data.10jqka.com.cn/financial/yjyg/date/$_/board/ALL/field/enddate/order/desc/page/$m/ajax/1/";

my $response = $ua->get("$url");

if ($response->is_success) {

open DATAFH,">data.html" || die "open data file failed:$!";

print DATAFH "<html>";

print   DATAFH "\n";

print DATAFH  $response->decoded_content;  # or whatever

print DATAFH "</html>";

print DATAFH "\n";

close DATATH;

};

unlink("ths.html");

system('cp data.html ths.html');

$tree= HTML::TreeBuilder::XPath->new;

$tree->parse_file( "ths.html");

my @arr1= $tree->find_by_tag_name("tr") ;

#shift @arr1;

foreach my $row ( @arr1) {

   my @arr2= $row->content_list;

    my $str1= $arr2[0]->as_text;

    my $str2= $arr2[1]->as_text;

    my $str3= $arr2[2]->as_text;

    my $str4= $arr2[3]->as_text;

    my $str5= $arr2[4]->as_text;

    my $str6= $arr2[5]->as_text;

    my $str7= $arr2[6]->as_text;

    my $str8= $arr2[7]->as_text;

    print $str1, $str2, $str3, $str4, $str5, $str6, $str7,$str8."\n";

   open( E, ">>", "$title-$m.txt" );

      print E ($str1."|".$str2."|".$str3."|".$str4."|".$str5."|".$str6."|".$str7."|".$str8."\n");

      close E; 

                  }

    }

} 
												


											
perl 爬取上市公司业绩预告的更多相关文章
	

    
								
  1. Perl爬取江西失信执行
		
    #! /usr/bin/perl use strict; use Encode qw(encode decode); binmode(STDIN,":encoding(utf8)" ...
    
		
    2. 
						
  2. Perl爬取铁路违章旅客信息
		
    #! /usr/bin/perl use strict; use Encode qw(encode decode); binmode(STDIN,":encoding(utf8)" ...
    
		
    3. 
						
  3. perl 爬取某理财网站产品信息
		
    use LWP::UserAgent; use utf8; use DBI; $user="root"; $passwd="xxxxx"; $dbh=" ...
    
		
    4. 
						
  4. perl 爬取数据<1>
		
    use LWP::UserAgent; use POSIX; use DBI; $user="root"; $passwd="11111111"; $dbh=& ...
    
		
    5. 
						
  5. perl 爬取csdn
		
    <pre name="code" class="python">use LWP::UserAgent; use POSIX; use HTML::T ...
    
		
    6. 
						
  6. perl 爬取同花顺数据
		
    use LWP::UserAgent; use utf8; use DBI; $user="root"; $passwd='xxx'; $dbh=""; $db ...
    
		
    7. 
						
  7. Python爬取CSDN博客文章
		
    0 url :http://blog.csdn.net/youyou1543724847/article/details/52818339Redis一点基础的东西目录 1.基础底层数据结构 2.win ...
    
		
    8. 
						
  8. 用WebCollector制作一个爬取《知乎》并进行问题精准抽取的爬虫（JAVA）
		
    简单介绍: WebCollector是一个无须配置.便于二次开发的JAVA爬虫框架(内核),它提供精简的的API.仅仅需少量代码就可以实现一个功能强大的爬虫. 怎样将WebCollector导入项目请 ...
    
		
    9. 
						
  9. Java爬虫_资源网站爬取实战
		
    对 http://bestcbooks.com/  这个网站的书籍进行爬取 (爬取资源分享在结尾) 下面是通过一个URL获得其对应网页源码的方法 传入一个 url  返回其源码 (获得源码后,对源码进 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. leetcode Binary Tree Right Side View python
			
    # Definition for a binary tree node. # class TreeNode(object): # def __init__(self, x): # self.val = ...
    
			
    2. 
						
  2. OC语法5——@property和@synthesize
			
    @property和@synthesize: 我们回想一下: 在OC中我们定义一个Student类需要两个文件Student.h 和 Student.m. Student.h(声明文件):定义成员变量 ...
    
			
    3. 
						
  3. OC语法4——自定义构造方法，description方法
			
    自定义构造方法: 我们已经知道创建对象分两步,1:在内存中开辟存储空间,并把地址存储在指针变量里,2:调用指针变量的初始化方法init初始化该对象. Student * stu = [Student  ...
    
			
    4. 
						
  4. python打包成.exe工具py2exe0-----No such file or directory错误
			
    转自:http://justcoding.iteye.com/blog/900993 一.简介 py2exe是一个将python脚本转换成windows上的可独立执行的可执行程序(*.exe)的工具, ...
    
			
    5. 
						
  5. Javascript中的attribute和property分析
			
    attribute和property这两个单词,都有属性的意思,attribute有属性.特质的意思,property则有性质,性能的意思. 首先需要明确的是,在规范中,读取和设置attribute的 ...
    
			
    6. 
						
  6. style-11bak
			
    <resources> <style name="FullscreenTheme" parent="android:Theme.Holo"&g ...
    
			
    7. 
						
  7. js 报错 :object is not a function
			
    object is not a function 我遇到的具体问题是:js命名方法重复了,找到了别的地方,改个方法名就可以了 var h2_price = document.getElementByI ...
    
			
    8. 
						
  8. linux基础--chkconfig 详解
			
    chkconfig命令主要用来更新(启动或停止)和查询系统服务的运行级信息.谨记chkconfig不是立即自动禁止或激活一个服务,它只是简单的改变了符号连接. 使用语法:chkconfig [--ad ...
    
			
    9. 
						
  9. WPF中的触发器简单总结
			
    原文 http://blog.sina.com.cn/s/blog_5f2ed5cb0100p3ab.html 触发器,从某种意义上来说它也是一种Style,因为它包含有一个Setter集合,并根据一 ...
    
			
    10. 
						
  10. android 用 XML 自定义边框(只上下边框有色)
			
    直接上代码: <?xml version="1.0" encoding="UTF-8"?> <layer-list xmlns:android ...
    
			
    11.