<pre name="code" class="python">use  LWP::UserAgent;

use utf8;

use DBI;

use POSIX;

use Data::Dumper;

use HTML::TreeBuilder;

  use HTML::TreeBuilder::XPath;

my $ua = LWP::UserAgent->new;

$ua->timeout(10);

$ua->env_proxy;

$ua->agent("Mozilla/8.0");

#my $response = $ua->get('http://data.10jqka.com.cn/financial/yjyg/date/2016-12-31/board/ALL/field/enddate/order/desc/page/1/ajax/1/');

#my $response = $ua->get('http://data.10jqka.com.cn/financial/yjyg/');

my @array=('2016-12-31','2016-03-31','2015-12-31','2015-09-30','2015-06-30','2015-03-31','2014-12-31','2014-09-30','2014-03-31');

foreach (@array){

print "\$_ is $_\n";

my $url="http://data.10jqka.com.cn/financial/yjyg/date/$_/board/ALL/field/enddate/order/desc/page/1/ajax/1/";

print "\$url is $url\n";

my $response = $ua->get($url);

if ($response->is_success) {

open DATAFH,">data.html" || die "open data file failed:$!";

print DATAFH "<html>";

print 	DATAFH "\n";

print DATAFH  $response->decoded_content;  # or whatever

print DATAFH "</html>";

print DATAFH "\n";

};

close DATAFH;

unlink("ths.html");

system('cp data.html ths.html');

$tree= HTML::TreeBuilder::XPath->new;

$tree->parse_file( "ths.html");

my $title="$_";

#my $title=  $tree->findvalue('/html/body//span[@class="text-value"]');

print "\$title is $title\n";

my @pages="";

my @titlepage="";

$max="";

my    @pages=$tree->find_by_tag_name('a');

print "\@pages is @pages\n";

                      #@urlall除了包含每个类别的文章,还包含阅读排行里的文章

                      foreach (@pages) {

                                               @titlepage = $_->attr('page');

                                               foreach (@titlepage) {

                                                 if ($_){

                                                 if ( $_ > $max ){

                                                   $max=$_;

							};				   ###获取版块中每个页面的url

                                                     };

                                           };

};

unless ($max){$max=1};

print "\$max is $max\n";

sleep (5);

for ($m=1;$m<=$max; $m++){

my $url="http://data.10jqka.com.cn/financial/yjyg/date/$_/board/ALL/field/enddate/order/desc/page/$m/ajax/1/";

my $response = $ua->get("$url");

if ($response->is_success) {

open DATAFH,">data.html" || die "open data file failed:$!";

print DATAFH "<html>";

print   DATAFH "\n";

print DATAFH  $response->decoded_content;  # or whatever

print DATAFH "</html>";

print DATAFH "\n";

close DATATH;

};

unlink("ths.html");

system('cp data.html ths.html');

$tree= HTML::TreeBuilder::XPath->new;

$tree->parse_file( "ths.html");

my @arr1= $tree->find_by_tag_name("tr") ;

#shift @arr1;

foreach my $row ( @arr1) {

   my @arr2= $row->content_list;

    my $str1= $arr2[0]->as_text;

    my $str2= $arr2[1]->as_text;

    my $str3= $arr2[2]->as_text;

    my $str4= $arr2[3]->as_text;

    my $str5= $arr2[4]->as_text;

    my $str6= $arr2[5]->as_text;

    my $str7= $arr2[6]->as_text;

    my $str8= $arr2[7]->as_text;

    print $str1, $str2, $str3, $str4, $str5, $str6, $str7,$str8."\n";

   open( E, ">>", "$title-$m.txt" );

      print E ($str1."|".$str2."|".$str3."|".$str4."|".$str5."|".$str6."|".$str7."|".$str8."\n");

      close E; 

                  }

    }

} 
												


											
perl 爬取上市公司业绩预告的更多相关文章
	

    
								
  1. Perl爬取江西失信执行
		
    #! /usr/bin/perl use strict; use Encode qw(encode decode); binmode(STDIN,":encoding(utf8)" ...
    
		
    2. 
						
  2. Perl爬取铁路违章旅客信息
		
    #! /usr/bin/perl use strict; use Encode qw(encode decode); binmode(STDIN,":encoding(utf8)" ...
    
		
    3. 
						
  3. perl 爬取某理财网站产品信息
		
    use LWP::UserAgent; use utf8; use DBI; $user="root"; $passwd="xxxxx"; $dbh=" ...
    
		
    4. 
						
  4. perl 爬取数据<1>
		
    use LWP::UserAgent; use POSIX; use DBI; $user="root"; $passwd="11111111"; $dbh=& ...
    
		
    5. 
						
  5. perl 爬取csdn
		
    <pre name="code" class="python">use LWP::UserAgent; use POSIX; use HTML::T ...
    
		
    6. 
						
  6. perl 爬取同花顺数据
		
    use LWP::UserAgent; use utf8; use DBI; $user="root"; $passwd='xxx'; $dbh=""; $db ...
    
		
    7. 
						
  7. Python爬取CSDN博客文章
		
    0 url :http://blog.csdn.net/youyou1543724847/article/details/52818339Redis一点基础的东西目录 1.基础底层数据结构 2.win ...
    
		
    8. 
						
  8. 用WebCollector制作一个爬取《知乎》并进行问题精准抽取的爬虫（JAVA）
		
    简单介绍: WebCollector是一个无须配置.便于二次开发的JAVA爬虫框架(内核),它提供精简的的API.仅仅需少量代码就可以实现一个功能强大的爬虫. 怎样将WebCollector导入项目请 ...
    
		
    9. 
						
  9. Java爬虫_资源网站爬取实战
		
    对 http://bestcbooks.com/  这个网站的书籍进行爬取 (爬取资源分享在结尾) 下面是通过一个URL获得其对应网页源码的方法 传入一个 url  返回其源码 (获得源码后,对源码进 ...
    
		
    10. 
		

	


随机推荐
	

    
									
  1. HTML meta refresh 刷新与跳转(重定向)页面
			
    <meta http-equiv="refresh" content="5; url=http://www.cnblogs.com/" /> 可用于 ...
    
			
    2. 
						
  2. ios 应用程序之间的跳转(内置程序的实现)
			
    ios 应用程序之间的跳转(内置程序的实现) 一个程序若要跳到另一个程序.需要在目标程序的plist文件里面修改: 打开info.plist,添加一项URL types 展开URLtypes,再展开I ...
    
			
    3. 
						
  3. java文本编辑器5
			
    package peng_jun; import java.awt.*; import java.awt.event.*; import javax.swing.*; import java.io.* ...
    
			
    4. 
						
  4. php 按列值合并数据
			
    /* * PHP按值合并数组 * */ function my_array_merge(&$array1, &$array2) { $result = Array(); foreach ...
    
			
    5. 
						
  5. 翻译 GITHUB上HOW TO BE A GOOD PROGRAMMER
			
    转载请注明出处: http://www.cnblogs.com/hellocwh/p/5184072.html 更多内容点击查看 https://ahangchen.gitbooks.io/windy ...
    
			
    6. 
						
  6. 供应类型与计划分类一致性检查(INV)
			
    应用 Oracle Inventory 层 Level Function 函数名 Funcgtion Name CUXINVIMM 表单名 Form Name CUXINVIMM 说明 Descrip ...
    
			
    7. 
						
  7. 如何使用win7自带的备份还原以及创建系统镜像------傻瓜式教程
			
    对于经常鼓捣电脑的童鞋来说,装系统是一件极其平常的事情,不过系统装多了之后,我们会感到比较烦躁,因为每一次装系统意味着驱动的重新安装,程序的重新安装,每次这么鼓捣几次,半天时间就花在这上面了,效率是在 ...
    
			
    8. 
						
  8. Unix/Linux环境C编程入门教程(5) Red Hat Enterprise Linux(RHEL)环境搭建
			
    Unix/Linux版本众多,我们推荐Unix/Linux初学者选用几款典型的Unix/Linux操作系统进行学习. 通过./a.out ./Y.out执行出结果,证明C++程序编译成功,也就说明li ...
    
			
    9. 
						
  9. python setattr(),getattr()函数
			
    setattr(object,name,value): 作用:设置object的名称为name(type:string)的属性的属性值为value,属性name可以是已存在属性也可以是新属性. get ...
    
			
    10. 
						
  10. getHibernateTemplate().saveOrUpdate 不运行
			
    在ssh中使用hibernateTemplate来保存对象的时候.出现一个问题,就是saveOrUpdate既不报错.也不在控制台打印插入语句,也不想数据库插入数据. 问题解决: 这个是事务的原因.检 ...
    
			
    11.