HTML5技术

记一次企业级爬虫系统升级改造(六):基于Redis实现免费的IP代理池 - 彩色铅笔(4)

字号+ 作者:H5之家 来源:H5之家 2017-03-21 09:00 我要评论( )

Run() 2 { { 5 StdSchedulerFactory factory = new StdSchedulerFactory(); 6 IScheduler scheduler = factory.GetScheduler(); 7 scheduler.Start(); , ).Build(); 9 ITrigger trigger = TriggerBuilder.Create()

Run() 2 { { 5 StdSchedulerFactory factory = new StdSchedulerFactory(); 6 IScheduler scheduler = factory.GetScheduler(); 7 scheduler.Start(); , ).Build(); 9 ITrigger trigger = TriggerBuilder.Create() , ) 11 .StartNow() 12 .WithSimpleSchedule( 13 x => x .RepeatForever() 16 ).Build(); 17 scheduler.ScheduleJob(job, trigger); 18 19 } 20 catch (SchedulerException se) 21 { 22 Console.WriteLine(se); 23 } 24 }

 

  最后采集具有反爬机制的html页面的时候,使用代理IP,这个相信大家都会,设置一下webRequest的Proxy参数即可。

  webRequest.Proxy = new WebProxy(ip, port);

 

  以上,就实现了一个基于redis的免费代理IP池。我们被封IP的爬虫服务又满血复活了,继续采集新数据去。 

 

原创文章,代码都是从自己项目里贴出来的。转载请注明出处哦,亲~~~

 

1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。

相关文章
  • 记一次前端面试经历 - 渔歌

    记一次前端面试经历 - 渔歌

    2017-03-10 15:00

  • 爬虫-漫画喵的100行逆袭 - 喵耳朵

    爬虫-漫画喵的100行逆袭 - 喵耳朵

    2017-02-20 13:02

  • 第一次创业回忆录:从博客走向微博那荡起与陨落的三年(2011-2013) - 路过秋天

    第一次创业回忆录:从博客走向微博那荡起与陨落的三年(2011-2013)

    2017-02-17 14:01

  • 一次生产事故的优化经历 - 纯洁的微笑

    一次生产事故的优化经历 - 纯洁的微笑

    2017-02-07 10:00

网友点评
u