Python怎么爬取人人网新鲜事
这篇文章将为大家详细讲解有关Python怎么爬取人人网新鲜事,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。
十年的蜀山网站建设经验,针对设计、前端、开发、售后、文案、推广等六对一服务,响应快,48小时及时工作处理。全网营销推广的优势是能够根据用户设备显示端的尺寸不同,自动调整蜀山建站的显示方式,使网站能够适用不同显示终端,在浏览器中调整网站的宽度,无论在任何一种浏览器上浏览网站,都能展现优雅布局与设计,从而大程度地提升浏览体验。创新互联从事“蜀山网站设计”,“蜀山网站推广”以来,每个客户项目都认真落实执行。
Python实现登录人人网并抓取新鲜事的方法:
from sgmllib import SGMLParser import sys,urllib2,urllib,cookielib class spider(SGMLParser): def __init__(self,email,password): SGMLParser.__init__(self) self.h4=False self.h4_is_ready=False self.div=False self.h4_and_div=False self.a=False self.depth=0 self.names="" self.dic={} self.email=email self.password=password self.domain='renren.com' try: cookie=cookielib.CookieJar() cookieProc=urllib2.HTTPCookieProcessor(cookie) except: raise else: opener=urllib2.build_opener(cookieProc) urllib2.install_opener(opener) def login(self): url='http://www.renren.com/PLogin.do' postdata={ 'email':self.email, 'password':self.password, 'domain':self.domain } req=urllib2.Request( url, urllib.urlencode(postdata) ) self.file=urllib2.urlopen(req).read() #print self.file def start_h4(self,attrs): self.h4 = True def end_h4(self): self.h4=False self.h4_is_ready=True def start_a(self,attrs): if self.h4 or self.div: self.a=True def end_a(self): self.a=False def start_div(self,attrs): if self.h4_is_ready == False: return if self.div==True: self.depth += 1 for k,v in attrs: if k == 'class' and v == 'content': self.div=True; self.h4_and_div=True #h4 and div is connected def end_div(self): if self.depth == 0: self.div=False self.h4_and_div=False self.h4_is_ready=False self.names="" if self.div == True: self.depth-=1 def handle_data(self,text): #record the name if self.h4 and self.a: self.names+=text #record says if self.h4 and (self.a==False): if not text:pass else: self.dic.setdefault(self.names,[]).append(text) return if self.h4_and_div: self.dic.setdefault(self.names,[]).append(text) def show(self): type = sys.getfilesystemencoding() for key in self.dic: print ( (''.join(key)).replace(' ','')).decode('utf-8').encode(type), \ ( (''.join(self.dic[key])).replace(' ','')).decode('utf-8').encode(type) renrenspider=spider('your email','your password') renrenspider.login() renrenspider.feed(renrenspider.file) renrenspider.show()
关于Python怎么爬取人人网新鲜事就分享到这里了,希望以上内容可以对大家有一定的帮助,可以学到更多知识。如果觉得文章不错,可以把它分享出去让更多的人看到。
本文标题:Python怎么爬取人人网新鲜事
本文来源:http://hbruida.cn/article/ghgpse.html