完整实例代码点击此处本站下载。
项目内容:
用Python写的百度贴吧的网络爬虫。
使用方法:
新建一个BugBaidu.py文件,然后将代码复制到里面后,双击运行。
程序功能:
将贴吧中楼主发布的内容打包txt存储到本地。
原理解释:
首先,先浏览一下某一条贴吧,点击只看楼主并点击第二页之后url发生了一点变化,变成了:
http://tieba.baidu测试数据/p/2296712428?see_lz=1&pn=1
可以看出来,see_lz=1是只看楼主,pn=1是对应的页码,记住这一点为以后的编写做准备。
这就是我们需要利用的url。
接下来就是查看页面源码。
首先把题目抠出来存储文件的时候会用到。
可以看到百度使用gbk编码,标题使用h1标记:
代码如下:
【原创】时尚首席(关于时尚,名利,事业,爱情,励志)
同样,正文部分用div和class综合标记,接下来要做的只是用正则表达式来匹配即可。
运行截图:
生成的txt文件:
# -*- coding: utf-8 -*- #--------------------------------------- # 程序:百度贴吧爬虫 # 版本:0.5 # 作者:why # 日期:2013-05-16 # 语言:Python 2.7 # 操作:输入网址后自动只看楼主并保存到本地文件 # 功能:将楼主发布的内容打包txt存储到本地。 #--------------------------------------- import string import urllib2 import re #----------- 处理页面上的各种标签 ----------- class HTML_Tool: # 用非 贪婪模式 匹配 \t 或者 \n 或者 空格 或者 超链接 或者 图片 BgnCharToNoneRex = re测试数据pile("(\t|\n| || )") # 用非 贪婪模式 匹配 任意 标签 EndCharToNoneRex = re测试数据pile(" ") # 用非 贪婪模式 匹配 任意标签 BgnPartRex = re测试数据pile("
") CharToNewLineRex = re测试数据pile("(
|| ||
查看更多关于基于Python实现的百度贴吧网络爬虫实例的详细内容...
声明:本文来自网络,不代表【好得很程序员自学网】立场,转载请注明出处:http://haodehen.cn/did88455