如何用Python抓取动态页面信息

2024-04-27

1. 如何用Python抓取动态页面信息

　　很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此，用urllib再去抓取页面HTML就不足以达到我们想要的效果。
 
　　解决思路：
　　有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

 
　　作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

　　1、Qt4 library
　　Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

　　官方网址：http://qt-project.org/downloads

　　

　　2、SIP、PyQt4
　　这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。

　　下载地址是：http://www.riverbankcomputing.co.uk/software/pyqt/download

　　在终端切换到文件解压后的目录中。

　　在终端中输入

　　python configure.py

　　make

　　sudo make install

　　进行安装编译。

　　SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4

　　

　　1、2两步完成之后，Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。

　　

　　3、Spynner
　　spynner是一个QtWebKit的客户端，它可以模拟浏览器，完成加载页面、引发事件、填写表单等操作。

　　这个模块可以在Python的官网找到。

　　下载地址: https://pypi.python.org/pypi/spynner/2.5

　　解压后，cd到安装目录，然后输入sudo python configure.py install安装该模块。

　　这样Spynner模块就安装完成了，在python shell中试试import spynner看看该模块有没有安装完成。

　　

　　回到顶部
　　Spynner的简单使用
　　Spynner的功能十分强大，但是由于本人能力有限，就介绍一下如何显示网页的源码吧。
 
　　#! /usr/bin/python
　　#-*-coding: utf-8 -*-
　　
　　import spynner
　　
　　browser = spynner.Browser()
　　#创建一个浏览器对象
　　
　　browser.hide()
　　#打开浏览器，并隐藏。
　　
　　browser.load("http://www.baidu.com")
　　#browser 类中有一个类方法load，可以用webkit加载你想加载的页面信息。
　　#load(是你想要加载的网址的字符串形式)
　　
　　print browser.html.encode("utf-8")
　　#browser 类中有一个成员是html，是页面进过处理后的源码的字符串.
　　#将其转码为UTF-8编码
　　
　　open("Test.html", 'w+').write(browser.html.encode("utf-8"))
　　#你也可以将它写到文件中，用浏览器打开。
　　
　　browser.close()
　　#关闭该浏览器
　　通过这个程序，就可以比较容易的显示webkit处理的页面HTML源码了。
　　

　　回到顶部
　　spynner应用
　　下面介绍一下spynner的简单应用，通过简单的程序，可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。
 
　　#!/usr/bin/python
　　
　　import spynner
　　import HTMLParser
　　import os
　　import urllib
　　
　　class MyParser(HTMLParser.HTMLParser):
　　
　　def handle_starttag(self, tag, attrs):
　　if tag == 'img':
　　url = dict(attrs)['src']
　　name = os.path.basename(dict(attrs)['src'])
　　if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):
　　print "Download.....", name
　　urllib.urlretrieve(url, name)
　　
　　
　　if __name__ == "__main__":
　　browser = spynner.Browser()
　　
　　browser.show()
　　
　　browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")
　　
　　Parser = MyParser()
　　
　　Parser.feed(browser.html)
　　
　　print "Done"
　　
　　browser.close()
　　通过这个程序，可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势，再艰巨的任务交给第三方吧。

如何用Python抓取动态页面信息

2. 如何用Python抓取动态页面信息

解决思路：


        
有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文
档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 
QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit
 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

所需材料：

作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

1、Qt4 library

Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

官方网址：http://qt-project.org/downloads

 

2、SIP、PyQt4

这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。

下载地址是：http://www.riverbankcomputing.co.uk/software/pyqt/download

在终端切换到文件解压后的目录中。

在终端中输入

python configure.py

make

sudo make install

进行安装编译。

SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4

 

1、2两步完成之后，Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。

 

3、Spynner

spynner是一个QtWebKit的客户端，它可以模拟浏览器，完成加载页面、引发事件、填写表单等操作。

这个模块可以在Python的官网找到。

下载地址: https://pypi.python.org/pypi/spynner/2.5

解压后，cd到安装目录，然后输入sudo python configure.py install安装该模块。

这样Spynner模块就安装完成了，在python shell中试试import spynner看看该模块有没有安装完成。

 

Spynner的简单使用

Spynner的功能十分强大，但是由于本人能力有限，就介绍一下如何显示网页的源码吧。
   #! /usr/bin/python  
    #-*-coding: utf-8 -*-  
      
    import spynner  
      
    browser = spynner.Browser()  
    #创建一个浏览器对象  
      
    browser.hide()  
    #打开浏览器，并隐藏。  
      
    browser.load("http://www.baidu.com")  
    #browser 类中有一个类方法load，可以用webkit加载你想加载的页面信息。  
    #load(是你想要加载的网址的字符串形式)  
      
    print browser.html.encode("utf-8")  
    #browser 类中有一个成员是html，是页面进过处理后的源码的字符串.  
    #将其转码为UTF-8编码  
      
    open("Test.html", 'w+').write(browser.html.encode("utf-8"))  
    #你也可以将它写到文件中，用浏览器打开。  
      
    browser.close()  
    #关闭该浏览器  
 通过这个程序，就可以比较容易的显示webkit处理的页面HTML源码了。
 

spynner应用

下面介绍一下spynner的简单应用，通过简单的程序，可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。
   #!/usr/bin/python  
      
    import spynner  
    import HTMLParser  
    import os  
    import urllib  
      
    class MyParser(HTMLParser.HTMLParser):  
      
      def handle_starttag(self, tag, attrs):  
        if tag == 'img':  
          url = dict(attrs)['src']  
          name = os.path.basename(dict(attrs)['src'])  
          if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):  
            print "Download.....", name  
            urllib.urlretrieve(url, name)  
      
      
    if __name__ == "__main__":  
      browser = spynner.Browser()  
      
      browser.show()  
      
      browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")  
      
      Parser = MyParser()  
      
      Parser.feed(browser.html)  
      
      print "Done"  
      
      browser.close()  
通过这个程序，可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势，再艰巨的任务交给第三方吧。

3. 如何用Python抓取动态页面信息

　　很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此，用urllib再去抓取页面HTML就不足以达到我们想要的效果。
　　回到顶部
　　解决思路：

　　有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。
　　回到顶部
　　所需材料：
　　作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。
　　1、Qt4 library
　　Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。
　　官方网址：http://qt-project.org/downloads
　　
　　2、SIP、PyQt4
　　这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。
　　下载地址是：http://www.riverbankcomputing.co.uk/software/pyqt/download
　　在终端切换到文件解压后的目录中。
　　在终端中输入
　　python configure.py
　　make
　　sudo make install
　　进行安装编译。
　　SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4
　　
　　1、2两步完成之后，Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。
　　
　　3、Spynner
　　spynner是一个QtWebKit的客户端，它可以模拟浏览器，完成加载页面、引发事件、填写表单等操作。
　　这个模块可以在Python的官网找到。
　　下载地址: https://pypi.python.org/pypi/spynner/2.5
　　解压后，cd到安装目录，然后输入sudo python configure.py install安装该模块。
　　这样Spynner模块就安装完成了，在python shell中试试import spynner看看该模块有没有安装完成。
　　
　　回到顶部
　　Spynner的简单使用
　　Spynner的功能十分强大，但是由于本人能力有限，就介绍一下如何显示网页的源码吧。
　　?

　　1
　　2
　　3
　　4
　　5
　　6
　　7
　　8
　　9
　　10
　　11
　　12
　　13
　　14
　　15
　　16
　　17
　　18
　　19
　　20
　　21
　　22
　　23
　　24
　　
　　#! /usr/bin/python
　　#-*-coding: utf-8 -*-
　　
　　import spynner
　　
　　browser = spynner.Browser()
　　#创建一个浏览器对象
　　
　　browser.hide()
　　#打开浏览器，并隐藏。
　　
　　browser.load("http://www.baidu.com")
　　#browser 类中有一个类方法load，可以用webkit加载你想加载的页面信息。
　　#load(是你想要加载的网址的字符串形式)
　　
　　print browser.html.encode("utf-8")
　　#browser 类中有一个成员是html，是页面进过处理后的源码的字符串.
　　#将其转码为UTF-8编码
　　
　　open("Test.html", 'w+').write(browser.html.encode("utf-8"))
　　#你也可以将它写到文件中，用浏览器打开。
　　
　　browser.close()
　　#关闭该浏览器
　　

　　通过这个程序，就可以比较容易的显示webkit处理的页面HTML源码了。

如何用Python抓取动态页面信息

4. 如何用Python抓取动态页面信息

解决思路：

有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文
档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 
QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit
把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

所需材料：

作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

1、Qt4 library

Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

官方网址：http://qt-project.org/downloads

2、SIP、PyQt4

这两个软件可以在在PyQt的官网找到。下载的是它的源码。Mac和Linux需要自己编译。

下载地址是：http://www.riverbankcomputing.co.uk/software/pyqt/download

在终端切换到文件解压后的目录中。

在终端中输入

python configure.py

make

sudo make install

进行安装编译。

SIP和PyQt4两个安装方法相同。但是PyQt4依赖SIP。所以先安装SIP再安装PyQt4

1、2两步完成之后，Python的PyQt4的模块就安装好了。在Python shell中输入import PyQt4看看能不能找到PyQt4的模块。

3、Spynner

spynner是一个QtWebKit的客户端，它可以模拟浏览器，完成加载页面、引发事件、填写表单等操作。

这个模块可以在Python的官网找到。

下载地址: https://pypi.python.org/pypi/spynner/2.5

解压后，cd到安装目录，然后输入sudo python configure.py install安装该模块。

这样Spynner模块就安装完成了，在python shell中试试import spynner看看该模块有没有安装完成。

Spynner的简单使用

Spynner的功能十分强大，但是由于本人能力有限，就介绍一下如何显示网页的源码吧。
#! /usr/bin/python
#-*-coding: utf-8 -*-

import spynner

browser = spynner.Browser()
#创建一个浏览器对象

browser.hide()
#打开浏览器，并隐藏。

browser.load("http://www.baidu.com")
#browser 类中有一个类方法load，可以用webkit加载你想加载的页面信息。
#load(是你想要加载的网址的字符串形式)

print browser.html.encode("utf-8")
#browser 类中有一个成员是html，是页面进过处理后的源码的字符串.
#将其转码为UTF-8编码

open("Test.html", 'w+').write(browser.html.encode("utf-8"))
#你也可以将它写到文件中，用浏览器打开。

browser.close()
#关闭该浏览器
通过这个程序，就可以比较容易的显示webkit处理的页面HTML源码了。

spynner应用

下面介绍一下spynner的简单应用，通过简单的程序，可以获取你在浏览器中看到的页面的全部图片。用HTMLParser、BeautifulSoup等都可以完成HTMLParser文档的解析。而我选择HTMParser。
#!/usr/bin/python

import spynner
import HTMLParser
import os
import urllib

class MyParser(HTMLParser.HTMLParser):

def handle_starttag(self, tag, attrs):
if tag == 'img':
url = dict(attrs)['src']
name = os.path.basename(dict(attrs)['src'])
if name.endswith('.jpg') or name.endswith('.png') or name.endswith('gif'):
print "Download.....", name
urllib.urlretrieve(url, name)  

if __name__ == "__main__":
browser = spynner.Browser()

browser.show()

browser.load("http://www.artist.cn/snakewu1994/StyleBasis_Four/en_album_607236.shtml")

Parser = MyParser()

Parser.feed(browser.html)

print "Done"

browser.close()  
通过这个程序，可以下载你在页面上看到的全部图片。简单的几行程序就完成了这个艰巨的任务。实现了图片的批量处理。这真是Python语言的优势，再艰巨的任务交给第三方吧。

5. 如何用Python抓取动态页面信息

　　很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此，用urllib再去抓取页面HTML就不足以达到我们想要的效果。
 
　　解决思路：
　　有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

　　作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

　　1、Qt4 library
　　Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

如何用Python抓取动态页面信息

6. 如何用Python抓取动态页面信息

　　很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此，用urllib再去抓取页面HTML就不足以达到我们想要的效果。
 
　　解决思路：
　　有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

　　作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

　　1、Qt4 library
　　Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

7. 如何用Python抓取动态页面信息

　很早之前，学习Python web编程的时候，就涉及一个Python的urllib。可以用urllib.urlopen("url").read()可以轻松读取页面上面的静态信息。但是，随着时代的发展，也来越多的网页中更多的使用javascript、jQuery、PHP等语言动态生成页面信息。因此，用urllib再去抓取页面HTML就不足以达到我们想要的效果。
 
　　解决思路：
　　有一个思路最为简单的思路可以动态解析页面信息。urllib不可以解析动态信息，但是浏览器可以。在浏览器上展现处理的信息其实是处理好的HTML文档。这为我们抓取动态页面信息提供了很好的思路。在Python中有一个很有名的图形库——PyQt。PyQt虽然是图形库，但是他里面 QtWebkit。这个很实用。谷歌的Chrome和苹果的Safari都是基于WebKit内核开发的，所以我们可以通过PyQt中得QtWebKit 把页面中的信息读取加载到HTML文档中，再解析HTML文档，从HTML文档中提取我们想用得信息。

　　作者本人实用Mac OS X。应该在Windows和Linux平台也可以采用相同的办法。

　　1、Qt4 library
　　Library，而不是Creator。Library在Mac的默认安装路径下，应该是/home/username/Developor/，不要改变Qt4的默认安装路径。否则可能安装失败。

如何用Python抓取动态页面信息

最新文章
热门文章
推荐阅读