Selenium和PhantomJS如何结合使用？

更新时间:2020年12月11日16时45分来源:传智教育浏览次数:

好口碑IT培训

Selenium是一个Web的自动化测试工具，可以根据我们的指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏，或者判断网站上某些动作是否发生。

Selenium自己不带浏览器，不支持浏览器的功能，它需要与第三方浏览器结合在一起才能使用。但是我们有时候需要让它内嵌在代码中运行，所以我们可以用一个叫PhantomJS的工具代替真实的浏览器。

Selenium库里有个叫WebDriver的API。WebDriver有点儿像可以加载网站的浏览器，但是它也可以像BeautifulSoup或者其他Selector对象一样用来查找页面元素，与页面上的元素进行交互(发送文本、点击等)，以及执行其他动作来运行网络爬虫。

PhantomJS是一个基于Webkit的“无界面”(headless)浏览器，它会把网站加载到内存并执行页面上的JavaScript，因为不会展示图形界面，所以运行起来比完整的浏览器要高效。相比传统的Chrome或Firefox浏览器等，资源消耗会更少。

如果我们把Selenium和PhantomJS结合在一起，就可以运行一个非常强大的网络爬虫了，这个爬虫可以处理JavaScript、Cookie、headers，以及任何我们真实用户需要做的事情。

主程序退出后，selenium不保证phantomJS也成功退出，最好手动关闭phantomJS进程。(有可能会导致多个phantomJS进程运行，占用内存)。

猜你喜欢：

上一篇：爬虫适合使用Mysql还是Mongdb？ 下一篇：Scrapy框架的工作原理和工作流程

最新资讯