Composer采集功能扩展插件QueyListy

thinkphp thinkCMF Composer采集功能扩展插件QueyListy

安装 composer require jaeger/querylist

——————————

QueryList 简介

QueryList是一套简洁、优雅、可扩展的PHP采集工具(爬虫),基于phpQuery。

特性

  • 拥有与jQuery完全相同的CSS3 DOM选择器
  • 拥有与jQuery完全相同的DOM操作API
  • 拥有通用的列表采集方案
  • 拥有强大的HTTP请求套件,轻松实现如:模拟登陆、伪造浏览器、HTTP代理等意复杂的网络请求
  • 拥有乱码解决方案
  • 拥有强大的内容过滤功能,可使用jQuey选择器来过滤内容
  • 拥有高度的模块化设计,扩展性强
  • 拥有富有表现力的API
  • 拥有高质量文档
  • 拥有丰富的插件
  • 拥有专业的问答社区和交流群

通过插件可以轻松实现诸如:

  • 多线程采集
  • 采集JavaScript动态渲染的页面 (PhantomJS/headless WebKit)
  • 图片本地化
  • 模拟浏览器行为,如:提交Form表单
  • 网络爬虫
  • …..

 

环境要求

  • PHP >= 7.0

如果你的PHP版本还停留在PHP5,或者不会使用Composer,你可以选择使用QueryList3,QueryList3支持php5.3以及手动安装。 QueryList3 文档:http://v3.querylist.cc

安装

通过Composer安装:

使用

元素操作

  • 采集「昵图网」所有图片地址
  • 采集百度搜索结果
  • 更多用法

列表采集

采集百度搜索结果列表的标题和链接:

采集结果:

编码转换

HTTP网络操作(GuzzleHttp)

  • 携带cookie登录新浪微博
  • 使用Http代理
  • 模拟登录

Form表单操作

模拟登陆GitHub

Bind功能扩展

自定义扩展一个myHttp方法:

或者把实现体封装到class,然后这样绑定:

插件使用

  • 使用PhantomJS插件采集JavaScript动态渲染的页面:
  • 使用CURL多线程插件,多线程采集GitHub排行榜:

插件

承接各种网站开发与修改、爬虫、数据采集分析、小程序等任务

Html+Css+JS+PHP+Nodejs+Python

专治网站各种不服

一起探讨,互相学习,共同进步!有事儿您说话。

This entry was posted in PHP, ThinkPHP and tagged , , by 织梦先生. Bookmark the permalink.