如果学会了python的基本语法，我认为入门爬虫是很容易的1：什么是爬虫爬虫(spider，又网络爬虫)，是指向网站/网络发起请求，获取资源后分析并提取有用数据的程序从技术层面来说就是 通过程序模拟浏览器请求站点的行为，把站点返回的HTML代码/JSON数据/二进制数据（图片、视频） 爬到本地，进而提取自己需要的数据，存放起来使用。
非诚勿扰：正在学习python的小伙伴或者打算学习的，可以私信小编“学习”领取资料！2：入门爬虫的干货2.1： 爬虫的基本思路通过URL或者文件获取网页，分析要爬取的目标内容所在的位置用元素选择器快速提取(Raw) 目标内容
处理提取出来的目标内容 （ 通常整理合成一个 Json）存储处理好的目标内容 （比如放到 MongoDB 之类的数据库，或者写进文件里。）
robots协议：网站通过 Robots 协议告诉搜索引擎哪些页面可以抓取，哪些页面不能抓取，但它仅仅是道德层面上的约束爬虫的用途：1、12306抢票2、短信轰炸3、网络投票4、监控数据5、下载图片、小说、视频、音乐等
Http和Https：发送请求，获取响应的过程其实就是发送Http或者Https请求和响应的过程HTTP超文本传输协议默认端口号:80HTTPSHTTP + SSL(安全套接字层)，即带有安全套接字层的超本文传输协议。
默认端口号：443作用：在传输过程中对数据进行加密，防止被窜改区别：http因不需要加密，所以性能更高，但安全性差https安全性高，但是占用服务器资源但是Https是未来的主流，比如小程序、ios、android客户端的接口都需要Https接口支持。
Http请求报文：
常见请求头：
Http状态码
常见的 HTTP 状态码：200 - 请求成功301 - 资源（网页等）被永久转移到其它 URL404 - 请求的资源（网页等）不存在500 - 内部服务器错误Chrome浏览器请求分析
分析流程图：
以上都是爬虫的预备知识，掌握了之后就可以写代码去爬取我们想要爬的网站了Python提供了许多网络请求的库，比如Requests、urllib等，这里只说一下requests库Requests库安装：pip(3) install requests。
基本使用：# 导入模块import requests# 定义请求地址url = http://www.baidu.com# 发送 GET 请求获取响应response = requests.get(url)
# 获取响应的 html 内容html = response.textresponse常用属性：response.text 返回响应内容，响应内容为 str 类型respones.content 返回响应内容,响应内容为 bytes 类型
response.status_code 返回响应状态码response.request.headers 返回请求头response.headers 返回响应头response.cookies 返回响应的 RequestsCookieJar 对象
# 获取字节数据content = response.content# 转换成字符串类型html = content.decode(utf-8)自定义请求头# 导入模块import requests# 定义请求地址
url = http://www.baidu.com# 定义自定义请求头headers = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"
}# 发送自定义请求头response = requests.get(url,headers=headers)# 获取响应的 html 内容html = response.text发送Get请求# 导入模块
import requests# 定义请求地址url = http://www.baidu.com/s# 定义自定义请求头headers = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"
}# 定义 GET 请求参数params = { "kw":"hello"}# 使用 GET 请求参数发送请求response = requests.get(url,headers=headers,params=params)
# 获取响应的 html 内容html = response.text发送POST请求# 导入模块import requests# 定义请求地址url = http://www.baidu.com# 定义自定义请求头
headers = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"
}# 定义post请求参数data = { "kw":"hello"}# 使用 POST 请求参数发送请求response = requests.post(url,headers=headers,data=data)
# 获取响应的 html 内容html = response.text使用代理为什么使用代理：1、让服务器以为请求是从多个客户端发出的。2、防止暴露我们的真实地址
使用方法# 导入模块import requests# 定义请求地址url = http://www.baidu.com# 定义自定义请求头headers = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"
}# 定义 代理服务器proxies = { "http":"http://IP地址:端口号", "https":"https://IP地址:端口号"}# 使用 POST 请求参数发送请求response = requests.get(url,headers=headers,proxies=proxies)
# 获取响应的 html 内容html = response.text请求中携带cookie作用：有些网站需要登录，这时候cookie就是记录了你的用户信息方式：直接在自定义请求头中携带通过请求参数携带cookie
# 导入模块import requests# 定义请求地址url = http://www.baidu.com# 定义自定义请求头headers = { "User-Agent":"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_14_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36"
# 方式一：直接在请求头中携带Cookie内容 "Cookie": "Cookie值"}# 方式二：定义 cookies 值cookies = { "xx":"yy"}# 使用 POST 请求参数发送请求
response = requests.get(url,headers=headers,cookies=cookies)# 获取响应的 html 内容html = response.text数据提取作用：从爬虫获取的数据中提取出我们想要的数据方式：
json模块提取xpath提取正则提取beautifulsoupjsonJSON(JavaScript Object Notation) 是一种轻量级的数据交换格式json.loads json字符串 转 Python数据类型
json.dumps Python数据类型 转 json字符串json.load json文件 转 Python数据类型json.dump Python数据类型 转 json文件ensure_ascii=False 实现让中文写入的时候保持为中文
indent=空格数 通过空格的数量进行缩紧xpathXPath 全称： XML Path Language，是一门在 XML 文档中查找信息的语言XPath 可用来在 XML 文档中对元素和属性进行遍历。
安装：pip(3) install lxml常用规则
正则Python中通过正则表达对字符串进行匹配时，可以使用re模块 # 导入re模块 import re # 使用match方法进行匹配操作 result = re.match(正则表达式,要匹配的字符串)
# 如果上一步匹配到数据的话，可以使用group方法来提取数据 result.group()常见语法
结尾最后多说一句，小编是一名python开发工程师，这里有我自己整理了一套最新的python系统学习教程，包括从基础的python脚本到web开发、爬虫、数据分析、数据可视化、机器学习等想要这些资料的可以关注小编，并私信小编：“学习”即可领取。
发表评论:
◎欢迎参与讨论，请在这里发表您的看法、交流您的观点。