在Python中设置爬虫请求头通常是为了模拟浏览器行为,避免被目标网站识别为爬虫。以下是使用`requests`库和`Selenium`设置请求头的示例:
使用`requests`库设置请求头
import requestsurl = "http://www.example.com"headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36","Accept": "text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,*/*;q=0.8","Cache-Control": "max-age=0","Connection": "keep-alive","Referer": "http://www.baidu.com/",}response = requests.get(url, headers=headers)print(response.status_code) 打印响应状态码print(response.text) 打印响应内容
使用`Selenium`设置请求头
from selenium import webdriverfrom selenium.webdriver.chrome.options import Optionsoptions = Options()options.add_argument("--headless") 无头模式options.add_argument("--user-agent=Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/95.0.4638.69 Safari/537.36")driver = webdriver.Chrome(options=options)driver.get("http://www.example.com")获取请求头print(driver.request_headers)
注意事项
User-Agent:模拟常见的浏览器用户代理。
Referer:指定请求来源页面。
Accept:指定可以接受的内容类型。
Cache-Control:控制缓存策略。
Connection:保持连接状态。
请根据实际需要调整请求头参数。

