Python 爬取百度搜索相关词和下拉词并保存到 Excel

以下代码使用 Python 爬取百度搜索结果页面和下拉词，并将相关词和下拉词保存到 Excel 文件中。

import requests
from bs4 import BeautifulSoup
import openpyxl


def get_related_keywords(keyword):
    url = 'https://www.baidu.com/s'
    params = {
        'wd': keyword,
        'rn': '10',
        'tn': 'baidurt',
        'ie': 'utf-8',
        'rqlang': 'cn',
        'rsv_dl': 'tb',
        'rsv_srlang': 'cn',
        'rsv_rq': 'off'
    }
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
    }
    res = requests.get(url, params=params, headers=headers)
    soup = BeautifulSoup(res.text, 'html.parser')
    related_keywords = []
    for related in soup.select('.tip'):
        related_keywords.append(related.text.strip())
    return related_keywords


def get_dropdown_keywords(keyword):
    url = 'https://www.baidu.com/sugrec'
    params = {
        'prod': 'pc',
        'wd': keyword,
        'cb': 'window.baidu.sug'
    }
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'
    }
    res = requests.get(url, params=params, headers=headers)
    soup = BeautifulSoup(res.text, 'html.parser')
    dropdown_keywords = []
    for dropdown in soup.select('.suglist li'):
        dropdown_keywords.append(dropdown.text.strip())
    return dropdown_keywords


def save_to_excel(data):
    wb = openpyxl.Workbook()
    ws = wb.active
    ws.append(['Keyword', 'Related Keywords', 'Dropdown Keywords'])
    for row in data:
        ws.append(row)
    wb.save('keywords.xlsx')


if __name__ == '__main__':
    keywords = ['Python', '数据分析', '机器学习']
    data = []
    for keyword in keywords:
        related_keywords = get_related_keywords(keyword)
        dropdown_keywords = get_dropdown_keywords(keyword)
        row = [keyword, ', '.join(related_keywords), ', '.join(dropdown_keywords)]
        data.append(row)
    save_to_excel(data)

安装指令：

pip install requests
pip install beautifulsoup4
pip install openpyxl

代码解释：

• get_related_keywords(keyword) 函数：
  • 使用 requests 库发送 HTTP 请求获取百度搜索结果页面。
  • 使用 BeautifulSoup 库解析 HTML 代码。
  • 从 '.tip' 类选择器中提取相关词。
• get_dropdown_keywords(keyword) 函数：
  • 使用 requests 库发送 HTTP 请求获取百度下拉词数据。
  • 使用 BeautifulSoup 库解析 JSON 代码。
  • 从 '.suglist li' 类选择器中提取下拉词。
• save_to_excel(data) 函数：
  • 使用 openpyxl 库创建 Excel 文件。
  • 将爬取的数据写入 Excel 文件。

使用方法：

1. 安装所需的库：pip install requests beautifulsoup4 openpyxl
2. 运行 Python 代码。
3. 在当前目录下生成 keywords.xlsx 文件，包含爬取的相关词和下拉词。

注意：

• 代码中的 User-Agent 值需要根据自己的浏览器修改。
• 百度搜索和下拉词接口可能会发生变化，需要及时更新代码。
• 爬取网站数据时要遵守网站的 robots.txt 协议，避免造成网站服务器压力。