一、Selenium

selenium 是一个老牌的测试工具和自动化工具，它的用途非常多，掌握这么技能绝对是值得，并且如果有需要切换其他的技术，大致应该是相似的，也就是说从它迁移到别的工具是轻松的。

二、为什么 Selenium 需要驱动器呢？

有些网站渲染的内容是在页面渲染之后，通过 js 加载数据然后更新内容。在此之前我们拿不到页面的内容。我们可以通过浏览器驱动器来操作浏览器获取到页面的内容。再来看看 Selenium 的架构：

三、浏览器驱动器

Selenium 在运行之前需要驱动器，下面是不同浏览器的驱动器：

• chrome 驱动器下载地址
• firefox 驱动器下载地址
• edge 驱动器下载地址
• safari 官方文档

下载的需要注意版本：不同的浏览器对应不同的, 考虑大概率会用 chrome 但是对于高于 Chrome 115 版本的， chrome 会给你一个 json 端点，自己找需要的版本下载。

下载后，记录文件位置 例如 windows 下： "D:\web-driver\chrome-win64\chrome.exe", chrome 的驱动器在 11.7M 左右，复制一份放在自己的目录下也不大。

四、在 Chrome 中使用 WebDriver 进行测试

selenium 核心就是要得到驱动器 driver，所有的操作都是在驱动器上使用的：

from selenium import webdriver

# 指定驱动程序的位置
driver_path = 'C:\Users\Administrator\Desktop\chromedriver'  # 修改为你的驱动程序路径

driver = webdriver.Chrome(executable_path=driver_path)

driver.get("http://example.com") # 打开网页

print(driver.title) # 打印页面标题

driver.quit() # 关闭浏览器

这段代码也很好解释，webdriver 使用 Chrome 驱动。驱动使用 get 方法获取页面内容，然后打印驱动对象上页面的 title， 然后驱动关闭六浏览器。

Chrome 驱动的参数 Opiton

前面我们使用 Chrome 驱动，其实 Chrome 驱动还可以传递众多参数，驱动时 chrome opiton 的一些配置配置参数：

chrome_options.add_argument("--headless") # 无头模式
chrome_options.add_argument("--disable-gpu") # 禁用 gpu 加速
chrome_options.add_argument("--window-size=1920,1080") # 指定窗口大小
chrome_options.add_argument("--disable-extensions") # 禁用扩展
chrome_options.add_argument("--no-sandbox") # 禁用沙盒
chrome_options.add_argument("--ignore-certificate-errors") # 忽略证书错误
chrome_options.add_argument("--proxy-server=http://proxyserver:port") # 设置代理
chrome_options.add_argument("--disable-popup-blocking") #禁用弹出窗口阻止
chrome_options.add_argument("--start-maximized") # 启动时最大化窗口
chrome_options.add_argument("--disable-notifications") # 禁用通知
chrome_options.add_argument("--disable-infobars") #禁用信息栏
chrome_options.add_argument("--user-data-dir=/path/to/profile") # 指定用户数据目录
chrome_options.add_argument("--disable-restore-session-state") # 禁用崩溃恢复提示
chrome_options.add_argument("--mute-audio") # 静音音频

五、页面动态内容的加载

Selenium 处理动态内容是常见的需求，等待 JavaScript 动态加载。如果没有等待内容加载完毕，那么查找元素可能会导致错误。原因也很简单，就是没有加载完成。

等待也可以分为不同的层级，web deriver API 级别的。Python 等待以及页面级的等待。

WebDriverWait 等待

from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC

# 初始化 WebDriver
driver = webdriver.Chrome()

# 打开网页
driver.get('http://example.com')

# 显式等待，等待某个元素可见
element = WebDriverWait(driver, 10).until(
    EC.visibility_of_element_located((By.ID, 'dynamicElementId'))
)

# 对元素执行操作
element.click()

driver.find_element 显示等待

driver = webdriver.Chrome()
driver.implicitly_wait(10)  # 全局等待 10 秒

driver.get('http://example.com')

# 如果元素还没准备好，WebDriver 将等待，直到找到元素或超时
element = driver.find_element(By.ID, 'dynamicElementId')
element.click()

time.sleep() Python 等待（不推荐）

import time

driver = webdriver.Chrome()
driver.get('http://example.com')

time.sleep(5)  # 强制等待 5 秒
element = driver.find_element(By.ID, 'dynamicElementId')
element.click()

页面级等待

from selenium.webdriver.support.ui import WebDriverWait

# 等待页面完全加载，通过检查 JavaScript 变量
WebDriverWait(driver, 10).until(
    lambda driver: driver.execute_script('return document.readyState') == 'complete'
)

有了对 selenium 的基础使用和认识，我们就需要较为全面的了解 selenium 的 api 了，当我们对其 api 有较为全面的了解，我们很快就能入手了。

六、selenium 浏览器操作

• driver.get(url) 打开指定的 URL。
• driver.quit() 关闭浏览器并结束 WebDriver 会话。
• driver.close() 关闭当前窗口。
• driver.maximize_window() 最大化浏览器窗口。
• driver.execute_script(script) 执行 JavaScript 脚本。

七、元素定位

• driver.find_element(By.ID, id) 通过 ID 定位元素。
• driver.find_element(By.NAME, name) 通过 NAME 定位元素。
• driver.find_element(By.XPATH, xpath) 通过 XPath 定位元素。
• driver.find_element(By.CSS_SELECTOR, selector) 通过 CSS 选择器定位元素。
• driver.find_elements(By.CLASS_NAME, class_name) 定位所有符合类名的元素，返回列表。

八、元素操作

• element.click() 点击元素。
• element.send_keys(keys) 向元素输入文本。
• element.clear() 清空输入框的内容。
• element.get_attribute(attribute) 获取元素的属性值。
• element.get_text() 获取元素的文本内容。
• element.is_displayed() 检查元素是否显示。

九、等待操作

• driver.implicitly_wait(time) 设置全局隐式等待时间。
• WebDriverWait(driver, time).until(condition) 显式等待指定的条件。

十、窗口与导航

• driver.back() 导航到前一个页面。
• driver.forward() 导航到下一个页面。
• driver.refresh() 刷新当前页面。
• driver.switch_to.frame(frame) 切换到指定的 iframe。
• driver.switch_to.alert() 切换到 alert 对话框。
• driver.switch_to.window(window_name) 切换到指定的窗口。

十一、常用功能

处理 Cookie

cookies = driver.get_cookies()
driver.add_cookie({'name': 'cookie_name', 'value': 'cookie_value'})
driver.delete_all_cookies()

截图

driver.save_screenshot('screenshot.png')

上传图片

file_input = driver.find_element(By.NAME, 'file_upload') file_input.send_keys('/path/to/file.txt')

执行 JS

# 执行 js 脚本
driver.execute_script("alert('Hello, World!');")

# 从 localstorage 中获取 token
token = driver.execute_script("return localStorage.getItem('auth_token');") print(f"Token: {token}")

# 获取元素 css 属性
element = driver.find_element(By.ID, 'element_id')
background_color = driver.execute_script("return window.getComputedStyle(arguments[0]).backgroundColor;", element)

十二、Selenium 与 XPATH

虽然页面里面使用 css 选择器更加靠近 web 端，但是 xpath 在查找元素和定位时更加直接，简单高效。前面已经介绍 api 了，下面是一个实例：

from selenium import webdriver
from selenium.webdriver.common.by import By

driver = webdriver.Chrome()
driver.get("https://example.com")

# 使用 XPath 查找元素
element = driver.find_element(By.XPATH, "//div[@id='main-content']//h1")
print(element.text)

find_element 第一个参数指定 By.XPATH，后面传入 xpath 字符串即可，也是特别方便。

十三、selenium 与爬虫

得益于 selenium 能够直接访问实际页面，动态加载数据爬虫也有的重要作用。它可以弥补传统爬虫工具的不足，抓取由 JavaScript 渲染的内容。但要注意的是，它的性能相对较低，不适合大规模数据抓取。

十四、小结

本文主要介绍了 Selenium 相关内容，主要涉及 Selenium 知识面，从开始的 Python 小案例，到后面的 API 全面了解，以及 Selenium 的常用功能，到最后的 XPATH 以及爬虫的认知。这些内容已经能够全面，且具有实践性。

作者：编程杂货铺
链接：
https://juejin.cn/post/7402328037390123071