Python 开发工程师必会的 5 个系统命令操作库
wptr33 2025-06-15 19:46 29 浏览
当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的 5 个系统命令操作库,这些可都是能让你效率翻倍的 "瑞士军刀"。
一、subprocess:全能型系统交互大师
为什么必须掌握?
还记得用老旧的 os.system 踩过的坑吗?无法捕获子进程输出、错误流混乱、管道操作支持差... 直到遇到 subprocess,这些问题统统迎刃而解。作为 Python 官方推荐的进程管理库,它几乎封装了所有系统交互功能。
核心功能解析
方法 | 核心作用 | 典型场景 |
run() | 执行命令并等待完成 | 简单命令执行 |
Popen() | 创建子进程并获取句柄 | 复杂 IO 操作(管道、文件) |
call() | 执行命令并返回状态码 | 只需判断执行是否成功 |
check_output() | 获取命令标准输出 | 需要解析命令返回结果 |
实际应用场景:文件批量重命名
import subprocess
def batch_rename(directory, old_ext, new_ext):
# 调用系统find命令查找指定扩展名文件
find_cmd = f"find {directory} -type f -name '*.{old_ext}'"
files = subprocess.check_output(find_cmd, shell=True, text=True).splitlines()
for file in files:
new_file = file.rsplit('.', 1)[0] + f".{new_ext}"
mv_cmd = f"mv {file} {new_file}"
# 执行移动命令并检查错误
result = subprocess.run(mv_cmd, shell=True, capture_output=True, text=True)
if result.returncode != 0:
print(f"重命名 {file} 失败: {result.stderr}")
print("批量重命名完成!")
# 使用示例
batch_rename("/path/to/files", "txt", "md")进阶技巧
- 通过stdin=subprocess.PIPE实现命令行交互(如输入密码)
- 利用universal_newlines=True统一处理文本输出
- 设置timeout参数避免子进程卡死
二、os:系统级操作的基础门面
每天都在用的 "隐形帮手"
记得去年给实习生做代码评审,发现他写文件路径拼接居然用字符串拼接,结果在 Windows 和 Linux 上频繁出错。这时候才意识到 os 模块的重要性 —— 它提供了跨平台的系统操作接口,是所有系统交互的基础。
常用功能分类
文件系统操作
import os
# 路径处理
print(os.path.join("/user", "docs", "file.txt")) # 跨平台路径拼接
print(os.path.abspath("relative_path")) # 获取绝对路径
print(os.path.splitext("file.tar.gz")) # 分离扩展名(处理压缩包必备)
# 文件操作
os.makedirs("new_dir", exist_ok=True) # 递归创建目录
os.rename("old.txt", "new.txt") # 重命名文件
os.chmod("script.sh", 0o755) # 修改文件权限进程管理
print(os.getpid()) # 获取当前进程ID
os.kill(pid, signal.SIGTERM) # 发送信号终止进程避坑指南
- 永远使用os.path系列函数处理路径,不要手动拼接
- 文件操作前务必检查权限和路径存在性(os.access()和os.path.exists())
- 处理二进制文件时注意os.open()的 flags 参数
三、shutil:文件与目录的搬运专家
比 os 更上层的抽象
数据迁移、复制粘贴,一行就能搞定。这个库专门针对文件和目录操作进行了高级封装,堪称 "搬运界的特斯拉"。
核心功能对比
功能 | os 模块实现 | shutil 实现 |
复制文件 | open () + write () 循环 | shutil.copy2() |
复制目录 | 递归遍历 + 复制 | shutil.copytree() |
文件压缩 | 需调用 zipfile 等库 | shutil.make_archive() |
磁盘空间 | 需组合多个系统调用 | shutil.disk_usage() |
实际应用场景:跨平台文件同步
import shutil
import time
def sync_folders(source, destination):
"""双向同步两个文件夹内容"""
# 复制新增文件和更新文件
shutil.copytree(source, destination, dirs_exist_ok=True)
# 删除目标中多余文件
for root, dirs, files in os.walk(destination):
relative_path = os.path.relpath(root, destination)
source_root = os.path.join(source, relative_path)
for file in files:
source_file = os.path.join(source_root, file)
dest_file = os.path.join(root, file)
if not os.path.exists(source_file):
os.remove(dest_file)
print(f"删除多余文件: {dest_file}")
print(f"同步完成,最后更新时间: {time.ctime()}")
# 同步代码仓库
sync_folders("/src/repo", "/backup/repo")冷知识
- shutil.move()会自动处理跨文件系统的移动(底层调用 rename 或复制 + 删除)
- shutil.rmtree()可以删除非空目录,但要注意权限问题(建议先检查)
四、tempfile:临时文件的优雅管家
告别 "垃圾文件" 噩梦
记得刚工作时写临时文件,直接用open("temp.txt", "w"),结果忘记删除导致服务器堆满垃圾文件。直到学会用 tempfile,才真正实现了临时文件的自动化管理。
三种使用模式对比
模式 | 创建方式 | 特点 | 适用场景 |
临时文件 | TemporaryFile() | 内存中创建(默认),自动删除 | 临时数据处理 |
命名文件 | NamedTemporaryFile() | 磁盘创建,可指定后缀名 | 需要外部程序访问 |
临时目录 | TemporaryDirectory() | 自动创建 / 删除目录 | 临时工作空间 |
实际应用场景:安全生成临时脚本
import tempfile
import subprocess
def create_temp_script(content):
with tempfile.NamedTemporaryFile(mode='w', suffix='.sh', delete=False) as f:
f.write(content)
script_path = f.name
# 添加执行权限
os.chmod(script_path, 0o755)
return script_path
# 生成安装脚本并执行
install_script = """
#!/bin/bash
echo "开始安装..."
apt-get update -y
apt-get install python3 -y
"""
script_path = create_temp_script(install_script)
subprocess.run([script_path], check=True)
os.unlink(script_path) # 手动删除(或依赖delete=True自动删除)注意事项
- 使用with语句确保资源自动释放
- 敏感数据不要写入临时文件(内存模式更安全)
- 跨平台时注意后缀名和文件模式
五、psutil:系统监控的千里眼
从运维到开发的必备技能
它能像 Linux 的 top 命令一样获取各种系统信息,而且跨平台支持良好,简直是开发运维一体化的桥梁。
核心监控指标
import psutil
# 进程信息
process = psutil.Process()
print(f"进程名: {process.name()}")
print(f"内存占用: {process.memory_percent()}%")
print(f"CPU核心数: {process.cpu_affinity()}")
# 系统信息
print(f"总内存: {psutil.virtual_memory().total / 1024**3:.2f} GB")
print(f"磁盘分区: {psutil.disk_partitions()}")
print(f"网络连接: {len(psutil.net_connections())} 个")实际应用场景:内存泄漏监控
import time
import psutil
def monitor_memory(pid, interval=5):
process = psutil.Process(pid)
while True:
mem = process.memory_info().rss / 1024**2 # MB
print(f"当前内存占用: {mem:.2f} MB")
if mem > 1024: # 超过1GB触发报警
print("警告:内存占用过高!")
time.sleep(interval)
# 监控当前进程
monitor_memory(os.getpid())进阶应用
- 实现进程树可视化(递归遍历子进程)
- 监控网络流量变化(net_io_counters)
- 追踪文件句柄泄漏(process.open_files())
这五个库就像 Python 系统操作的 "五岳":subprocess 是泰山,稳坐核心;os 是华山,基础险要;shutil 是衡山,灵活多变;tempfile 是恒山,小巧精致;psutil 是嵩山,博大精深。建议大家按照这个路径学习:
- 先用 os 和 shutil 掌握基础文件操作
- 用 subprocess 实现复杂命令交互
- 用 tempfile 处理临时资源管理
- 最后用 psutil 打通系统监控任督二脉
在实际项目中,我经常把它们组合使用:比如用 subprocess 执行备份命令,shutil 处理文件迁移,psutil 监控备份进程的资源消耗,tempfile 存储临时日志。这种组合拳能解决 90% 以上的系统交互问题。
当然,系统编程永远有新的挑战,比如异步进程处理(asyncio.subprocess)、更精细的资源控制(cgroups)等。但掌握这五个库,已经能让你在日常开发中应对自如。
相关推荐
- oracle数据导入导出_oracle数据导入导出工具
-
关于oracle的数据导入导出,这个功能的使用场景,一般是换服务环境,把原先的oracle数据导入到另外一台oracle数据库,或者导出备份使用。只不过oracle的导入导出命令不好记忆,稍稍有点复杂...
- 继续学习Python中的while true/break语句
-
上次讲到if语句的用法,大家在微信公众号问了小编很多问题,那么小编在这几种解决一下,1.else和elif是子模块,不能单独使用2.一个if语句中可以包括很多个elif语句,但结尾只能有一个else解...
- python continue和break的区别_python中break语句和continue语句的区别
-
python中循环语句经常会使用continue和break,那么这2者的区别是?continue是跳出本次循环,进行下一次循环;break是跳出整个循环;例如:...
- 简单学Python——关键字6——break和continue
-
Python退出循环,有break语句和continue语句两种实现方式。break语句和continue语句的区别:break语句作用是终止循环。continue语句作用是跳出本轮循环,继续下一次循...
- 2-1,0基础学Python之 break退出循环、 continue继续循环 多重循
-
用for循环或者while循环时,如果要在循环体内直接退出循环,可以使用break语句。比如计算1至100的整数和,我们用while来实现:sum=0x=1whileTrue...
- Python 中 break 和 continue 傻傻分不清
-
大家好啊,我是大田。今天分享一下break和continue在代码中的执行效果是什么,进一步区分出二者的区别。一、continue例1:当小明3岁时不打印年龄,其余年龄正常循环打印。可以看...
- python中的流程控制语句:continue、break 和 return使用方法
-
Python中,continue、break和return是控制流程的关键语句,用于在循环或函数中提前退出或跳过某些操作。它们的用途和区别如下:1.continue(跳过当前循环的剩余部分,进...
- L017:continue和break - 教程文案
-
continue和break在Python中,continue和break是用于控制循环(如for和while)执行流程的关键字,它们的作用如下:1.continue:跳过当前迭代,...
- 作为前端开发者,你都经历过怎样的面试?
-
已经裸辞1个月了,最近开始投简历找工作,遇到各种各样的面试,今天分享一下。其实在职的时候也做过面试官,面试官时,感觉自己问的问题很难区分候选人的能力,最好的办法就是看看候选人的github上的代码仓库...
- 面试被问 const 是否不可变?这样回答才显功底
-
作为前端开发者,我在学习ES6特性时,总被const的"善变"搞得一头雾水——为什么用const声明的数组还能push元素?为什么基本类型赋值就会报错?直到翻遍MDN文档、对着内存图反...
- 2023金九银十必看前端面试题!2w字精品!
-
导文2023金九银十必看前端面试题!金九银十黄金期来了想要跳槽的小伙伴快来看啊CSS1.请解释CSS的盒模型是什么,并描述其组成部分。答案:CSS的盒模型是用于布局和定位元素的概念。它由内容区域...
- 前端面试总结_前端面试题整理
-
记得当时大二的时候,看到实验室的学长学姐忙于各种春招,有些收获了大厂offer,有些还在苦苦面试,其实那时候的心里还蛮忐忑的,不知道自己大三的时候会是什么样的一个水平,所以从19年的寒假放完,大二下学...
- 由浅入深,66条JavaScript面试知识点(七)
-
作者:JakeZhang转发链接:https://juejin.im/post/5ef8377f6fb9a07e693a6061目录由浅入深,66条JavaScript面试知识点(一)由浅入深,66...
- 2024前端面试真题之—VUE篇_前端面试题vue2020及答案
-
添加图片注释,不超过140字(可选)1.vue的生命周期有哪些及每个生命周期做了什么?beforeCreate是newVue()之后触发的第一个钩子,在当前阶段data、methods、com...
- 今年最常见的前端面试题,你会做几道?
-
在面试或招聘前端开发人员时,期望、现实和需求之间总是存在着巨大差距。面试其实是一个交流想法的地方,挑战人们的思考方式,并客观地分析给定的问题。可以通过面试了解人们如何做出决策,了解一个人对技术和解决问...
- 一周热门
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)
