百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

Python学不会来打我(36)生成器详解,一篇讲清所有知识点

wptr33 2025-07-03 01:13 20 浏览

在Python中,生成器(Generator) 是一种特殊的迭代器,它使用 yield 关键字来逐个返回值,而不是一次性将所有结果计算出来并存储在内存中。这种“按需生成”的特性,使得生成器在处理大数据、流式数据、惰性求值等场景中非常高效。

本文将详细讲解 Python生成器的基本原理、使用方法、常见应用场景,并通过大量示例帮助你掌握这一重要技能。


一、什么是生成器?

生成器是一种用于惰性求值的函数,它不像普通函数那样返回一个值后就结束,而是可以在执行过程中多次暂停和恢复,每次调用 next() 都会继续执行到下一个 yield 表达式。

生成器有两种形式:

  1. 生成器函数:使用 yield 的函数
  2. 生成器表达式:类似列表推导式的语法,但使用圆括号 ()

示例1:最简单的生成器函数

def simple_generator():
    yield 1
    yield 2
    yield 3

gen = simple_generator()
print(next(gen))  # 输出 1
print(next(gen))  # 输出 2
print(next(gen))  # 输出 3
print(next(gen))  # 抛出 StopIteration

注意:生成器函数不会立即执行其代码,而是返回一个生成器对象,只有在调用 next() 或在 for 循环中使用时才会逐步执行。


二、生成器的工作机制

生成器之所以能实现“按需生成”,是因为它内部维护了一个状态机。每当遇到 yield 语句时,函数会暂停执行,并保存当前的状态;下次调用 next() 时,函数从中断处继续执行。

示例2:带循环的生成器

def count_up_to(n):
    i = 1
    while i <= n:
        yield i
        i += 1

gen = count_up_to(5)
for num in gen:
    print(num)

输出:

1
2
3
4
5

在这个例子中,count_up_to 函数是一个生成器函数,它会在每次调用 yield 后暂停,直到下一次请求到来。


三、生成器与普通函数的区别

四、生成器表达式

除了生成器函数,我们还可以使用生成器表达式创建简洁的生成器。

示例3:生成器表达式 vs 列表推导式

# 列表推导式:一次性生成所有元素
squares_list = [x*x for x in range(10)]
print(squares_list)  # 输出完整列表

# 生成器表达式:按需生成
squares_gen = (x*x for x in range(10))
print(squares_gen)   # <generator object ...>

两者区别在于:

  • 列表推导式一次性生成整个列表,占用内存
  • 生成器表达式只在需要时计算下一个值,节省内存

五、生成器的常用操作

1. 使用next()获取下一个值

gen = (x for x in range(3))
print(next(gen))  # 0
print(next(gen))  # 1
print(next(gen))  # 2
print(next(gen))  # StopIteration

2. 在for循环中自动遍历

for num in count_up_to(5):
    print(num)

3. 使用send()方法传递值(协程)

def echo():
    while True:
        received = yield
        print("收到:", received)

gen = echo()
next(gen)  # 启动生成器
gen.send("你好")
gen.send("再见")

输出:

收到: 你好
收到: 再见

注意:第一次必须调用 next() 或 send(None) 来启动生成器

4. 使用throw()抛出异常

def my_gen():
    try:
        yield 1
        yield 2
    except ValueError:
        print("捕获到异常")

gen = my_gen()
print(next(gen))  # 输出 1
gen.throw(ValueError)  # 触发异常

5. 使用close()关闭生成器

def infinite_gen():
    while True:
        yield "Hello"

gen = infinite_gen()
print(next(gen))  # Hello
gen.close()       # 终止生成器

六、生成器的应用场景

场景1:处理大文件或大数据流

当处理超大文件或实时数据流时,使用生成器可以避免一次性加载所有内容到内存。

def read_large_file(file_path):
    with open(file_path, 'r', encoding='utf-8') as f:
        for line in f:
            yield line.strip()

for line in read_large_file('big_data.txt'):
    print(line)

场景2:无限序列生成器

如斐波那契数列、质数生成等。

def fibonacci():
    a, b = 0, 1
    while True:
        yield a
        a, b = b, a + b

fib = fibonacci()
for _ in range(10):
    print(next(fib))

输出前10个斐波那契数:

0
1
1
2
3
5
8
13
21
34

场景3:协程(Coroutine)通信

生成器可以作为协程使用,在异步编程中有广泛应用。

def consumer():
    while True:
        item = yield
        print("消费了:", item)

def producer(consumer_gen):
    for i in range(5):
        print("生产了:", i)
        consumer_gen.send(i)

prod = producer(consumer())
next(prod)  # 启动协程

场景4:懒加载与资源控制

例如数据库查询结果分页获取。

def query_database(limit=10):
    offset = 0
    while True:
        results = fetch_from_db(offset, limit)
        if not results:
            break
        for row in results:
            yield row
        offset += limit

七、生成器的优点与注意事项

优点:

  • 节省内存:不一次性加载所有数据
  • 控制流清晰:明确每个步骤
  • 支持惰性求值:只在需要时计算
  • 易于扩展:可组合多个生成器形成复杂逻辑

注意事项:

  • 不支持索引访问,无法像列表一样随机读取
  • 一旦遍历完就“耗尽”,不能重复使用
  • 协程模式需要理解状态管理
  • 不建议嵌套使用多个生成器,容易导致混乱

八、生成器 vs 迭代器

特性

迭代器

生成器

创建方式

自定义类实现

使用 yield 关键字

语法复杂度

稍高

简洁

内存占用

更可控

自动管理

适合场景

复杂状态控制

简单序列生成


九、总结

生成器是 Python 中实现“惰性求值”和“按需生成”的核心机制之一。它通过 yield 关键字让我们能够轻松地构建高效的、按需计算的数据源,广泛应用于大数据处理、网络请求、异步编程等领域。

通过本文的学习,你应该已经掌握了:

  • 生成器的基本概念和工作原理
  • 如何定义和使用生成器函数和表达式
  • 生成器的常用操作(next、send、throw、close)
  • 常见应用场景(大文件处理、无限序列、协程等)
  • 生成器与迭代器的异同点

作为 Python 初学者,建议你在练习中多尝试使用生成器来优化代码结构,提升性能,并结合实际需求进行拓展。

希望这篇文章能帮助你在 Python 编程之路上越走越远!

相关推荐

MySQL进阶五之自动读写分离mysql-proxy

自动读写分离目前,大量现网用户的业务场景中存在读多写少、业务负载无法预测等情况,在有大量读请求的应用场景下,单个实例可能无法承受读取压力,甚至会对业务产生影响。为了实现读取能力的弹性扩展,分担数据库压...

Postgres vs MySQL_vs2022连接mysql数据库

...

3分钟短文 | Laravel SQL筛选两个日期之间的记录,怎么写?

引言今天说一个细分的需求,在模型中,或者使用laravel提供的EloquentORM功能,构造查询语句时,返回位于两个指定的日期之间的条目。应该怎么写?本文通过几个例子,为大家梳理一下。学习时...

一文由浅入深带你完全掌握MySQL的锁机制原理与应用

本文将跟大家聊聊InnoDB的锁。本文比较长,包括一条SQL是如何加锁的,一些加锁规则、如何分析和解决死锁问题等内容,建议耐心读完,肯定对大家有帮助的。为什么需要加锁呢?...

验证Mysql中联合索引的最左匹配原则

后端面试中一定是必问mysql的,在以往的面试中好几个面试官都反馈我Mysql基础不行,今天来着重复习一下自己的弱点知识。在Mysql调优中索引优化又是非常重要的方法,不管公司的大小只要后端项目中用到...

MySQL索引解析(联合索引/最左前缀/覆盖索引/索引下推)

目录1.索引基础...

你会看 MySQL 的执行计划(EXPLAIN)吗?

SQL执行太慢怎么办?我们通常会使用EXPLAIN命令来查看SQL的执行计划,然后根据执行计划找出问题所在并进行优化。用法简介...

MySQL 从入门到精通(四)之索引结构

索引概述索引(index),是帮助MySQL高效获取数据的数据结构(有序),在数据之外,数据库系统还维护者满足特定查询算法的数据结构,这些数据结构以某种方式引用(指向)数据,这样就可以在这些数据结构...

mysql总结——面试中最常问到的知识点

mysql作为开源数据库中的榜一大哥,一直是面试官们考察的重中之重。今天,我们来总结一下mysql的知识点,供大家复习参照,看完这些知识点,再加上一些边角细节,基本上能够应付大多mysql相关面试了(...

mysql总结——面试中最常问到的知识点(2)

首先我们回顾一下上篇内容,主要复习了索引,事务,锁,以及SQL优化的工具。本篇文章接着写后面的内容。性能优化索引优化,SQL中索引的相关优化主要有以下几个方面:最好是全匹配。如果是联合索引的话,遵循最...

MySQL基础全知全解!超详细无废话!轻松上手~

本期内容提醒:全篇2300+字,篇幅较长,可搭配饭菜一同“食”用,全篇无废话(除了这句),干货满满,可收藏供后期反复观看。注:MySQL中语法不区分大小写,本篇中...

深入剖析 MySQL 中的锁机制原理_mysql 锁详解

在互联网软件开发领域,MySQL作为一款广泛应用的关系型数据库管理系统,其锁机制在保障数据一致性和实现并发控制方面扮演着举足轻重的角色。对于互联网软件开发人员而言,深入理解MySQL的锁机制原理...

Java 与 MySQL 性能优化:MySQL分区表设计与性能优化全解析

引言在数据库管理领域,随着数据量的不断增长,如何高效地管理和操作数据成为了一个关键问题。MySQL分区表作为一种有效的数据管理技术,能够将大型表划分为多个更小、更易管理的分区,从而提升数据库的性能和可...

MySQL基础篇:DQL数据查询操作_mysql 查

一、基础查询DQL基础查询语法SELECT字段列表FROM表名列表WHERE条件列表GROUPBY分组字段列表HAVING分组后条件列表ORDERBY排序字段列表LIMIT...

MySql:索引的基本使用_mysql索引的使用和原理

一、索引基础概念1.什么是索引?索引是数据库表的特殊数据结构(通常是B+树),用于...