Go 每日一库之 sqlc:根据 sql 生成代码
wptr33 2024-11-23 23:31 17 浏览
以下文章来源于GoUpUp ,作者dj
简介
在 Go 语言中编写数据库操作代码真的非常痛苦!database/sql标准库提供的都是比较底层的接口。我们需要编写大量重复的代码。大量的模板代码不仅写起来烦,而且还容易出错。有时候字段类型修改了一下,可能就需要改动很多地方;添加了一个新字段,之前使用select *查询语句的地方都要修改。如果有些地方有遗漏,可能就会造成运行时panic。即使使用 ORM 库,这些问题也不能完全解决!这时候,sqlc来了!sqlc可以根据我们编写的 SQL 语句生成类型安全的、地道的 Go 接口代码,我们要做的只是调用这些方法。
快速使用
先安装:
nbsp;go get github.com/kyleconroy/sqlc/cmd/sqlc
当然还有对应的数据库驱动:
nbsp;go get github.com/lib/pq
nbsp;go get github.com/go-sql-driver/mysql
sqlc是一个命令行工具,上面代码会将可执行程序sqlc放到$GOPATH/bin目录下。我习惯把$GOPATH/bin目录加入到系统PATH中。所以可以执行使用这个命令。
因为sqlc用到了一个 linux 下的库,在 windows 上无法正常编译。在 windows 上我们可以使用 docker 镜像kjconroy/sqlc。docker 的安装就不介绍了,网上有很多教程。拉取kjconroy/sqlc镜像:
nbsp;docker pull kjconroy/sqlc
然后,编写 SQL 语句。在schema.sql文件中编写建表语句:
CREATE TABLE authors (
id BIGSERIAL PRIMARY KEY,
name TEXT NOT NULL,
bio TEXT
);
在query.sql文件中编写查询语句:
-- name: GetAuthor :one
SELECT * FROM authors
WHERE id = $1 LIMIT 1;
-- name: ListAuthors :many
SELECT * FROM authors
ORDER BY name;
-- name: CreateAuthor :exec
INSERT INTO authors (
name, bio
) VALUES (
$1, $2
)
RETURNING *;
-- name: DeleteAuthor :exec
DELETE FROM authors
WHERE id = $1;
sqlc支持 PostgreSQL 和 MySQL,不过对 MySQL 的支持是实验性的。期待后续完善对 MySQL 的支持,增加对其它数据库的支持。本文我们使用的是 PostgreSQL。编写数据库程序时,上面两个 sql 文件是少不了的。sqlc额外只需要一个小小的配置文件sqlc.yaml:
version: "1"
packages:
- name: "db"
path: "./db"
queries: "./query.sql"
schema: "./schema.sql"
- version:版本;
- packages:
- name:生成的包名;
- path:生成文件的路径;
- queries:查询 SQL 文件;
- schema:建表 SQL 文件。
在 windows 上执行下面的命令生成对应的 Go 代码:
docker run --rm -v CONFIG_PATH:/src -w /src kjconroy/sqlc generate
上面的CONFIG_PATH替换成配置所在目录,我的是D:\code\golang\src\github.com\darjun\go-daily-lib\sqlc\get-started。sqlc为我们在同级目录下生成了数据库操作代码,目录结构如下:
db
├── db.go
├── models.go
└── query.sql.go
sqlc根据我们schema.sql和query.sql生成了模型对象结构:
// models.go
type Author struct {
ID int64
Name string
Bio sql.NullString
}
和操作接口:
// query.sql.go
func (q *Queries) CreateAuthor(ctx context.Context, arg CreateAuthorParams) (Author, error)
func (q *Queries) DeleteAuthor(ctx context.Context, id int64) error
func (q *Queries) GetAuthor(ctx context.Context, id int64) (Author, error)
func (q *Queries) ListAuthors(ctx context.Context) ([]Author, error)
其中Queries是sqlc封装的一个结构。
说了这么多,来看看如何使用:
package main
import (
"database/sql"
"fmt"
"log"
_ "github.com/lib/pq"
"golang.org/x/net/context"
"github.com/darjun/go-daily-lib/sqlc/get-started/db"
)
func main() {
pq, err := sql.Open("postgres", "dbname=sqlc sslmode=disable")
if err != nil {
log.Fatal(err)
}
queries := db.New(pq)
authors, err := queries.ListAuthors(context.Background())
if err != nil {
log.Fatal("ListAuthors error:", err)
}
fmt.Println(authors)
insertedAuthor, err := queries.CreateAuthor(context.Background(), db.CreateAuthorParams{
Name: "Brian Kernighan",
Bio: sql.NullString{String: "Co-author of The C Programming Language and The Go Programming Language", Valid: true},
})
if err != nil {
log.Fatal("CreateAuthor error:", err)
}
fmt.Println(insertedAuthor)
fetchedAuthor, err := queries.GetAuthor(context.Background(), insertedAuthor.ID)
if err != nil {
log.Fatal("GetAuthor error:", err)
}
fmt.Println(fetchedAuthor)
err = queries.DeleteAuthor(context.Background(), insertedAuthor.ID)
if err != nil {
log.Fatal("DeleteAuthor error:", err)
}
}
生成的代码在包db下(由packages.name选项指定),首先调用db.New()将sql.Open()的返回值sql.DB作为参数传入,得到Queries对象。我们对authors表的操作都需要通过该对象的方法。
上面程序要运行,还需要启动 PostgreSQL,创建数据库和表:
$ createdb sqlc
$ psql -f schema.sql -d sqlc
上面第一条命令创建一个名为sqlc的数据库,第二条命令在数据库sqlc中执行schema.sql文件中的语句,即创建表。
最后运行程序(多文件程序不能用go run main.go):
$ go run .
[]
{1 Brian Kernighan {Co-author of The C Programming Language and The Go Programming Language true}}
{1 Brian Kernighan {Co-author of The C Programming Language and The Go Programming Language true}}
代码生成
除了 SQL 语句本身,sqlc需要我们在编写 SQL 语句的时候通过注释的方式为生成的程序提供一些基本信息。语法为:
-- name: <name> <cmd>
name为生成的方法名,如上面的CreateAuthor/ListAuthors/GetAuthor/DeleteAuthor等,cmd可以有以下取值:
- :one:表示 SQL 语句返回一个对象,生成的方法的返回值为(对象类型, error),对象类型可以从表名得出;
- :many:表示 SQL 语句会返回多个对象,生成的方法的返回值为([]对象类型, error);
- :exec:表示 SQL 语句不返回对象,只返回一个error;
- :execrows:表示 SQL 语句需要返回受影响的行数。
:one
-- name: GetAuthor :one
SELECT id, name, bio FROM authors
WHERE id = $1 LIMIT 1
注释中--name指示生成方法GetAuthor,从表名得出返回的基础类型为Author。:one又表示只返回一个对象。故最终的返回值为(Author, error):
// db/query.sql.go
const getAuthor = `-- name: GetAuthor :one
SELECT id, name, bio FROM authors
WHERE id = $1 LIMIT 1
`
func (q *Queries) GetAuthor(ctx context.Context, id int64) (Author, error) {
row := q.db.QueryRowContext(ctx, getAuthor, id)
var i Author
err := row.Scan(&i.ID, &i.Name, &i.Bio)
return i, err
}
:many
-- name: ListAuthors :many
SELECT * FROM authors
ORDER BY name;
注释中--name指示生成方法ListAuthors,从表名authors得到返回的基础类型为Author。:many表示返回一个对象的切片。故最终的返回值为([]Author, error):
// db/query.sql.go
const listAuthors = `-- name: ListAuthors :many
SELECT id, name, bio FROM authors
ORDER BY name
`
func (q *Queries) ListAuthors(ctx context.Context) ([]Author, error) {
rows, err := q.db.QueryContext(ctx, listAuthors)
if err != nil {
return nil, err
}
defer rows.Close()
var items []Author
for rows.Next() {
var i Author
if err := rows.Scan(&i.ID, &i.Name, &i.Bio); err != nil {
return nil, err
}
items = append(items, i)
}
if err := rows.Close(); err != nil {
return nil, err
}
if err := rows.Err(); err != nil {
return nil, err
}
return items, nil
}
这里注意一个细节,即使我们使用了select *,生成的代码中 SQL 语句被也改写成了具体的字段:
SELECT id, name, bio FROM authors
ORDER BY name
这样后续如果我们需要添加或删除字段,只要执行了sqlc命令,这个 SQL 语句和ListAuthors()方法就能保持一致!是不是很方便?
:exec
-- name: DeleteAuthor :exec
DELETE FROM authors
WHERE id = $1
注释中--name指示生成方法DeleteAuthor,从表名authors得到返回的基础类型为Author。:exec表示不返回对象。故最终的返回值为error:
// db/query.sql.go
const deleteAuthor = `-- name: DeleteAuthor :exec
DELETE FROM authors
WHERE id = $1
`
func (q *Queries) DeleteAuthor(ctx context.Context, id int64) error {
_, err := q.db.ExecContext(ctx, deleteAuthor, id)
return err
}
:execrows
-- name: DeleteAuthorN :execrows
DELETE FROM authors
WHERE id = $1
注释中--name指示生成方法DeleteAuthorN,从表名authors得到返回的基础类型为Author。:exec表示返回受影响的行数(即删除了多少行)。故最终的返回值为(int64, error):
// db/query.sql.go
const deleteAuthorN = `-- name: DeleteAuthorN :execrows
DELETE FROM authors
WHERE id = $1
`
func (q *Queries) DeleteAuthorN(ctx context.Context, id int64) (int64, error) {
result, err := q.db.ExecContext(ctx, deleteAuthorN, id)
if err != nil {
return 0, err
}
return result.RowsAffected()
}
不管编写的 SQL 多复杂,总是逃不过上面的规则。我们只需要在编写 SQL 语句时额外添加一行注释,sqlc就能为我们生成地道的 SQL 操作方法。生成的代码与我们自己手写的没什么不同,错误处理都很完善,而且了避免手写的麻烦与错误。
模型对象
sqlc为所有的建表语句生成对应的模型结构。结构名为表名的单数形式,且首字母大写。例如:
CREATE TABLE authors (
id SERIAL PRIMARY KEY,
name text NOT NULL
);
生成对应的结构:
type Author struct {
ID int
Name string
}
而且sqlc可以解析ALTER TABLE语句,它会根据最终的表结构来生成模型对象的结构。例如:
CREATE TABLE authors (
id SERIAL PRIMARY KEY,
birth_year int NOT NULL
);
ALTER TABLE authors ADD COLUMN bio text NOT NULL;
ALTER TABLE authors DROP COLUMN birth_year;
ALTER TABLE authors RENAME TO writers;
上面的 SQL 语句中,建表时有两列id和birth_year。第一条ALTER TABLE语句添加了一列bio,第二条删除了birth_year列,第三条将表名authors改为writers。sqlc依据最终的表名writers和表中的列id、bio生成代码:
package db
type Writer struct {
ID int
Bio string
}
配置字段
sqlc.yaml文件中还可以设置其他的配置字段。
emit_json_tags
默认为false,设置该字段为true可以为生成的模型对象结构添加 JSON 标签。例如:
CREATE TABLE authors (
id SERIAL PRIMARY KEY,
created_at timestamp NOT NULL
);
生成:
package db
import (
"time"
)
type Author struct {
ID int `json:"id"`
CreatedAt time.Time `json:"created_at"`
}
emit_prepared_queries
默认为false,设置该字段为true,会为 SQL 生成对应的prepared statement。例如,在快速开始的示例中设置这个选项,最终生成的结构Queries中会添加所有 SQL 对应的prepared statement对象:
type Queries struct {
db DBTX
tx *sql.Tx
createAuthorStmt *sql.Stmt
deleteAuthorStmt *sql.Stmt
getAuthorStmt *sql.Stmt
listAuthorsStmt *sql.Stmt
}
和一个Prepare()方法:
func Prepare(ctx context.Context, db DBTX) (*Queries, error) {
q := Queries{db: db}
var err error
if q.createAuthorStmt, err = db.PrepareContext(ctx, createAuthor); err != nil {
return nil, fmt.Errorf("error preparing query CreateAuthor: %w", err)
}
if q.deleteAuthorStmt, err = db.PrepareContext(ctx, deleteAuthor); err != nil {
return nil, fmt.Errorf("error preparing query DeleteAuthor: %w", err)
}
if q.getAuthorStmt, err = db.PrepareContext(ctx, getAuthor); err != nil {
return nil, fmt.Errorf("error preparing query GetAuthor: %w", err)
}
if q.listAuthorsStmt, err = db.PrepareContext(ctx, listAuthors); err != nil {
return nil, fmt.Errorf("error preparing query ListAuthors: %w", err)
}
return &q, nil
}
生成的其它方法都使用了这些对象,而非直接使用 SQL 语句:
func (q *Queries) CreateAuthor(ctx context.Context, arg CreateAuthorParams) (Author, error) {
row := q.queryRow(ctx, q.createAuthorStmt, createAuthor, arg.Name, arg.Bio)
var i Author
err := row.Scan(&i.ID, &i.Name, &i.Bio)
return i, err
}
我们需要在程序初始化时调用这个Prepare()方法。
emit_interface
默认为false,设置该字段为true,会为查询结构生成一个接口。例如,在快速开始的示例中设置这个选项,最终生成的代码会多出一个文件querier.go:
// db/querier.go
type Querier interface {
CreateAuthor(ctx context.Context, arg CreateAuthorParams) (Author, error)
DeleteAuthor(ctx context.Context, id int64) error
DeleteAuthorN(ctx context.Context, id int64) (int64, error)
GetAuthor(ctx context.Context, id int64) (Author, error)
ListAuthors(ctx context.Context) ([]Author, error)
}
覆写类型
sqlc在生成模型对象结构时会根据数据库表的字段类型推算出一个 Go 语言类型,例如text对应string。我们也可以在配置文件中指定这种类型映射。
version: "1"
packages:
- name: "db"
path: "./db"
queries: "./query.sql"
schema: "./schema.sql"
overrides:
- go_type: "github.com/uniplaces/carbon.Time"
db_type: "pg_catalog.timestamp"
在overrides下go_type表示使用的 Go 类型。如果是非标准类型,必须指定全限定类型(即包路径 + 类型名)。db_type设置为要映射的数据库类型。sqlc会自动导入对应的标准包或第三方包。生成代码如下:
package db
import (
"github.com/uniplaces/carbon"
)
type Author struct {
ID int32
Name string
CreateAt carbon.Time
}
**需要注意的是db_type的表示,文档这里一笔带过,使用上还是有些晦涩。**我也是看源码才找到如何覆写timestamp类型的,需要将db_type设置为pg_catalog.timestamp。同理timestamptz、timetz等类型也需要加上这个前缀。**一般复杂类型都需要加上前缀,一般的基础类型可以加也可以不加。**遇到不确定的情况,可以去看看源码gen.go#L634。
也可以设定某个字段的类型,例如我们要将创建时间字段created_at设置为使用carbon.Time:
version: "1"
packages:
- name: "db"
path: "./db"
queries: "./query.sql"
schema: "./schema.sql"
overrides:
- column: "authors.create_at"
go_type: "github.com/uniplaces/carbon.Time"
生成代码如下:
// db/models.go
package db
import (
"github.com/uniplaces/carbon"
)
type Author struct {
ID int32
Name string
CreateAt carbon.Time
}
最后我们还可以给生成的结构字段命名:
version: "1"
packages:
- name: "db"
path: "./db"
queries: "./query.sql"
schema: "./schema.sql"
rename:
id: "Id"
name: "UserName"
create_at: "CreateTime"
上面配置为生成的结构设置字段名,生成代码:
package db
import (
"time"
)
type Author struct {
Id int32
UserName string
CreateTime time.Time
}
安装 PostgreSQL
我之前使用 MySQL 较多。由于sqlc对 MySQL 的支持不太好,在体验这个库的时候还是选择支持较好的 PostgreSQL。不得不说,在 win10 上,PostgreSQL 的安装门槛实在是太高了!我摸索了很久最后只能在https://www.enterprisedb.com/download-postgresql-binaries下载可执行文件。我选择了 10.12 版本,下载、解压、将文件夹中的bin加入系统PATH。创建一个data目录,然后执行下面的命令初始化数据:
$ initdb data
注册 PostgreSQL 服务,这样每次系统重启后会自动启动:
$ pg_ctl register -N "pgsql" -D D:\data
这里的data目录就是上面创建的,并且一定要使用绝对路径!
启动服务:
$ sc start pgsql
最后使用我们前面介绍的命令创建数据库和表即可。
如果有使用installer成功安装的小伙伴,还请不吝赐教!
总结
虽然目前还有一些不完善的地方,例如对 MySQL 的支持是实验性的,sqlc工具的确能大大简化我们使用 Go 编写数据库代码的复杂度,提升我们的编码效率,减少我们出错的概率。使用 PostgreSQL 的小伙伴非常建议尝试一番!
大家如果发现好玩、好用的 Go 语言库,欢迎到 Go 每日一库 GitHub 上提交 issue
相关推荐
- Python自动化脚本应用与示例(python办公自动化脚本)
-
Python是编写自动化脚本的绝佳选择,因其语法简洁、库丰富且跨平台兼容性强。以下是Python自动化脚本的常见应用场景及示例,帮助你快速上手:一、常见自动化场景文件与目录操作...
- Python文件操作常用库高级应用教程
-
本文是在前面《Python文件操作常用库使用教程》的基础上,进一步学习Python文件操作库的高级应用。一、高级文件系统监控1.1watchdog库-实时文件系统监控安装与基本使用:...
- Python办公自动化系列篇之六:文件系统与操作系统任务
-
作为高效办公自动化领域的主流编程语言,Python凭借其优雅的语法结构、完善的技术生态及成熟的第三方工具库集合,已成为企业数字化转型过程中提升运营效率的理想选择。该语言在结构化数据处理、自动化文档生成...
- 14《Python 办公自动化教程》os 模块操作文件与文件夹
-
在日常工作中,我们经常会和文件、文件夹打交道,比如将服务器上指定目录下文件进行归档,或将爬虫爬取的数据根据时间创建对应的文件夹/文件,如果这些还依靠手动来进行操作,无疑是费时费力的,这时候Pyt...
- python中os模块详解(python os.path模块)
-
os模块是Python标准库中的一个模块,它提供了与操作系统交互的方法。使用os模块可以方便地执行许多常见的系统任务,如文件和目录操作、进程管理、环境变量管理等。下面是os模块中一些常用的函数和方法:...
- 21-Python-文件操作(python文件的操作步骤)
-
在Python中,文件操作是非常重要的一部分,它允许我们读取、写入和修改文件。下面将详细讲解Python文件操作的各个方面,并给出相应的示例。1-打开文件...
- 轻松玩转Python文件操作:移动、删除
-
哈喽,大家好,我是木头左!Python文件操作基础在处理计算机文件时,经常需要执行如移动和删除等基本操作。Python提供了一些内置的库来帮助完成这些任务,其中最常用的就是os模块和shutil模块。...
- Python 初学者练习:删除文件和文件夹
-
在本教程中,你将学习如何在Python中删除文件和文件夹。使用os.remove()函数删除文件...
- 引人遐想,用 Python 获取你想要的“某个人”摄像头照片
-
仅用来学习,希望给你们有提供到学习上的作用。1.安装库需要安装python3.5以上版本,在官网下载即可。然后安装库opencv-python,安装方式为打开终端输入命令行。...
- Python如何使用临时文件和目录(python目录下文件)
-
在某些项目中,有时候会有大量的临时数据,比如各种日志,这时候我们要做数据分析,并把最后的结果储存起来,这些大量的临时数据如果常驻内存,将消耗大量内存资源,我们可以使用临时文件,存储这些临时数据。使用标...
- Linux 下海量文件删除方法效率对比,最慢的竟然是 rm
-
Linux下海量文件删除方法效率对比,本次参赛选手一共6位,分别是:rm、find、findwithdelete、rsync、Python、Perl.首先建立50万个文件$testfor...
- Python 开发工程师必会的 5 个系统命令操作库
-
当我们需要编写自动化脚本、部署工具、监控程序时,熟练操作系统命令几乎是必备技能。今天就来聊聊我在实际项目中高频使用的5个系统命令操作库,这些可都是能让你效率翻倍的"瑞士军刀"。一...
- Python常用文件操作库使用详解(python文件操作选项)
-
Python生态系统提供了丰富的文件操作库,可以处理各种复杂的文件操作需求。本教程将介绍Python中最常用的文件操作库及其实际应用。一、标准库核心模块1.1os模块-操作系统接口主要功能...
- 11. 文件与IO操作(文件io和网络io)
-
本章深入探讨Go语言文件处理与IO操作的核心技术,结合高性能实践与安全规范,提供企业级解决方案。11.1文件读写11.1.1基础操作...
- Python os模块的20个应用实例(python中 import os模块用法)
-
在Python中,...
- 一周热门
-
-
C# 13 和 .NET 9 全知道 :13 使用 ASP.NET Core 构建网站 (1)
-
因果推断Matching方式实现代码 因果推断模型
-
git pull命令使用实例 git pull--rebase
-
面试官:git pull是哪两个指令的组合?
-
git 执行pull错误如何撤销 git pull fail
-
git pull 和git fetch 命令分别有什么作用?二者有什么区别?
-
git fetch 和git pull 的异同 git中fetch和pull的区别
-
git pull 之后本地代码被覆盖 解决方案
-
还可以这样玩?Git基本原理及各种骚操作,涨知识了
-
git命令之pull git.pull
-
- 最近发表
- 标签列表
-
- git pull (33)
- git fetch (35)
- mysql insert (35)
- mysql distinct (37)
- concat_ws (36)
- java continue (36)
- jenkins官网 (37)
- mysql 子查询 (37)
- python元组 (33)
- mybatis 分页 (35)
- vba split (37)
- redis watch (34)
- python list sort (37)
- nvarchar2 (34)
- mysql not null (36)
- hmset (35)
- python telnet (35)
- python readlines() 方法 (36)
- munmap (35)
- docker network create (35)
- redis 集合 (37)
- python sftp (37)
- setpriority (34)
- c语言 switch (34)
- git commit (34)