百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

pandas数据分析实操案例:本地数据如何上传到云数据库mysql?

wptr33 2025-01-06 15:49 33 浏览

有时,我们希望将本地电脑保存的大量数据上传到云上,也就是保存到第三方数据库里。那么,使用python如何将自己电脑里面的数据,上传到云数据库呢?

这里,以腾讯云提供的免费试用的云数据库MySQL为例,详细地一步步介绍如何将本地电脑保存的2个excel表格的数据,上传到云数据库MySQL里。

一、本地电脑数据简介

在自己的笔记本电脑里有2个xlsx表格数据,表格1有10行3列的数据,表格2有15行3列的数据。我们要将这2个表的全部数据上传保存到云数据库MySQL里。

二、申请免费的云数据库MySQL

1、打开腾讯云的网址(如下所示)

https://cloud.tencent.com/

2、下图所示,搜索框中,输入“免费试用”,回车

3、下图所示,在搜索结果展示的页面,点击“立即体验”

4、下图所示,是点击“立即体验”后的页面,即“试用专区”,勾选“个人认证”、“云数据库 My SQL”,点击“立即试用”

5、点击“立即试用”后,如果没有登录和认证,会出现下面的扫码登录并进行认证的页面。这一步必须完成。按要求做即可。如果已经登录和认证,直接进行下一步。

6、之后,点击“立即试用”后,出现下面页面:全部按默认即可,如果私有网络无,则点击新建,会自动新建。最右下方,显示金额为0,即免费使用云数据库MySQL1个月。

7、点击“立即购买”后,出现下面页面,直接点击“确认支付”即可,之后出现购买成功的页面,如下图。

8、点击购买成功页面上的“进入控制台”,显示如下页面:

如果显示的是下面页面,在红色方框里输入“云数据库MySQL”回车,会出现上图的页面。

之后,在左侧,点击MySQL下面“实例列表”,在正上方的下拉框里选择“上海1”(此处必须与第6步的地域一致)。会出现下面的页面:

之后,点击页面右侧的“管理”,进入下面的页面:

点击“外网地址”的“开启”,会出现外网地址(上图是开启状态)和端口,也就是后面会用到的host和端口。之后点击“一键连接检查”,出现下面页面:

之后,点击“添加访问此实例的外网服务器”,出现下面页面:

在上图中输入自己电脑的外网IP地址(注意不是内网IP地址),例如:218.242.217.91。

如何查看自己电脑的外网IP地址呢?在浏览器地址栏,输入ip.3322.org回车,就可以出现外网IP地址。

之后,点击“开始检查”,出现下面页面:

9、新建数据库账号和密码

如下图红色框依次进行点击:

点击“创建账号”后,出现下面页面:

其中,主机:是指访问云数据库的IP地址,例如上面提到的自己电脑的IP地址,这个IP地址是自己电脑的外网IP地址。主机也可以填入%(表示任何IP地址都可以访问自己的云数据库MySQL)。也可以指定多个主机地址,并以分隔符分隔,分隔符包括换行符、空格和 ; , |。

10、新建一个数据库

点击“数据库管理”,点击“数据库列表”,如下图所示:

点击“创建数据库”,如下图所示:输入刚才新建的账号和密码。

如果点击“登录”后,出现下面的报错:

则点击“修改权限”,选中所有权限即可。

官方地址:https://cloud.tencent.com/document/faq/236/47082

之后,再次点击“创建数据库”,并输入账号和密码,如果通过,进入下面的页面:

点击上方的“新建数据库”,如下图所示:

输入数据库的名称,例如mybooks,如下所示:

之后,点击左上方的下拉三角,选择“mybooks”数据库,点击左侧的“表”,点击“+”,如下图右边所示,即新建表,输入表名book_info,如下所示:


三、在本地电脑使用python连接云数据库MySQL

首先安装 pip install pymysql

之后,输入下面的代码:

import pymysql
host = "sh-cdb-dh0oo42y.sql.tencentcdb.com"
port = 63974
user = "xxx"
passwd = "xxx"
database = "mybooks"
con = pymysql.connect(host=host,port=port, user=user, passwd=passwd,database=database)
cur = con.cursor()
sql = " insert into book_info values('book1',21.3,'sh')"
cur.execute(sql)
1
con.commit()
cur.close()
con.close()

解释:1、上面的host和Port就是申请云数据库得到的host和port,见第2部分的内容。

2、user和passwd就是第2部分申请的数据库账号和密码。

3、database就是刚才新建的mybooks数据库。

4、因为mybooks数据库默认的编码是utf-8,所以pymysql.connect()的参数charset='utf-8'默认就是utf-8,可以不用填写上去。

5、我们使用游标:cur=con.cursort()会得到的一个游标指针。

6、sql变量是SQL语句,即向数据表插入一行数据。

7、cur.execute(sql)是执行SQL语句,向数据表插入一行数据。执行后,返回值1是插入的行数,即向数据表插入了1行数据。

8、con.commit()必须提交,数据才能保存到数据表。

9、最后,关闭游标,关闭连接。

我们检验下,刚才的一行数据是否存入到云数据库了:

如下图所示,在云数据库端,执行SQL查询语句,下方显示了查询的结果,就是我们存入的数据。

以上演示了使用python将本地的一行数据保存到云端的mysql数据库中。是否可以将批量的数据,保存到云端的数据库mybooks中呢?当然是可以的。只要使用SQL的批量插入函数即可。如下所示,我们将表格1的10行数据和表格2的15行数据,全部保存到云端数据库。

import pymysql
from pathlib import Path
import pandas as pd

# 连接
host = "sh-cdb-dh0oo42y.sql.tencentcdb.com"
port = 63974
user = "xxx"
passwd = "xxx"
database = "mybooks"
con = pymysql.connect(host=host,port=port, user=user, passwd=passwd,database=database)
print('已经成功连接!')

# 读取数据并整理数据为数据库表的格式
data = pd.DataFrame()
for file in Path('d:/fqb/3/').glob('*'):
    df = pd.read_excel(file)
    cols = ['名称','价格','位置']
    df = df[cols]
    data = pd.concat([data,df])
print('数据类型:')
print(data.dtypes)
print(data.shape)

lb = data.values.tolist()
lb2 = [tuple(lt) for lt in lb]
print(lb2)
print('完成')

# 执行SQL
cur = con.cursor()
sql = "insert into book_info values(%s,%s,%s)"
try:
    cur.executemany(sql, lb2)
except pymysql.Error as e:
    print('报错:',e)
    con.rollback()
    con.close()

# 保存数据并关闭
con.commit()
con.close()
cur.close()
print('全部完成')

在云端数据库管理中查询数据插入情况:

我们看到执行结果,数据全部已经插入。但是数据中的中文字符插入后都变成了问号。


# 执行SQL
cur = con.cursor()
sql = "select * from book_info"
try:
    cur.execute(sql)
    res = cur.fetchall()
    print(res)
    print(type(res))
except pymysql.Error as e:
    print('报错:',e)
    con.rollback()
    con.close()

# 保存数据并关闭
con.commit()
con.close()
cur.close()
print('完成')

输出结果如下:

也就是,输出结果中文是正常的,尽管在云端服务器上无法显示中文。

相关推荐

[常用工具] git基础学习笔记_git工具有哪些

添加推送信息,-m=messagegitcommit-m“添加注释”查看状态...

centos7安装部署gitlab_centos7安装git服务器

一、Gitlab介1.1gitlab信息GitLab是利用RubyonRails一个开源的版本管理系统,实现一个自托管的Git项目仓库,可通过Web界面进行访问公开的或者私人项目。...

太高效了!玩了这么久的Linux,居然不知道这7个终端快捷键

作为Linux用户,大家肯定在Linux终端下敲过无数的命令。有的命令很短,比如:ls、cd、pwd之类,这种命令大家毫无压力。但是,有些命令就比较长了,比如:...

提高开发速度还能保证质量的10个小窍门

养成坏习惯真是分分钟的事儿,而养成好习惯却很难。我发现,把那些对我有用的习惯写下来,能让我坚持住已经花心思养成的好习惯。...

版本管理最好用的工具,你懂多少?

版本控制(Revisioncontrol)是一种在开发的过程中用于管理我们对文件、目录或工程等内容的修改历史,方便查看更改历史记录,备份以便恢复以前的版本的软件工程技术。...

Git回退到某个版本_git回退到某个版本详细步骤

在开发过程,有时会遇到合并代码或者合并主分支代码导致自己分支代码冲突等问题,这时我们需要回退到某个commit_id版本1,查看所有历史版本,获取git的某个历史版本id...

Kubernetes + Jenkins + Harbor 全景实战手册

Kubernetes+Jenkins+Harbor全景实战手册在现代企业级DevOps体系中,Kubernetes(K8s)、Jenkins和Harbor组成的CI/CD流水...

git常用命令整理_git常见命令

一、Git仓库完整迁移完整迁移,就是指,不仅将所有代码移植到新的仓库,而且要保留所有的commit记录1.随便找个文件夹,从原地址克隆一份裸版本库...

第三章:Git分支管理(多人协作基础)

3.1分支基本概念分支是Git最强大的功能之一,它允许你在主线之外创建独立的开发线路,互不干扰。理解分支的工作原理是掌握Git的关键。核心概念:HEAD:指向当前分支的指针...

云效Codeup怎么创建分支并进行分支管理

云效Codeup怎么创建分支并进行分支管理,分支是为了将修改记录分叉备份保存,不受其他分支的影响,所以在同一个代码库里可以同时进行多个修改。创建仓库时,会自动创建Master分支作为默认分支,后续...

git 如何删除本地和远程分支?_git怎么删除远程仓库

Git分支对于开发人员来说是一项强大的功能,但要维护干净的存储库,就需要知道如何删除过时的分支。本指南涵盖了您需要了解的有关本地和远程删除Git分支的所有信息。了解Git分支...

git 实现一份代码push到两个git地址上

一直以来想把自己的博客代码托管到github和coding上想一次更改一次push两个地址一起更新今天有空查资料实践了下本博客的github地址coding的git地址如果是Gi...

git操作:cherry-pick和rebase_git cherry-pick bad object

在编码中经常涉及到分支之间的代码同步问题,那就需要cherry-pick和rebase命令问题:如何将某个分支的多个commit合并到另一个分支,并在另一个分支只保留一个commit记录解答:假设有两...

模型文件硬塞进 Git,GitHub 直接打回原形:使用Git-LFS管理大文件

前言最近接手了一个计算机视觉项目代码是屎山就不说了,反正我也不看代码主要就是构建一下docker镜像,测试一下部署的兼容性这本来不难但是,国内服务器的网络环境实在是恶劣,需要配置各种镜像(dock...

防弹少年团田柾国《Euphoria》2周年 获世界实时趋势榜1位 恭喜呀

当天韩国时间凌晨3时左右,该曲在Twitter上以“2YearsWithEuphoria”的HashTag登上了世界趋势1位。在韩国推特实时趋势中,从上午开始到现在“Euphoria2岁”的Has...