百度360必应搜狗淘宝本站头条
当前位置:网站首页 > IT技术 > 正文

Spark快速入门 spark 入门

wptr33 2024-12-20 19:03 25 浏览

建议学完Hadoop之后学习Spark

认识scala

各个平台开发的语言如下:

Hadoop: Java

Hive: Java

Storm: Clojure

Kafka: Scala

Spark: Scala

Flink: Scala

Java面向对象编程语言;Scala面向对象及函数的编程语言,可以实现高级函数,为后期读取Spark源码做准备。在学习Spark之前首先要学习Scala语言。

安装开发环境

scala官网:https://www.scala-lang.org/

打开官网,查看所有版本

选择某一版本,课程中选用了2.10.6版本,该版本比较稳定,很多企业也是使用该版本。

选择你使用的操作系统,下载对应的安装包

下载完之后,安装即可,安装过程只需要下一步到完成。

zip文件是插件,需要添加到IDE中。

也可以直接在Plugins页面里面搜索Scala添加插件


注意,在添加插件之前先下载并安装好开发工具IDEA

安装Java环境版本,建议下载安装1.7.0版本


spark官网:https://spark.apache.org/

scala shell

windows+r 进入命令窗口,输入scala -version查看已安装scala版本

直接输入scala进入scala shell

定义一个变量val s="abc",打印出来如下:

在IDEA环境中创建一个scala项目


配置Maven本地仓库,字体大小,背景颜色

默认下自动配置了本地仓库,有时候开发中不需要频繁访问远程中数据库,你也可以下载到本地,然后在这里配置Maven仓库。

声明变量

val声明的变量,类型及值都不可变;

如图,一开始已经声明s=123是int类型了,后面把www赋值给s会报错,把456赋值给s也会报错

var声明的变量,值可变,类型不可变

如图:

Scala推荐使用val声明变量

也可以在赋值变量之前先声明变量类型,如下图所示:

scala的值的7种类型和条件表达式

scala的值类型有7种:(无引用类型)

Byte

Char

Short

Int

Long

Float

Double

关于scala的条件表达式的几种类型

for循环


方法和函数的声明以及方法转换函数

#声明一个方法
scala> def m2(f: (Int,Int)=> Int) = f(3,4)
输出:m2: (f: (Int, Int) => Int)Int

#声明一个函数
scala> val f1 = (x:Int,y: Int) => x+y
输出:f1: (Int, Int) => Int = <function2>

  #方法调用函数,即函数作为值,放入方法中
scala> m2(f1)
输出:Int = 7

#方法转换为函数,如下:
#声明方法1
scala> def m2(f: (Int,Int)=> Int) = f(3,4)
输出:m2: (f: (Int, Int) => Int)Int

#声明方法2【用来转换函数的】
scala> def m1(x:Int,y:Int):Int=x+y
输出:m1: (x: Int, y: Int)Int

#把方法2转换成函数,这是显式转换
scala> val f2=m1 _        #注意:下划线要与m1空一格,不然会出错
输出:f2: (Int, Int) => Int = <function2>
  
 #方法1调用函数
scala> m2(f2)
输出: Int = 7

#方法1中调用方法2,Scala会灵活的把m1隐式转换为函数。
scala> m2(m1)
输出: Int = 7

可以看到隐式转换与显式转换调用函数的结果是一样的。

相关推荐

[常用工具] git基础学习笔记_git工具有哪些

添加推送信息,-m=messagegitcommit-m“添加注释”查看状态...

centos7安装部署gitlab_centos7安装git服务器

一、Gitlab介1.1gitlab信息GitLab是利用RubyonRails一个开源的版本管理系统,实现一个自托管的Git项目仓库,可通过Web界面进行访问公开的或者私人项目。...

太高效了!玩了这么久的Linux,居然不知道这7个终端快捷键

作为Linux用户,大家肯定在Linux终端下敲过无数的命令。有的命令很短,比如:ls、cd、pwd之类,这种命令大家毫无压力。但是,有些命令就比较长了,比如:...

提高开发速度还能保证质量的10个小窍门

养成坏习惯真是分分钟的事儿,而养成好习惯却很难。我发现,把那些对我有用的习惯写下来,能让我坚持住已经花心思养成的好习惯。...

版本管理最好用的工具,你懂多少?

版本控制(Revisioncontrol)是一种在开发的过程中用于管理我们对文件、目录或工程等内容的修改历史,方便查看更改历史记录,备份以便恢复以前的版本的软件工程技术。...

Git回退到某个版本_git回退到某个版本详细步骤

在开发过程,有时会遇到合并代码或者合并主分支代码导致自己分支代码冲突等问题,这时我们需要回退到某个commit_id版本1,查看所有历史版本,获取git的某个历史版本id...

Kubernetes + Jenkins + Harbor 全景实战手册

Kubernetes+Jenkins+Harbor全景实战手册在现代企业级DevOps体系中,Kubernetes(K8s)、Jenkins和Harbor组成的CI/CD流水...

git常用命令整理_git常见命令

一、Git仓库完整迁移完整迁移,就是指,不仅将所有代码移植到新的仓库,而且要保留所有的commit记录1.随便找个文件夹,从原地址克隆一份裸版本库...

第三章:Git分支管理(多人协作基础)

3.1分支基本概念分支是Git最强大的功能之一,它允许你在主线之外创建独立的开发线路,互不干扰。理解分支的工作原理是掌握Git的关键。核心概念:HEAD:指向当前分支的指针...

云效Codeup怎么创建分支并进行分支管理

云效Codeup怎么创建分支并进行分支管理,分支是为了将修改记录分叉备份保存,不受其他分支的影响,所以在同一个代码库里可以同时进行多个修改。创建仓库时,会自动创建Master分支作为默认分支,后续...

git 如何删除本地和远程分支?_git怎么删除远程仓库

Git分支对于开发人员来说是一项强大的功能,但要维护干净的存储库,就需要知道如何删除过时的分支。本指南涵盖了您需要了解的有关本地和远程删除Git分支的所有信息。了解Git分支...

git 实现一份代码push到两个git地址上

一直以来想把自己的博客代码托管到github和coding上想一次更改一次push两个地址一起更新今天有空查资料实践了下本博客的github地址coding的git地址如果是Gi...

git操作:cherry-pick和rebase_git cherry-pick bad object

在编码中经常涉及到分支之间的代码同步问题,那就需要cherry-pick和rebase命令问题:如何将某个分支的多个commit合并到另一个分支,并在另一个分支只保留一个commit记录解答:假设有两...

模型文件硬塞进 Git,GitHub 直接打回原形:使用Git-LFS管理大文件

前言最近接手了一个计算机视觉项目代码是屎山就不说了,反正我也不看代码主要就是构建一下docker镜像,测试一下部署的兼容性这本来不难但是,国内服务器的网络环境实在是恶劣,需要配置各种镜像(dock...

防弹少年团田柾国《Euphoria》2周年 获世界实时趋势榜1位 恭喜呀

当天韩国时间凌晨3时左右,该曲在Twitter上以“2YearsWithEuphoria”的HashTag登上了世界趋势1位。在韩国推特实时趋势中,从上午开始到现在“Euphoria2岁”的Has...