定制网站win10搭建spark3.1环境(超详细)

目录

0.写在前面

定制网站目前官方提供的最新版本3.2.0,是2021年10月份发布,定制网站但是该版本搭建Windows下环境,在使用spark-shell时,会报错,定制网站尚无解决方案(定制网站不知道现在解决没有)。定制网站所以我安装的是3.1版本
定制网站所使用的到的版本
spark 3.1.3
hadoop 3.2.1
scala 2.12 (注意,spark3.1.2不支持Scala2.13)
java 1.8

定制网站使用到的链接




另所有使用的东西我都打包到
链接:https://pan.baidu.com/s/1fFEZmqUWZks-Hh5LkKRVww
提取码:1152

1.java环境

这里建议安装java8 不要装太高或者太低的版本
去官网上下载好 双击

点击下一步

选择你指定的目录 选取下一步 进行安装

这里我安装到了 D:\Java
记得配置环境!!!
win10 搜索环境变量 点击环境变量

新建变量 JAVA_HOME 注意大写

点击编辑 path 新建java环境

完成以后 进行检验
打开cmd 输入 java -version

这样即可

2.安装scala

要注意的问题scala的版本要和spark版本对应 这里我安装的scala 2.12
点击 滑到下面 点击

往下滑 选择.msi的文件下载安装,会自动在系统中添加环境变量。

查看是否已经安装变量 (查看是否有SCALA_HOME 和path里面是否已经添加变量)


没有的话 请补充
完成以后 进行检验
打开cmd 输入 scala

3.安装spark

还记得前面的scala与spark对应
这里安装3.1版本
打开
注意标红线的地方 进行下载

解压

同样的 我们要配置环境 如下图

path 当中环境

其实 改成%SPARK_HOME%\bin 一样的 前面也是

4.安装hadoop

根据之前的
我们 安装 hadoop3.2.1 下载

据说tar.gz是编译好的,不需要我们再做编译,包括前面选择也是gz。
![在这里插入图片描述](https://img-blog.csdnimg.cn/4c5ae32b29704765a6b10820b35ac56e.png
下载,解压到指定目录下
同样的 我们要配置环境 如下图

在path环境中新建

打开cmd
输入 hadoop version

5.安装winutils

链接如下(上文也有)
https://github.com/cdarlint/winutils
我们进行下载对应版本

把这个文件放到hadoop的bin下

完成

6.测试程序

打开cmd
输入 spark-shell

完成

网站建设定制开发 软件系统开发定制 定制软件开发 软件开发定制 定制app开发 app开发定制 app开发定制公司 电商商城定制开发 定制小程序开发 定制开发小程序 客户管理系统开发定制 定制网站 定制开发 crm开发定制 开发公司 小程序开发定制 定制软件 收款定制开发 企业网站定制开发 定制化开发 android系统定制开发 定制小程序开发费用 定制设计 专注app软件定制开发 软件开发定制定制 知名网站建设定制 软件定制开发供应商 应用系统定制开发 软件系统定制开发 企业管理系统定制开发 系统定制开发