首页 > 技术文章 > spark(3) - scala独立编程

floakss 2019-03-13 20:53 原文

>>非集成:

 

环境需要

  * spark 2.4.0

  * scala 2.11.12

  * sbt (打包)

开发过程

  1、shell命令下创建项目目录结构 

      *****/ project / src / main / scala 

                    -> . / ClassName.scala ( touch + gedit 命令)      

      *****/ project 

           -> . / ******.sbt (Scala & spark 配置信息)

  2、编写代码

  3、sbt打包jar - sbt package

  4、运行 spark-submit  --class " ** "  ..../../../../ ***.jar

 

 目录结构:

    /src  - 手动编写

    simple.sbt - 手动编写

    /project  - sbt 打包生成

    /target  - sbt 打包生成

>>集成环境

  * Eclipse +maven/sbt

  * Scala IDE for  eclipse

  * Intellij IDEA + maven/sbt

 

  使用过程:

    创建项目

    编写代码

    运行调试

 

【问题】:这几个工具配合使用maven/sbt 老由问题

   待处理 :1、网速慢   2、配置不熟悉

 

推荐阅读