搭建一个IntelliJ的Spark项目

之前发现创建一个新项目之后，无法添加scala class

创建新项目
　　选择maven项目，然后选择simple或者quickstart；
　　进入项目后，在Project Structure里面，在global libraries面板中，删除已有的scala-sdk，然后再添加；
　　然后再工程中添加scala文件夹，添加一个package，在package里面就可以添加scala文件了。

Maven

 <?xml version="1.0" encoding="UTF-8"?>

 <project xmlns="http://maven.apache.org/POM/4.0.0"

          xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"

          xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">

     <modelVersion>4.0.0</modelVersion>

     <groupId>com.cmiot</groupId>

     <artifactId>parquetToHbase</artifactId>

     <packaging>jar</packaging>

     <version>3.2.1-diy-thinrow</version>

     <repositories>

         <repository>

             <id>cloudera</id>

             <url>https://repository.cloudera.com/cloudera/cloudera-repos</url>

         </repository>

         <repository>

             <id>nexus</id>

             <url>https://maven.atlassian.com/3rdparty/</url>

         </repository>

     </repositories>

     <dependencies>

         <dependency>

             <groupId>com.typesafe</groupId>

             <artifactId>config</artifactId>

             <version>1.2.1</version>

         </dependency>

         <dependency>

             <groupId>org.apache.spark</groupId>

             <artifactId>spark-core_${spark.tool.version}</artifactId>

             <version>${spark.version}</version>

             <!--scope>provided</scope-->

             <exclusions>

                 <exclusion>

                     <groupId>org.scala-lang</groupId>

                     <artifactId>scala-library</artifactId>

                 </exclusion>

                 <exclusion>

                     <groupId>org.scala-lang</groupId>

                     <artifactId>scala-lang</artifactId>

                 </exclusion>

                 <exclusion>

                     <groupId>org.scala-lang</groupId>

                     <artifactId>scalap</artifactId>

                 </exclusion>

                 <exclusion>

                     <artifactId>slf4j-log4j12</artifactId>

                     <groupId>org.slf4j</groupId>

                 </exclusion>

             </exclusions>

         </dependency>

         <dependency>

             <groupId>org.apache.spark</groupId>

             <artifactId>spark-sql_${spark.tool.version}</artifactId>

             <version>${spark.version}</version>

             <!--scope>provided</scope-->

         </dependency>

         <!--<dependency>-->

             <!--<groupId>com.oracle</groupId>-->

             <!--<artifactId>ojdbc6</artifactId>-->

             <!--<version>11.2.0.4.0-atlassian-hosted</version>-->

         <!--</dependency>

         <dependency>

             <groupId>oracle</groupId>

             <artifactId>ojdbc</artifactId>

             <version>8</version>

         </dependency>-->

         <dependency>

             <groupId>com.github.nscala-time</groupId>

             <artifactId>nscala-time_${scala.version.tools}</artifactId>

             <version>2.0.0</version>

         </dependency>

         <dependency>

             <groupId>org.scala-lang</groupId>

             <artifactId>scala-library</artifactId>

             <version>${scala.version}</version>

         </dependency>

         <dependency>

             <groupId>org.scala-lang</groupId>

             <artifactId>scala-reflect</artifactId>

             <version>${scala.version}</version>

         </dependency>

         <dependency>

             <groupId>org.scala-lang</groupId>

             <artifactId>scala-compiler</artifactId>

             <version>${scala.version}</version>

         </dependency>

         <dependency>

             <groupId>org.scalatest</groupId>

             <artifactId>scalatest_${scala.version.tools}</artifactId>

             <version>${scala.test.version}</version>

             <scope>test</scope>

             <exclusions>

                 <exclusion>

                     <groupId>org.scala-lang</groupId>

                     <artifactId>scala-library</artifactId>

                 </exclusion>

             </exclusions>

         </dependency>

         <dependency>

             <groupId>org.scalacheck</groupId>

             <artifactId>scalacheck_${scala.version.tools}</artifactId>

             <version>${scala.check.version}</version>

             <scope>test</scope>

             <exclusions>

                 <exclusion>

                     <groupId>org.scala-lang</groupId>

                     <artifactId>scala-library</artifactId>

                 </exclusion>

             </exclusions>

         </dependency>

         <dependency>

             <groupId>junit</groupId>

             <artifactId>junit</artifactId>

             <version>${junit.version}</version>

             <scope>test</scope>

         </dependency>

         <dependency>

             <groupId>org.slf4j</groupId>

             <artifactId>slf4j-log4j12</artifactId>

             <version>${slf4j.log4j12.version}</version>

             <!--<scope>test</scope>-->

         </dependency>

         <dependency>

             <groupId>org.alluxio</groupId>

             <artifactId>alluxio-core-client</artifactId>

             <version>${alluxio.client.version}</version>

         </dependency>

         <dependency>

             <groupId>com.databricks</groupId>

             <artifactId>spark-xml_${spark.tool.version}</artifactId>

             <version>${spark.xml.version}</version>

         </dependency>

         <dependency>

             <groupId>org.apache.hbase</groupId>

             <artifactId>hbase-client</artifactId>

             <version>${hbase.version}</version>

             <exclusions>

                 <exclusion>

                     <groupId>javax.servlet</groupId>

                     <artifactId>*</artifactId>

                 </exclusion>

             </exclusions>

         </dependency>

         <dependency>

             <groupId>org.apache.hbase</groupId>

             <artifactId>hbase-server</artifactId>

             <version>${hbase.version}</version>

             <exclusions>

                 <exclusion>

                     <groupId>javax.servlet</groupId>

                     <artifactId>*</artifactId>

                 </exclusion>

             </exclusions>

         </dependency>

         <!--

         <dependency>

             <groupId>org.apache.hbase</groupId>

             <artifactId>hbase-spark</artifactId>

             <version>1.2.0-cdh5.10.2</version>

         </dependency>

         -->

     </dependencies>

     <properties>

         <hbase.version>1.2.0-cdh5.11.2</hbase.version>

         <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>

         <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>

         <maven.compiler.encoding>UTF-8</maven.compiler.encoding>

         <maven.surefire.version>2.7</maven.surefire.version>

         <maven.compiler.version>3.1</maven.compiler.version>

         <maven.assembly.version>2.4</maven.assembly.version>

         <java.version>1.8</java.version>

         <scala.version>2.11.8</scala.version>

         <scala.version.tools>2.11</scala.version.tools>

         <scala.maven.version>3.2.0</scala.maven.version>

         <scala.check.version>1.11.4</scala.check.version>

         <scala.test.version>3.0.1</scala.test.version>

         <scala.test.maven.version>1.0</scala.test.maven.version>

         <junit.version>4.11</junit.version>

         <spark.version>2.1.0.cloudera2</spark.version>

         <spark.tool.version>2.11</spark.tool.version>

         <spark.xml.version>0.4.1</spark.xml.version>

         <alluxio.client.version>1.0.0</alluxio.client.version>

         <cobertura.version>2.7</cobertura.version>

         <slf4j.log4j12.version>1.7.10</slf4j.log4j12.version>

         <test.arg.line>-Xms1024m -Xmx1024m -XX:PermSize=512m -XX:MaxPermSize=1024m</test.arg.line>

     </properties>

     <profiles>

         <profile>

             <id>dev</id>

             <activation>

                 <activeByDefault>true</activeByDefault>

             </activation>

             <properties>

                 <filters.env>dev</filters.env>

             </properties>

         </profile>

         <profile>

             <id>test</id>

             <properties>

                 <filters.env>test</filters.env>

             </properties>

         </profile>

         <profile>

             <id>prod</id>

             <properties>

                 <filters.env>prod</filters.env>

             </properties>

         </profile>

     </profiles>

     <build>

         <resources>

             <resource>

                 <directory>${project.basedir}/src/main/resources</directory>

                 <filtering>true</filtering>

             </resource>

         </resources>

         <filters>

             <filter>${project.basedir}/filters/${filters.env}/conf.properties</filter>

         </filters>

         <plugins>

             <plugin>

                 <groupId>net.alchim31.maven</groupId>

                 <artifactId>scala-maven-plugin</artifactId>

                 <version>${scala.maven.version}</version>

                 <executions>

                     <execution>

                         <id>scala-compile</id>

                         <phase>process-resources</phase>

                         <goals>

                             <goal>add-source</goal>

                             <goal>compile</goal>

                         </goals>

                     </execution>

                     <execution>

                         <id>scala-test-compile</id>

                         <phase>process-test-resources</phase>

                         <goals>

                             <goal>testCompile</goal>

                         </goals>

                     </execution>

                 </executions>

             </plugin>

             <!---->

             <plugin>

                 <groupId>org.apache.maven.plugins</groupId>

                 <artifactId>maven-compiler-plugin</artifactId>

                 <version>${maven.compiler.version}</version>

                 <configuration>

                     <source>${java.version}</source>

                     <target>${java.version}</target>

                 </configuration>

             </plugin>

             <!--

             <plugin>

                 <groupId>org.apache.maven.plugins</groupId>

                 <artifactId>maven-assembly-plugin</artifactId>

                 <version>${maven.assembly.version}</version>

                 <configuration>

                     <descriptorRefs>

                         <descriptorRef>jar-with-dependencies</descriptorRef>

                     </descriptorRefs>

                     <archive>

                         <manifest>

                             <mainClass>com.cmiot.StatsApp</mainClass>

                         </manifest>

                     </archive>

                 </configuration>

                 <executions>

                     <execution>

                         <phase>package</phase>

                         <goals>

                             <goal>single</goal>

                         </goals>

                     </execution>

                 </executions>

             </plugin>

             <plugin>

                 <groupId>org.apache.maven.plugins</groupId>

                 <artifactId>maven-surefire-plugin</artifactId>

                 <version>${maven.surefire.version}</version>

                 <configuration>

                     <argLine>${test.arg.line}</argLine>

                 </configuration>

             </plugin>

             <plugin>

                 <groupId>org.scalatest</groupId>

                 <artifactId>scalatest-maven-plugin</artifactId>

                 <version>${scala.test.maven.version}</version>

                 <configuration>

                     <skipTests>false</skipTests>

                     <reportsDirectory>${project.build.directory}/test-reports</reportsDirectory>

                     <junitxml>.</junitxml>

                     <filereports>WDF TestSuite.txt</filereports>

                     <argLine>${test.arg.line}</argLine>

                 </configuration>

                 <executions>

                     <execution>

                         <id>test</id>

                         <goals>

                             <goal>test</goal>

                         </goals>

                     </execution>

                 </executions>

             </plugin>

             <plugin>

                 <groupId>org.codehaus.mojo</groupId>

                 <artifactId>cobertura-maven-plugin</artifactId>

                 <version>${cobertura.version}</version>

                 <configuration>

                     <formats>

                         <format>xml</format>

                         <format>html</format>

                     </formats>

                     <check/>

                     <instrumentation>

                         <ignores>

                             <ignore>com.cmiot.StatsApp</ignore>

                             <ignore>com.cmiot.app</ignore>

                         </ignores>

                         <excludes>

                             <exclude>com/cmiot/StatsApp*</exclude>

                             <exclude>com/cmiot/app/Stats*</exclude>

                         </excludes>

                     </instrumentation>

                 </configuration>

                 <executions>

                     <execution>

                         <phase>test</phase>

                         <goals>

                             <goal>cobertura</goal>

                         </goals>

                     </execution>

                 </executions>

             </plugin>

             -->

         </plugins>

     </build>

 </project>

搭建一个IntelliJ的Spark项目的更多相关文章

手把手搭建一个完整的javaweb项目
手把手搭建一个完整的javaweb项目本案例使用Servlet+jsp制作,用MyEclipse和Mysql数据库进行搭建,详细介绍了搭建过程及知识点. 下载地址:http://download.c ...
小记如何有顺序的搭建一个Spring的web项目
如何有顺序的搭建一个Spring的web项目一.新建一个简单的maven,war工程 eclipse下如有报错,右键 Deployment 单击 Generate 生成web.xml后可解决报错二 ...
快速搭建一个基于react的项目
最近在学习react,快速搭建一个基于react的项目 1.创建一个放项目文件夹,用编辑器打开 2.打开集成终端输入命令: npm install -g create-react-app 3. cre ...
react全家桶从0搭建一个完整的react项目(react-router4、redux、redux-saga)
react全家桶从0到1(最新) 本文从零开始,逐步讲解如何用react全家桶搭建一个完整的react项目.文中针对react.webpack.babel.react-route.redux.redu ...
使用Intellij IDEA搭建一个简单的Maven项目
IntelliJ IDEA是Java最优秀的开发工具,它功能全面,提示比较智能,开发界面炫酷,新技术支持的比较迅速. 我使用了Eclipse快10年了,IntelliJ IDEA这么好用必须要试一试. ...
用Eclipse 搭建一个Maven Spring SpringMVC 项目
1: 先创建一个maven web 项目: 可以参照之前的文章: 用Maven 创建一个简单的 JavaWeb 项目创建好之后的目录是这样的; 2: 先配置maven 修改pom.xml & ...
.net core 2.0学习记录（一）：搭建一个.Net Core网站项目
.Net Core开发可以使用Visual Studio 2017或者Visual Studio Code,下面使用Visual Studio 2017搭建一个.net Core MVC网站项目. 一 ...
Vue.js学习笔记--菜鸟搭建一个企业级vue的项目
vue.js新手搭建一个企业项目,从0开始前置条件: node.npm请先安装配置好下面开始: npm 下载vue-cli脚手架工具确认安装成功看到版本号: 初始化项目,选用webpack(p ...
搭建一个简单的React项目
我是使用了create-react-app来搭建的基本框架,其中的原理和vue-cli差不多的脚手架.(当然也可以自己配置项目目录,这里我偷了一下懒) npm install -g create-re ...

随机推荐

搞懂分布式技术2：分布式一致性协议与Paxos，Raft算法
搞懂分布式技术2:分布式一致性协议与Paxos,Raft算法 2PC 由于BASE理论需要在一致性和可用性方面做出权衡,因此涌现了很多关于一致性的算法和协议.其中比较著名的有二阶提交协议(2 Phas ...
iptables详解（14）：iptables小结之常用套路
不知不觉,已经总结了13篇iptables文章,这些文章中有一些需要注意的地方. 此处,我们对前文中的一些注意点进行总结,我们可以理解为对"常用套路"的总结. 记住这些套路,能让我 ...
mysql5.6与mysql5.5不同
1.编译阶段要明白with与without的区别,选项值分1和0,或者对应为on或off,代表支持与不支持:with的1(on)与without的0(off)是同样的,with的0(off)与wit ...
*SCM-MANAGERtomcat寄宿使用
采用的部署方式 TomCat 一个端口下部署多个 Application供不同部门使用初始部署详参见 SCM-MANAGER 博文日常使用添加部门操作步骤从“D:\tomcat\webapps” ...
利用国内镜像下载Android源码，并编译生成image镜像文件
为了编译安卓源码,首先需要一个Linux,本次采用Ubuntu Kylin14.04,内核版本3.13.装在四核.4G内存.1T硬盘的虚拟机上查看内核版本号:$uname -all清华镜像地址清华镜像 ...
L167
DR模式下的高可用的LVS（LVS+keepalived）
一.keepalived 在DR模式下,使用Keepalived实现LVS的高可用.Keepalived的作用是检测服务器的状态,如果有一台web服务器宕机,或工作出现故障,Keepalived将检 ...
shell脚本实例一
一. 什么是shell 脚本时一种解释性语言: shell脚本保存执行动作: 脚本判定命令的执行条件脚本来实现动作的批量执行.二.如何创建 vim test.sh ##shell脚本一般都 ...
reactNative 的一些学习
手把手视频学习资料大全入门系列
DataTable和实体类通过反射相互转换
using System.Runtime.Serialization; using System.Data; using System.Reflection; using System.Collect ...

搭建一个IntelliJ的Spark项目

搭建一个IntelliJ的Spark项目的更多相关文章

随机推荐

热门专题