时间戳

首页 > 解决方案 > 强制maven使用本地依赖

maven - 强制maven使用本地依赖

问题描述

我遇到了一个看起来很愚蠢的问题，但我不知道如何解决它。我也在网上查看，但没有一个解决方案适合我。

我有一个使用 spark graphX 模块的 spark 代码。我需要在 graphX 中进行更改并强制我的项目使用这个修改后的 graphX 版本。为了做到这一点，我首先从 spark 源代码中取出了 graphx 模块并独立编译了它。然后我在我的应用程序 pom.xml 文件中指定依赖关系，该文件具有“系统”的范围。有我的应用程序 pom。

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/maven-v4_0_0.xsd">
  <groupId>edu.asu.gears.examples.spark</groupId>
  <artifactId>PageRank</artifactId>
  <packaging>jar</packaging>
  <name>"PageRank"</name>
  <version>1.0</version>
  <modelVersion>4.0.0</modelVersion>

  <!--
  <repositories>
    <repository>
      <id>scala-tools.org</id>
      <name>Scala-tools Maven2 Repository</name>
      <url>http://scala-tools.org/repo-releases</url>
    </repository>
  </repositories>
  -->
  <properties>
        <java.version>1.8.0</java.version>
    <scala.version>2.11.8</scala.version>
    <scala.binary.version>2.11</scala.binary.version>
        <scala.tools.version>2.11</scala.tools.version>
    <spark.version>2.3.2</spark.version>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
    <blaze.version>1.0</blaze.version>
    <blaze.base>/home/user/sbiookag/blaze-master</blaze.base>
  </properties>

  <pluginRepositories>
    <pluginRepository>
      <id>scala-tools.org</id>
      <name>Scala-tools Maven2 Repository</name>
      <url>http://scala-tools.org/repo-releases</url>
    </pluginRepository>
  </pluginRepositories>
  <dependencies>
        <dependency>
                <groupId>org.apache.spark</groupId>
                <artifactId>spark-graphx_${scala.binary.version}</artifactId>
                <version>${spark.version}</version>
                <scope>system</scope>
                <systemPath>${blaze.base}/examples/pageRank/APPs/GraphXFPGAApp/graphx/target/spark-graphx_2.11-3.0.0-SNAPSHOT.jar</systemPath>
        </dependency>

        <dependency>
                <groupId>org.scala-lang</groupId>
                <artifactId>scala-library</artifactId>
                <version>${scala.version}</version>
        </dependency>
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-core_${scala.binary.version}</artifactId>
      <version>${spark.version}</version>
    </dependency>
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-mllib_${scala.binary.version}</artifactId>
      <version>${spark.version}</version>
    </dependency>
        <!--
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>blaze_${scala.binary.version}</artifactId>
      <version>1.0.1</version>
    </dependency>
        -->
  </dependencies>
  <build>
    <plugins>
      <plugin>
        <groupId>org.scala-tools</groupId>
        <artifactId>maven-scala-plugin</artifactId>
        <executions>
          <execution>
            <goals>
              <goal>compile</goal>
            </goals>
          </execution>
        </executions>
      </plugin>
    </plugins>
  </build>
</project>

当我编译我的代码时，它仍然会下载 graphx 依赖项，并且似乎它在运行时也使用原始 jar 文件。我真的不知道如何解决这个问题。任何帮助，将不胜感激。

标签： mavenapache-sparkdependency-managementspark-graphx

解决方案

spark-mllib包含对spark-graphx. 你应该在你的 pom.xml 中排除它：

 <dependency>
  <groupId>org.apache.spark</groupId>
  <artifactId>spark-mllib_${scala.binary.version}</artifactId>
  <version>${spark.version}</version>
  <exclusions>
    <exclusion>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-graphx_${scala.binary.version}</artifactId>
    </exclusion>
  </exclusions>
</dependency>

推荐阅读