IDEA Spark HiveContext访问Hive

时间:2025-05-15 07:42:26

需要将配置放在src目录。

代码

import 
import 
import 

object SparkHive {

    def main(args: Array[String]): Unit = {
        val conf = new SparkConf().setAppName("SparkHiveTest").
            setMaster("spark://CentOS-01:7077").
            set("", "4g")
        val sc = new SparkContext(conf)
        ("E:\\scala_workspace\\spark\\SparkHive\\out\\artifacts\\sparkhive\\")

        val hiveContext = new HiveContext(sc)
        ("use sogou")
        val rdd = hiveContext.
            sql("select count(*) from taxi_0101 a join taxi_0102 b on =")
        ().foreach(println)

        ()
    }
}

其中,是项目的打包jar文件。