大数据 Spark中使用UDF函数 UDF函数-1to1用户自定义函数,一路输入一路输出自定义函数要先注册 。匿名函数实现//输入数据 {"name":"liming","age":11} {"name":"LiLei","age":21} {"name":"Tom- 阅读剩余部分 - 阅读全文 2021-02-20 hcb 0 条评论
大数据 Ideal中创建SparkSql程序 Ideal中创建SparkSql程序1.添加依赖在pom.xml中添加spark-sql的引用。 <dependency> <groupId>org.apache.spark</groupId> <artifactId>spark-sql_2.11</artifactId> <ver- 阅读剩余部分 - 阅读全文 2021-02-19 hcb 0 条评论
服务器&Linux Linux根据进程号查应用的启动路径 Linux根据进程号查应用的启动路径。[root@master 2650]# jps 82912 Jps 1521 NameNode 1652 DataNode 16023 RunJar 2650 HRegionServer 2220 QuorumPeerMain 1981 NodeManager 2141 JobHistoryServer 81870 Main 16223 R- 阅读剩余部分 - 阅读全文 2021-02-18 hcb 0 条评论
JAVA Ideal导入maven项目 Ideal导入maven项目1.File-New-Project from Existing Sources2.在弹出的对话框选择Maven项目 阅读全文 2021-02-18 hcb 0 条评论
大数据 hive on spark 给你spark on hive区别,sparksql,Dataframe hive on spark 给你spark on hive区别,sparksql,Dataframespark on hive,hive on spark ,Spark sql ,Dataframespark on hive用hive的元数据表,用spark的计算引擎。把hive的conf文件夹中 core-site.xml, hive-site.xml放到spark的conf- 阅读剩余部分 - 阅读全文 2021-02-11 hcb 1 条评论