扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
如何进行spark-shell的学习，针对这个问题，这篇文章详细介绍了相对应的分析和解答，希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。
创新互联是一家专注于网站建设、网站制作与策划设计,济宁网站建设哪家好?创新互联做网站,专注于网站建设10多年,网设计领域的专业建站公司;建站业务涵盖:济宁等地区。济宁做网站价格咨询:028-86922220
今天我就给大家介绍一下spark-shell的的应用
spark-shell是spark的一种运行脚本。它已经初始化了sparkContext(sc)和SparkSesssion(Spark)
大家可以到spark的安装路径下
bin/spark-shell
出现上图就说明正确。下面就可以操作spark了
注意spark用的是scala语言
val text = sc.textFile("/usr/wordcount.txt")
text.count()
运行结果如果所示。注意这里我们是加载的本地文件，不是hdfs文件
下面我们对hdfs文件进行操作。写出wordcount程序
首先，先上传文件到hdfs
./hdfs dfs -put /usr/a.txt /user/spark
然后对数据进行操作
val text = sc.textFile("hdfs://192.168.153.11:9000/user/spark/a.txt")
val counts = text.flatMap(line => line.split(" ")).map(word => (word, 1)).reduceByKey(_ + _)
counts.saveAsTextFile("hdfs://192.168.153.11:9000/user/spark/wordcount")
下面一个也是计算PI的demo
关于如何进行spark-shell的学习问题的解答就分享到这里了，希望以上内容可以对大家有一定的帮助，如果你还有很多疑惑没有解开，可以关注创新互联行业资讯频道了解更多相关知识。
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
微信二维码
移动版官网