程序员最近都爱上了这个网站  程序员们快来瞅瞅吧!  it98k网:it98k.com

本站消息

站长简介/公众号

  出租广告位,需要合作请联系站长

+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

暂无数据

如何从hdfs读取文件

发布于2020-01-12 06:06     阅读(1185)     评论(0)     点赞(13)     收藏(0)


我在/ project1目录下的hadoop文件系统中有一个文本文件名mr.txt。我需要编写python代码以读取文本文件的第一行,而无需将mr.txt文件下载到本地。但是我无法从hdfs打开mr.txt文件。我尝试过:

open('hdfs:///project1/mr.txt','r') 

解决方案


安装PySpark。

text = sc.textFile('hdfs:///project1/mr.txt')
first_line = text.first()


所属网站分类: 技术文章 > 问答

作者:黑洞官方问答小能手

链接:https://www.pythonheidong.com/blog/article/218256/9080b84dc33e6580a0ef/

来源:python黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

13 0
收藏该文
已收藏

评论内容:(最多支持255个字符)