【Spark】HashMap转RDD
创始人
2024-12-17 03:35:53
0

1、读取本地文件,转换成map

val path = "文件路径" val source = Source.fromFile(path).getLines().toList.mkString("").replaceAll(" ","")  val key = JSON.parseObject(source).get("key").toString val columns = JSON.parseObject(source).get("value").toString  val map = new util.HashMap[String, String]() map.put("RK", getValue(key))  JSON.parseObject(columns.toString).keySet().asScala.foreach(elem => {     val valueJson = JSON.parseObject(columns.toString).get(elem).toString     map.put(elem, getValue(valueJson)) })    def getValue(str: String): String = {      val value = str.toString.replace("[","").replace("]","")     JSON.parseObject(value).get("value").toString }

2、将map转变成rdd

val schema = StructType(map.asScala.toSeq.map {case(k,v) =>     StruchField(k, StringType, nullable = true) })  val row = Row.fromSeq(map.values().asScala.toSeq)  val rowRDD = spark.sparkContext.parallelize(Seq(row))  val df = spark.createDataFrame(rowRDD, schema)

备注:数据格式

{     "key":[         {             "name":"RK",             "type":"String",             "value":"1234567890"         }     ],     "columns":{         "column_name1":[             "name":"column_name1",             "type":"String",             "value":"111"            ],         "column_name2":[             "name":"column_name2",             "type":"String",             "value":"222"            ],         "column_name3":[             "name":"column_name3",             "type":"String",             "value":"333"            ]     } }

相关内容

热门资讯

脚本解密!wpk透视辅助方法,... 脚本解密!wpk透视辅助方法,有哪些免费的wpk作必弊码(透视)真是是真的app(哔哩哔哩);1、上...
脚本解谜!hhpoker软件安... 脚本解谜!hhpoker软件安装包,hhpoker视频巡查真的假的(透视)一直真的是有插件(哔哩哔哩...
脚本分享!wpk显示有作必弊,... 脚本分享!wpk显示有作必弊,wpk俱乐部辅助器(透视)总是真的有软件(哔哩哔哩)1、让任何用户在无...
透视关于!wepoker怎么拿... 透视关于!wepoker怎么拿到好牌,wepokerplus辅助(透视)确实真的是有app(哔哩哔哩...
透视详情!hhpoker怎么破... 透视详情!hhpoker怎么破解,hhpoker底牌透视脚本(透视)总是真的有技巧(哔哩哔哩)1、实...
脚本透视!aapoker脚本,... 脚本透视!aapoker脚本,aapoker如何设置胜率(透视)总是是有技巧(哔哩哔哩)小薇(辅助器...
脚本详情!德普之星辅助工具如何... 脚本详情!德普之星辅助工具如何设置,德普之星辅助工具如何打开(透视)总是真的是有脚本(哔哩哔哩)脚本...
透视推荐!wpk官网下载链接,... 透视推荐!wpk官网下载链接,wpk透视辅助(透视)都是是真的教程(哔哩哔哩)1、超多福利:超高返利...
脚本详情!wpk辅助器,wpk... 脚本详情!wpk辅助器,wpk德州局怎么透视(透视)好像是真的软件(哔哩哔哩)1、德州局怎么透视破解...
透视分享!wejoker透视方... 透视分享!wejoker透视方法,wepoker黑侠辅助器(透视)都是真的有脚本(哔哩哔哩)1、用户...