使用databrick spark-xml库读取xml文件时如何禁用科学计数法。这是场景,我的XML文件包含带有空格的数字值,如下所示
<V1>42451267 </V1>
我得到的是4.2451267E7而不是42451267
我该如何解决
我的代码和xml文件在下面
val xmlLocation = "sampleFile/xml/sample.xml"
val rootTag = "RTS"
val rowTag = "COLUMNTYPE"
val sqlContext = MySparkDriver.getSqlContext().
read.format("com.databricks.spark.xml")
if (rootTag != null && rootTag.size == 0)
sqlContext.option("rootTag", rootTag)
sqlContext.option("rowTag", rowTag)
val xmlDF = sqlContext.load(xmlLocation)
xmlDF.show(false)
输出
[WrappedArray(4232323.0, 4.2451267E7),21-11-2000 01:04:34,NTS,212212112,100.0,100.0]
预期的
[WrappedArray(4232323, 42451267),21-11-2000 01:04:34,NTS,212212112,100.0000,100.0000]
XML文件
<RTS>
<COLUMNTYPE>
<D1>
<V1>4232323</V1>
<V1>42451267 </V1>
<V2>21-11-2000 01:04:34</V2>
<V3>NTS</V3>
<V4>212212112</V4>
<V7>100.0000</V7>
<V8>100.0000 </V8>
</D1>
</COLUMNTYPE>
</RTS>
任何帮助将非常感激 。
TypeCast类的isLong函数无法预测数据类型,因为您的值“ 42451267”包含空格
但是,如果要将其视为长值,请定义自己的自定义架构,其中“ V1”列数据类型为StringType
val xmlLocation = "sampleFile/xml/sample.xml"
val rootTag = "RTS"
val rowTag = "COLUMNTYPE"
val sqlContext = MySparkDriver.getSqlContext().
read.format("com.databricks.spark.xml")
if (rootTag != null && rootTag.size == 0)
sqlContext.option("rootTag", rootTag)
sqlContext.option("rowTag", rowTag)
自定义架构
val customSchema = StructType(Array(
StructField("D1", StructType(
Seq(StructField("V1", ArrayType(StringType, true), true),
StructField("V2", StringType, true),
StructField("V3", StringType, true),
StructField("V4", LongType, true),
StructField("V7", DoubleType, true),
StructField("V8", DoubleType, true))), true)))
sqlContext.schema(customSchema)
为修整值创建udf
import org.apache.spark.sql.functions._
val toTrim = udf((xs: Seq[String]) => xs.map(_.trim()))
应用udf并将类型强制转换为long
val xmlDF = sqlContext.load(xmlLocation).select(struct(
toTrim(col("D1.V1")).cast("array<long>").alias("V1"),
col("D1.V2"), col("D1.V3"), col("D1.V4"), col("D1.V7"), col("D1.V8"))
.alias("D1"))
xmlDF.printSchema
xmlDF.show(false)
本文收集自互联网,转载请注明来源。
如有侵权,请联系[email protected] 删除。
我来说两句