如何在PySP中使用Python将数据框中的字符串列转换为双精度浮点类型

这里不需要UDF。 Column已提供simpleString方法和simpleString实例&＃xff1a;

from pyspark.sql.types import DoubleType

changedTypedf &＃61; joindf.withColumn("label", joindf["show"].cast(DoubleType()))

或短字符串&＃xff1a;

changedTypedf &＃61; joindf.withColumn("label", joindf["show"].cast("double"))

其中规范的字符串名称(也可以支持其他变体)对应于simpleString值。 因此对于原子类型&＃xff1a;

from pyspark.sql import types

for t in [&＃39;BinaryType&＃39;, &＃39;BooleanType&＃39;, &＃39;ByteType&＃39;, &＃39;DateType&＃39;,

&＃39;DecimalType&＃39;, &＃39;DoubleType&＃39;, &＃39;FloatType&＃39;, &＃39;IntegerType&＃39;,

&＃39;LongType&＃39;, &＃39;ShortType&＃39;, &＃39;StringType&＃39;, &＃39;TimestampType&＃39;]:

print(f"{t}: {getattr(types, t)().simpleString()}")

BinaryType: binary

BooleanType: boolean

ByteType: tinyint

DateType: date

DecimalType: decimal(10,0)

DoubleType: double

FloatType: float

IntegerType: int

LongType: bigint

ShortType: smallint

StringType: string

TimestampType: timestamp

例如复杂类型

types.ArrayType(types.IntegerType()).simpleString()

&＃39;array&＃39;

types.MapType(types.StringType(), types.IntegerType()).simpleString()

&＃39;map&＃39;