火花 getnewargs 错误

Question

我正在尝试通过将 Spark DataFrame 映射到 RDD 然后再映射回 DataFrame 来清理它。这是一个玩具示例：

def replace_values(row,sub_rules):
    d = row.asDict()
    for col,old_val,new_val in sub_rules:
        if d[col] == old_val:
            d[col] = new_val      
    return Row(**d)
ex = sc.parallelize([{'name': 'Alice', 'age': 1},{'name': 'Bob', 'age': 2}])
ex = sqlContext.createDataFrame(ex)
(ex.map(lambda row: replace_values(row,[(col,1,3) for col in ex.columns]))
    .toDF(schema=ex.schema))

运行上面的代码导致 Py4JError 具有非常长的堆栈跟踪，结尾如下：

Py4JError: An error occurred while calling o801.__getnewargs__. Trace:
py4j.Py4JException: Method __getnewargs__([]) does not exist
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:333)
    at py4j.reflection.ReflectionEngine.getMethod(ReflectionEngine.java:342)
    at py4j.Gateway.invoke(Gateway.java:252)
    at py4j.commands.AbstractCommand.invokeMethod(AbstractCommand.java:133)
    at py4j.commands.CallCommand.execute(CallCommand.java:79)
    at py4j.GatewayConnection.run(GatewayConnection.java:207)
    at java.lang.Thread.run(Thread.java:745)

这是怎么回事？我如何解决它？我正在使用 PySpark 1.5.2。

Answer 1

错误是由.map(lambda...)语句中引用ex.columns引起的。您不能在 RDD 转换中使用的函数内引用 RDD。 Spark 是 supposed to issue more helpful errors in this case，但显然没有进入此版本。

解决方案是用引用变量的副本替换引用：

def replace_values(row,sub_rules):
    d = row.asDict()
    for col,old_val,new_val in sub_rules:
        if d[col] == old_val:
            d[col] = new_val      
    return Row(**d)
ex = sc.parallelize([{'name': 'Alice', 'age': 1},{'name': 'Bob', 'age': 2}])
ex = sqlContext.createDataFrame(ex)
cols = copy.deepcopy(ex.columns)
(ex.map(lambda row: replace_values(row,[(col,1,3) for col in cols]))
    .toDF(schema=ex.schema))

火花 getnewargs 错误

Spark getnewargs error

python

apache-spark

pyspark

火花 __getnewargs__ 错误

Spark __getnewargs__ error

python

apache-spark

pyspark

火花 getnewargs 错误

Spark getnewargs error