ho costruire il Spark-csv e in grado di utilizzare la stessa da shell pyspark utilizzando il seguente comandoCome aggiungere qualsiasi nuova libreria come scintilla csv in Apache Spark precompilati versione
bin/spark-shell --packages com.databricks:spark-csv_2.10:1.0.3
errore ricevendo
>>> df_cat.save("k.csv","com.databricks.spark.csv")
Traceback (most recent call last):
File "<stdin>", line 1, in <module>
File "/Users/abhishekchoudhary/bigdata/cdh5.2.0/spark-1.3.1/python/pyspark/sql/dataframe.py", line 209, in save
self._jdf.save(source, jmode, joptions)
File "/Users/abhishekchoudhary/bigdata/cdh5.2.0/spark-1.3.1/python/lib/py4j-0.8.2.1-src.zip/py4j/java_gateway.py", line 538, in __call__
File "/Users/abhishekchoudhary/bigdata/cdh5.2.0/spark-1.3.1/python/lib/py4j-0.8.2.1-src.zip/py4j/protocol.py", line 300, in get_return_value
py4j.protocol.Py4JJavaError
Dove dovrei posizionare il file jar nella mia configurazione pre-costruita, in modo da poter accedere direttamente a spark-csv
dall'editor python.
Dove nella vostra distro scintilla ha mettiate questi vasi? Era $ SPARK_HOME/lib? – Raj