[解決済み] Python シェルで pyspark をインポートする
2022-07-23 01:40:35
質問
これは、他のフォーラムでの他の人の質問のコピーで、回答されなかったので、同じ問題があるので、ここで再質問しようと思いました。 (参照 http://geekple.com/blogs/feeds/Xgzu7/posts/351703064084736 )
私のマシンには Spark が適切にインストールされており、python インタープリターとして ./bin/pyspark を使用した場合、エラーなしで pyspark モジュールを使用して python プログラムを実行することが可能です。
しかし、通常のPythonシェルを実行しようとすると、pysparkモジュールをインポートしようとしたときに、このエラーが発生します。
from pyspark import SparkContext
と書いてあり
"No module named pyspark".
どうすればこれを修正できますか? Pythonにpysparkのヘッダー/ライブラリなどを指し示すために設定する必要がある環境変数はありますか? 私のスパークのインストールが/spark/である場合、どのpysparkのパスを含める必要がありますか? または、pysparkプログラムはpysparkインタプリタからしか実行できないのでしょうか?
どのように解決するのですか?
pyspark binがpythonをロードし、自動的に正しいライブラリパスをロードしていることがわかりました。 チェックアウト
$SPARK_HOME/bin/pyspark
:
export SPARK_HOME=/some/path/to/apache-spark
# Add the PySpark classes to the Python path:
export PYTHONPATH=$SPARK_HOME/python/:$PYTHONPATH
この行を .bashrc ファイルに追加すると、モジュールが正しく検出されるようになりました!
関連
-
[解決済み] Pythonには文字列の'contains'サブストリングメソッドがありますか?
-
[解決済み] Pythonで現在時刻を取得する方法
-
[解決済み] Pythonで2つのリストを連結する方法は?
-
[解決済み] Pythonでファイルやフォルダを削除する方法は?
-
[解決済み] Pythonで例外を手動で発生(スロー)させる
-
[解決済み】Pythonに三項条件演算子はありますか?
-
[解決済み] Flaskで1時間ごとに関数を実行するようにスケジュールするには?
-
[解決済み] Pythonでコード行間にかかる時間を測定するには?
-
[解決済み] googletransがエラー 'NoneType' オブジェクトに 'group' 属性がない、と言って動かなくなった。
-
[解決済み] Pythonのargparseを使った隠し引数の作成
最新
-
nginxです。[emerg] 0.0.0.0:80 への bind() に失敗しました (98: アドレスは既に使用中です)
-
htmlページでギリシャ文字を使うには
-
ピュアhtml+cssでの要素読み込み効果
-
純粋なhtml + cssで五輪を実現するサンプルコード
-
ナビゲーションバー・ドロップダウンメニューのHTML+CSSサンプルコード
-
タイピング効果を実現するピュアhtml+css
-
htmlの選択ボックスのプレースホルダー作成に関する質問
-
html css3 伸縮しない 画像表示効果
-
トップナビゲーションバーメニュー作成用HTML+CSS
-
html+css 実装 サイバーパンク風ボタン
おすすめ
-
[解決済み] DataFrameの文字列、dtypeがobjectの場合
-
[解決済み] Pandasのデータフレームでタプルの列を分割するにはどうしたらいいですか?
-
[解決済み] PILからopenCVフォーマットへの変換
-
[解決済み] Django のテストデータベースをメモリ上だけで動作させるには?
-
[解決済み] django.db.migrations.exceptions.InconsistentMigrationHistory
-
[解決済み] Django 1.7で初期マイグレーションからマイグレートバックする方法は?
-
[解決済み] tensorflowのCPUのみのインストールでダイナミックライブラリ 'cudart64_101.dll' を読み込めなかった
-
[解決済み] Pandasを使って、既存のExcelファイルに新しいシートを保存する方法は?
-
[解決済み] PySparkでデータフレームのカラムをString型からDouble型に変更する方法は?
-
[解決済み] pandasプロットでX軸の目盛りラベルを回転させる方法