1. ホーム
  2. hadoop

[解決済み] apache sparkはhadoopなしで動きますか?

2022-11-08 03:43:37

質問

の間に依存関係はありますか? スパーク そして ハドープ ?

もしそうでなければ、私が スパーク なし ハドープ ?

どのように解決するのですか?

Spark は Hadoop なしで実行できますが、一部の機能は Hadoop のコードに依存しています (例: Parquet ファイルの処理)。私たちは Spark を Mesos と S3 上で実行しています。 はこちら ).

(編集) 注意: バージョン2.3.0以降、SparkはKubernetesのネイティブサポートも追加しました。