[解決済み] Apache SparkとAkkaの比較【終了しました
質問
Apache SparkとAKKAの違いを教えてください。どちらも分散並列計算をプログラムするためのフレームワークであることは知っていますが、両者の関連性や違いがわかりません。
さらに、それぞれに適したユースケースを知りたいです。
解決方法は?
Apache Sparkは、実はAkkaをベースに構築されています。
Akka は、Scala または Java で、反応性、分散性、並列性、回復力のある並行アプリケーションを作成するための汎用フレームワークです。Akka は Actor モデルを使ってスレッド関連のコードをすべて隠し、スケーラブルで耐障害性の高いシステムを簡単に実装できる、実にシンプルで役に立つインターフェイスを提供します。Akka の良い例としては、携帯電話から送られてくるデータを消費・処理し、ある種のストレージに送るようなリアルタイム・アプリケーションが挙げられます。
Apache Spark(Spark Streamingではない)は、一般化されたMap-Reduceアルゴリズムを用いてバッチデータを処理するフレームワークである。Apache Sparkの良い例は、データのより良い洞察を得るために、保存されたデータのいくつかのメトリックを計算することです。データはオンデマンドで読み込まれ、処理されます。
Apache Spark Streamingは、ほぼリアルタイムの小バッチデータに対して、すでに保存されているデータと同じようなアクションや関数を実行することが可能です。
2016年4月更新
Apache Spark 1.6.0 から、Apache Spark はノード間の通信を Akka に依存しないようになりました。コメントをくれた @EugeneMi に感謝します。
関連
-
[解決済み】spark.driver.maxResultSizeとは何ですか?
-
[解決済み] spark.sql.autoBroadcastJoinThresholdは、Datasetの結合演算子を使用して結合するために動作しますか?
-
[解決済み] format("kafka") で "Failed to find data source: kafka." とエラーになるのはなぜですか?(uber-jarを使用しても)失敗しますか?
-
[解決済み] Spark: 2つのDataFrameを減算する
-
[解決済み] ShuffledRDD、MapPartitionsRDD、ParallelCollectionRDDの違いは何ですか?
-
[解決済み] Sparkクラスタがハートビートのタイムアウトでいっぱいになり、エグゼキュータが勝手に終了してしまう。
-
[解決済み] Sparkのバージョンを確認する方法【終了しました
-
[解決済み] spark checkpointとpersist to a diskの違いは何ですか?
-
[解決済み] Apache ZooKeeperの説明
-
[解決済み] Spark - repartition() vs coalesce()
最新
-
nginxです。[emerg] 0.0.0.0:80 への bind() に失敗しました (98: アドレスは既に使用中です)
-
htmlページでギリシャ文字を使うには
-
ピュアhtml+cssでの要素読み込み効果
-
純粋なhtml + cssで五輪を実現するサンプルコード
-
ナビゲーションバー・ドロップダウンメニューのHTML+CSSサンプルコード
-
タイピング効果を実現するピュアhtml+css
-
htmlの選択ボックスのプレースホルダー作成に関する質問
-
html css3 伸縮しない 画像表示効果
-
トップナビゲーションバーメニュー作成用HTML+CSS
-
html+css 実装 サイバーパンク風ボタン
おすすめ
-
[解決済み】spark.driver.maxResultSizeとは何ですか?
-
[解決済み] Spark コンテキスト 'sc' が定義されていない
-
[解決済み] Apache SparkとAkkaの比較【終了しました
-
[解決済み] format("kafka") で "Failed to find data source: kafka." とエラーになるのはなぜですか?(uber-jarを使用しても)失敗しますか?
-
[解決済み] ShuffledRDD、MapPartitionsRDD、ParallelCollectionRDDの違いは何ですか?
-
[解決済み] pyspark : NameError: name 'spark' is not defined.
-
[解決済み] スパークジョブとは?
-
[解決済み] Akkaフレームワークの最適なユースケースは何か【非公開
-
[解決済み】mapとflatMapの違いと、それぞれの良い使用例について教えてください。
-
[解決済み】SparkコンソールにINFOメッセージを表示させないようにするには?