[解決済み】Athena: スケールファクターでリソースを使い果たすクエリ
2022-02-21 06:12:42
質問
のようなクエリを実行しています。
SELECT f.*, p.countryName, p.airportName, a.name AS agentName
FROM (
SELECT
f.outboundlegid,
f.inboundlegid,
f.querydatetime,
cast(f.agent as bigint) as agent,
cast(f.querydestinationplace as bigint) as querydestinationplace,
f.queryoutbounddate,
f.queryinbounddate,
f.quoteageinminutes,
f.price
FROM flights f
WHERE querydatetime >= '2018-01-02'
AND querydatetime <= '2019-01-10'
) f
INNER JOIN (
SELECT airportId, airportName, countryName
FROM airports
WHERE countryName IN ('Philippines', 'Indonesia', 'Malaysia', 'Hong Kong', 'Thailand', 'Vietnam')
) p
ON f.querydestinationplace = p.airportId
INNER JOIN agents a
ON f.agent = a.id
ORDER BY f.outboundlegid, f.inboundlegid, f.agent, querydatetime DESC
何が問題なのでしょうか?あるいは、どうすれば最適化できるのでしょうか?これは、私に
このスケールファクターでリソースを使い果たしたクエリ
フライトテーブルがあり、特定の国のフライトを検索したい。
どのように解決するのですか?
Athenaの初期からずっとこの問題に直面しています。
ORDER BY
節があります。Athenaは、hiveとprestodbがインストールされているだけのEMRクラスタです。直面している問題は クエリがX個のノードに分散されていても、順序付け段階はたった1つのノード(この場合はマスターノード)が行わなければならない。つまり、マスターノードが持っているメモリの数だけ、データの順序付けを行うことができるのです。
クエリが返すデータ量を減らしたり、時間範囲を狭めたりすることでテストができます。
関連
-
[解決済み】Postgresのエラー。式として使用されるサブクエリによって返される複数の行
-
[解決済み】Teradata - 計算中に数値のオーバーフローが発生しました。
-
[解決済み】一括読み込みデータ変換エラー(指定されたコードページに対して型の不一致または無効な文字)1行目4列目(年)について)
-
[解決済み】ORA-01791: SELECTされた式ではない
-
[解決済み] ORA-00920: 無効な関係演算子
-
[解決済み] ORA-04063: ビューにエラーがあります
-
[解決済み] ora-06553 pls-306 'ogc_x' の呼び出しで引数の数または種類が誤っている。
-
[解決済み] MongoDBに "like "を使ってクエリを実行する方法
-
[解決済み】Oracleクエリが順序付け後に返す行数を制限するにはどうすればいいですか?
-
[解決済み】ジョインとサブクエリの比較
最新
-
nginxです。[emerg] 0.0.0.0:80 への bind() に失敗しました (98: アドレスは既に使用中です)
-
htmlページでギリシャ文字を使うには
-
ピュアhtml+cssでの要素読み込み効果
-
純粋なhtml + cssで五輪を実現するサンプルコード
-
ナビゲーションバー・ドロップダウンメニューのHTML+CSSサンプルコード
-
タイピング効果を実現するピュアhtml+css
-
htmlの選択ボックスのプレースホルダー作成に関する質問
-
html css3 伸縮しない 画像表示効果
-
トップナビゲーションバーメニュー作成用HTML+CSS
-
html+css 実装 サイバーパンク風ボタン
おすすめ
-
[解決済み】Postgresのエラー。式として使用されるサブクエリによって返される複数の行
-
[解決済み】BULK INSERTで「予期せぬファイルの終了」エラーが発生したROWを特定する?
-
[解決済み] テスト
-
[解決済み】sys.dm_exec_sql_textはどのように機能するのでしょうか?
-
[解決済み】ORA-01791: SELECTされた式ではない
-
[解決済み] アンピボットの主キーを含む対象コードページで、テキストが切り捨てられたか、1つ以上の文字が一致しない。
-
[解決済み] Varchar は Sum 演算子では無効です。
-
[解決済み] varchar 値の変換で int カラムがオーバーフローしました。
-
[解決済み] SQLです。最初の出現箇所のみを返す
-
[解決済み] ORA-00997: LONG データタイプの不正使用に対する回避策