[解決済み] kafkaのレプリケートパーティション下の修正
2022-02-12 17:35:20
質問
本番環境では、トピックからメッセージを消費する際に、パーティションのレプリケーションが不足することがよくあります。Kafka 0.11を使用しています。ドキュメントから理解できることは次のとおりです。
設定パラメータ
replica.lag.max.messages
が削除されました。パーティションリーダーは、どのレプリカを同期させるかを決定する際に、遅れているメッセージの数を考慮しなくなりました。
設定パラメータ
replica.lag.time.max.ms
は、レプリカからの最後のフェッチ要求からの経過時間だけでなく、レプリカが最後に追いついてからの経過時間も参照するようになりました。リーダーからのメッセージをまだ取得しているにもかかわらず、 最新のメッセージに追いついていないレプリカは
replica.lag.time.max.ms
は同期がとれていないと判断される。
この問題はどのように解決するのでしょうか?レプリカが同期しない理由は何ですか?私たちのシナリオでは、すべてのKafkaブローカーをブレードサーバーのシングルRACKに設置し、すべて10GBPS Ethernet(Simplex)で同じネットワークを使用しています。私は、ネットワークのためにレプリカが同期しなくなる理由を見ません。
解決方法を教えてください。
同じ問題に直面しました。
解決策は
- Zookeeperのリーダーを再起動します。
- 一部のパーティションをレプリケートしていないブローカーブローカーをリスタートします。
データの損失はありません。
この問題はZKの不具合状態によるもので、この件に関してはZKで開かれたissueがありました、番号は忘れました。
関連
-
[解決済み] グループがリバランスしているため、ハートビートが失敗しました。
-
[解決済み] Kafkaメッセージにカスタムヘッダを追加する
-
[解決済み] kafkaとnifiの違い
-
[解決済み] kafkaのレプリケートパーティション下の修正
-
[解決済み] HDFスキーマレジストリとConfluentの主な違いは何ですか?
-
[解決済み] JAAS または Kafka の設定に serviceName が定義されていない (Kerberos ではない)
-
[解決済み] Zookeeperにアクセスせずに-zookeeperフラグを使用してKafka 0.10トピックをすべて一覧表示する
-
[解決済み] Apache Kafkaのコンテキストで「Rebalancing」とはどういう意味ですか?
-
[解決済み] Kafkaでデータモデリング?トピックとパーティション
-
[解決済み] カフカ コンシューマーAPIとストリームAPI
最新
-
nginxです。[emerg] 0.0.0.0:80 への bind() に失敗しました (98: アドレスは既に使用中です)
-
htmlページでギリシャ文字を使うには
-
ピュアhtml+cssでの要素読み込み効果
-
純粋なhtml + cssで五輪を実現するサンプルコード
-
ナビゲーションバー・ドロップダウンメニューのHTML+CSSサンプルコード
-
タイピング効果を実現するピュアhtml+css
-
htmlの選択ボックスのプレースホルダー作成に関する質問
-
html css3 伸縮しない 画像表示効果
-
トップナビゲーションバーメニュー作成用HTML+CSS
-
html+css 実装 サイバーパンク風ボタン
おすすめ
-
[解決済み] グループがリバランスしているため、ハートビートが失敗しました。
-
[解決済み] Kafkaメッセージにカスタムヘッダを追加する
-
[解決済み] kafkaとnifiの違い
-
[解決済み] kafkaのレプリケートパーティション下の修正
-
[解決済み] Kafkaのキー/バリューペアベースのメッセージングは何のためにあるのですか?[クローズド]
-
[解決済み] HDFスキーマレジストリとConfluentの主な違いは何ですか?
-
[解決済み] KafkaよりRabbitMQを使うべきタイミングは?[クローズド]
-
[解決済み】Kafkaトピックのパージ
-
[解決済み] Kafkaでデータモデリング?トピックとパーティション
-
[解決済み] カフカ コンシューマーAPIとストリームAPI