Kafka で投票数を再構築

Kafka から完全な展示会の投票スナップショットを再構築し、業務上の再送を処理しながら既存の読み取りアプリケーションの進捗を保ちます。

プロジェクトビッグデータ

💡 このチュートリアルは英語版からAIによって翻訳されています。原文を確認するには、 ここをクリックしてください

はじめに

Kafka で投票数を再構築するコースは、Kafka の基本クライアントを理解し、保持されたイベントから役立つ業務結果を再構築したい学習者を対象としています。再送されたイベントと新しい一票を区別し、既存の表示アプリケーションの読み取り進捗を保ちながら、展示会のブース別票数を再構築します。

2 つのガイド付きラボで、グローバルな識別規則と、完全に独立したネイティブリプレイを順に構築します。1 つのチャレンジでは、同じ仕組みを 2 つの新しい展示会バッチと意図的な衝突に適用します。各単元は独立して開始します。作者の見積もりは、読解と通常の間違いへの対処を含め、コース全体で約 140–170 分です。初心者の実測完了時間ではありません。

学習内容

このコースを修了すると、次のことができるようになります。

  • Kafka レコードのパーティション/オフセットと、グローバルな業務イベント ID を区別する。
  • 同一の再送を一度だけ数え、他の内容が同じでも異なる ID は別々に保持する。
  • 到着順で勝者を選ばず、同一 ID で内容が衝突する値を拒否する。
  • 各パーティションの固定境界を取得し、空のパーティション、欠番の位置、一時的な空振りポーリングがあっても有限バッチ全体を読む。
  • 物理ソースレコード全体の情報、論理的な票、ゼロ票を含む全ブースのカウントを持つ完全なスナップショットを書き出して読む。
  • 元の表示アプリケーションのグループを巻き戻さず、異なるカタログやパーティション分布に同じ Python プログラムを再利用する。

このコースの対象者

JSON イベントをすでに送受信でき、独立した派生ビューを作りたい Kafka 学習者向けのコースです。

前提知識: 基本的な端末パス、Python の関数・ループ・辞書と JSON、Apache Kafka for Beginners で扱う Kafka のキー、パーティション、オフセット、コンシューマーグループ、Python プロデューサー/コンシューマーの操作。チャレンジの前に 2 つのガイド付きラボを終えてください。

学習環境: 各単元には、準備済み Linux 環境の Terminal、実際のローカル Kafka broker、インストール済み Python クライアント、合成の展示会バッチ、結果読み取りツールが用意されています。外部アカウントやローカルへのインストールは不要です。コマンド、ツールのラベル、実行時の出力は英語です。

よくある質問

投票者の本人確認や一人一票のシステムですか?

いいえ。提供された業務ルールでは、新しいイベント ID ごとに一票として受け入れます。あなたはそのイベントを再構築します。実際の訪問者が誰か、再び投票してよいかを判断するものではありません。

連続ストリームや厳密に一度だけの処理を学ぶコースですか?

コースが扱うのは有限で固定されたログです。完全な再構築と衝突の拒否を学びますが、継続ストリームの復旧、システム間の原子性、クラッシュ時のデータ永続性、エンドツーエンドで厳密に一度だけの動作は保証しません。

チャレンジはガイド付きラボをどう発展させますか?

ブース名、イベントの関係、パーティション数と分布が変わります。学んだ同じ Python インターフェースとリプレイの仕組みを使って、両方の有効なスナップショットを作り、有用な結果を保持したまま意図的な衝突バッチを拒否する必要があります。

講師

labby
Labby
Labby is the LabEx teacher.

おすすめ

no data