アプリケーションは AI モデルを直接呼び出せますが、回答が成功しても、リクエストがどう認可され、キャッシュや制限を受けたか、どの経路が失敗に対応したかは分かりません。Cloudflare AI Gateway は、アプリケーションと上流モデルの間に置く名前付きの確認ポイントです。複数のモデルリクエストについて、アクセス制御、ログ、トラフィックポリシーを観察できる場所を提供します。
小さな Workers AI アプリケーションに、この確認ポイントを段階的に追加します。最初にリクエストをルーティングし、その後、失敗の調査、安全な反復応答の再利用、リクエストと支出の制御、範囲を限定したモデルフォールバックを学びます。各操作のそばに短い説明があり、ゲートウェイや AI 運用の事前経験は不要です。
5 つのガイド付きラボと、ゲートウェイ迂回を修復する 1 つの自主課題で構成されています。各スキルをガイド付きラボで学んでから自主課題に進みます。
学習する内容
- ゲートウェイ経由で推論を送る： 認証されたゲートウェイを作成し、ゲートウェイアクセスと上流モデルの認可を区別する。
- 失敗したモデルリクエストを追跡する： 秘密を含まないメタデータを付け、ログで入力、ゲートウェイ、上流の失敗を区別する。
- 反復する推論リクエストをキャッシュする： 完全一致のキャッシュミスとヒットを観察し、新しい出力が重要な場合は再利用を回避する。
- リクエストと支出の制限を制御する： 小さなリクエスト制限を確認し、予算を使い切らずに範囲限定の費用ポリシーを読み戻す。
- モデルフォールバックで回復する： 制御された主モデルの失敗から回復し、代替経路の連鎖を有限に保つ。
- 隠れたゲートウェイ迂回： 直接のモデル呼び出しで目的のゲートウェイポリシーを避ける Worker を自主的に修復する。
このコースの対象者
Workers AI を呼び出した経験があり、モデルリクエストを観察、制御したい開発者が対象です。
前提知識： Cloudflare Workers AI for Beginners と Connect LabEx to Your Cloudflare Account を完了してください。JavaScript Worker、Workers AI バインディング、小さなモデルリクエストを認識できることが必要です。ゲートウェイの概念は最初から説明します。
学習環境： 自分の専用 Cloudflare 学習用アカウントを使います。各ユニットは新しい VM で始まり、一意の名前の使い捨てリソースを作成し、削除とログアウトで終わります。演習は Cloudflare がホストするモデルと、ごく少数のリクエストを Workers Free 内で使います。Workers Paid や外部 AI プロバイダーのアカウントは不要です。
よくある質問
外部 AI プロバイダーのアカウントは必要ですか？
不要です。Cloudflare がホストするモデルと少数のリクエストを使います。Workers Paid や外部プロバイダーのアカウントは要求しません。
ゲートウェイ認証とモデル認可は同じですか？
いいえ。ゲートウェイアクセスと上流モデルアクセスを別々にテストし、秘密を含まないメタデータとログで、入力、ゲートウェイ、上流の失敗を区別します。
支出ポリシーのテストで予算を使い切りますか？
いいえ。小さなリクエスト制限を確認し、範囲限定の費用ポリシーを読み戻します。これは、支出上限に達したことを証明するのとは異なります。
最終課題では何を評価しますか？
モデルを直接呼び出して目的のゲートウェイポリシーを迂回する Worker を修復します。回復を限定し、演習で作成したリソースだけを削除してください。
