Une application peut appeler directement un modèle d’IA, mais une réponse réussie n’indique pas comment la requête a été autorisée, mise en cache ou limitée, ni quelle route a traité un échec. Cloudflare AI Gateway est un point de contrôle nommé entre l’application et son modèle en amont. Il rassemble plusieurs requêtes de modèle dans un lieu observable pour le contrôle d’accès, les journaux et les règles de trafic.
Ce cours ajoute ce point de contrôle à de petites applications Workers AI, une notion à la fois. Vous acheminerez d’abord une requête, puis analyserez les échecs, réutiliserez des réponses répétées appropriées, appliquerez des contrôles de requêtes et de dépenses et construirez un repli de modèle limité. De courtes explications accompagnent chaque opération ; aucune expérience préalable des passerelles ou de l’exploitation de l’IA n’est supposée.
Le cours comprend 5 laboratoires guidés et 1 défi autonome de contournement de passerelle. Les laboratoires guidés présentent chaque compétence avant le défi autonome.
Ce que vous apprendrez
- Acheminer l’inférence via une passerelle : créer une passerelle authentifiée et distinguer son accès de l’autorisation du modèle en amont.
- Retracer une requête de modèle échouée : joindre des métadonnées non secrètes et utiliser les journaux pour distinguer les échecs d’entrée, de passerelle et de service en amont.
- Mettre en cache les requêtes d’inférence répétées : observer précisément un défaut puis un succès de cache et contourner sa réutilisation lorsqu’une sortie fraîche est nécessaire.
- Contrôler les limites de requêtes et de dépenses : démontrer une petite limite de requêtes et relire une politique de coût à périmètre limité sans épuiser un budget.
- Récupérer avec un modèle de repli : récupérer après un échec contrôlé du modèle principal tout en gardant une chaîne de repli finie.
- Contournement caché de la passerelle : réparer de manière autonome un Worker dont l’appel direct au modèle évite la politique de passerelle prévue.
À qui s’adresse ce cours
Ce cours s’adresse aux développeurs qui ont appelé Workers AI et souhaitent observer et contrôler les requêtes de modèle.
Prérequis : Terminez Cloudflare Workers AI for Beginners et Connect LabEx to Your Cloudflare Account. Vous devez reconnaître un Worker JavaScript, une liaison Workers AI et une petite requête de modèle ; les concepts de passerelle sont présentés depuis le début.
Environnement d’apprentissage : Utilisez votre propre compte Cloudflare dédié à l’apprentissage. Chaque unité commence dans une nouvelle VM, crée des ressources temporaires aux noms uniques et se termine par leur suppression et la déconnexion. Les exercices utilisent des modèles hébergés par Cloudflare et un très petit nombre de requêtes dans Workers Free ; ils ne nécessitent ni Workers Paid ni compte chez un fournisseur d’IA externe.
Questions fréquentes
Ai-je besoin d’un compte chez un fournisseur d’IA externe ?
Non. Les exercices utilisent des modèles hébergés par Cloudflare et un petit nombre de requêtes. Ils ne nécessitent ni Workers Paid ni compte chez un fournisseur externe.
L’authentification de la passerelle est-elle la même chose que l’autorisation du modèle ?
Non. Vous testerez séparément l’accès à la passerelle et au modèle en amont, puis utiliserez des métadonnées non secrètes et les journaux pour distinguer les échecs d’entrée, de passerelle et de service en amont.
Vais-je épuiser un budget pour tester une politique de dépenses ?
Non. Vous démontrerez une petite limite de requêtes et relirez la politique de coût à périmètre limité. Cela ne démontre pas qu’une limite de dépenses a été atteinte.
Que vérifie le défi final ?
Réparez un Worker qui appelle directement le modèle et contourne la politique de passerelle prévue. Gardez la récupération limitée et supprimez uniquement les ressources créées pour l’exercice.
