Eine Anwendung kann ein KI-Modell direkt aufrufen. Eine erfolgreiche Antwort zeigt jedoch nicht, wie die Anfrage autorisiert, zwischengespeichert oder begrenzt wurde oder welche Route einen Fehler behandelt hat. Cloudflare AI Gateway ist ein benannter Kontrollpunkt zwischen der Anwendung und ihrem vorgeschalteten Modell. Es bietet mehreren Modellanfragen einen beobachtbaren Ort für Zugriffskontrolle, Logs und Verkehrsrichtlinien.
Dieser Kurs ergänzt kleine Workers-AI-Anwendungen Schritt für Schritt um diesen Kontrollpunkt. Zuerst leitest du eine Anfrage weiter, danach untersuchst du Fehler, verwendest sichere wiederholte Antworten erneut, setzt Anfrage- und Ausgabenkontrollen ein und baust einen begrenzten Modell-Fallback. Kurze Erklärungen begleiten jede Operation. Erfahrung mit Gateways oder KI-Betrieb wird nicht vorausgesetzt.
Der Kurs umfasst 5 angeleitete Labs und 1 eigenständige Aufgabe zur Gateway-Umgehung. Die angeleiteten Labs vermitteln jede Fähigkeit vor der eigenständigen Aufgabe.
Was du lernen wirst
- Inferenz durch ein Gateway leiten: ein authentifiziertes Gateway erstellen und Gateway-Zugriff von der Autorisierung des vorgeschalteten Modells unterscheiden.
- Eine fehlgeschlagene Modellanfrage verfolgen: nicht geheime Metadaten anfügen und Logs nutzen, um Eingabe-, Gateway- und vorgelagerte Fehler zu unterscheiden.
- Wiederholte Inferenzanfragen zwischenspeichern: einen exakten Cache-Miss und Cache-Hit beobachten und Wiederverwendung umgehen, wenn neue Ausgabe wichtig ist.
- Anfrage- und Ausgabenlimits steuern: ein kleines Anfragelimit belegen und eine begrenzte Kostenrichtlinie auslesen, ohne ein Budget aufzubrauchen.
- Mit einem Modell-Fallback wiederherstellen: nach einem kontrollierten Fehler des primären Modells wiederherstellen und die Fallback-Kette endlich halten.
- Versteckte Gateway-Umgehung: einen Worker eigenständig reparieren, dessen direkter Modellaufruf die vorgesehene Gateway-Richtlinie umgeht.
Für wen dieser Kurs geeignet ist
Entwickler, die Workers AI aufgerufen haben und Modellanfragen beobachten und steuern möchten.
Voraussetzungen: Absolviere Cloudflare Workers AI for Beginners und Connect LabEx to Your Cloudflare Account. Du solltest einen JavaScript Worker, eine Workers-AI-Bindung und eine kleine Modellanfrage erkennen; der Kurs führt Gateway-Konzepte von Anfang an ein.
Lernumgebung: Nutze dein eigenes dediziertes Cloudflare-Lernkonto. Jede Einheit beginnt in einer neuen VM, erstellt temporäre Ressourcen mit eindeutigen Namen und endet mit ihrer Löschung und Abmeldung. Die Übungen verwenden von Cloudflare gehostete Modelle und sehr wenige Anfragen innerhalb von Workers Free; Workers Paid oder ein Konto bei einem externen KI-Anbieter sind nicht erforderlich.
Häufig gestellte Fragen
Benötige ich ein Konto bei einem externen KI-Anbieter?
Nein. Die Übungen verwenden von Cloudflare gehostete Modelle und wenige Anfragen. Sie benötigen weder Workers Paid noch ein externes Anbieterkonto.
Ist Gateway-Authentifizierung dasselbe wie Modellautorisierung?
Nein. Du testest Gateway-Zugriff getrennt vom Zugriff auf das vorgeschaltete Modell und nutzt anschließend nicht geheime Metadaten und Logs, um Eingabe-, Gateway- und vorgelagerte Fehler zu unterscheiden.
Brauche ich ein Budget auf, um eine Ausgabenrichtlinie zu testen?
Nein. Du belegst ein kleines Anfragelimit und liest die begrenzte Kostenrichtlinie aus. Das ist etwas anderes als der Nachweis, dass ein Ausgabenlimit erreicht wurde.
Was bewertet die abschließende Aufgabe?
Repariere einen Worker, der das Modell direkt aufruft und die vorgesehene Gateway-Richtlinie umgeht. Halte die Wiederherstellung begrenzt und entferne ausschließlich die für die Übung erstellten Ressourcen.
