Приложение может вызвать модель ИИ напрямую, но успешный ответ не показывает, как запрос авторизован, кеширован или ограничен и какой маршрут обработал сбой. Cloudflare AI Gateway — именованная контрольная точка между приложением и вышестоящей моделью. Она объединяет запросы моделей в наблюдаемом месте для контроля доступа, журналов и политики трафика.
Курс добавляет эту точку к небольшим приложениям Workers AI по одной идее за раз. Сначала вы направите запрос, затем расследуете ошибки, повторно используете безопасные ответы, примените контроль запросов и расходов и построите ограниченный резервный маршрут модели. Краткие объяснения сопровождают операции, поэтому опыт шлюзов или эксплуатации ИИ не предполагается.
Курс включает 5 пошаговых работ и 1 самостоятельную задачу обхода шлюза. Пошаговые работы вводят каждую возможность перед самостоятельной задачей.
Чему вы научитесь
- Направлять инференс через шлюз: создать аутентифицированный шлюз и отличать доступ к нему от авторизации вышестоящей модели.
- Отследить неудачный запрос модели: добавить несекретные метаданные и разделить по журналам ошибки ввода, шлюза и вышестоящего сервиса.
- Кешировать повторные запросы инференса: наблюдать точное отсутствие и попадание в кеш, затем обходить повторное использование при необходимости свежего вывода.
- Управлять лимитами запросов и расходов: доказать малый лимит запросов и прочитать ограниченную политику стоимости без исчерпания бюджета.
- Восстановиться с резервной моделью: восстановиться после контролируемого сбоя основной модели, сохранив конечную цепочку резервирования.
- Скрытый обход шлюза: самостоятельно исправить Worker, прямой вызов модели которого избегает нужной политики шлюза.
Для кого предназначен курс
Разработчики, вызывавшие Workers AI и желающие наблюдать и контролировать запросы моделей.
Предварительные требования: Завершите Cloudflare Workers AI for Beginners и Connect LabEx to Your Cloudflare Account. Нужно узнавать JavaScript Worker, привязку Workers AI и небольшой запрос модели; понятия шлюза вводятся с начала.
Учебная среда: Используйте собственный выделенный учебный аккаунт Cloudflare. Каждое занятие начинается в новой VM, создаёт временные ресурсы с уникальными именами и заканчивается их удалением и выходом. Упражнения используют модели Cloudflare и очень мало запросов в Workers Free; Workers Paid и аккаунт внешнего поставщика ИИ не требуются.
Часто задаваемые вопросы
Нужен ли аккаунт внешнего поставщика ИИ?
Нет. Упражнения используют модели Cloudflare и мало запросов. Workers Paid и внешний аккаунт не требуются.
Совпадает ли аутентификация шлюза с авторизацией модели?
Нет. Доступ к шлюзу проверяется отдельно от доступа к вышестоящей модели, затем несекретные метаданные и журналы разделяют ошибки ввода, шлюза и вышестоящего сервиса.
Нужно ли исчерпать бюджет для проверки политики расходов?
Нет. Вы доказываете малый лимит запросов и читаете ограниченную политику стоимости. Это отличается от доказательства достижения лимита расходов.
Что оценивает последняя задача?
Исправьте Worker, вызывающий модель напрямую в обход нужной политики шлюза. Ограничивайте восстановление и удаляйте только ресурсы упражнения.
