지원 답변을 생성하고 검토하며, 사고 요약을 검증하고 Python 애플리케이션에 한도가 있는 Bedrock 요청을 추가합니다.
세 개의 안내형 랩에서 CLI 요청부터 명확한 한도가 있는 애플리케이션까지 진행합니다. 독립 챌린지에서는 유효한 요약을 유지하면서 잘못된 응답 처리를 수정합니다.
학습 내용
- 사용 가능한 텍스트 모델을 선택하고 AWS CLI로 Converse 요청 보내기
- system 지침을 개선하고 생성된 주장을 제공된 사실과 비교하기
- 토큰 사용량, 종료 이유, 출력 한도 확인하기
- boto3로 JSON 요약을 생성하고 필드 검증하기
- 너무 긴 입력을 거부하고 유한한 대기 시간과 한 번의 시도로 오류 또는 시간 초과 처리하기
- 실제 추론을 유지하면서 응답 처리기 수정하기
이 과정의 대상
생성된 텍스트를 작고 관찰 가능한 애플리케이션에 연결하려는 초보자를 위한 과정입니다.
선수 지식: 기본 Terminal 명령과 텍스트 파일 작업. AWS Foundations와 기본 IAM 지식을 권장합니다. 문서 및 애플리케이션 단원에는 Python 기초도 필요합니다. 챌린지는 세 안내형 랩의 요청 및 검증 개념을 사용하므로 권장 순서를 따르세요.
학습 환경: 브라우저에서 제공되는 LabEx Linux VM을 사용합니다. Terminal에서 공식 AWS CLI와 boto3를 실행하고, 위쪽 AWS View에서 실제 요청 결과, 사용량, 관찰된 잔여 한도를 확인합니다. 도구와 연결이 준비되어 개인 AWS 계정이나 액세스 키가 필요하지 않습니다. 각 단원은 자체 입력, ID, 익명 한도로 독립적으로 시작합니다. 제공된 합성 데이터만 사용하세요.
자주 묻는 질문
유창하거나 스키마에 맞는 답변이 사실을 입증하나요?
아니요. 답변과 요약을 제공된 티켓 또는 문서와 비교하세요. 유효한 JSON은 구조를 입증할 뿐, 조사 시작이나 환불 또는 후속 테스트 완료를 입증하지 않습니다.
출력 한도는 무엇을 제어하나요?
maxTokens는 생성된 출력을 제한하며 입력 문자 수나 전체 요청 시간은 제한하지 않습니다. 애플리케이션은 문서 길이를 별도로 확인하고 연결 및 읽기에 유한한 대기 시간을 설정하며 자동 재시도를 끕니다. stopReason을 확인하세요. max_tokens는 미완성 텍스트를 뜻할 수 있습니다.
토큰 사용량이 있는데 credits가 줄지 않는 이유는 무엇인가요?
반복 요청은 캐시된 모델 결과를 재사용할 수 있습니다. Credits는 관찰된 모델별 소비에 따라 계산되며 출력 한도로 공통 토큰 가격이 정해지지 않습니다. 불확실한 요청은 예약 한도를 유지할 수 있으므로 재시도 전에 오류를 확인하세요.
과정에 어떤 기능이 포함되나요?
텍스트 Converse, 명시적 system 지침, 반환된 사용량, JSON 검증, 한도가 있는 동기 요청입니다. 스트리밍, 이미지, Agents, Knowledge Bases, 프로덕션 서비스 배포는 범위 밖입니다.
정리 후에는 무엇이 남나요?
안내형 랩은 삭제할 로컬 출력을 명시합니다. 애플리케이션과 챌린지는 작동하는 소스와 테스트 사례를 유지합니다. 여기서 Converse는 영구 서버나 데이터베이스를 만들지 않습니다. 파일을 삭제해도 credits는 환불되지 않습니다. 이전 VM의 파일이나 자격 증명은 필요하지 않습니다.
