Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Usa i guardrail per il tuo caso d'uso
Dopo aver creato un guardrail, puoi candidarti con le seguenti funzionalità:
-
Inferenza del modello: applica un guardrail ai prompt inviati e alle risposte generate durante l'esecuzione dell'inferenza su un modello.
-
Agenti: associa un guardrail a un agente per applicarlo ai prompt inviati all'agente e alle risposte da esso restituite.
-
Base di conoscenza: applica un guardrail quando interroghi una knowledge base e generi risposte da essa.
-
Flusso: aggiungi un guardrail a un nodo prompt o a un nodo della knowledge base in un flusso per applicarlo agli input e agli output di questi nodi.
La tabella seguente descrive come includere un guardrail per ciascuna di queste funzionalità utilizzando Amazon API Bedrock. AWS Management Console
| Caso d'uso | Console | API |
|---|---|---|
| Inferenza del modello | Seleziona il guardrail quando usi un parco giochi. | Specificalo nell'intestazione di una InvokeModelWithResponseStreamrichiesta InvokeModelor o includi nel guardrailConfig campo nel corpo di una Converse o di una richiesta. ConverseStream |
| Associati a un agente | Quando crei o aggiorni l'agente, specificalo nella sezione dei dettagli di Guardrail dell'Agent Builder. | Includi un guardrailConfiguration campo nel corpo di un CreateAgent o UpdateAgent. |
| Da utilizzare per interrogare una knowledge base | Segui i passaggi indicati nella Guardrail sezione delle configurazioni delle interrogazioni. Aggiungi un guardrail quando imposti le configurazioni. | Includi un guardrailConfiguration campo nel corpo di un RetrieveAndGenerate. |
| Includi in un nodo prompt di un flusso | Quando crei o aggiorni un flusso, seleziona il nodo prompt e specifica il guardrail nella sezione Configura. | Quando definisci il nodo prompt nel nodes campo di una UpdateFlowrichiesta CreateFlowor, includi un guardrailConfiguration campo in. PromptFlowNodeConfiguration |
| Includi un nodo della knowledge base in un flusso | Quando crei o aggiorni un flusso, seleziona il nodo della knowledge base e specifica il guardrail nella sezione Configura. | Quando definisci il nodo della knowledge base nel nodes campo di una UpdateFlowrichiesta CreateFlowo, includi un guardrailConfiguration campo in. KnowledgeBaseFlowNodeConfiguration |
Questa sezione tratta l'uso di un guardrail con inferenza del modello e Amazon Bedrock. API È possibile utilizzare le operazioni di inferenza di base (InvokeModeland) e il InvokeModelWithResponseStream Converse API(Converse e). ConverseStream Con entrambi i set di operazioni è possibile utilizzare un guardrail con inferenza di modelli sincrona e in streaming. È inoltre possibile valutare selettivamente l'input dell'utente e configurare il comportamento di risposta in streaming.
