Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Gunakan pagar pembatas untuk kasus penggunaan Anda
Setelah Anda membuat pagar pembatas, Anda dapat menerapkan dengan fitur-fitur berikut:
-
Inferensi model — Terapkan pagar pembatas ke permintaan yang dikirimkan dan respons yang dihasilkan saat menjalankan inferensi pada model.
-
Agen — Kaitkan pagar pembatas dengan agen untuk menerapkannya pada petunjuk yang dikirim ke agen dan tanggapan dikembalikan darinya.
-
Basis pengetahuan — Terapkan pagar pembatas saat menanyakan basis pengetahuan dan menghasilkan tanggapan darinya.
-
Flow — Tambahkan pagar pembatas ke node prompt atau node basis pengetahuan dalam aliran untuk menerapkannya ke input dan output dari node ini.
Tabel berikut menjelaskan cara menyertakan pagar pembatas untuk masing-masing fitur ini menggunakan AWS Management Console atau Amazon Bedrock. API
| Kasus penggunaan | Konsol | API |
|---|---|---|
| Inferensi model | Pilih pagar pembatas saat menggunakan taman bermain. | Tentukan di header dalam InvokeModelWithResponseStreampermintaan InvokeModelatau sertakan di guardrailConfig bidang di badan Converse atau ConverseStreampermintaan. |
| Berasosiasi dengan agen | Saat Anda membuat atau memperbarui agen, tentukan di bagian detail Guardrail pada pembuat Agen. | Sertakan guardrailConfiguration bidang dalam tubuh a CreateAgent atau UpdateAgentpermintaan. |
| Gunakan saat menanyakan basis pengetahuan | Ikuti langkah-langkah di Pagar pembatas bagian konfigurasi kueri. Tambahkan pagar pembatas saat Anda mengatur Konfigurasi. | Sertakan guardrailConfiguration bidang dalam tubuh a RetrieveAndGeneratepermintaan. |
| Sertakan dalam simpul prompt dalam aliran | Saat Anda membuat atau memperbarui alur, pilih simpul prompt dan tentukan pagar pembatas di bagian Konfigurasi. | Saat Anda menentukan simpul prompt di nodes bidang dalam UpdateFlowpermintaan CreateFlowatau, sertakan guardrailConfiguration bidang di PromptFlowNodeConfiguration. |
| Sertakan dalam node basis pengetahuan dalam aliran | Saat Anda membuat atau memperbarui alur, pilih node basis pengetahuan dan tentukan pagar pembatas di bagian Konfigurasi. | Saat Anda menentukan node basis pengetahuan di nodes bidang dalam UpdateFlowpermintaan CreateFlowatau, sertakan guardrailConfiguration bidang di KnowledgeBaseFlowNodeConfiguration. |
Bagian ini mencakup penggunaan pagar pembatas dengan inferensi model dan Amazon Bedrock. API Anda dapat menggunakan operasi inferensi dasar (InvokeModeldan InvokeModelWithResponseStream) dan Converse API(Converse dan ConverseStream). Dengan kedua set operasi Anda dapat menggunakan pagar pembatas dengan inferensi model sinkron dan streaming. Anda juga dapat mengevaluasi input pengguna secara selektif dan dapat mengonfigurasi perilaku respons streaming.
