建立批次推論任務 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

建立批次推論任務

使用檔案設定 Amazon S3 儲存貯體以執行模型推論後，您可以建立批次推論任務。

注意

若要使用 提交批次推論任務VPC，您必須使用 API。選取 API索引標籤，了解如何包含VPC組態。

若要了解如何建立批次推論任務，請選擇您偏好方法的標籤，然後遵循下列步驟：

Console
建立批次推論任務

  1. AWS Management Console 使用IAM具有 Amazon Bedrock 許可的角色登入 ，並在 開啟 Amazon Bedrock 主控台https://console.aws.amazon.com/bedrock/。

  2. 從左側導覽窗格中，選取批次推論。

  3. 在批次推論任務區段中，選擇建立任務。

  4. 在任務詳細資訊區段中，為批次推論任務提供任務名稱，然後選擇選取模型，以選取要用於批次推論任務的模型。

  5. 在輸入資料區段中，選擇瀏覽 S3，然後選取包含批次推論任務檔案的 S3 位置。檢查檔案是否符合 中所述的格式格式化和上傳批次推論資料。

    注意

    如果輸入資料位於 S3 儲存貯體中，而該儲存貯體與您提交任務的 帳戶不同，您必須使用 API提交批次推論任務。若要了解如何執行此操作，請選取上方的API索引標籤。

  6. 在輸出資料區段中，選擇瀏覽 S3 並選取 S3 位置，以儲存批次推論任務中的輸出檔案。根據預設，輸出資料將由 加密 AWS 受管金鑰。若要選擇自訂KMS金鑰，請選取自訂加密設定 （進階），然後選擇金鑰。如需加密 Amazon Bedrock 資源和設定自訂KMS金鑰的詳細資訊，請參閱 資料加密。

    注意

    如果您計劃將輸出資料寫入到 S3 儲存貯體，而該儲存貯體屬於您提交任務的來源，則必須使用 API來提交批次推論任務。若要了解如何執行此操作，請選取上方的API索引標籤。

  7. 在服務存取區段中，選取下列其中一個選項：

    • 使用現有服務角色 — 從下拉式清單中選取服務角色。如需有關使用適當許可權設定自訂角色的詳細資訊，請參閱 批次推論的必要許可。

    • 建立並使用新的服務角色 — 輸入服務角色的名稱。

  8. （選用） 若要將標籤與批次推論任務建立關聯，請展開標籤區段，並為每個標籤新增索引鍵和選用值。如需詳細資訊，請參閱標記 Amazon Bedrock 資源。

  9. 選擇 Create batch inference job (建立批次推論任務)。

API

若要建立批次推論任務，請使用 Amazon Bedrock 控制平面端點傳送CreateModelInvocationJob請求。

下列是必要欄位：

欄位 使用案例
jobName 指定任務的名稱。
roleArn 指定具有建立和管理任務許可的服務角色的 Amazon Resource Name (ARN)。如需詳細資訊，請參閱建立批次推論的自訂服務角色。
modelId 指定要在推論中使用的ARN模型 ID 或 。
inputDataConfig 指定 S3 位置，其中包含要提交至任務的提示和組態。如需詳細資訊，請參閱格式化和上傳批次推論資料。
outputDataConfig 指定要寫入模型回應的 S3 位置。

下列欄位為選用：

欄位 使用案例
timeoutDurationIn小時 以小時為單位指定任務逾時的持續時間。
標籤 指定要與任務建立關聯的任何標籤。如需詳細資訊，請參閱標記 Amazon Bedrock 資源。
vpcConfig 指定在任務期間用來保護資料的VPC組態。如需詳細資訊，請參閱使用 保護批次推論任務 VPC。
clientRequestToken 為確保API請求僅完成一次。如需詳細資訊，請參閱確保等冪。

回應會傳回 jobArn ，您可以在執行其他批次推論相關API呼叫時用來參考任務。