Pertanyaan Umum Amazon Bedrock

Agen Amazon Bedrock adalah kemampuan terkelola penuh yang mempermudah developer untuk membuat aplikasi berbasis AI generatif yang dapat menyelesaikan tugas kompleks untuk berbagai kasus penggunaan dan memberikan jawaban terkini berdasarkan sumber pengetahuan eksklusif. Hanya dalam beberapa langkah singkat, Agen Amazon Bedrock membagi tugas dan membuat rencana orkestrasi secara otomatis–tanpa pengodean manual apa pun. Agen terhubung ke data perusahaan secara aman melalui API, yang secara otomatis mengubah data menjadi format yang dapat dibaca oleh mesin, dan menambahkan informasi yang relevan pada permintaan untuk menghasilkan respons yang paling akurat. Agen kemudian juga dapat memanggil API untuk memenuhi permintaan pengguna secara otomatis. Misalnya, perusahaan manufaktur mungkin ingin mengembangkan aplikasi AI generatif yang mengotomatisasi pelacakan tingkat inventaris, data penjualan, informasi rantai pasokan, dan yang dapat merekomendasikan titik serta jumlah pemesanan ulang yang optimal untuk memaksimalkan efisiensi. Sebagai kemampuan yang terkelola penuh, Agen Amazon Bedrock menghapus pengangkatan yang tidak terdiferensiasi untuk pengelolaan integrasi sistem dan penyediaan infrastruktur, sehingga memungkinkan developer menggunakan AI generatif sepenuhnya di seluruh organisasi mereka.

Anda dapat menghubungkan FM dengan aman ke sumber data perusahaan Anda menggunakan Agen Amazon Bedrock. Dengan dasar pengetahuan, Anda dapat menggunakan agen untuk memberi FM di Amazon Bedrock akses ke data tambahan, yang membantu model menghasilkan respons yang lebih relevan, konteks spesifik, dan akurat tanpa harus melatih ulang FM secara terus-menerus. Berdasarkan input pengguna, agen mengidentifikasi dasar pengetahuan yang sesuai, mengambil informasi yang relevan, dan menambahkan informasi ke prompt input, yang akan memberikan lebih banyak informasi konteks kepada model untuk menghasilkan penyelesaian.

Agen Amazon Bedrock dapat membantu Anda meningkatkan produktivitas, meningkatkan pengalaman layanan pelanggan Anda, dan mengotomatiskan alur kerja (seperti memproses klaim asuransi).

Dengan agen, developer memiliki dukungan tanpa hambatan untuk pemantauan, enkripsi, izin pengguna, penentuan versi, dan manajemen invokasi API tanpa harus menulis kode kustom. Agen Amazon Bedrock mengotomatiskan rekayasa perintah dan orkestrasi dari tugas yang diminta pengguna. Developer dapat menggunakan templat perintah yang dibuat oleh agen sebagai acuan untuk menyempurnakannya lebih lanjut demi pengalaman pengguna yang lebih baik. Mereka dapat memperbarui input pengguna, rencana orkestrasi, dan respons FM. Dengan akses ke templat prompt, developer memiliki kontrol yang lebih baik atas orkestrasi Agen.

Dengan agen terkelola penuh, Anda tidak perlu khawatir tentang penyediaan atau pengelolaan infrastruktur dan dapat membawa aplikasi ke produksi lebih cepat.

Setiap konten pelanggan yang diproses oleh Amazon Bedrock dienkripsi dan disimpan saat diam di Wilayah AWS tempat Anda menggunakan Amazon Bedrock.

Tidak. Input pengguna dan output model tidak dibagikan dengan penyedia model mana pun.

Amazon Bedrock menawarkan beberapa kemampuan untuk mendukung persyaratan keamanan dan privasi. Amazon Bedrock termasuk dalam cakupan standar kepatuhan umum seperti Fedramp Moderate, Service and Organization Control (SOC), International Organization for Standardization (ISO), Health Insurance Portability and Accountability Act (HIPAA) yang memenuhi syarat, dan pelanggan dapat menggunakan Bedrock sesuai dengan Peraturan Perlindungan Data Umum (GDPR). Amazon Bedrock termasuk dalam cakupan laporan SOC 1, 2, 3, sehingga memungkinkan pelanggan mendapatkan wawasan tentang kontrol keamanan kami. Kami menunjukkan kepatuhan melalui audit pihak ketiga yang ekstensif terhadap kontrol AWS kami. Amazon Bedrock adalah salah satu layanan AWS di bawah Kepatuhan ISO untuk standar ISO 9001, ISO 27001, ISO 27017, ISO 27018, ISO 27701, ISO 22301, dan ISO 20000. Amazon Bedrock bersertifikasi CSA Security Trust Assurance and Risk (STAR) Level 2, yang memvalidasi penggunaan praktik terbaik dan postur keamanan penawaran cloud AWS. Dengan Amazon Bedrock, konten Anda tidak digunakan untuk meningkatkan model dasar dan tidak dibagikan dengan penyedia model mana pun. Anda dapat menggunakan AWS PrivateLink untuk membangun konektivitas privat dari Amazon VPC Anda ke Amazon Bedrock, tanpa harus memaparkan data Anda ke lalu lintas internet.

 

Tidak, AWS dan penyedia model pihak ketiga tidak akan menggunakan input atau output apa pun dari Amazon Bedrock untuk melatih Amazon Titan atau model pihak ketiga mana pun.

Amazon Bedrock mendukung SDK untuk layanan runtime. SDK iOS dan Android, serta Java, JS, Python, CLI, .Net, Ruby, PHP, Go, dan C++ mendukung input teks dan ucapan.

Streaming didukung di semua SDK.

Lihat halaman harga Amazon Bedrock untuk informasi harga saat ini.

Tergantung pada kontrak Dukungan AWS Anda, Amazon Bedrock didukung dalam paket Dukungan Developer, Dukungan Bisnis, dan Dukungan Korporasi.

Anda dapat menggunakan metrik CloudWatch untuk melacak token input dan output.

Kami meluncurkan pra-pelatihan lanjutan untuk model Amazon Titan Text Express dan Amazon Titan di Amazon Bedrock. Pra-pelatihan lanjutan memungkinkan Anda melanjutkan pra-pelatihan pada model dasar Amazon Titan menggunakan sejumlah besar data tanpa label. Tipe pelatihan ini akan mengadaptasi model dari korpus domain umum ke korpus domain yang lebih spesifik seperti medis, hukum, keuangan, dan lain-lain, sekaligus tetap mempertahankan sebagian besar kemampuan model dasar Amazon Titan. 

Perusahaan mungkin ingin membuat model untuk tugas di domain tertentu. Model dasar mungkin tidak dilatih tentang jargon teknis yang digunakan dalam domain spesifik tersebut. Oleh karena itu, menyempurnakan model dasar secara langsung akan memerlukan catatan pelatihan berlabel dalam jumlah besar dan durasi pelatihan yang lama untuk mendapatkan hasil yang akurat. Untuk meringankan beban ini, pelanggan dapat memberikan data tanpa label dalam jumlah besar untuk pekerjaan pra-pelatihan lanjutan. Pekerjaan ini akan mengadaptasi model dasar Amazon Titan ke domain baru. Kemudian pelanggan dapat menyempurnakan model kustom yang baru dilatih sebelumnya untuk tugas hilir menggunakan catatan pelatihan berlabel yang jauh lebih sedikit dan durasi pelatihan yang lebih singkat. 

Pra-pelatihan lanjutan dan penyempurnaan Amazon Bedrock memiliki persyaratan yang sangat mirip. Untuk alasan ini, kami memilih untuk membuat API terpadu yang mendukung pra-pelatihan lanjutan dan penyempurnaan. Penyatuan API mengurangi kurva pembelajaran dan akan membantu pelanggan menggunakan fitur standar seperti Amazon EventBridge untuk melacak pekerjaan yang berjalan lama, integrasi Amazon S3 untuk mengambil data pelatihan, tanda sumber daya, dan enkripsi model. 

Pra-pelatihan lanjutan membantu Anda dengan mudah mengadaptasi model Amazon Titan ke data spesifik domain Anda sambil tetap mempertahankan fungsionalitas dasar model Amazon Titan. Untuk membuat pekerjaan pra-pelatihan lanjutan, navigasikan ke konsol Amazon Bedrock dan klik “Model Kustom”. Anda akan menavigasi ke halaman model kustom yang memiliki dua tab: Model dan Pekerjaan pelatihan. Kedua tab menyediakan menu drop-down “Kustomisasi Model” di sebelah kanan. Pilih “Pra-pelatihan Lanjutan” dari menu drop-down untuk menavigasi ke “Buat Pekerjaan Pra-pelatihan Lanjutan. “ Anda akan memberikan model sumber, nama, enkripsi model, data input, hyper-parameter, dan data output. Selain itu, Anda dapat memberikan tanda beserta detail tentang peran AWS Identity and Access Management (IAM) dan kebijakan sumber daya untuk pekerjaan tersebut.

Eksklusif untuk Amazon Bedrock, rangkaian model Amazon Titan menggabungkan 25 tahun pengalaman Amazon dalam berinovasi dengan AI dan machine learning di seluruh bisnisnya. FM Amazon Titan memberi berbagai pilihan gambar, multimodal, dan model teks berperforma tinggi kepada pelanggan, melalui API terkelola penuh. Amazon Titan dibuat oleh AWS dan dilatih sebelumnya pada set data besar, yang menjadikannya model tujuan umum yang kuat dan dibangun untuk mendukung berbagai kasus penggunaan, sekaligus mendukung penggunaan AI yang bertanggung jawab. Gunakan apa adanya atau sesuaikan secara pribadi dengan data Anda sendiri. Pelajari selengkapnya tentang Amazon Titan.

Untuk mempelajari selengkapnya tentang data yang diproses untuk mengembangkan dan melatih FM Amazon Titan, kunjungi halaman Pelatihan dan Privasi Model Amazon Titan.

Anda dapat menyerap konten dari berbagai sumber, termasuk web, Amazon Simple Storage Service (Amazon S3), Confluence (pratinjau), Salesforce (pratinjau), dan SharePoint (pratinjau). Anda juga dapat secara terprogram menyerap data streaming atau data dari sumber yang tidak didukung. Anda juga dapat terhubung ke sumber data terstruktur seperti gudang data Redshift dan katalog data AWS Glue.

Basis Pengetahuan Amazon Bedrock menyediakan Bahasa Alami terkelola ke SQL untuk mengonversi bahasa alami menjadi kueri SQL yang dapat ditindaklanjuti dan mengambil data, yang memungkinkan Anda membangun aplikasi menggunakan data dari sumber-sumber ini.

Ya, manajemen konteks sesi sudah terpasang, sehingga memungkinkan aplikasi Anda mempertahankan konteks di berbagai interaksi, yang penting untuk mendukung percakapan multi-putaran.

Ya, semua informasi yang diambil termasuk kutipan, yang meningkatkan transparansi dan meminimalkan risiko halusinasi dalam respons yang dihasilkan.

Basis Pengetahuan Amazon Bedrock mendukung pemrosesan data multimodal, yang memungkinkan developer membangun aplikasi AI generatif yang menganalisis data teks dan visual, termasuk gambar, bagan, diagram, serta tabel. Respons model dapat memanfaatkan wawasan dari elemen visual selain teks, yang memberikan jawaban yang lebih akurat dan relevan secara kontekstual. Selain itu, atribusi sumber untuk respons mencakup elemen visual, yang meningkatkan transparansi dan kepercayaan dalam respons.

Basis Pengetahuan Amazon Bedrock dapat memproses dokumen yang kaya visual dalam format PDF, yang mungkin berisi gambar, tabel, bagan, dan diagram. Untuk data khusus gambar, Basis Pengetahuan Bedrock mendukung format gambar standar seperti JPEG dan PNG, yang memungkinkan kemampuan pencarian di mana pengguna dapat mengambil gambar yang relevan berdasarkan kueri berbasis teks.

Pelanggan memiliki tiga opsi penguraian untuk Basis Pengetahuan Bedrock. Untuk pemrosesan khusus teks, pengurai Bedrock default bawaan tersedia tanpa biaya tambahan, sehingga ideal untuk kasus yang tidak memerlukan pemrosesan data multimodal. Otomatisasi Data Amazon Bedrock (BDA) atau model fondasi dapat digunakan untuk mengurai data multimodal. Untuk informasi selengkapnya, lihat dokumentasi produk. 

Basis Pengetahuan Amazon Bedrock menangani berbagai kompleksitas alur kerja seperti perbandingan konten, penanganan kegagalan, kontrol throughput, dan enkripsi, yang memastikan bahwa data Anda diproses dan dikelola dengan aman sesuai standar keamanan AWS yang ketat.

Evaluasi Model di Amazon Bedrock memungkinkan Anda mengevaluasi, membandingkan, dan memilih FM terbaik untuk kasus penggunaan Anda hanya dalam beberapa langkah. Amazon Bedrock menawarkan pilihan evaluasi otomatis dan evaluasi manusia. Anda dapat menggunakan evaluasi otomatis dengan metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas. Anda dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus seperti keramahan, gaya, dan keselarasan dengan suara merek. Untuk evaluasi manusia, Anda dapat menggunakan karyawan internal atau tim yang dikelola AWS sebagai peninjau. Evaluasi model di Amazon Bedrock menyediakan set data bawaan yang dikurasi atau Anda dapat membawa set data Anda sendiri.

Anda dapat mengevaluasi berbagai metrik yang telah ditentukan sebelumnya seperti akurasi, ketahanan, dan toksisitas menggunakan evaluasi otomatis. Anda juga dapat menggunakan alur kerja evaluasi manusia untuk metrik subjektif atau khusus, seperti keramahan, relevansi, gaya, dan keselarasan dengan suara merek.

Evaluasi otomatis memungkinkan Anda mempersempit daftar FM yang tersedia dengan cepat berdasarkan kriteria standar (seperti akurasi, toksisitas, dan ketahanan). Evaluasi berbasis manusia sering kali digunakan untuk mengevaluasi kriteria yang lebih bernuansa atau subjektif yang memerlukan penilaian manusia dan ketika evaluasi otomatis mungkin tidak ada (seperti suara merek, niat kreatif, keramahan).

Anda dapat dengan cepat mengevaluasi model Amazon Bedrock untuk metrik seperti akurasi, ketahanan, dan toksisitas dengan menggunakan set data bawaan yang dikurasi, atau dengan membawa set data cepat Anda sendiri. Setelah set data perintah Anda dikirim ke model Amazon Bedrock untuk inferensi, respons model diberi skor dengan algoritma evaluasi untuk setiap dimensi. Mesin backend mengumpulkan skor respons perintah individu menjadi skor ringkasan dan menyajikannya melalui laporan visual yang mudah dipahami.

Amazon Bedrock memungkinkan Anda mengatur alur kerja tinjauan manusia dengan beberapa langkah dan menghadirkan karyawan internal Anda, atau menggunakan tim pakar yang dikelola AWS, untuk mengevaluasi model. Melalui antarmuka intuitif Amazon Bedrock, manusia dapat meninjau dan memberikan umpan balik terhadap respons model dengan mengklik jempol ke atas atau bawah, memberi peringkat pada skala 1-5, memilih yang terbaik dari beberapa respons, atau memberi peringkat perintah. Misalnya, anggota tim dapat diperlihatkan bagaimana dua model merespons perintah yang sama, lalu diminta untuk memilih model yang memperlihatkan output yang lebih akurat, relevan, atau bergaya. Anda dapat menentukan kriteria evaluasi yang penting bagi Anda, dengan menyesuaikan instruksi dan tombol agar muncul di UI evaluasi untuk tim Anda. Anda juga dapat memberikan instruksi terperinci dengan contoh dan sasaran evaluasi model secara keseluruhan, sehingga pengguna dapat menyelaraskan pekerjaannya. Metode ini berguna untuk mengevaluasi kriteria subjektif yang memerlukan penilaian manusia, atau keahlian bidang studi yang lebih bernuansa, dan yang tidak dapat dengan mudah dinilai dengan evaluasi otomatis.

Pagar Pembatas Amazon Bedrock membantu Anda mengimplementasikan perlindungan untuk aplikasi AI generatif berdasarkan kasus penggunaan Anda dan kebijakan AI yang bertanggung jawab. Pagar pembatas membantu mengontrol interaksi antara pengguna dan FM dengan memfilter konten yang tidak diinginkan dan berbahaya serta akan segera menyunting informasi pengenal pribadi (PII), sehingga meningkatkan keamanan dan privasi konten dalam aplikasi AI generatif. Anda dapat membuat beberapa pagar pembatas dengan konfigurasi berbeda yang disesuaikan dengan kasus penggunaan tertentu. Selain itu, dengan pagar pembatas Anda dapat terus memantau dan menganalisis input pengguna dan respons FM yang mungkin melanggar kebijakan yang ditentukan pelanggan.

Pagar pembatas memungkinkan Anda menentukan rangkaian kebijakan untuk membantu melindungi aplikasi AI generatif Anda.. Anda dapat mengonfigurasi kebijakan berikut di pagar pembatas.

• Pemeriksaan landasan kontekstual: membantu mendeteksi dan memfilter halusinasi jika respons tidak didasarkan pada informasi sumber (misalnya, tidak akurat secara faktual atau informasi baru) dan tidak relevan dengan kueri atau instruksi pengguna.
• Pemeriksaan Penalaran Otomatis: membantu mendeteksi ketidakakuratan faktual dalam konten yang dihasilkan, menyarankan koreksi, dan menjelaskan alasan respons akurat dengan memeriksa representasi pengetahuan yang terstruktur dan matematis yang disebut Kebijakan Penalaran Otomatis.
• Filter konten: membantu Anda mengonfigurasi ambang batas untuk mendeteksi dan memfilter konten teks berbahaya di berbagai kategori, seperti kebencian, penghinaan, seksual, kekerasan, pelanggaran, dan serangan prompt. Selain itu, filter konten dapat mendeteksi dan memfilter konten gambar berbahaya di seluruh kategori ini sehingga membantu membangun aplikasi multimodal yang aman.
• Topik yang ditolak: membantu Anda menentukan rangkaian topik yang tidak diinginkan dalam konteks aplikasi. Misalnya, asisten perbankan online dapat dirancang untuk tidak memberikan nasihat investasi.
• Filter kata: membantu Anda menentukan rangkaian kata yang akan diblokir dalam input pengguna dan respons yang dihasilkan FM.
• Filter informasi sensitif: membantu Anda bereaksi terhadap informasi sensitif seperti serangkaian PII yang dapat disunting dalam respons yang dihasilkan FM. Berdasarkan kasus penggunaan, Pagar Pembatas juga dapat membantu Anda memblokir input pengguna jika berisi PII.

Pagar Pembatas Amazon Bedrock bekerja dengan berbagai model, termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, serta, model yang di-hosting sendiri di luar Amazon Bedrock. Input pengguna dan output model dapat dievaluasi secara independen untuk model pihak ketiga dan yang di-hosting sendiri menggunakan ApplyGuardrail API. Pagar Pembatas Amazon Bedrock juga dapat diintegrasikan dengan Agen Amazon Bedrock dan Basis Pengetahuan Amazon Bedrock untuk membangun aplikasi AI generatif yang aman dan terlindungi yang selaras dengan kebijakan AI yang bertanggung jawab

AWS menawarkan ganti rugi kekayaan intelektual (IP) yang tidak dibatasi untuk klaim hak cipta yang timbul dari output generatif dari layanan AI generatif Amazon yang tersedia secara umum berikut ini: model Amazon Titan dan layanan lain yang tercantum dalam Bagian 50.10 Ketentuan Layanan ("Ganti Rugi Layanan AI Generatif"). Artinya, pelanggan dilindungi dari klaim pihak ketiga yang menuduh adanya pelanggaran hak cipta atas output yang dihasilkan oleh Layanan AI Generatif yang Diberi Ganti Rugi sebagai respons terhadap input atau data lain yang diberikan oleh pelanggan. Pelanggan juga harus menggunakan layanan secara bertanggung jawab, seperti tidak memasukkan data yang melanggar atau menonaktifkan fitur pemfilteran layanan.

Terdapat lima kebijakan pagar pembatas yang masing-masing memiliki perlindungan berbeda

• Filter konten – Ini memiliki 6 kategori yang tersedia (kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal) dan serangan cepat (pembobolan penjara dan injeksi cepat. Setiap kategori dapat memiliki ambang batas yang dikustom lebih lanjut dalam hal tingkat ketelitian pemfilteran - rendah/sedang/tinggi untuk teks dan konten gambar.
• Topik yang ditolak – Ini adalah topik khusus yang dapat ditentukan oleh pelanggan menggunakan deskripsi bahasa alami yang sederhana
• Filter informasi sensitif – Dilengkapi dengan lebih dari 30 PII siap pakai. Ini dapat disesuaikan lebih lanjut dengan menambahkan informasi milik pelanggan yang sensitif.
• Filter kata – Dilengkapi dengan pemfilteran kata-kata kotor siap pakai dan dapat disesuaikan lebih lanjut dengan kata-kata khusus.
• Pemeriksaan landasan kontekstual – Dapat membantu mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.

Terdapat lima kebijakan pagar pembatas yang masing-masing memiliki perlindungan berbeda

• Filter konten – Ini memiliki 6 kategori yang tersedia (kebencian, penghinaan, seksual, kekerasan, pelanggaran (termasuk aktivitas kriminal) dan serangan cepat (pembobolan penjara dan injeksi cepat. Setiap kategori dapat memiliki ambang batas yang disesuaikan lebih lanjut dalam hal agresivitas pemfilteran - rendah/sedang/tinggi.
• Topik yang ditolak – Ini adalah topik khusus yang dapat ditentukan oleh pelanggan menggunakan deskripsi bahasa alami yang sederhana
• Filter informasi sensitif – Dilengkapi dengan lebih dari 30 PII siap pakai. Ini dapat disesuaikan lebih lanjut dengan menambahkan informasi milik pelanggan yang sensitif.
• Filter kata – Dilengkapi dengan pemfilteran kata-kata kotor siap pakai dan dapat disesuaikan lebih lanjut dengan kata-kata khusus.
• Pemeriksaan landasan kontekstual – Dapat membantu mendeteksi halusinasi untuk aplikasi RAG, ringkasan, dan percakapan, di mana informasi sumber dapat digunakan sebagai referensi untuk memvalidasi respons model.

Model fondasi memiliki perlindungan native dan merupakan perlindungan default yang terkait dengan setiap model. Perlindungan native ini BUKAN bagian dari Pagar Pembatas Amazon Bedrock. Pagar Pembatas Amazon Bedrock adalah lapisan tambahan perlindungan khusus yang dapat diterapkan secara opsional oleh pelanggan berdasarkan persyaratan aplikasi mereka dan kebijakan AI yang bertanggung jawab.

Sebagai bagian dari Pagar Pembatas Amazon Bedrock, deteksi SSN dan nomor telepon adalah bagian dari 30+ PII siap pakai. Daftar lengkap tersedia di sini.

Ada biaya terpisah untuk penggunaan Pagar Pembatas Amazon Bedrock. Ini dapat diterapkan untuk input dan output. Harga di bagian bawah halaman di sini. Harga untuk dukungan gambar dengan filter konten (saat ini dalam pratinjau publik) akan diumumkan selama ketersediaan umum (GA).

Ada biaya terpisah untuk penggunaan Pagar Pembatas Amazon Bedrock. Ini dapat diterapkan untuk input dan output. Harga di bagian bawah halaman di sini.

Ya, API Pagar Pembatas Amazon Bedrock membantu pelanggan menjalankan pengujian otomatis. “Pembuat kasus uji” mungkin sesuatu yang ingin Anda gunakan sebelum melakukan deployment pagar pembatas dalam produksi. Belum ada pembuat kasus uji asli. Untuk pemantauan lalu lintas produksi yang berkelanjutan, pagar pembatas menyediakan log terperinci dari semua pelanggaran untuk setiap input dan output, sehingga pelanggan dapat memantau secara terperinci setiap input yang masuk dan keluar dari aplikasi gen AI mereka. Log ini dapat disimpan di CloudWatch atau S3 dan dapat digunakan untuk membuat dasbor khusus berdasarkan kebutuhan pelanggan.

Menggunakan Kebijakan Penalaran Otomatis, pemeriksaan Penalaran Otomatis dapat menunjukkan klaim yang akurat dan ketidakakuratan faktual dalam konten. Untuk pernyataan yang akurat dan tidak akurat, pemeriksaan Penalaran Otomatis memberikan penjelasan logis yang dapat diverifikasi untuk output-nya. Pemeriksaan Penalaran Otomatis memerlukan keterlibatan di muka dari ahli domain untuk membuat Kebijakan dan hanya mendukung konten yang menentukan aturan. Di sisi lain, pemeriksaan landasan kontekstual di Pagar Pembatas Bedrock menggunakan teknik machine learning untuk memastikan konten yang dihasilkan mengikuti dokumen yang disediakan sebagai input dari basis pengetahuan, tanpa memerlukan pekerjaan tambahan di muka. Pemeriksaan Penalaran Otomatis dan Landasan Kontekstual memberikan umpan baliknya dalam output API Pagar Pembatas. Anda dapat menggunakan umpan balik untuk memperbarui konten yang dihasilkan.

Amazon Bedrock Marketplace memberi pelanggan lebih dari 100 model populer, baru, atau khusus, selain dari FM nirserver Amazon Bedrock sehingga pelanggan dapat membangun dan mengoptimalkan aplikasi AI generatif mereka dengan mudah. Dalam konsol Amazon Bedrock, pelanggan akan dapat menemukan katalog luas FM yang ditawarkan oleh berbagai penyedia. Anda kemudian dapat men-deploy model tersebut ke titik akhir yang terkelola penuh, tempat Anda dapat memilih jumlah instans dan tipe instans yang diinginkan. Setelah di-deploy, model dapat diakses melalui API Invokasi Amazon Bedrock. Untuk model teks ke teks yang disempurnakan untuk percakapan, pelanggan dapat menggunakan Converse API baru kami, sebuah API terpadu yang mengabstraksi perbedaan FM dan memungkinkan penggantian model hanya dengan perubahan satu parameter. Jika berlaku, model-model tersebut dapat digunakan dengan Playground, Agen, Basis Pengetahuan, Manajemen Prompt, Alur Prompt, Pagar Pembatas, dan Evaluasi Model Amazon Bedrock.

Anda harus menggunakan Amazon Bedrock Marketplace untuk mendapatkan keuntungan dari model-model kuat yang muncul dengan cepat seiring dengan inovasi industri AI generatif. Anda dapat dengan cepat mengakses dan men-deploy model populer, baru, dan khusus yang disesuaikan dengan kebutuhan unik Anda, yang dapat mempercepat waktu masuk pasar, meningkatkan akurasi, atau mengurangi biaya alur kerja AI generatif. Anda dapat mengakses model-model tersebut melalui API terpadu Bedrock dan, jika kompatibel dengan Converse API dari Bedrock, menggunakannya secara native dengan alat Bedrock seperti Agen, Basis Pengetahuan, dan Pagar Pembatas. Anda dapat dengan mudah menghubungkan Amazon Bedrock Marketplace ke model nirserver Amazon Bedrock, semuanya dari satu tempat.
 

Cukup navigasikan ke halaman Amazon Bedrock Model Catalgo di konsol Bedrock tempat Anda dapat mencari daftar model Amazon Bedrock Marketplace bersama dengan model Amazon Bedrock nirserver. Setelah memilih model Amazon Bedrock Marketplace yang ingin digunakan, Anda dapat berlangganan model melalui halaman Detail Model, dengan menerima EULA dan harga yang ditetapkan oleh penyedia. Setelah langganan selesai, yang biasanya memerlukan waktu beberapa menit, Anda dapat men-deploy model ke titik akhir SageMaker yang terkelola penuh dengan mengklik Deploy di halaman Detail Model atau menggunakan API. Pada langkah deployment, Anda dapat memilih jumlah instans dan tipe instans yang diinginkan untuk memenuhi beban kerja Anda. Setelah titik akhir diatur, yang biasanya memerlukan waktu 10-15 menit, Anda dapat mulai membuat panggilan inferensi ke titik akhir dan menggunakan model di alat canggih Bedrock, asalkan model tersebut kompatibel dengan Converse API dari Bedrock.

Model dengan arsitektur yang didukung oleh Impor Model Kustom (Mistral, Mixtral, Flan, dan Llama2/3/3.1/3.2) dapat disempurnakan di SageMaker dan disediakan di Amazon Bedrock melalui Impor Model Kustom. Model yang tidak didukung oleh Impor Model Kustom masih dapat disempurnakan di SageMaker. Namun, versi yang disempurnakan dari model ini tidak dapat digunakan di Amazon Bedrock.

Apa itu Otomatisasi Data Bedrock? Otomatisasi Data Amazon Bedrock adalah kemampuan Bedrock yang didukung GenAI yang menyederhanakan pengembangan aplikasi AI generatif dan mengotomatiskan alur kerja yang melibatkan dokumen, gambar, audio, dan video. Dengan memanfaatkan Otomatisasi Data Bedrock, developer dapat mengurangi waktu dan upaya pengembangan, sehingga memudahkan dalam membangun pemrosesan dokumen cerdas, analisis media, dan solusi otomatisasi berbasis data multimodal lainnya. Otomatisasi Data Bedrock menawarkan akurasi terdepan di industri dengan biaya yang lebih rendah daripada solusi alternatif, bersama dengan fitur-fitur seperti landasan visual dengan skor kepercayaan untuk kejelasan dan mitigasi halusinasi bawaan. Layanan ini memastikan wawasan yang dapat dipercaya dan akurat dari sumber data multimodal yang tidak terstruktur. Pelanggan dapat dengan mudah menyesuaikan output Otomatisasi Data Bedrock untuk menghasilkan wawasan spesifik dalam format yang konsisten yang dibutuhkan oleh sistem dan aplikasi mereka. Developer memulai dengan Otomatisasi Data Bedrock di konsol Amazon Bedrock, tempat mereka dapat mengonfigurasi dan menyesuaikan output menggunakan data sampel. Mereka kemudian dapat mengintegrasikan API inferensi multimodal terpadu Otomatisasi Data Bedrock ke dalam aplikasi mereka untuk memproses konten yang tidak terstruktur pada skala produksi dengan akurasi dan konsistensi yang tinggi. Otomatisasi Data Bedrock juga terintegrasi dengan Basis Pengetahuan Bedrock, sehingga memudahkan developer untuk menghasilkan informasi yang bermakna dari konten multimodal tidak terstruktur mereka agar dapat memberikan respons yang lebih relevan untuk retrieval augmented generation (RAG).

Otomatisasi Data Bedrock memudahkan transformasi data korporasi yang tidak terstruktur menjadi format output khusus aplikasi yang dapat digunakan oleh aplikasi AI gen dan alur kerja ETL. Pelanggan tidak perlu lagi menghabiskan waktu dan upaya dalam mengelola dan mengorkestrasi banyak model, prompt rekayasa, menerapkan pagar pembatas keselamatan, atau menyatukan output untuk menyelaraskannya dengan persyaratan sistem downstream. Otomatisasi Data Bedrock menghadirkan pemrosesan data tidak terstruktur yang sangat akurat, konsisten, dan terjangkau. Otomatisasi Data Bedrock dibangun dengan mempertimbangkan AI yang bertanggung jawab, yang memberi pelanggan fitur-fitur utama seperti landasan visual dan skor kepercayaan, yang memudahkan untuk mengintegrasikan Otomatisasi Data Bedrock dalam alur kerja korporasi.

Kemampuan Otomatisasi Data Bedrock tersedia melalui API terkelola penuh yang dapat dengan mudah diintegrasikan oleh pelanggan ke dalam aplikasi mereka. Pelanggan tidak perlu khawatir tentang penskalaan sumber daya komputasi yang mendasarinya, pemilihan dan orkestrasi model, atau manajemen prompt untuk FM.

Cetak biru adalah fitur yang digunakan pelanggan untuk menentukan persyaratan output mereka menggunakan bahasa alami atau editor skema. Fitur tersebut termasuk daftar bidang yang ingin mereka ekstrak, format data untuk setiap bidang, dan instruksi bahasa alami untuk setiap bidang. Misalnya, developer dapat mengetik, "Buat cetak biru untuk faktur dengan bidang berikut: tax, dueDate, ReceiptDate" atau "Pastikan total faktur sesuai dengan jumlah item baris". Mereka mereferensikan cetak biru sebagai bagian dari panggilan API inferensi sehingga sistem menampilkan informasi dalam format yang dijelaskan dalam cetak biru.

Dokumen

Otomatisasi Data Bedrock mendukung output standar dan output kustom untuk dokumen.

• Output standar akan memberikan ekstraksi teks dari dokumen dan output generatif seperti ringkasan dokumen serta keterangan untuk tabel/gambar/diagram. Output dikembalikan dalam urutan baca dan secara opsional dapat dikelompokkan berdasarkan elemen tata letak, yang akan mencakup header/footer/judul/tabel/gambar/diagram. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.
• Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstrak dan format data untuk setiap bidang.

Otomatisasi Data Bedrock akan mendukung PDF, PNG, JPG, TIFF, maksimum 100 halaman, dan ukuran file maksimum 500 MB per permintaan API. BDA akan mendukung konkurensi maksimum sebanyak 5 paket dokumen dan throughput 1 halaman per detik per pelanggan.

Citra
Otomatisasi Data Bedrock mendukung output standar maupun output kustom untuk gambar.

• Output standar akan memberikan ringkasan, konten eksplisit yang terdeteksi, teks yang terdeteksi, dan taksonomi Iklan: IAB untuk gambar. Output standar akan digunakan untuk integrasi BDA dengan Basis Pengetahuan Bedrock.
• Output Kustom memanfaatkan cetak biru, yang menentukan persyaratan output menggunakan bahasa alami atau editor skema. Cetak biru mencakup daftar bidang yang akan diekstrak dan format data untuk setiap bidang.

Otomatisasi Data Bedrock akan mendukung JPG, PNG, resolusi maksimum 4K, dan ukuran file maksimum 5 MB per permintaan API. BDA akan mendukung konkurensi maksimum sebanyak 100 gambar dengan kecepatan 1 gambar per detik per pelanggan.

Video

Otomatisasi Data Bedrock mendukung kedua output standar untuk video.

• Output standar akan memberikan ringkasan video lengkap, segmentasi adegan, ringkasan adegan, transkripsi audio lengkap, identifikasi pembicara, konten eksplisit yang terdeteksi, teks yang terdeteksi, dan taksonomi Biro Periklanan Interaktif (IAB) untuk video. Ringkasan video lengkap dioptimalkan untuk konten dengan dialog deskriptif seperti gambaran umum produk, pelatihan, siaran berita, dan dokumenter.

Otomatisasi Data Bedrock akan mendukung MOV dan MKV dengan H.264, durasi video maksimum 4 jam, dan ukuran file maksimum 2 GB per permintaan API. BDA akan mendukung konkurensi maksimum sebanyak 25 video dengan kecepatan 20 menit video per menit per pelanggan.

Audio

Otomatisasi Data Bedrock mendukung kedua output standar untuk audio.

• Output standar akan memberikan ringkasan, transkripsi lengkap, dan konten eksplisit yang terdeteksi untuk file audio.

Otomatisasi Data Bedrock akan mendukung FLAC, M4A, MP3, MP4, Ogg, WebM, WAV, durasi audio maksimum 4 jam, dan ukuran file maksimum 2 GB per permintaan API. Output standar akan memberikan ringkasan, transkripsi lengkap, dan konten eksplisit yang terdeteksi untuk file audio.

Otomatisasi Data Amazon Bedrock saat ini tersedia di Wilayah AS Barat (Oregon).

IDE Amazon Bedrock (pratinjau) adalah lingkungan kolaboratif terkelola yang terintegrasi dalam Amazon SageMaker Unified Studio (pratinjau) yang memungkinkan developer untuk dengan cepat membangun dan mengiterasi aplikasi AI generatif menggunakan model fondasi (FM) beperforma tinggi. IDE ini menyediakan antarmuka intuitif untuk bereksperimen dengan model-model ini, berkolaborasi dalam proyek, dan menyederhanakan akses ke berbagai alat serta sumber daya Bedrock untuk membangun aplikasi AI generatif dengan cepat.

Untuk mengakses IDE Amazon Bedrock dalam Amazon SageMaker Unified Studio, developer dan admin mereka harus mengikuti langkah-langkah berikut:

1. Buat domain baru di Amazon SageMaker Unified Studio.
2. Aktifkan profil proyek pengembangan aplikasi Gen AI.
3. Akses IDE Amazon Bedrock menggunakan kredensial masuk tunggal (SSO) perusahaan mereka dalam Amazon SageMaker Unified Studio.

IDE Amazon Bedrock, yang sekarang terintegrasi ke dalam Amazon SageMaker Unified Studio, dibangun di atas Studio Amazon Bedrock (pratinjau) dengan berbagai peningkatan kunci. IDE ini menyediakan akses ke model AI canggih dari perusahaan terkemuka, alat untuk membuat dan menguji prompt AI, serta integrasi tanpa batas dengan Basis Pengetahuan Bedrock, Pagar Pembatas, Alur, dan Agen. Tim dapat berkolaborasi di sebuah ruang kerja bersama untuk membangun aplikasi AI kustom yang disesuaikan dengan kebutuhan mereka.

Fitur-fitur baru di IDE Bedrock mencakup hub model untuk perbandingan model AI bersebelahan, playground yang diperluas yang mendukung interaksi obrolan, gambar, dan video, serta peningkatan pembuatan Basis Pengetahuan dengan perayapan web. IDE ini memperkenalkan pembuatan Agen untuk aplikasi obrolan yang lebih kompleks dan menyederhanakan berbagi aplikasi serta prompt AI di dalam organisasi. IDE Bedrock juga menawarkan akses ke kode aplikasi yang mendasarinya dan kemampuan untuk mengekspor aplikasi obrolan sebagai templat CloudFormation. Dengan mengelola detail infrastruktur AWS, IDE ini memungkinkan pengguna dari berbagai tingkat keahlian untuk membuat aplikasi AI dengan lebih efisien, sehingga menjadikannya alat yang lebih serbaguna dan kuat daripada pendahulunya.

IDE Amazon Bedrock memungkinkan kolaborasi di antara tim dengan menyediakan lingkungan pengembangan yang terkelola dalam Amazon SageMaker Unified Studio. Tim dapat membuat proyek, mengundang kolega, dan secara kolaboratif membangun aplikasi AI generatif bersama. Mereka dapat menerima umpan balik cepat tentang prototipe dan berbagi aplikasi dengan siapa pun di Amazon SageMaker Unified Studio atau dengan pengguna tertentu di domain. Kontrol akses yang kuat dan fitur tata kelola hanya mengotorisasi anggota yang berwenang untuk mengakses sumber daya proyek seperti data atau aplikasi AI generatif, sehingga mendukung privasi dan kepatuhan data, serta dengan demikian mendorong kolaborasi dan berbagi lintas fungsi yang aman. Selain itu, aplikasi AI generatif dapat dibagikan dari builder ke pengguna tertentu di domain Amazon SageMaker Unified Studio, atau dengan individu tertentu, sehingga memungkinkan hak akses, kontrol, dan tata kelola aset yang tepat.

Integrasi IDE Amazon Bedrock ke Amazon SageMaker Unified Studio mewakili langkah AWS untuk menyederhanakan dan merampingkan pengembangan AI generatif. Integrasi ini menciptakan lingkungan komprehensif yang memecah hambatan antara data, alat, dan developer, yang memungkinkan pembangunan dan deployment aplikasi AI generatif secara efisien.

Lingkungan terpadu memungkinkan kolaborasi yang lancar di antara para developer dari berbagai tingkat keterampilan di sepanjang siklus pengembangan - mulai dari persiapan data hingga pengembangan model dan pembangunan aplikasi AI generatif. Tim dapat mengakses alat terintegrasi untuk pembuatan basis pengetahuan, penyempurnaan model, dan pengembangan aplikasi AI generatif beperforma tinggi, semuanya dalam kerangka kerja yang aman dan terkelola.

Dalam Amazon SageMaker Unified Studio, developer dapat dengan mudah beralih di antara alat yang berbeda berdasarkan kebutuhan mereka dengan menggabungkan kemampuan analitik, machine learning, dan AI generatif dalam satu ruang kerja. Pendekatan konsolidasi ini mengurangi kompleksitas pengembangan dan mempercepat waktu pencapaian nilai untuk proyek AI generatif.

Dengan membawa IDE Amazon Bedrock ke dalam Amazon SageMaker Unified Studio, AWS mengurangi hambatan masuk untuk pengembangan AI generatif sekaligus mempertahankan keamanan dan tata kelola kelas korporasi, yang pada akhirnya memungkinkan organisasi untuk lebih cepat dan lebih efektif dengan AI generatif.
 

Saat ini, Studio Amazon Bedrock tersedia sebagai fitur pratinjau yang diakses melalui Konsol Manajemen AWS. Sekarang, Studio Amazon Bedrock telah diganti namanya menjadi IDE Amazon Bedrock dan dalam pratinjau di dalam Amazon SageMaker Unified Studio serta menyediakan lingkungan khusus untuk membangun, mengevaluasi, dan berbagi aplikasi AI generatif dengan kemampuan lanjutan seperti Basis Pengetahuan, Pagar Pembatas, Agen, Alur, dan alat rekayasa perintah. Integrasi ke Amazon SageMaker Unified Studio ini menawarkan pengalaman pengembangan yang lebih kaya fitur, terkelola, dan kolaboratif dibandingkan dengan versi pratinjau sebelumnya di Konsol Manajemen AWS.

Semua bagian dari Studio Amazon Bedrock adalah bagian dari Amazon SageMaker Unified Studio di bawah IDE Amazon Bedrock. Generative AI Playground, yang tersedia di bagian 'Temukan' Amazon SageMaker Unified Studio, memungkinkan Anda bereksperimen dengan model fondasi (FM) dan aplikasi AI generatif apa pun yang dibagikan oleh rekan kerja Anda melalui antarmuka percakapan. IDE Amazon Bedrock, lingkungan aplikasi AI generatif penuh, terletak di bagian 'Bangun' dari Amazon SageMaker Unified Studio dan dapat diakses melalui proyek.

Terkait waktu menggunakan setiap penawaran:

• Studio Amazon Bedrock yang ada di Konsol Manajemen AWS: Anda dapat terus menggunakan Studio Amazon Bedrock yang sudah ada di Konsol AWS untuk proyek yang sedang berlangsung hingga 28/02/2025. Setelah itu, dukungan akan berakhir. Anda harus mengatur domain Amazon SageMaker baru yang menyertakan IDE Amazon Bedrock untuk mengaksesnya dalam lingkungan yang dikelola oleh Amazon SageMaker.
• Generative AI Playground di Amazon SageMaker Unified Studio (bagian Temukan): Gunakan playground obrolan, gambar, dan video untuk eksperimen awal dengan FM, yang menguji berbagai model serta konfigurasi sebelum membangun aplikasi di IDE Amazon Bedrock.
• IDE Amazon Bedrock di Amazon SageMaker Unified Studio (bagian Bangun): Gunakan IDE Amazon Bedrock, yang tersedia di bagian Bangun, untuk memanfaatkan kemampuan tingkat lanjut agar dapat membangun aplikasi AI generatif siap produksi. Kemampuan lanjutan ini mencakup tata kelola yang terintegrasi, kolaborasi yang aman, Basis Pengetahuan, Agen, Alur, Pagar Pembatas, dan alat rekayasa perintah.

IDE Amazon Bedrock adalah lingkungan kolaboratif terkelola yang berfokus pada membangun aplikasi AI generatif menggunakan model fondasi (FM). Terintegrasi dalam Amazon SageMaker Unified Studio, IDE Amazon Bedrock menyediakan antarmuka intuitif untuk mengakses dan bereksperimen dengan FM beperforma tinggi milik Bedrock, serta alat untuk kustomisasi seperti Basis Pengetahuan, Pagar Pembatas, Agen, dan Alur.

Dalam Amazon SageMaker Unified Studio, IDE Amazon Bedrock terintegrasi secara lancar dengan kemampuan analitik, machine learning (ML), dan AI generatif Amazon SageMaker. Pengguna dapat memanfaatkan layanan analitik untuk menghasilkan wawasan dari data mereka, membangun model ML menggunakan alat pelatihan dan deployment Amazon SageMaker AI, dan menggabungkan komponen ini dengan aplikasi AI generatif yang dibuat di IDE Amazon Bedrock. Lingkungan terpadu ini memungkinkan pengembangan aplikasi berbasis data secara menyeluruh yang menggabungkan kemampuan analitik, ML, dan AI generatif. Pengguna dapat membangun dan men-deploy model ML dan AI generatif, membuat serta berbagi aplikasi AI generatif yang disesuaikan dengan data dan kustomisasi eksklusif, serta menyederhanakan kolaborasi – semuanya dalam lingkungan Amazon SageMaker Unified Studio terkelola yang sama
 

Pengguna Studio Amazon Bedrock yang sudah ada yang telah mengakses layanan tersebut melalui Konsol Manajemen AWS tidak dapat secara langsung memigrasikan proyek mereka ke Amazon SageMaker Unified Studio. Untuk mengakses IDE Amazon Bedrock dalam lingkungan yang diatur Amazon SageMaker, developer dan admin mereka perlu membuat domain baru di Amazon SageMaker Unified Studio, mengaktifkan profil proyek pengembangan aplikasi Gen AI, dan mengakses IDE Amazon Bedrock menggunakan kredensial masuk tunggal (SSO) perusahaan mereka dalam Amazon SageMaker Unified Studio.

Namun, pengguna yang sudah ada dapat terus mengakses Studio Amazon Bedrock (Pratinjau) melalui Konsol Manajemen AWS hingga 28/02/2025. Setelah tanggal tersebut, mereka perlu beralih ke pengalaman IDE Amazon Bedrock yang baru dalam Amazon SageMaker Unified Studio.

IDE Amazon Bedrock dalam Amazon SageMaker Unified Studio terikat oleh batas akun dan kuota yang ditentukan untuk platform dan sumber daya Amazon Bedrock yang mendasarinya, seperti model fondasi (FM), Basis Pengetahuan, Agen, Alur, dan Pagar Pembatas.

IDE Amazon Bedrock hadir tanpa biaya tambahan, dan pengguna hanya membayar untuk penggunaan sumber daya yang mendasari yang diperlukan oleh aplikasi AI generatif yang mereka buat. Misalnya, pelanggan hanya akan membayar untuk model terkait, Pagar Pembatas, dan Basis Pengetahuan yang telah mereka gunakan pada aplikasi AI generatifnya. Untuk informasi selengkapnya, kunjungi halaman harga Amazon Bedrock.

IDE Amazon Bedrock dalam Amazon SageMaker Unified Studio terikat oleh SLA yang sama dengan Amazon Bedrock. Untuk informasi selengkapnya, kunjungi halaman Perjanjian Tingkat Layanan Amazon Bedrock.

Untuk memfasilitasi pengalaman orientasi yang lancar dengan IDE Amazon Bedrock di Amazon SageMaker Unified Studio, Anda dapat menemukan dokumentasi yang mendetail di Panduan Pengguna IDE Amazon Bedrock. Jika Anda memiliki pertanyaan tambahan atau memerlukan bantuan lebih lanjut, jangan ragu untuk menghubungi tim akun AWS.