Couchbase Luncurkan Fitur AI Baru, Biaya Token Bisa Dipangkas hingga 60 Persen

JAKARTA - Couchbase mengumumkan sejumlah pengembangan baru pada AI Data Plane untuk membantu perusahaan menjalankan agen kecerdasan buatan (AI) dengan lebih efisien. Pembaruan ini mencakup integrasi Amazon Bedrock, layanan Agent Memory terkelola, MCP Server terkelola di AWS, serta kemampuan pencarian vektor pada Couchbase Operational Insights.

Rangkaian fitur tersebut dirancang untuk menyatukan kebutuhan data operasional, memori AI, pencarian, dan analitik dalam satu platform terkelola. Pendekatan ini ditujukan untuk menyederhanakan penerapan agen AI sekaligus mengurangi kompleksitas infrastruktur dan biaya operasional perusahaan.

Couchbase menilai infrastruktur data konvensional semakin menghadapi tantangan seiring meningkatnya penggunaan agen AI di lingkungan produksi. Perusahaan membutuhkan akses terhadap data terkini dan tepercaya dalam skala besar, baik di cloud, pusat data privat, maupun perangkat edge, termasuk ketika konektivitas tidak tersedia.

Kebutuhan tersebut muncul karena agen AI memiliki pola penggunaan data yang berbeda dari aplikasi konvensional. Agen dapat menjalankan banyak tugas secara bersamaan dan membutuhkan akses terhadap data operasional maupun riwayat informasi dari berbagai lokasi.

Couchbase mengutip data yang menunjukkan bahwa pada Juni 2026, sebanyak 57,5 persen permintaan web berasal dari aktivitas otomatis, melampaui aktivitas manusia lebih cepat 18 bulan dibandingkan perkiraan industri. Perusahaan juga menyebut agen AI menghasilkan lalu lintas data 450 persen lebih tinggi untuk setiap tugas dibandingkan manusia yang mengerjakan tugas serupa, sementara 83 persen organisasi merasa perlu meningkatkan infrastruktur sebelum menjalankan AI agentik di lingkungan produksi.

Untuk menghadapi kebutuhan tersebut, Couchbase mengandalkan arsitektur terdistribusi dengan pendekatan memory-first dan shared-nothing yang memungkinkan pemrosesan secara paralel. Perusahaan menyatakan desain ini dapat menangani jutaan operasi secara bersamaan dengan latensi rendah, termasuk pemrosesan dalam waktu kurang dari satu milidetik.

Platform Couchbase menggabungkan penyimpanan data, SQL, pencarian teks dan vektor, serta analitik real-time dalam satu kumpulan data berbasis JSON. Integrasi tersebut memungkinkan agen AI mengakses informasi operasional dan historis tanpa harus mengambil data secara terpisah dari berbagai sistem.

Dukungan juga diperluas melalui Couchbase Mobile yang memungkinkan aplikasi berbasis AI berjalan langsung pada perangkat dan lingkungan edge. Basis data serta pencarian vektor dapat digunakan di perangkat, sementara replikasi antarpusat data membantu menjaga sinkronisasi informasi di berbagai wilayah.

Salah satu perusahaan yang telah menggunakan Couchbase untuk kebutuhan operasional berskala besar adalah Mavenir Networks, yang menangani panggilan, pesan, dan data bagi ratusan juta pengguna. Sejak 2017, Mavenir memanfaatkan platform tersebut untuk mengelola profil pelanggan dan status sesi secara real-time, dengan fokus pada ketersediaan layanan yang konsisten.

"Couchbase telah menjadi komponen penting dalam menjaga ketersediaan tinggi solusi layanan suara Mavenir selama bertahun-tahun. Kini, kami mengembangkan layanan suara berbasis AI yang membutuhkan akses cepat ke konteks yang tepercaya. Mavenir membangun lapisan konteks tersebut dengan Couchbase karena rekam jejak kinerjanya yang telah terbukti di lingkungan produksi," ujar Brandon Larson, SVP & General Manager, Cloud, AI & IMS Business Strategy.

Salah satu pembaruan utama adalah integrasi langsung Couchbase Model Service dengan Amazon Bedrock untuk mempermudah akses ke model fondasi AI. Integrasi ini menyediakan akses serverless ke ratusan model dengan skema pembayaran berdasarkan penggunaan token serta mendukung pembuatan embedding melalui koneksi jaringan privat.

Melalui integrasi tersebut, proses inferensi dan pembuatan embedding dapat berjalan berdampingan dengan data tanpa perlu mengelola GPU secara terpisah. Couchbase juga menghadirkan semantic caching, yaitu kemampuan menyimpan dan menggunakan kembali hasil pemrosesan dari pertanyaan yang memiliki kemiripan makna untuk mengurangi pemanggilan model berulang.

Perusahaan menyebut semantic caching melalui integrasi Amazon Bedrock dapat mengurangi pemanggilan model bahasa besar atau large language model (LLM) sebesar 40–60 persen. Pengurangan tersebut berpotensi menekan biaya pemrosesan sekaligus mempercepat respons aplikasi dan agen AI.

Integrasi langsung ini juga membantu perusahaan memilih model yang sesuai untuk kebutuhan setiap tugas tanpa menambah infrastruktur terpisah. Akses terhadap berbagai model melalui tata kelola terpusat memungkinkan pengelolaan biaya dan latensi menjadi lebih efisien.

Couchbase turut memperluas layanan Agent Memory dan MCP Server dari model pengelolaan mandiri menjadi layanan cloud terkelola sepenuhnya di AWS. Sebelumnya, kedua kapabilitas tersebut diperkenalkan pada Juni 2026 sebagai layanan self-managed untuk kebutuhan perusahaan.

Managed Agent Memory menyediakan memori persisten dengan latensi rendah agar agen AI dapat menyimpan profil, riwayat percakapan, dan informasi penting untuk digunakan kembali pada sesi berikutnya. Dengan begitu, agen tidak harus membangun kembali konteks dari awal setiap kali berinteraksi.

Sementara itu, Managed MCP Server memberikan akses terkelola dan aman ke data Couchbase melalui standar terbuka tanpa mengharuskan pelanggan membangun maupun memelihara server sendiri. Kedua layanan mendukung kerangka pengembangan AI seperti LangGraph, CrewAI, dan LlamaIndex, sehingga tim dapat berganti kerangka tanpa harus membangun ulang sistem memori.

Berdasarkan pengujian menggunakan standar LoCoMo, Couchbase menyatakan Agent Memory dapat mengurangi penggunaan token sebesar 33–45 persen. Selain itu, pengambilan konteks berbasis vektor dapat menghasilkan prompt hingga 70 persen lebih ringkas dibandingkan pendekatan yang memasukkan seluruh konteks.

Pembaruan berikutnya hadir melalui Couchbase Operational Insights yang kini menggabungkan pencarian vektor dengan analisis data terstruktur. Fitur ini memungkinkan pengembang mencari informasi berdasarkan kemiripan makna sekaligus menganalisis hasilnya melalui satu kueri SQL tanpa memerlukan proses extract, transform, load (ETL) atau sistem sinkronisasi terpisah.

Pencarian vektor membantu menemukan kemiripan, makna, dan pola dari data tidak terstruktur, sedangkan analitik tradisional mengolah informasi berdasarkan perhitungan dan pengelompokan data. Dengan menggabungkan kedua kemampuan tersebut, perusahaan dapat menjalankan analisis yang sebelumnya membutuhkan beberapa sistem berbeda.

Sebagai contoh, perusahaan dapat menganalisis pendapatan berdasarkan wilayah sekaligus menemukan kelompok pelanggan yang menunjukkan ketidakpuasan. Hasil analisis kemudian dapat dikirim kembali ke basis data operasional yang digunakan aplikasi dan agen AI untuk mendukung pengambilan tindakan berdasarkan informasi terbaru.

Couchbase menyebut penyatuan berbagai layanan data dapat membantu perusahaan mengurangi biaya kepemilikan total atau total cost of ownership (TCO). Pelanggan yang menggabungkan layanan data terpisah ke dalam satu platform dilaporkan memperoleh pengurangan TCO lebih dari 50 persen pada lebih dari separuh implementasi mereka.

Melalui AI Data Plane, perusahaan menyatukan kemampuan caching, penyimpanan dokumen, kueri, pencarian, analitik, dan pengelolaan konteks AI menggunakan satu salinan data. Platform ini juga dirancang untuk digunakan di berbagai lingkungan operasional, sekaligus mendukung standar yang telah digunakan tim pengembang, termasuk SQL dan format tabel terbuka.

Barry Morris, Chief Product and Strategy Officer Couchbase, mengatakan perusahaan yang membangun agen AI berskala besar masih kerap menggunakan beberapa sistem terpisah untuk memori, pencarian vektor, data operasional, dan analitik. Kondisi tersebut menimbulkan kebutuhan sinkronisasi tambahan serta perbedaan mekanisme keamanan dan risiko kegagalan pada setiap sistem.

"Pelanggan yang membangun agen AI untuk beroperasi dalam skala besar membutuhkan lapisan data yang terintegrasi. Namun, sebagian besar masih menggunakan tiga atau empat sistem terpisah untuk memori, vektor, data operasional, dan analitik, yang masing-masing memiliki mekanisme sinkronisasi, model keamanan, serta potensi kegagalan tersendiri," ujar Barry Morris.

"Kapabilitas yang kami hadirkan kini menyatukan seluruh komponen tersebut dalam satu platform dengan tata kelola terpusat, yang dapat berjalan secara konsisten di cloud publik, pusat data privat, maupun edge. Pendekatan ini membantu pelanggan Couchbase menekan biaya, meningkatkan produktivitas, dan memperoleh hasil investasi yang lebih cepat dari inisiatif AI mereka," tambahnya.

Couchbase juga menyampaikan bahwa pengguna awal melaporkan waktu pengembangan hingga sistem siap digunakan di lingkungan produksi dapat dipersingkat dari hitungan kuartal menjadi hitungan minggu. Seluruh kapabilitas baru yang diumumkan dalam pembaruan AI Data Plane tersebut telah tersedia secara umum, sementara informasi harga dan paket layanan dapat diakses melalui Couchbase.