Couchbase Luncurkan Fitur AI Baru, Biaya Token Bisa Dipangkas hingga 60 Persen

JAKARTA - Couchbase mengumumkan sejumlah pengembangan baru pada AI Data Plane untuk membantu perusahaan menjalankan agen kecerdasan buatan (AI) dengan lebih efisien. Pembaruan ini mencakup integrasi Amazon Bedrock, layanan Agent Memory terkelola, MCP Server terkelola di AWS, serta kemampuan pencarian vektor pada Couchbase Operational Insights.

Rangkaian fitur tersebut dirancang untuk menyatukan kebutuhan data operasional, memori AI, pencarian, dan analitik dalam satu platform terkelola. Pendekatan ini ditujukan untuk menyederhanakan penerapan agen AI sekaligus mengurangi kompleksitas infrastruktur dan biaya operasional perusahaan.

Couchbase menilai infrastruktur data konvensional semakin menghadapi tantangan seiring meningkatnya penggunaan agen AI di lingkungan produksi. Perusahaan membutuhkan akses terhadap data terkini dan tepercaya dalam skala besar, baik di cloud, pusat data privat, maupun perangkat edge, termasuk ketika konektivitas tidak tersedia.

Kebutuhan tersebut muncul karena agen AI memiliki pola penggunaan data yang berbeda dari aplikasi konvensional. Agen dapat menjalankan banyak tugas secara bersamaan dan membutuhkan akses terhadap data operasional maupun riwayat informasi dari berbagai lokasi.

Couchbase mengutip data yang menunjukkan bahwa pada Juni 2026, sebanyak 57,5 persen permintaan web berasal dari aktivitas otomatis, melampaui aktivitas manusia lebih cepat 18 bulan dibandingkan perkiraan industri. Perusahaan juga menyebut agen AI menghasilkan lalu lintas data 450 persen lebih tinggi untuk setiap tugas dibandingkan manusia yang mengerjakan tugas serupa, sementara 83 persen organisasi merasa perlu meningkatkan infrastruktur sebelum menjalankan AI agentik di lingkungan produksi.

Untuk menghadapi kebutuhan tersebut, Couchbase mengandalkan arsitektur terdistribusi dengan pendekatan memory-first dan shared-nothing yang memungkinkan pemrosesan secara paralel. Perusahaan menyatakan desain ini dapat menangani jutaan operasi secara bersamaan dengan latensi rendah, termasuk pemrosesan dalam waktu kurang dari satu milidetik.

Platform Couchbase menggabungkan penyimpanan data, SQL, pencarian teks dan vektor, serta analitik real-time dalam satu kumpulan data berbasis JSON. Integrasi tersebut memungkinkan agen AI mengakses informasi operasional dan historis tanpa harus mengambil data secara terpisah dari berbagai sistem.

Dukungan juga diperluas melalui Couchbase Mobile yang memungkinkan aplikasi berbasis AI berjalan langsung pada perangkat dan lingkungan edge. Basis data serta pencarian vektor dapat digunakan di perangkat, sementara replikasi antarpusat data membantu menjaga sinkronisasi informasi di berbagai wilayah.

Salah satu perusahaan yang telah menggunakan Couchbase untuk kebutuhan operasional berskala besar adalah Mavenir Networks, yang menangani panggilan, pesan, dan data bagi ratusan juta pengguna. Sejak 2017, Mavenir memanfaatkan platform tersebut untuk mengelola profil pelanggan dan status sesi secara real-time, dengan fokus pada ketersediaan layanan yang konsisten.

"Couchbase telah menjadi komponen penting dalam menjaga ketersediaan tinggi solusi layanan suara Mavenir selama bertahun-tahun. Kini, kami mengembangkan layanan suara berbasis AI yang membutuhkan akses cepat ke konteks yang tepercaya. Mavenir membangun lapisan konteks tersebut dengan Couchbase karena rekam jejak kinerjanya yang telah terbukti di lingkungan produksi," ujar Brandon Larson, SVP & General Manager, Cloud, AI & IMS Business Strategy.

Salah satu pembaruan utama adalah integrasi langsung Couchbase Model Service dengan Amazon Bedrock untuk mempermudah akses ke model fondasi AI. Integrasi ini menyediakan akses serverless ke ratusan model dengan skema pembayaran berdasarkan penggunaan token serta mendukung pembuatan embedding melalui koneksi jaringan privat.

Melalui integrasi tersebut, proses inferensi dan pembuatan embedding dapat berjalan berdampingan dengan data tanpa perlu mengelola GPU secara terpisah. Couchbase juga menghadirkan semantic caching, yaitu kemampuan menyimpan dan menggunakan kembali hasil pemrosesan dari pertanyaan yang memiliki kemiripan makna untuk mengurangi pemanggilan model berulang.

Perusahaan menyebut semantic caching melalui integrasi Amazon Bedrock dapat mengurangi pemanggilan model bahasa besar atau large language model (LLM) sebesar 40–60 persen. Pengurangan tersebut berpotensi menekan biaya pemrosesan sekaligus mempercepat respons aplikasi dan agen AI.

Integrasi langsung ini juga membantu perusahaan memilih model yang sesuai untuk kebutuhan setiap tugas tanpa menambah infrastruktur terpisah. Akses terhadap berbagai model melalui tata kelola terpusat memungkinkan pengelolaan biaya dan latensi menjadi lebih efisien.