RAG Bikin AI Tidak Ngawur Jawab Pakai Datamu

Masalah terbesar AI seperti ChatGPT untuk kebutuhan bisnis: dia tidak tahu data pribadimu. Tanya "berapa harga paket premium kita?" dan dia akan mengarang jawaban yang terdengar meyakinkan. Solusi paling populer untuk ini namanya RAG, singkatan dari Retrieval Augmented Generation.

Idenya sederhana

Bayangkan kamu punya asisten magang yang super cepat membaca tapi kadang suka mengarang. RAG itu seperti memberinya tumpukan dokumen perusahaan dan aturan: "jawab HANYA berdasarkan dokumen ini".

Alurnya begini. Kamu punya koleksi dokumen (FAQ, katalog produk, SOP). Saat user bertanya, sistem pertama-tama MENCARI potongan dokumen yang paling relevan dengan pertanyaan (retrieval), lalu MEMBERIKAN potongan itu ke AI bersama pertanyaannya, dan AI menyusun jawaban berdasarkan potongan tersebut (generation).

Hasilnya: jawaban yang akurat, sesuai datamu, dan bisa ditelusuri sumbernya. Kalau dokumen tidak memuat jawabannya, AI bisa jujur bilang tidak tahu, alih-alih mengarang.

Bagaimana mesin pencarinya bekerja?

Kunci RAG adalah pencarian berbasis makna, bukan kata kunci. Ini memakai sesuatu bernama embedding: setiap potongan teks diubah menjadi deretan angka (vektor) yang menangkap maknanya. Pertanyaan user juga diubah jadi vektor yang sama, lalu sistem mencari vektor dokumen yang paling "dekat".

Contoh: user bertanya "gimana cara refund?" dan dokumenmu menulis "kebijakan pengembalian dana". Pencarian kata kunci biasa tidak akan menemukan kecocokan, tapi pencarian embedding tahu bahwa "refund" dan "pengembalian dana" maknanya sama.

Vektor-vektor ini disimpan di database khusus bernama vector database. Pilihan populer yang gratis antara lain Chroma dan Qdrant, keduanya bisa jalan di laptop biasa untuk skala kecil.

RAG vs fine-tuning, pilih mana?

Banyak pemula bingung membedakan RAG dengan fine-tuning (melatih ulang model). Sederhananya:

Pakai RAG kalau datamu sering berubah (harga, stok, FAQ), kamu butuh sumber jawaban yang jelas, atau budget terbatas. Update-nya semudah menambah dokumen baru, tanpa melatih ulang apa pun.

Pakai fine-tuning kalau kamu mau mengubah perilaku atau gaya bahasa model secara mendalam, misalnya AI yang selalu bicara dengan persona brand tertentu. Ini lebih mahal dan lebih rumit.

Untuk kebanyakan kasus praktis seperti chatbot customer service atau asisten dokumen internal, RAG adalah titik mulai yang tepat.

Contoh arsitektur minimal

Sistem RAG sederhana terdiri dari tiga langkah saat setup: pecah dokumen jadi potongan kecil (chunking), ubah tiap potongan jadi embedding, simpan di vector database. Saat ada pertanyaan: ubah pertanyaan jadi embedding, ambil 3-5 potongan paling mirip, gabungkan ke prompt, kirim ke LLM.

# Gambaran alur (pseudocode)
potongan = cari_mirip(embedding(pertanyaan), database, top_k=5)
konteks = "\n".join(potongan)
prompt = f"Berdasarkan dokumen berikut:\n{konteks}\n\nJawab: {pertanyaan}"
jawaban = llm.generate(prompt)

Tantangan RAG di dunia nyata

RAG terdengar sederhana, tapi implementasi nyatanya punya beberapa jebakan. Yang pertama adalah chunking: potongan dokumen yang terlalu besar membuat pencarian tidak presisi, terlalu kecil membuat konteksnya hilang. Ukuran 300 sampai 500 kata per potongan adalah titik mulai yang umum, tapi angka idealnya tergantung dokumenmu.

Kedua, kualitas embedding menentukan segalanya. Model embedding yang lemah akan mengembalikan dokumen yang tidak relevan, dan jawaban AI pun ikut melenceng. Untungnya model embedding open source saat ini sudah sangat bagus untuk Bahasa Indonesia juga.

Ketiga, jangan lupakan evaluasi. Buat daftar 20 sampai 30 pertanyaan contoh beserta jawaban yang benar menurut dokumenmu, lalu uji sistem RAG-mu secara berkala. Tanpa ini, kamu tidak akan tahu apakah perubahan konfigurasi membuat sistem lebih baik atau justru lebih buruk.

RAG bukan proyek sekali jadi, melainkan sistem yang dirawat. Tapi kabar baiknya, tiap iterasi perbaikannya konkret dan terukur.

Penutup

RAG adalah teknik yang mengubah AI dari "penjawab umum yang kadang ngawur" menjadi "asisten yang paham datamu". Konsepnya bisa dijelaskan dalam lima menit, tapi dampaknya besar untuk aplikasi dunia nyata. Kalau kamu berencana bikin chatbot untuk bisnis atau organisasi, mulai dari sini.