AI That Knows Your Company: Knowledge-Base Chatbots and RAG, Explained

ChatGPT tahu banyak hal. Ia bisa menjelaskan teori relativitas dan resep seblak. Tapi ia tidak tahu kebijakan cuti di kantormu, spesifikasi produk terbarumu, atau harga grosir yang berlaku bulan ini. Kalau dipaksa menjawab, ia bisa mengarang dengan sangat percaya diri. RAG adalah cara paling praktis untuk memperbaikinya.

RAG AI adalah…

RAG, singkatan dari retrieval-augmented generation, adalah teknik yang membuat AI mencari dulu di dokumenmu sebelum menjawab. Analogi paling mudah: ujian open book. Model AI tidak perlu menghafal semua dokumen perusahaan. Ia cukup tahu cara menemukan halaman yang tepat, membacanya, lalu menyusun jawaban dari sana, lengkap dengan sumbernya.

Cara kerjanya dalam lima langkah

1. Kumpulkan dokumen: SOP, katalog, FAQ, kebijakan, kontrak standar, materi pelatihan.
2. Potong jadi bagian kecil yang masing-masing masuk akal dibaca sendiri, misalnya per subbab.
3. Ubah jadi embedding, yaitu representasi angka dari makna setiap potongan, lalu simpan di database vektor. Inilah yang membuat pencarian memahami makna, bukan sekadar mencocokkan kata. Pertanyaan “boleh bawa anjing?” bisa menemukan dokumen yang menulis “kebijakan hewan peliharaan”.
4. Cari potongan yang relevan setiap kali ada pertanyaan.
5. Susun jawaban dari potongan itu saja, dengan instruksi tegas: kalau tidak ada di dokumen, katakan tidak tahu.

Contoh pemakaian

• Asisten SOP dan HR: karyawan bertanya soal cuti, klaim, atau prosedur, dan mendapat jawaban dengan tautan ke dokumen aslinya.
• Asisten sales: spesifikasi produk, perbandingan tipe, dan jawaban untuk keberatan yang sering muncul, dalam hitungan detik saat sedang bicara dengan klien.
• Layanan pelanggan: chatbot website atau WhatsApp yang menjawab dari FAQ dan kebijakan resmi, bukan dari tebakan.
• Kampus dan sekolah: tanya-jawab dari buku panduan akademik dan modul kuliah.
• Tim legal dan pengadaan: mencari klausul di tumpukan kontrak, dengan catatan bahwa keputusan tetap di tangan ahlinya.

Kualitas jawaban ditentukan dokumennya

RAG tidak menyulap dokumen yang berantakan jadi jawaban yang rapi. Sebelum membangun, lakukan bersih-bersih kecil:

• Buang versi lama. Tiga versi daftar harga berarti tiga kemungkinan jawaban.
• Tulis ulang dokumen yang hanya bisa dipahami orang lama di kantor.
• Tandai pemilik setiap dokumen, supaya jelas siapa yang memperbarui.
• Ubah tabel penting yang tersimpan sebagai gambar menjadi teks.

Mengukur apakah RAG-nya bekerja

Siapkan lima puluh pertanyaan nyata dari tim atau pelanggan, lengkap dengan jawaban yang benar. Jalankan sebelum rilis dan setiap kali dokumen atau model diganti. Nilai tiga hal: apakah dokumen yang tepat ditemukan, apakah jawabannya setia pada dokumen, dan apakah AI berani berkata “tidak tahu” saat memang tidak ada jawabannya. Hal terakhir itu terdengar sepele, padahal paling menentukan kepercayaan pengguna.

Keamanan: tidak semua orang boleh tahu semua hal

Dokumen gaji tidak boleh bisa ditanyakan oleh semua karyawan. Sistem RAG yang baik memeriksa hak akses sebelum mencari, sehingga setiap orang hanya mendapat jawaban dari dokumen yang memang boleh ia baca. Bila dokumen berisi data pribadi, potongan di database vektor juga termasuk data pribadi dan tunduk pada UU PDP.

Kapan RAG saja tidak cukup

Pertanyaan seperti “berapa total penjualan cabang Dago bulan lalu?” jawabannya ada di database, bukan di dokumen. Untuk itu AI perlu diberi alat untuk menjalankan kueri, bukan mencari teks. Dan bila jawabannya harus diikuti tindakan, seperti membuat tiket atau mengirim penawaran, kamu sudah masuk wilayah AI agent. Untuk pemakaian di ruang belakang kantor, lihat juga sistem internal berbasis AI.

WHITE membangun chatbot dan asisten internal berbasis RAG, dari bersih-bersih dokumen sampai pengujian jawaban. Lihat jasa pembuatan chatbot AI, gambaran biaya chatbot AI, atau tanya lewat WhatsApp. Semuanya dimulai #withWHITE.

Pertanyaan yang sering diajukan

RAG AI adalah apa?

RAG atau retrieval-augmented generation adalah teknik yang membuat AI mencari informasi di dokumenmu terlebih dahulu, lalu menyusun jawaban dari dokumen tersebut. Hasilnya jawaban yang sesuai data perusahaan dan bisa menyebut sumbernya.

Apa bedanya RAG dengan melatih model AI sendiri?

Melatih atau fine-tuning mengubah perilaku model dan mahal untuk diperbarui. RAG tidak mengubah model; ia memberi model akses ke dokumen terbaru. Untuk menjawab dari data perusahaan yang sering berubah, RAG hampir selalu lebih murah dan lebih mudah dirawat.

Dokumen apa saja yang bisa dipakai untuk RAG?

Hampir semua dokumen berbasis teks: PDF, dokumen Word, halaman web, spreadsheet, dan catatan internal. Dokumen hasil pindaian perlu diubah menjadi teks terlebih dahulu, dan kualitas jawaban sangat bergantung pada kerapian dokumennya.