Modul 9: RAG & AI Agents

Masalah LLM: tak tahu data privat & bisa halusinasi. Solusi RAG (Retrieval-Augmented Generation): saat ditanya, (1) cari potongan dokumen yang relevan, (2) tempelkan ke prompt sebagai konteks, (3) LLM menjawab BERDASARKAN potongan itu. Jawaban jadi bisa dilacak sumbernya.

Pencarian relevan memakai embeddings: teks diubah jadi vektor (mis. 1536 dimensi); teks bermakna serupa → vektor dekat (cosine similarity). Ribuan/milijunan vektor disimpan di vector database (Chroma, FAISS, Qdrant) yang mencari 'terdekat' dalam milidetik.

# pseudocode pipeline RAG
dokumen = potong_per_paragraf(baca_semua_pdf())
vektor = [embed(d) for d in dokumen]
db = VectorDB(); db.insert(dokumen, vektor)

def tanya(pertanyaan):
    konteks = db.cari_terdekat(embed(pertanyaan), k=4)
    prompt = f"Jawab HANYA dari konteks:\n{konteks}\n\nPertanyaan: {pertanyaan}"
    return llm(prompt)

AI agent = LLM dengan ALAT (tools): ia boleh memanggil fungsi (cari_db, jalankan_sql, kirim_email) dalam loop: pikirkan → pilih alat → amati hasil → lanjut sampai selesai. Mulai dari 1-2 tools sederhana; agent kompleks tanpa batas justru tak terkendali.