Bagian 13–19
Bagian 13–19 dari 71 bagian · Belajar 1
13.RAG vs Fine-tuning vs Long Context vs Tools
| Kebutuhan | Pendekatan yang perlu dipertimbangkan |
|---|---|
| Fakta/dokumen berubah sering | RAG / pengambilan |
| Perlu gaya/format tertentu | Prompt atau fine-tuning |
| Perlu perilaku spesifik berulang | Fine-tuning / prujukan optimization |
| Perlu data real-time | Tool/API |
| Perlu kalkulasi deterministik | Calculator/code alat |
| Dataset kecil dan konteks cukup | Long-konteks prompting dapat diuji |
| Perlu aksi ke sistem eksternal | Tool/pemanggilan fungsi / MCP |
| Perlu hubungan entitas kompleks | pengetahuan graph / GraphRAG |
Tidak ada threshold token universal yang menentukan apakah RAG wajib. Anthropic pernah menunjukkan bahwa pada pengetahuan base di bawah 200.000 token (~500 halaman dalam eksperimen mereka), memasukkan seluruh pengetahuan base ke prompt dapat menjadi alternatif; keputusan produksi tetap perlu diukur pada model, data, biaya, dan latensi yang sebenarnya.
Rujukan: https://www.anthropic.com/engineering/contextual-retrieval
14.Penggunaan alat / Pemanggilan fungsi
Penggunaan alat berarti model dapat memilih fungsi yang dieksekusi oleh sistem di luar model.
Contoh:
User ↓ LLM ↓ Tool call: get_customer_status(customer_id) ↓ Application executes tool ↓ Tool result ↓ LLM ↓ Final response
Tool dapat berupa:
- REST API;
- database kueri;
- calculator;
- berkasistem;
- pencarian web;
- eksekusi kode;
- ticketing sistem;
- CRM;
- pemantauan API;
- cloud API.
Rujukan: OpenAI API text/alat dokumenation dan Anthropic agen alating.
15.Workflow vs Agen
Anthropic membedakan alur kerja dan agen sebagai berikut secara operasional:
| Workflow | Agen | |
|---|---|---|
| Kontrol alur | Ditentukan kode | Lebih banyak diarahkan model |
| Prediktabilitas | Lebih tinggi | Lebih rendah |
| Fleksibilitas | Terbatas pada jalur yang dirancang | Lebih tinggi |
| debugging | Relatif lebih sederhana | Lebih kompleks |
| Cost/latensi | Cenderung lebih terkontrol | Dapat meningkat karena loop/penggunaan alat |
Anthropic menyarankan memulai dari solusi paling sederhana yang memenuhi kebutuhan sebelum menambah kompleksitas agenic.
Rujukan: https://www.anthropic.com/engineering/building-effective-agents
16.Pola alur kerja AI
16.1 Prompt chaining
keluaran langkah pertama menjadi masukan langkah berikutnya.
Input → Extract → Transform → Validate → Final
16.2 Routing
Classifier/router menentukan jalur yang sesuai.
┌→ Billing Agen
User → Router ├→ Technical Agen
└→ General Agen16.3 Parallelization
Beberapa model call dijalankan paralel lalu digabungkan.
16.4 Orchestrator-workers
LLM pusat membagi pekerjaan menjadi subtugas yang dikerjakan worker lalu hasilnya disintesis. Anthropic mendokumentasikan pola ini sebagai salah satu alur kerja untuk masalah kompleks yang jumlah subtugas-nya tidak selalu bisa diprediksi sebelumnya.
16.5 Evaluator-optimizer
Satu model menghasilkan keluaran, model lain mengevaluasi dan memberi feedback, lalu keluaran diperbaiki secara iteratif. Cocok ketika kriteria evaluasi cukup jelas dan refinement memang memberikan nilai.
Rujukan: https://www.anthropic.com/engineering/building-effective-agents
17.AI Agen
Definisi praktis yang sering dipakai dalam rekayasa modern: LLM yang secara relatif otonom menggunakan alat dalam loop untuk mencapai tujuan. Definisi industri tidak selalu identik, sehingga penting melihat implementasi konkret.
17.1 Agen loop
Goal ↓ Observe context ↓ Plan / decide ↓ Select tool ↓ Execute ↓ Observe result ↓ Evaluate progress ├── done → final └── not done → continue loop
17.2 Komponen agen
Agen ├── Model ├── Instructions ├── Tools ├── Tool schemas ├── Memory / state ├── Retrieval ├── Planner / perutean logic ├── Guardrails ├── Permissions ├── Evals └── Observability
17.3 Agen tidak sama dengan alur kerja
Workflow dapat memanggil beberapa LLM tetapi tetap memiliki jalur yang sudah dirancang. Agen memberi model lebih banyak keleluasaan menentukan urutan aksi.
Rujukan: https://www.anthropic.com/engineering/building-effective-agents
18.Multi-agen
Multi-agen memecah problem menjadi beberapa agen dengan peran berbeda. Contoh pola:
Supervisor, / | \, / | \, Research Coding Review, \ | /, \ | /, Synthesis
Multi-agen dapat membantu ketika problem secara alami dapat dipisah, tetapi setiap tambahan agen menambah communication, coordination, konteks, cost, dan mode kegagalan. Ia bukan pengganti otomatis bagi single-agen alur kerja yang lebih sederhana.
Rujukan: Anthropic rekayasa work on multi-agen and effective agens.
19.Memory
Memory harus dibedakan dari jendela konteks.
19.1 Working memori
State yang aktif dipakai agen saat tugas berlangsung.
19.2 Conversation memori
Riwayat percakapan yang dipertahankan antar turn.
19.3 Long-term memori
Informasi yang disimpan di luar konteks aktif dan diambil kembali saat dibutuhkan.
19.4 Episodic memori
Catatan kejadian/tugas sebelumnya.
19.5 Semantic memori
Fakta/pengetahuan yang telah disimpan dan dapat di-retrieve.
19.6 Procedural memori
Pengetahuan tentang bagaimana melakukan sesuatu, misalnya playbook/prosedur/alat guidance.
Dalam implementasi nyata, “memori” biasanya merupakan gabungan penyimpanan + pengambilan + policy tentang kapan membaca/menulis memori; ia bukan kemampuan model yang berdiri sendiri.