Peta Lengkap Konsep AI · Bagian 54–62

9/12

Bagian 54–62

Bagian 54–62 dari 71 bagian · Belajar 1

54.AI + API / integrasi

Tool contract sebaiknya jelas:

{
  "name": "get_order_status",
  "description": "Get current order status by order id",
  "input": {
    "order_id": "string"
  }
}

Tool keluaran juga sebaiknya ringkas dan relevan terhadap tugas. Anthropic mendokumentasikan pentingnya alat descriptions, parameter yang jelas, dan menghindari alat set yang terlalu ambigu/bloated.

Rujukan: https://www.anthropic.com/engineering/writing-tools-for-agents

55.Perutean Model

Perutean Model memilih model berbeda berdasarkan tugas.

Request
  ↓
Complexity / risiko classifier
  ├── simple → small/cheap model
  ├── medium → general model
  ├── hard → reasoning-capable model
  └── high-risiko → human review / restricted model

Diagram — Perutean Model

Routing dapat mengoptimalkan cost dan latensi, tetapi menambah complexity dan harus dievaluasi end-to-end.

56.Caching

Jenis caching:

embedding cache;
pengambilan cache;
alat hasil cache;
prompt cache;
model respons cache;
application cache.

Tidak semua keluaran dapat di-cache dengan aman. Validitas cache harus mempertimbangkan freshness, authorization, tenant isolation, dan determinism.

Prompt caching pada beberapa API menyimpan prefix stabil untuk mengurangi kerja dan biaya masukan; detail implementasi bergantung penyedia.

Rujukan umum: penyedia dokumenation; OpenAI prompting panduan. https://developers.openai.com/api/docs/guides/prompting

57.Async / tugas AI jangka panjang

Untuk tugas panjang, sinkron permintaan-respons dapat menjadi tidak praktis. Gunakan:

API request
   ↓
Create job
   ↓
Queue
   ↓
Worker / Agen
   ↓
Checkpoint / progress
   ↓
Result penyimpanan
   ↓
Notification / polling

Diagram — Async / tugas AI jangka panjang

MCP 2026-07-28 juga mendokumentasikan tugas sebagai opsional extension untuk operasi berjalan lama dengan polling, durable handles, dan progress semantics.

Rujukan: https://modelcontextprotocol.io/specification/latest

58.Manusia dalam loop matrix

Aksi	Contoh	Approval
Low impact	Search dokumentasi	Biasanya tidak diperlukan
Read-only business data	Cek status order	Sesuai policy
Internal menulis	Update ticket	Bisa diperlukan
Financial	Refund / transfer	Sangat disarankan sesuai policy
Production berubah	Restart / config berubah	Approval eksplisit
Destructive	menghapus data	Approval + strong control

Ini bukan standar universal; organisasi harus menentukan threshold risiko dan kontrolnya berdasarkan kasus penggunaan.

59.Checklist kesiapan produksi

Model

[ ] Model version jelas
[ ] License/usage terms diverifikasi
[ ] Quality benchmark internal tersedia
[ ] Limitations didokumentasikan

data

[ ] sumber jelas
[ ] Access control
[ ] PII/privasi meninjau
[ ] Dataset/index versioned
[ ] Freshness policy

RAG

[ ] Chunking tervalidasi
[ ] Retrieval eval
[ ] Reranking diuji
[ ] Citation/grounding eval
[ ] ACL filtering

Tools/Agen

[ ] Least privilege
[ ] Tool schema jelas
[ ] Timeout/retry
[ ] Approval untuk high-impact action
[ ] Sandbox
[ ] Max langkah/budget

keamanan

[ ] Prompt injection pengujian
[ ] Sensitive data tests
[ ] Supply-chain meninjau
[ ] Secret management
[ ] Audit trail

Operations

[ ] Tracing
[ ] Metrics
[ ] Logs
[ ] Alerting
[ ] Cost pemantauan
[ ] Rollback
[ ] Incident respons

Evals

[ ] dataset emas
[ ] Regression suite
[ ] Retrieval evaluasi
[ ] Tool evaluasi
[ ] Human meninjau sample

60.Decision tree: pakai apa?

Apakah masalah utamanya prediksi terstruktur?
 ├─ Ya → ML klasik / deep learning sesuai data
 └─ Tidak
      ↓
Apakah harus menghasilkan konten?
 ├─ Ya → Generative model
 └─ Tidak
      ↓
Apakah jawaban perlu knowledge eksternal/fresh?
 ├─ Ya → Retrieval / RAG
 └─ Tidak
      ↓
Apakah AI harus mengambil data/aksi dari sistem lain?
 ├─ Ya → Tool / API / MCP
 └─ Tidak
      ↓
Apakah task multi-step dan urutan tidak seluruhnya diketahui sebelumnya?
 ├─ Ya → Agen atau orkestrator-pekerja
 └─ Tidak → Workflow sederhana

Diagram — Decision tree: pakai apa?

61.Apa yang sebenarnya “diubah” oleh tiap teknologi?

Teknologi	Yang diubah/ditambah
Rekayasa Prompt	masukan instructions
Rekayasa konteks	Seluruh runtime konteks
RAG	Pengetahuan eksternal saat inference
Fine-tuning	Parameter/perilaku model
LoRA	Sebagian parameter melalui adapter/update ber-rank rendah
Quantization	Representasi numerik model
Penggunaan alat	Kemampuan melakukan aksi/lookup eksternal
MCP	Standardized protocol untuk konteks/alat
Workflow	Control flow aplikasi
Agen	Autonomy dalam memilih langkah/alat
Memory	Keadaan persisten/pengetahuan di luar konteks aktif
Guardrails	Batas perilaku/aksi
Evals	Measurement/regresi detection
Observability	Visibility terhadap runtime
MLOps/LLMOps	Operasi sistem secara berulang dan terkontrol

62.Jalur belajar yang lebih lengkap

Level 1 — Fundamental

Pelajari:

AI vs ML vs DL;
supervised/unsupervised/self-supervised/RL;
train/validation/menguji;
loss/optimization;
basic statistics;
vectors/matrices/probability.

Proyek: classification/regresi sederhana.

Level 2 — Deep Learning (Pembelajaran Mendalam)

Pelajari:

neural network;
backpropagation;
CNN;
sequence models;
Transformer.

Proyek: text classifier + sederhana Transformer experiment.

Level 3 — LLM

Pelajari:

tokenizer;
embeddings;
attention;
prepelatihan concept;
SFT;
prujukan optimization;
inference/decoding.

Proyek: menerapkan lokal/open-weight language model untuk tugas tertentu.

Level 4 — RAG

Pelajari:

dokumen parsing;
chunking;
embeddings;
vector search;
BM25;
hybrid;
reranking;
evaluasi.

Proyek: chatbot dokumen internal dengan citations.

Level 5 — Alat + Alur Kerja

Pelajari:

pemanggilan fungsi;
schema;
API integrasi;
retries/timeouts;
perantaian prompt;
perutean;
evaluator-pengoptimal.

Proyek: AI assistant yang membaca database/API secara hanya-baca.

Level 6 — Agen + MCP

Pelajari:

siklus agen;
state/memori;
alat permissions;
MCP host/klien/server;
multi-agen;
penggunaan komputer.

Proyek: agen IT operasi dengan hanya-baca pemantauan alat lalu tahap kedua dengan controlled menulis actions.

Level 7 — AI Produksi

Pelajari:

evals;
observabilitas;
LLMOps;
keamanan;
tata kelola;
cost/latensi;
incident respons.

Proyek: perusahaan AI platform dengan CI/CD, evaluasi gate, audit, tracing, dan rollback.