Modul 4: Deep Learning Core

Neuron = hitung berbobot + fungsi aktivasi (ReLU, sigmoid). Lapisan-lapisan neuron disambung berurutan: lapisan awal menangkap pola sederhana, lapisan akhir menggabungkannya jadi keputusan. 'Deep' berarti banyak lapisan — kekuatannya di representasi bertingkat.

import torch
import torch.nn as nn

model = nn.Sequential(
    nn.Linear(4, 16), nn.ReLU(),
    nn.Linear(16, 3),
)
loss_fn = nn.CrossEntropyLoss()
optim = torch.optim.SGD(model.parameters(), lr=0.05)
print(sum(p.numel() for p in model.parameters()), 'parameter')

Output:
115 parameter

Siklus pelatihan: forward (prediksi) → loss (ukur salah) → backward (backpropagation menghitung gradien tiap bobot) → optimizer memperbarui bobot. Ulangi berabad-epoch. Learning rate terlalu besar = loss meledak; terlalu kecil = lambat sekali. Loss yang turun stabil = segala sesuatu bekerja.

Diagnosa cepat: loss latih turun tapi validasi naik → overfitting (tambah regularisasi/data). Loss tak turun sama sekali → cek learning rate, ukuran batch, dan kualitas data sebelum menyalahkan arsitektur.