Öğrenme Kuralları

Ağırlığı Artık Kim Seçecek?

Hafta 2'de ağırlıkları biz seçtik: w = [0.5, −0.25, 0.75], b = 0.2. Bu hafta nöron onları veriden kendisi bulacak. Kapsam: tek nöron / tek katman.

Öğrenmek = Ağırlığı Güncellemek

🔈 okunuş: Δw “delta w”: w'deki değişim·t “te”: adım (zaman) sayacı

Bliss, T. V. P. & Lømo, T. (1973). Long-lasting potentiation of synaptic transmission in the dentate area of the anaesthetized rabbit. J. Physiol., 232, 331–356.

Kim Öğretiyor? Üç Paradigma

Bu hafta ikisini göreceğiz: Hebb (denetimsiz) ve Delta (denetimli).

Tek Formül, Dört Kural

🔈 okunuş: η “eta”: öğrenme oranı: adım ne kadar büyük?·r “r”: öğrenme sinyali

Yön hep x'ten gelir; kuralı kural yapan, ne kadar ve hangi işaretle gideceğini söyleyen r.

Zurada, J. M. (1992). Introduction to Artificial Neural Systems. West Publishing.

Donald Hebb: İlk Öğrenme Kuralı

Hebb, D. O. (1949). The Organization of Behavior. Wiley. · Shatz, C. J. (1992). The developing brain. Scientific American, 267(3), 60–67.

Birlikte Ateşle, Birlikte Bağlan

Formülde d yok → denetimsiz. Nöron, girdisiyle kendi çıktısı arasındaki uyumu (korelasyonu) pekiştirir. Doğru mu yanlış mı, bilmez.

Hebb'i Elle Çalıştır

f = sgn (signum: işaret fonksiyonu, çıktı ±1), η = 1, başlangıç w = [1, −1, 0.5]. Üç girdi sırayla geliyor:

Hiçbir yerde d yok: nöron kendi cevabını pekiştiriyor. Bir de |w|'ye bakın: 1.5 → 4.12 → 4.82 → 6.18. Hep büyüyor… →
🔈 hatırlatma: |w| “w'nin uzunluğu (normu)” = √(w₁² + w₂² + w₃²) · ör. 1. adım: √(2² + (−3)² + 2²) = √17 ≈ 4.12

Hebb Adım Adım

Bipolar AND, f = sgn, η = 1. Hebb hedefi bilmez: d'ye bakmadan kendi cevabını (y) pekiştirir.

Ağırlık Patlar

x, w = torch.tensor([1., 1.]), torch.tensor([0.1, 0.1])
for t in range(100):
    y = w @ x
    w = w + 0.1 * y * x               # Hebb
# |w|:  10 adım 0.88 · 50 adım 1 287 · 100 adım 11 712 222  → patladı!

w = torch.tensor([0.1, 0.1])
for t in range(100):
    y = w @ x
    w = w + 0.1 * y * (x - y * w)     # Oja (1982): −y²w fren terimi
# |w| → 1.0000,  w → [0.7071, 0.7071]  → dengelendi

Oja, E. (1982). Simplified neuron model as a principal component analyzer. J. Math. Biology, 15, 267–273.

Oja AND'de Adım Adım

Slayt 9'daki AND ve aynı w₀; y = net, η = 0.1. Fren |w|'yi 1'de tutar; ama AND'de bulunacak bir ana yön yok →

Oja Asıl Amaç: Yön

Aynı kural, ama bu kez veri (1, 1) yönünde yayılmış; η = 0.1, w₀ = [0.6, −0.2]. Oja w'yi verinin ana yönüne döndürür, boyunu |w| ≈ 1'de tutar: 40 adımda w ≈ [0.71, 0.71], koddaki sonuçla aynı.

Türev = Anlık Değişim

Eğim + ise w'yi artırınca E büyür, − ise küçülür. Kaydırıcıyı oynat →

Gradyan İnişi: Hatayı Yokuş Aşağı

Neden üç davranış? \( w_{k+1}-2=(1-\eta)(w_k-2) \): her adım w*'a uzaklığı (1 − η) ile çarpar → η < 1 küçülür, 1 < η < 2 işaret değiştirerek küçülür, η > 2 büyür.

ADALINE ve LMS Kuralı

Gradyan inişinin en basit nörona uygulanışı: y = net. Türev yine var (E'nin w'ye göre türevi); yalnız aktivasyonun türevi f′ = 1 olduğu için görünmüyor.

x = girdiler. net = w₁x₁ + w₂x₂ + … + b olduğundan w₁ 1 artınca net x₁ kadar artar (∂net/∂wᵢ = xᵢ). Her ağırlık kendi girdisi kadar sorumlu: xᵢ = 0 ise wᵢ değişmez, negatif girdi → ters yön.

Widrow, B. & Hoff, M. E. (1960). Adaptive switching circuits. IRE WESCON Convention Record, Part 4, 96–104.

Widrow–Hoff Adım Adım

Bipolar AND, η = 0.1. f′ = 1: hiç kör olmaz, ama hatayı net'e bakarak ölçer → 4/4 doğruyken bile w değişir; sonunda w ≈ [0.47, 0.44, −0.50].

İç İçe Fonksiyonlar: Türevleri Çarp

Peki çıktı y = σ(net) olursa? E artık w'ye bir halka daha uzaktan bağlı: w → net → y → E. İç içe fonksiyonun türevi için zincir kuralı gerekir.

Yerel türevleri çarparak geriye taşırsın (kontrol: x=1 → u=4 → dy/dx = 2·4·3 = 24). Nöron da tam böyle bir zincir: w → net → y → E. Sıradaki slaytta kuralı nörona uygulayacağız →

Duyarlılığın Formülü

Nöron iki adımlı bir zincir: \( \mathbf{w} \to \text{net} \to y \). Zincir kuralı: türevleri çarp.

Hafta 2'deki nöron: net = −0.55, x = [1, 2, −1]

f′ büyükse nöron öğrenmeye açık, f′ = 0 ise öğrenme durur. Peki madem kör, basamağı ve ReLU'yu neden kullanıyoruz? →

Madem Kör, Neden Kullanıyoruz?

Bir yerde kör olmak her yerde kör olmak değil; ve her aktivasyonun ayrı bir görevi var.

Kısaca: öğrenirken nöronun türevin sıfır olmadığı bölgede çalışmasını isteriz. Şimdi zincire hatayı da ekleyip kuralı türetelim →

Delta Kuralı: Üç Halkalı Zincir

Widrow–Hoff'a tek halka eklendi: f′(net). f doğrusal ise f′ = 1 → Widrow–Hoff. x yine girdiler.

δ = hata × eğim (“küçük delta”): kuralın adı buradan. Bias için x₀ = 1 → Δb = η·δ. δ'yı katmanlar boyunca geri taşımak = geri yayılım H7

Rumelhart, Hinton & Williams (1986), PDP Vol. 1, MIT Press · “delta kuralı” adı bu kitapla yaygınlaştı.

Hafta 2'nin Nöronu Bir Adım Öğreniyor

x = [1, 2, −1], w = [0.5, −0.25, 0.75], b = 0.2, f = σ, hedef d = 1, η = 0.5

Tek adımda hata %35.6 azaldı ve her ağırlık "doğru yöne" gitti: x₂ = 2 olan w₂ en çok, x₃ = −1 olan w₃ ters yönde değişti.

Delta: Nöronun İçinde Bir Adım

Önceki slaytın canlı hâli (d = 1, η = 0.5). ⑤'te δ geri akar: her ağırlık kendi girdisi kadar düzeltilir.

Delta Kuralı Adım Adım

AND, f = σ, η = 2, başlangıç Hafta 2'nin nöronu. Her adımda δ = (d − y)·y(1 − y): hata × eğim. Doğru, net = 0 (σ = 0.5) çizgisidir. 50. epoch'ta (200. adım) w = [2.90, 2.83, −4.28]: kod slaytıyla aynı.

η, Epoch ve Ne Zaman Durmalı?

Hepsini canlı deneyelim →

Nöron Öğreniyor

Başlangıç: Hafta 2'deki nöronun ağırlıkları w = [0.5, −0.25], b = 0.2 · ● hedef 1 · ○ hedef 0 · sarı halka = sıradaki örnek. Dene: XOR'da E nerede takılıyor? W–H'de η = 1? Basamakta neden hiçbir şey olmuyor?

Fonksiyon ve Türevi

Sigmoid ve tanh'ı z = ±5'e götür: f′ ≈ 0 → δ = (d − y)·f′ ≈ 0 → Δw ≈ 0. Hata büyük olsa bile nöron öğrenemez: doyma. Basamakta f′ her yerde 0.

Sigmoid'in Türevi Kendisinden Gelir

import math
sig = lambda z: 1 / (1 + math.exp(-z))
z, h = 2.0, 1e-4
(sig(z + h) - sig(z)) / h     # 0.10499 (sayısal)
sig(z) * (1 - sig(z))         # 0.10499 (formül)

İleri geçişte hesapladığın y'yi yeniden kullanırsın: δ = (d − y)·y·(1 − y). Türev neredeyse bedava. Hafta 7'de autograd bunu otomatik yapacak H7

Gizli Katmanda Neden ReLU?

Hafta 2'de "nedeni H3'te" demiştik. İşte: Delta'da f′ bir çarpan. Çok katmanda f′'ler zincirle çarpılır H7, sinyal sönmemeli.

Delta Kuralı, Sıfırdan

import torch
X = torch.tensor([[0., 0.], [0., 1.], [1., 0.], [1., 1.]])
d = torch.tensor([0., 0., 0., 1.])                 # AND
w, b, eta = torch.tensor([0.5, -0.25]), torch.tensor(0.2), 2.0

for epoch in range(1, 51):
    for x, t in zip(X, d):                         # örnek örnek (online)
        y = torch.sigmoid(w @ x + b)
        delta = (t - y) * y * (1 - y)              # (d − y)·f′(net)
        w = w + eta * delta * x                    # Δw = η·δ·x
        b = b + eta * delta
    if epoch in (1, 10, 50):
        E = 0.5 * ((d - torch.sigmoid(X @ w + b)) ** 2).sum()
        print(epoch, round(E.item(), 4))
# 1 0.4466
# 10 0.2101
# 50 0.0563
(torch.sigmoid(X @ w + b) >= 0.5).int()            # tensor([0, 0, 0, 1]) ✓

Döngünün kalbi 3 satır: ileri hesap, δ, güncelleme. Canlı demodaki "sigmoid, η = 2, AND" ile aynı sayılar.

Hebb · Widrow–Hoff · Delta

Basamak f ile Delta öğrenemez (f′ = 0). Rosenblatt bunu türevi hiç kullanmayan bir kuralla çözdü: r = d − y → perceptron H4

Bu Hafta Ne Öğrendik?

🗺️ Hepsi tek katman: hata, d'nin bilindiği çıkışta ölçülür. Gizli katmanda d yok → geri yayılım H7

Kuralları Kendin Kodla

İpucu: Delta'yı doğrusal f'ye çevirmek için tek satırı değiştirmek yeter: f′ = 1.