PERTEMUAN 13

Jaringan Syaraf Tiruan

SUB TOPIK BAHASAN

Pengertian JST Komponen JST Arsitektur JST Fungsi Aktivasi

PENGERTIAN JST

Jaringan syaraf merupakan salah satu representasi buatan dari otak manusia yang selalu mencoba untuk mensimulasikan proses pembelajaran pada otak manusia tersebut

Buatan karena di implementasikan dengan program komputer

KOMPONEN JARINGAN SYARAF

Jaringan syaraf terdiri atas beberapa neuron

Ada hubungan antar neuron Neuron mentransformasikan informasi yg

diterima melalui sambungan keluarnya menuju neuron-neuorn yg lain

Pada jaringan syaraf hubungan ini dikenal dengan bobot

ARSITEKTUR JARINGAN

Neuron-neuron dikelompokkan dalam lapisan-lapisan

Neuron yang terletak pada lapisan yang sama akan memiliki keadaan yang sama

Kelakuan neuron ditentukan oleh fungsi aktivasi dan pola bobotnya

A. SINGLE LAYER NET

Nilai Input

X1 lapisan inputX3X2

Y1 Y2

Matriks bobot

Lapisan Output

Nilai Output

W11W12 W32W31

W22W21

B. MULTIPLE LAYER NETNilai Input

X1 lapisan inputX3X2

Z1 Z2

Matriks bobot Pertama

Lapisan Tersembunyi

Matriks Bobot kedua

V11V12 V32V31

V22V21

Y Lapisan Output

Nilai Output

W1 W2

FUNGSI AKTIVASI

Masukan pada jaringan akan diproses oleh suatu fungsi yang akan menjumlahkan nilai-nilai semua bobot dan bias.

Hasil dari penjumlahan akan dibandingkan dengan suatu nilai ambang (threshold) melalui fungsi aktivasi setiap neuron.

HARD LIMIT (UNDAK BINER)

1

Y

X0

y0,1

0,0

xjika

xjika

SYMETRIC HARD LIMIT (BIPOLAR)

y0,1

0,0

0,1

xjika

xjika

xjika1

Y

X0

-1

FUNGSI LINIER (IDENTITAS)

1

Y

X0

-1

1-1

y = x

SYMETRIC SATURATING LINEAR

SIGMOID BINER

SIGMOID BIPOLAR

PROSES PEMBELAJARAN

Supervised learning UnSupervised learning

A. SUPERVISED LEARNING

Pembelajaran terawasi jika output yang diharapkan telah diketahui sebelumnya

Contoh : Pengenalan pola , misal pada operasi AND

Input Output0 0 00 1 0

1 0 0 1 1 1

Jika terjadi perbedaan antara pola output hasil pembelajaran dengan pola target maka akan muncul error

Jika nilai error masih besar, maka perlu banyak dilakukan pembelajaran lagi

A. SUPERVISED LEARNING

B UNSUPERVISED LEARNING

Tidak memerlukan target output Tidak dapt ditentukan hasil yang

seperti apakah yang diharapkan selama proses pembelajaran

Selama proses pembelajaran,nilai bobot disusun dalam suatu range tertentu tergantung nilai input yang diberikan

Tujuan adalah untuk mengelempokkan unit-unit yang hampir sama dalam satua area tertentu

Cocok untuk pengelompokkan pola

PENERAPAN JARINGAN SYARAF TIRUAN

Model Hebb

• Diusulkan oleh Donald Olding Hebb pada th 1949

• Metode pengembangan dari metode McCulloch-Pitts

• Menentukan bobot dan bias secara analitik (manual)

• Pembelajaran dilakukan dengan memperbaiki nilai bobot secara continue

Perbaikan bobot diperoleh dengan cara

wi(baru) = wi(lama) + xi*yb(baru) = b(lama) + y

dengan:wi = bobot data input ke-ixi = input data ke-iy = output datab = nilai bias

Model Hebb

ALGORITMA Inisialisasi semua bobot :

wij =0; dengan i=1,2,...,n; j=1,2,...,m Untuk setiap pasangan input-output (s-t),

lakukan langkah sbb:• set input dengan nilai sama dengan vektor

input:xi = si ; (i =1,2,..,n)

• Set output dengan nilai sama dengan vektor output:

yj = tj ; (j =1,2,..,m)

• Perbaiki bobot:wij = wij + xiyi ; (i =1,2,..,n); dan (j

=1,2,..,m)

KASUS OR

X1 X2 t

-1 -1 -1

-1 1 1

1 -1 1

1 1 1

{-1,-1,-1}

w1 = 0 + (-1)(-1) = 1

w2 = 0 + (-1)(-1) = 1

b = 0 + (-1) = -1 {-1,1,1}

w1 = 1 + (-1)(1) = 0

w2 = 1 + (1)(1) = 2

b = -1 + (1) = 0 {1,-1,1}

w1 = 0 + (1)(1) = 1

w2 = 2 + (-1)(1) = 1

b = 0 + (1) = 1 {1,1,1}

w1 = 1 + (1)(1) = 2

w2 = 1 + (1)(1) = 2

b = 1 + (1) = 2

Akhir pembelajaran, diperoleh bobot akhir w1 = 2, w2=2, b=2

Pengujian :x1 = -1 dan x2 = 1 , maka :

y = (2)(-1) + ( 2) (1) + 2 = 2

Dengan fungsi bipolar , maka diperoleh outputy =F(2) =1 karena 2 > 1

Sehingga y = t

MODEL PERCEPTRON

Digunakan untuk mengklasifikasikan suatu tipe pola tertentu

Mengatur parameter2 melalui proses pembelajaran.

Pembelajaran utk mendapatkan bobot akhir dilakukan secara berulang sampai sdh tdk ada error (output = target)

Namun jika msh ada error maka proses dihentikan maksimum epoh.

Epoh ; proses pengulangan utk melatih semua pasangan data.

ALGORITMA PELATIHAN Inisialisasi laju pembelajaran (α), nilai ambang

(𝛉), bobot, bias Menghitung

Menghitung

Jika y ≠ target, lakukan update bobot dan biasWi baru = Wlama + α.t.Xib baru = b lama + α.t

Ulang dari langkah 2 sampai tidak ada update bobot lagi

KASUS OR

X1 X2 t

0 0 0

0 1 1

1 0 1

1 1 1

{0,0,0}y = 0 + (0.0 + 0.0) = 0

{0,1,1}y = 0 + (0.0 + 0.1) = 0y ≠ t, maka update bobot dan biasW1baru = 0 + 1.1.0 = 0 W2baru = 0 + 1.1.1 = 1bias baru = 0 + 1.1 = 1{0,1,1} y = 1 + (0.0 + 1.1) = 2, output = 1

{1,0,1}y = 1 + (0.1 + 1.0) = 1, output = 1

{1,1,1} y = 1 + (0.1 + 1.1) = 2, output = 1

Inisialisasi:α = 1,

𝛉 = 0,1w = 0, b = 1

Input dan target berbentuk biner

{0,0,0}y = 1 + (0.0 + 1.0) = 1 y ≠ t, maka update bobot dan biasW1baru = 0 + 1.1.0 = 0 W2baru = 1 + 1.1.0 = 1bias baru = 1 + 1.1 = 2{0,0,0} y = 2 + (0.0 + 1.0) = 2, output=1 y ≠ t, maka update bobot dan biasterjadi stagnasi walaupun bobot dan bias diupdate terus.maka input dan target biner tdk cocok utk kasus OR.

KASUS ORX1 X2 t

-1 -1 -1

-1 1 1

1 -1 1

1 1 1

{-1,-1,-1}y = 0 + (0.-1 + 0.-1) = 0y ≠ t, maka update bobot dan biasW1baru = 0 + 1.-1.-1 = 1 W2baru = 0 + 1.-1.-1 = 1bias baru = 0 + 1.-1 = -1{-1,-1,-1} y = -1 + (1.-1 + 1.-1) = -3, output = -1

{-1,1,1}y = -1 + (1.-1 + 1.1) = -1y ≠ t, maka update bobot dan biasW1baru = 1 + 1.1.-1 = 0 W2baru = 1 + 1.1.1 = 2bias baru = -1+ 1.1 = 0

y = 0 + (0.-1 + 2.1) = 2, ouput = 1 {1,-1,1}

y = 0 + (0.1 + 2.-1) = -2y ≠ t, maka update bobot dan biasW1baru = 0 + 1.1.1 = 1 W2baru = 2 + 1.1.-1 = 1bias baru = 0+ 1.1 = 1y = 1 + (1.1 + 1.-1) = 1

{1,1,1}y = 1 + (1.1 + 1.1) = 3, output=1

Pada akhir pembelajaran diperoleh w1=1, w2 = 1, dan b=1.

Pengujian data :Input : x1 = -1, dan x2 = 1 maka;

y = 1 + (-1.1 + 1.1) = 1 y = t