2. model neuron

Upload: bagus-fatkhurrozi

Post on 01-Mar-2016

17 views

Category:

Documents


0 download

DESCRIPTION

dcs

TRANSCRIPT

  • Jika kita lihat, neuron buatan diatas mirip

    dengan sel neuron biologis.

    Informasi (input) akan dikirim ke neuron

    dengan bobot tertentu.

    Input ini akan diproses oleh suatu fungsi

    yang akan menjumlahkan nilai-nilai bobot

    yang ada.

  • Hasil penjumlahan kemudian akan dibandingkan dengan suatu nilai ambang (threshold)tertentu melalui fungsi aktivasi setiap neuron.

    Apabila input tersebut melewati suatu nilai ambang tertentu, maka neuron tersebut akan diaktifkan, jika tidak, maka neuron tidak akan diaktifkan.

    Apabila neuron tersebut diaktifkan, maka neuron tersebut akan mengirimkan output melalui bobot-bobot outputnya ke semua neuron yang berhubungan dengannya.

  • Himpunan unit-unit yang dihubungkan dengan jalur koneksi.

    Jalur-jalur tersebut memiliki bobot yang berbeda-beda.

    Bobot yang bernilai positif akan memperkuat sinyal dan yang bernilai negatif akan memperlemah sinyal yang dibawa.

    Jumlah, struktur, dan pola hubungan antar unit-unit tersebut akan menentukan arsitektur jaringan.

  • Suatu unit penjumlah yang akan

    menjumlahkan input-input sinyal yang

    sudah dikalikan dengan bobotnya.

    Fungsi aktivasi yang akan menentukan

    apakah sinyal dari input neuron akan

    diteruskan ke neuron lain atau tidak

  • Lapisan-lapisan penyusun JST tersebut dapat dibagi menjadi 3, yaitu :

    Lapisan input

    Unit-unit di dalam lapisan input disebut unit-unit input. Unit-unit input tersebut menerima pola inputan data dari luar yang menggambarkan suatu permasalahan.

    Lapisan tersembunyi

    Unit-unit di dalam lapisan tersembunyi disebut unit-unit tersembunyi. Dimana outputnya tidak dapat secara langsung diamati.

    Lapisan output

    Unit-unit di dalam lapisan output disebut unit-unit output. Output dari lapisan ini merupakan solusi JST terhadap suatu permasalahan.

  • Jaringan layar tunggal

    (single layer network)

    Contoh algoritma JST

    yang menggunakan

    metode ini yaitu :

    ADALINE, Hopfield,

    Perceptron.

  • Jaringan layar jamak

    (multi layer network)

    JST yang enggunakan

    metode ini yaitu :

    MADALINE,

    backpropagation,

    Neocognitron.

  • Jaringan dengan lapisan kompetitif (competitive layer network)

    Pada jaringan ini sekumpulan neuron bersaing untuk mendapatkan hak menjadi aktif.

    Contoh algoritma yang menggunakan metode ini adalah LVQ.

  • Jaringanrecurrent

    Jika suatu jaringan berulang (mempunyai koneksi kembali dari output ke input) akan menimbulkan ketidakstabilan dan akan menghasilkan dinamika yang sangat kompleks. Jaringan yang berulang sangat menarik untuk diteliti dalam Jaringan Syaraf Tiruan, namun sejauh ini structure feedforward sangat berguna untukmemecahkanmasalah.

    Yang termasuk dalam stukturrecurrent (feedback) :

    -Competitive networks

    - Self-organizing maps

    - Hopfield networks

    - Adaptive-resonanse

    theory models

  • Jaringan Syaraf Tiruan Recurrent Layer

  • Ketika sebuah Jaringan Syaraf digunakan, Input

    dari nilai suatu variabel ditempatkan dalam suatu

    input unit kemudian unit lapisan tersembunyi dan

    lapisan output menjalankannya.

    Setiap lapisan tersebut menghitung nilai aktivasi

    dengan mengambil jumlah bobot output dari

    setiap unit dari lapisan sebelumnya dan kemudian

    dikurangi dengan nilai ambang.

    Nilai aktifasi kemudian melalui fungsi aktifasi untuk

    menghasilkan output dari sel syaraf.

    Ketika semua unit pada Jaringan Syaraf telah

    dijalankan maka aksi dari lapisan output

    merupakan output dari seluruh jaringan syaraf.

  • Supervised learning(pembelajaran terawasi)

    Pada metode ini, setiap pola yang diberikan kedalam JST telah diketahui outputnya.

    Selisih antara pola output aktual (output yang dihasilkan) dengan pola output yang dikehendaki (output target) disebut error

    error digunakan untuk mengoreksi bobot JST sehingga JST mampu menghasilkan output sedekat mungkin dengan pola target yang telah diketahui oleh JST.

    Contoh algoritma JST yang menggunakan metode ini adalah : Hebbian, Perceptron, ADALINE, Boltzman, Hopfield, Backpropagation.

  • Unsupervised learning (pembelajaran tak

    terawasi)

    Pada metode ini, tidak memerlukan target

    output.

    Pada metode ini tidak dapat ditentukan

    hasil seperti apakah yang diharapkan

    selama proses pembelajaran.

    Selama proses pembelajaran, nilai bobot

    disusun dalam suatu range tertentu

    tergantung pada nilai input yang diberikan.

  • Unsupervised learning (pembelajaran takterawasi)

    Tujuan pembelajaran ini adalah mengelompokkan unit-unit yang hampir sama dalam suatu area tertentu.

    Pembelajaran ini biasanya sangat cocok untuk klasifikasi pola.

    Contoh algoritma JST yang menggunakan metode ini adalah : Competitive, Hebbian, Kohonen, LVQ (Learning Vector Quantization), Neocognitron

  • Hybrid Learning(pembelajaran hibrida)

    Merupakan kombinasi dari metode pembelajaran supervised learning dan

    unsupervised learning.

    Sebagian dari bobot-bobotnya ditentukan melalui pembelajaran terawasi dan sebagian lainnya melalui pembelajaran tak terawasi.

    Contoh algoritma JST yang menggunakan metode ini yaitu : algoritma RBF.

  • Berdasarkan arsitektur JST:

    Jaringan Layar Tunggal. Contoh: ADALINE, Hopfield,

    Perceptron, LVQ

    Jaringan LayarJamak, Contoh: MADALINE,

    Backpropagation, Neocognitron

    Recurrent. Contoh: BAM, Hopfield, Boltzman

    Machine

    Spesifikasi masalah dapat digunakan untuk menolong

    dalam penentuan arsitektur jaringan, sbb. :

    Jumlah input jaringan = jumlah input masalah

    Jumlah neuron dalam lapisan output = jumlah output

    masalah

    Fungsi transfer lapisan output dipilihsedemikian rupa

    sesuai dengan spesifikasi output masalah

  • Aplikasi yang sudah ditemukan Klasifikasi

    Model yangdigunakan: ADALINE LVQ Backpropagation

    Pengenalaan Pola

    Model yang digunakan: Adaptive Resononance Theory (ART), LVQ, Backpropagation

    Peramalan.

    Model yang digunakan: ADALINE, MADALINE, Backpropagation

    Optimisasi.

    Model yang digunakan: ADALINE, Hopfield, Backpropagation

  • Fungsi Undak Biner (Hard Limit)

    Jaringan dengan lapisan tunggal sering

    menggunakan fungsi undak untuk menkonversi

    input dari suatu variable yang bernilai kontinu ke

    suatu output biner. Fungsi hard limit dirumuskan:

    Fungsi Undak Biner (Threshold)

    Fungsi undak biner dengan menggunakan nilai

    ambang sering disebut fungsi nilai ambang atau

    fungsi Heaviside. Dirumuskan:

  • Fungsi Bipolar

    Hampir sama dengan fungsi undak biner, hanya saja output yang dihasilkan berupa 1, 0 atau-1. Fungsi Symetric Hard Limit dirumuskan sebagai:

    Fungsi Bipolar (dengan Threshold)

    Fungsi yang menghasilkan output berupa 1, 0 atau -1

    Fungsi Linear (identitas)

    Fungsi linear memiliki nilai output yang sama dengan nilai input. Dirumuskan: y = x

  • Fungsi Sturating Linear

    Fungsi ini akan bernilai 0 jika inputnya kurang dari -,

    dan akan bernilai 1 jika inputnya lebih dari .

    Sedangkan jika nilai input terletak antara - dan ,

    maka outputnya akan bernilai sama dengan nilai input

    ditambah . Fungsi saturating linear dirumuskan:

    Fungsi Symetric Saturating Linear

    Fungsi ini akan bernilai -1 jika inputnya kurang dari -1.

    Sedangkan jika nilai input terletak antara -1 dan 1,

    maka outputnya akan bernilai sama dengan nilai

    inputnya. Fungsi Symetric Saturating Linear dirumuskan:

  • Fungsi Sigmoid Biner

    Digunakan untuk jaringan syaraf yang dilatih

    dengan menggunakan metode backpropagation.

    Memiliki nilai pada range 0 sampai 1. Fungsi

    sigmoid biner dirumuskan:

    Fungsi Sigmoid Bipolar

    Output dari fungsi ini memiliki range antara 1

    sampai -1. Fungsinya dirumuskan:

  • Kadang dalam jaringan ditambahkan sebuah unit

    masukan yang nilainya selalu = 1. Unit yang

    demikian disebut bias .

    Bias dapat dipandang sebagai sebuah input yang

    nilainya = 1.

    Bias berfungsi untuk mengubah nilaithreshold

    menjadi = 0 (bukan = (a).

    Jika melibatkan bias, maka keluaran unit

    penjumlah adalah

    Fungsi aktivasi threshold menjadi

  • Suatu jaringan layar tunggal seperti gambar di

    atas terdiri dari 2 input x1 = 0,7 dan x2 = 2,1 dan

    memiliki bias.

    Bobot w1 = 0,5 dan w2 = -0,3 dan bobot bias b = 1.

    Tentukan keluaran neuron Y jika fungsi aktivasi

    adalah threshold bipolar

    Karena net > 0 maka keluaran dari jaringan y

    =f(net) = 1

    = + = 1 + 0,7 0,5 + 2,1 0,3 = 0,72

  • Model JST yang digunakan oleh McP merupakan model

    yang pertama ditemukan. Model neuron McP memiliki

    karakteristik sbb:

    Fungsi aktivasinya biner

    Semua garis yang memperkuat sinyal (bobot positif) ke

    arah suatu neuron memiliki kekuatan (besar bobot)

    yang sama. Hal yang sama untuk garis yang

    memperlemah sinyal (bobot negatif) ke arah neuron

    tertentu

    Setiap neuron memiliki batas ambang (threshold) yang

    sama. Apabila total input ke neuron tersebut melebihi

    threshold, maka neuron akan meneruskan sinyal

  • Neuron Y menerima sinyal dari (n+m) buah neuron

    x1, x2, ..xn, xn+1, .xn+m

    n buah penghubung dengan dari x1x2, ..xn ke Y

    merupakan garis yang memperkuat sinyal (bobot

    positif), sedangkan m buahpenghubung dari xn+1,

    .xn+m ke Y merupakan garis yang

    memperlemah sinyal (bobot negatif).

    Semua penghubung dari x1 x2, ..xn ke Y memiliki

    bobot yang sama. Hal yang sama dengan

    penghubung dari xn+1, .xn+m ke sama. Hal yang

    sama dengan penghubung dari x , .x keY

    memiliki bobot yang sama. Namun jika ada neuron

    lain katakan Y2, maka bobot x1 ke Y1 boleh

    berbeda dengan bobot dari x2 ke Y2 dari x2ke Y2.

  • Fungsi aktivasi neuron Y adalah

    Bobot tiap garis tidak ditentukan dengan proses

    pelatihan, tetapi dengan metode analitik.

    Beberapa contoh berikut memaparkan bagaiman

    neuron McP digunakan untuk memodelkan fungsi

    logika sederhana.

  • Contoh: buat fungsi logika and, input X1 dan X2, dan Y = 1 jika dan hanya jika masukan 1

    X1 X2 Y

    1 1 1

    1 0 0

    0 1 0

    0 0 0

  • X1 X2 net Y, 1 jika net >=2, 0 jika net < 2

    1 1 1.1+1.1=2 1

    1 0 1.1+0.1=1 0

    0 1 0.1+1.1=1 0

    0 0 0.1+0.1=0 0

    Ternyata BERHASIL mengenali pola

    X1

    X2

    Y

    2

    1

    1

  • X1 X2 net Y, 1 jika net >=1, 0 jika net < 1

    1 1 1.1+1.1=2 1

    1 0 1.1+0.1=1 1

    0 1 0.1+1.1=1 1

    0 0 0.1+0.1=0 0

    Ternyata BERHASIL mengenali pola

    X1

    X2

    Y

    1

    1

    1

  • X1 X2 net Y, 1 jika net >=2, 0 jika net < 2

    1 1 1.2+1.-1=1 0

    1 0 1.2+0.-1=2 1

    0 1 0.2+1.-1=-1 0

    0 0 0.2+0.-1=0 0

    Ternyata BERHASIL mengenali pola

    X1

    X2

    Y

    2

    2

    -1

  • X1 X2 Y

    1 1 0

    1 0 1

    0 1 1

    0 0 0

    GAGAL!

    F(1,1) = 0

    F(1,0) = 1F(0,0) = 0

    F(0,1) = 1

  • XOR = (x1 ^ ~x2) V (~x1 ^ x2)

    Ternyata dibutuhkan sebuah layer

    tersembunyi

    X1

    X2

    Z1

    Z2

    Y

    2

    2

    -1

    -1

    1

    1

    2

    2

    1