chapter 6 Backpropagation
CHAPTER 6
BACK PROPAGATION
Back propagation merupakan salah satu metode pelatihan dari Jaringan Saraf Tiruan. Back propagation menggunakan arsitektur multilayer dengan metode pelatihan supervised pelatihan. Metode Backpropagation ini dikembangkan oleh Rumelhart Hinton dan Williams sekitar tahun 1986. Menurut teori Backpropagation, metode ini secara efektif bisa menentukan pendekatan yang paling baik dari data yang dimasukkan.
Backpropagation merupakan generalisasi aturan delta (Widrow-Hoff). Backpropagation menerapkan metode gradient descent untuk meminimalkan error kuadrat total dari keluaran yang dihitung oleh jaringan. Backpropagation melatih jaringan untuk memperoleh keseimbangan antara “kemampuan jaringan” untuk mengenali pola yang digunakan selama pelatihan dan “kemampuan jaringan” merespon secara benar terhadap pola masukan yang serupa (tapi tidak sama) dengan pola pelatihan.
ALGORITMA BACKPROPAGATION
1. Inisialisasi bobot (ambil bobot awal dengan nilai random yang cukup kecil antara 0 sampai 1).
2. Untuk setiap pasangan vektor pelatihan lakukan langkah 3 sampai langkah 8.
3. Tiap-tiap unit input (Xi dimana i=1,2,3,…,n) menerima sinyal masukan xidan menjalankan sinyal tersebut ke semua unit pada lapisan yang ada diatasnya atau selanjutnya (dalam hal ini adalah lapisan tersembunyi).
4. Tiap-tiap unit tersembunyi (Z j dimana j=1,2,3,…,p) jumlahkan bobotnya dengan sinyal-sinyal input masing-masing :
dan kirimkan sinyal tersebut ke semua unit di layer atasnya (unit-unit output layer)
5. Tiap-tiap unit output (Yk dimana k=1,2,3,…,m) jumlahkan bobotnya dengan sinyal-sinyal input masing-masing :
dan kirimkan sinyal tersebut ke semua unit di lapisan atasnya (unit-unit output).
6. Tiap-tiap unit output (Ykdimana k=1,2,3,…,m) menerima target pola yang berhubungan dengan pola input pembelajaran, hitung informasi error-nya:
kirimkan ini ke unit-unit yang ada lapisan bawahnya.
7. Tiap-tiap unit tersembunyi (Zjdimana j=1,2,3,…,p) menjumlahkan delta input-nya (dari unit-unit yang berada pada lapisan di atasnya):
8. Tiap-tiap unit output (Ykdimana k=1,2,3,…,m) memperbaiki bias dan bobotnya (j = 0,1,2,…,p):
9. Tes kondisi berhenti.
Tahap 3 sampai dengan tahap 5 merupakan bagian dari feedforward, tahap 6 sampai 8 merupakan bagian dari backpropagation (Fausset,1994).
Arsitektur Backpropagation
Pada gambar 2.5 dapat dilihat gambar arsitektur Backpropagation dengan 3 node input layer masukan 2 node pada hidden layer, 3 node output layer dan 2 bias 1 menuju hidden layer, 1 menuju output layer. Pada gambar 2.6 arsitektur backpropagation terdapat dua jenis tanda panah yaitu tanda panah maju ( ) dan tanda panah mundur ( ). Tanda panah maju digunakan pada saat proses feedforwarduntuk mendapatkan sinyal keluaran dari output layer. Jika nilai error yang dihasilkan lebih besar dari batas error yang digunakan dalam sistem, maka akan dilakukan koreksi bobot dan bias. Koreksi bobot dapat dilakukan dengan menambah atau menurunkan nilai bobot.
Jika sinyal keluaran terlalu besar dari target yang ditentukan maka bobotnya diturunkan, sebaliknya jika sinyal keluaran terlalu kecil dari target yang ditentukan maka bobotnya dinaikkan. Koreksi bobot akan dilakukan sampai selisih target dan sinyal keluaran sekecil mungkin atau sama dengan batas error. Untuk melakukan koreksi bobot dan bias akan dilakukan penelusuran ke belakang seperti ditunjukkan dengan tanda panah mundur.
Meningkatkan Hasil Metode Backpropagation
Masalah utama yang dihadapi dalam Backpropagation adalah lamanya iterasi yang harus dilakukan. Backpropagation tidak dapat memberikan kepastian tentang berapa epoch yang harus dilalui untuk mencapai kondisi yang diinginkan. Untuk meningkatkan hasil yang diperoleh dengan metode backpropagation dapat dilakukan dengan analisis bobot dan bias awal, jumlah unit tersembunyi, waktu iterasi dan penambahan mom
3.3. waktu iterasi
3.4 momentum
Komentar
Posting Komentar