Neural Network

neural network

Neural network saat ini memiliki popularitas yang sangat tinggi di sistem kecerdasan buatan (AI). Dalam dekade terakhir, sistem kecerdasan buatan (AI) memiliki performa yang sangat baik, seperti pengenalan ucapan (speech recognition) di smartphone atau google translate (machine translation) telah dihasilkan dari teknik “Deep Learning”.

Deep Learning adalah nama baru untuk pendekatan kecerdasan buatan yang disebut neural network, yang telah keluar masuk dari segi riset maupun penemuan selama lebih dari 70 tahun. Neural network pertama kali diusulkan pada tahun 1944 oleh Warren McCullough dan Walter Pitts.

Neural network adalah riset yang sangat populer untuk penelitian baik dalam bidang ilmu saraf maupun ilmu komputer sampai tahun 1969. Namun, dikarenakan tenaga komputasi yang kurang dan beberapa aspek lain, penelitian neural network ditinggalkan.

Neural network kemudian mengalami kebangkitan pada tahun 1980-an, dengan alasan dorongan dari peningkatan tenaga komputasi dari GPU.

Cara Kerja

Neural network adalah sarana/subset dari Machine Learning, di mana komputer ditugaskan untuk belajar dan melakukan beberapa tugas dengan mengamati contoh pelatihan (training data).

Biasanya, contoh tersebut diberi label terlebih dahulu, metode ini disebut juga dengan supervised learning. Suatu sistem object detection, misalnya, mungkin diberi data ribuan gambar berlabel mobil, rumah, gelas kopi, dan sebagainya, dan sitem tersebut akan menemukan pola visual didalam gambar yang konsisten berkorelasi dengan label tertentu.

Dimodelkan secara longgar pada otak manusia, neural network terdiri dari ribuan atau bahkan jutaan node/neuron dengan pemrosesan yang sederhana yang saling terhubung.

Sebagian besar neural network saat ini diatur ke dalam lapisan node/neuron, dan mereka melakukan feedforward, yang berarti data bergerak melalui satu arah ke arah lain. Sebuah node /neuron individu mungkin terhubung ke beberapa node/neuron di lapisan di bawahnya, dimana ia menerima data, dan beberapa node di lapisan di atasnya, yang bertugas untuk mengirimkan data.

Untuk setiap koneksi masuknya, sebuah node/neuron akan menetapkan suatu angka yang dikenal sebagai “weights.” Saat jaringan aktif (activation function), node/neuron menerima data-data yang berbeda, nomor yang berbeda di setiap koneksinya dan melakukan perkalian dengan weights yang terhubung.

Kemudian menambahkan produk yang dihasilkan bersama-sama, menghasilkan satu angka.

Jika angka tersebut di bawah nilai threshold, node/neuron tersebut tidak melewatkan data ke lapisan berikutnya.

Jika jumlahnya melebihi nilai threshold, node/neuron tersebut mengirim nilai ke lapisan berikutnya (disebut juga dengan penembakan node/neuron), yang berada didalam neural network saat ini pada umumnya mengirim suatu angka, jumlah dari input weights, di sepanjang semua koneksi keluarnya atau disebut juga dengan lapisan berikutnya.

Ketika neural network sedang melakukan pembelajaran, semua weights dan threshold awalnya diatur ke nilai acak.

Data pelatihan diumpankan ke lapisan bawah – lapisan input, dan melewati lapisan berikutnya, dikalikan dan ditambahkan bersama-sama dengan metode yang kompleks, sampai akhirnya tiba, weights tersebut terubah secara radikal, di lapisan output.

Selama pelatihan, weights dan threshold terus disesuaikan (backpropagation) hingga data pelatihan (training data) dengan label yang sama secara konsisten menghasilkan keluaran yang serupa, biasanya pengukuran ini dilakukan dengan loss function.

neural network

 

Pikiran Manusia dan Mesin

Neural network dijelaskan oleh McCullough dan Pitts pada tahun 1944 memiliki weights dan threshold. Namun, mereka tidak disusun menjadi lapisan, dan para peneliti tidak menentukan metode/algoritma pelatihan apa pun.

Apa yang ditunjukkan McCullough dan Pitts adalah bahwa neural network pada prinsipnya dapat menghitung fungsi apa pun yang dapat dilakukan oleh komputer digital.

Hasil riset lebih banyak faktor dari ilmu saraf daripada ilmu komputer. Intinya adalah untuk menunjukkan bahwa otak manusia dapat dianggap sebagai perangkat komputasi.

Neural network terus menjadi alat yang berharga untuk penelitian ilmu saraf.

Misalnya, aturan letak jaringan atau aturan tertentu untuk menyesuaikan weights dan threshold untuk mereproduksi fitur yang diamati dari anatomi neuron dan kemampuan kognisi manusia, ini menjadi indikasi bahwa fitur tersebut dapat menangkap sesuatu dengan cara otak manusia memproses informasi.

Neural network pertama yang dapat dilatih, disebut juga dengan Perceptron, didemonstrasikan oleh seorang psikolog dari Cornell University bernama Frank Rosenblatt pada tahun 1957.

Desain Perceptron sangat mirip dengan neural network yang sering digunakan saat ini, kecuali bahwa ia hanya memiliki satu lapisan dengan weights dan threshold yang dapat disesuaikan, terhubung di antara lapisan input dan lapisan output.

Perceptron adalah bidang penelitian yang aktif didalam psikologi dan ilmu komputer yang masih muda sampai pada tahun 1959, ketika Marvin Minsky dan Papert menerbitkan sebuah buku berjudul “Perceptrons” yang menunjukkan bahwa mengeksekusi perhitungan tertentu yang cukup umum pada Perceptron akan memakan waktu dan tidak praktis.

Namun, dikarenakan tenaga komputasi yang semakin meningkat (Moore’s Law), dengan kemampuan skalabilitas tenaga komputasi dan GPU, deep learning menjadi bidang yang populer saat ini.

Sejarah

Pada tahun 1980-an, para peneliti telah mengembangkan algoritma untuk memodifikasi weights dan model neural network yang cukup efisien dengan menambah 1 hidden layer, menghilangkan banyak limitasi yang diidentifikasi oleh Minsky dan Papert.

Namun, secara intelektual, ada sesuatu yang tidak tentang neural network.

Pelatihan yang cukup dapat merevisi pengaturan jaringan ke titik yang dapat mengklasifikasikan data yang berguna, tetapi apa arti pengaturan tersebut ? Fitur gambar apa yang dilihat oleh sistem object detection, dan bagaimana fitur itu menyatukannya menjadi suatu ciri khas visual mobil, rumah, dan cangkir kopi ? Melihat koneksi weights dari tiap node/neuron itu sendiri tidak akan menjawab pertanyaan tersebut.

Dalam beberapa tahun terakhir, ilmuwan komputer mulai menemukan metode untuk menyimpulkan strategi analitik yang diadopsi oleh neural network. Namun, pada 1980-an, strategi neural network tidak dapat dipahami. Sekitar pergantian abad, neural network digantikan oleh Support Vector Machine (SVM), ini menjadi alternatif untuk machine learning yang didasarkan pada beberapa perumusan matematika yang bersih seperti Radial Basis Function (RBF).

Tinggalkan Komentar

Alamat email Anda tidak akan dipublikasikan. Ruas yang wajib ditandai *