Sejarah Singkat Mengenai Deep Learning. Talos Sampai Geoffrey Hinton
 |
| Patung TALOS |
Sudah usang ide robot yang sanggup berfikir layaknya insan muncul, menyerupai Talos dalam mitos Yunani kuno. Talos digambarkan sebagai automaton (semacam robot) yang terbuat dari perunggu yang diciptakan untuk melindungi Eropa. Ide tersebut terus berkembang dan berlanjut hingga komputer pertama kali ditemukan, para insinyur dan ilmuan bertanya-tanya apakah komputer suatu hari bisa “berfikir”.
Rasa ingin tahu tersebut telah melahirkan salah satu bidang ilmu komputer yang disebut kecerdasan buatan (Artificial Intelligence). Kecerdasan buatan yaitu studi wacana teori dan pengembangan sistem komputer semoga bisa melaksanakan tugas-tugas yang dahulu hanya sanggup dilakukan oleh manusia.
Machine Learning
Dengan berkembangnya teknologi kecerdasan buatan, muncul salah satu cabang kecerdasan buatan yang memperoleh banyak perhatian dari para peneliti yang disebut machine learning. Machine Learning mempelajari teori semoga komputer bisa “belajar” dari data, machine learning melibatkan banyak sekali disiplin ilmu menyerupai statistika, ilmu komputer, matematika dan bahkan neurologi.
Salah satu algoritma machine learning yang menarik yaitu jaringan saraf tiruan, menyerupai namanya jaringan saraf tiruan terinspirasi dari cara kerja otak insan ( yang disederhanakan ).
Secara intuisi mencari wangsit untuk menciptakan mesin bisa “berfikir” dari cara kerja otak yaitu langkah yang cantik sama halnya menyerupai ingin menciptakan alat yang bisa terbang dengan melihat cara kerja burung terbang.
Dalam salah satu model jaringan saraf tiruan yang disebut MLP (multi layer perceptron) dikenal istilah layer, beberapa neuron tiruan dikelompokan menjadi satu layer kemudian layer satu menjadi input bagi layer yang lain. MLP sebetulnya yaitu model (matematika yang terdiri dari komposisi-komposisi fungsi dari vektor ke vektor.
Model ini biasanya di-train memakai algortima optimisasi berbasis gradien menyerupai gradient descent, banyak sekali persoalan muncul ketika model jaringan saraf tiruan mempunyai banyak layer, salah satu persoalan yang terkenal disebut the vanishing gradient.
Masalah ini muncul alasannya yaitu jaringan saraf tiruan dengan banyak layer sebetulnya yaitu fungsi yang terdiri dari banyak komposisi fungsi sehingga ketika menghitung gradien terhadap parameter dari fungsi tersebut, kita harus menggukan hukum rantai yang menjadikan gradien parameternya bernilai kecil sehingga algoritma gradient descent berjalan lambat.
Deep Learning
 |
| Geoffrey Hinton |
Pada tahun 2006, Geoffrey Hinton memperkenalkan salah satu varian jaringan saraf tiruan yang disebut deep belief nets, ide untuk men-train model jaringan saraf tiruan ini yaitu dengan men-train dua layer kemudian tambahkan satu layer diatasnya, kemudian train hanya layer teratas dan begitu seterusnya. Dengan taktik ini kita sanggup men-train model jaringan saraf tiruan dengan layer lebih banyak dari model-model sebelumnya. Paper ini merupakan awal populernya istilah deep learning untuk membedakan arsitektur jaringan saraf tiruan dengen banyak layer.
Setelah istilah deep learning populer, deep learning belum menjadi daya tarik yang besar bagi para peneliti alasannya yaitu jaringan saraf tiruan dengan banyak layer mempunyai kompleksitas algoritma yang besar, sehingga membutuhkan komputer dengan spesifikasi tinggi, dan tidak efisien secara komputasi dikala itu.
Hingga pada tahun 2009 Andrew ng dkk memperkenalkan penggunaan GPU untuk deep learning melalui paper yang berjudul Large-scale Deep Unsupervised Learning using Graphics Processors. Dengan memakai GPU jaringan saraf tiruan sanggup berjalan lebih cepat dibanding dengan memakai CPU.
Dengan tersedianya hardware yang memadai perkembangan deep learning mulai pesat, dan menghasilkan produk-produk yang sanggup kita nikmati dikala ini menyerupai pengenal wajah, self-driving car, pengenal suara, dan lain lain.
Referensi :
0 Response to "Sejarah Singkat Mengenai Deep Learning. Talos Sampai Geoffrey Hinton"
Posting Komentar