Gradient Descent adalah sebuah topik fundamental yang sangat penting untuk dipahami dalam bidang Machine Learning maupun Deep Learning. Dengan memahami metode ini, bukan hanya sekedar paham rumus dan cara kerjanya, namun dengan memahami bagaimana intuisinya. Saya mengartikan visualisasi disini sebagai pemahaman terhadap bagaimana proses, impact dan intuisi dari algoritma ini. Secara definisi menurut Wikipedia[1] adalah “a first-order iterative optimization algorithm for finding a local minimum of a differentiable function” atau sebuah algoritma optimalisasi yang bersifat iteratif untuk menemukan fungsi minimum…
Tutorial
Discriminative vs. Generative Learning
Algoritma Machine Learning pada umumnya mencoba untuk mempelajari input space 𝔁 , lalu memetakannya kedalam output label 𝔂. Jenis algoritma ini biasa disebut Discriminative Learning Algorithm (DLA) contohnya algoritma klasifikasi linear (Linear Classification), regresi logistik, Support Vector Machines (SVMs), Algoritma berbasis tree, Neural network, dan lain-lain. Karakteristik utama dari model yang berbasi DLA adalah model tersebut berusaha untuk membuat sebuah decision boundary dalam melakukan tasknya. Misalnya model SVM, dimana pada algoritma ini akan ditemukan sebuah Hyperplane yang menjadi pembatas antara…
Perbedaan MLE dan MAP
Maximum Likelihood Estimation (MLE) dan Maximum A Posteriori (MAP), merupakan metode yang digunakan untuk mengestimasi variabel pada sebuah probability distributions. Konsep MLE ini sering muncul ketika memperlajari model yang berbasis distribusi misalnya Gaussian Mixture Model (GMM) atau Naïve Bayes and Logistic regression. kita sering mendengar istilah ini namun kadang-kadang terlewatkan saya tampa mengetahui seberapa pentingnya konsep ini. Sebagai contoh ketika kita ingin menlakukan fitting terhadap dataset yang berdistribusi normal, kita langsung dapat mengestimasi mean dan varian lalu menjadikannya sebagai parameter…
Klasifikasi Image dengan Fitur GLCM
GLCM merupakan salah satu ektraksi ciri untuk memperoleh nilai fitur dengan menghitung kemunculan matriks yang sama dalam piksel gambar. Fitur yang terdapat dalam GLCM terdiri dari energi, entropi, homogenitas, kontras, korelasi, mean, dissimilariti dsb. GLCM dapat digunakan untuk ekstraksi sebuah gambar. Karena masing-masing gambar berbeda-beda berdasarkan tekstur dan polanya. Sederhananya, GLCM merupakan teknik analisis tekstur pada citra yang merepresentasikan hubungan antara 2 pixel yang bertetanggaan (neighboring pixels) berdasarkan keabuan (grayscale intensity), jarak dan sudut. Terdapat 8 sudut yang dapat digunakan…
Diagnosa Model Linear Regresion dengan StatModels
Model linear merupakan model dasar yang sederhana namun merupakan pondasi dari banyak teknik-teknik yang banyak digunakan saat ini. Model ini dibangun berdasarkan asumsi-asumsi bahwa data yang digunakan bersifat linear, independen, memiliki varian yang sama (homoscedasticity). Pengabaian dari beberapa asumsi tentunya mengakibatkan resiko-resiko tertentu. Sebagai resiko ketika salah satu asumsi tidak terpenuhi adalah model regresi menjadi kurang dapat diandalkan. Namun tidak berarti tidak bisa digunakan. Sebaliknya jika semua asumsi terpenuhi maka model regresi tersebut bisa sangat powerfull untuk digunakan. Model regresi…
Continue Reading “Diagnosa Model Linear Regresion dengan StatModels”