Metode dan Evaluasi Machine Learning

Logistic regression memiliki kata "regression" pada namanya, tetapi merupakan metode klasifikasi yang mengubah hasil perhitungan linear menjadi bentuk probabilitas untuk menentukan kelas. Yang memprediksi nilai kontinu itu sendiri adalah metode masalah regresi seperti linear regression, dan memilih yang ini karena terpengaruh nama adalah kesalahan umum. Menemukan gerombolan tanpa data berlabel adalah clustering, topik unsupervised learning, dan memperbaiki tindakan dengan reward sebagai petunjuk adalah topik reinforcement learning - keduanya ditempatkan pada sub-bab yang berbeda.

Masalah regresi memprediksi nilai kontinu seperti penjualan atau suhu, dan masalah klasifikasi memprediksi kelas diskrit seperti apakah suatu email adalah spam atau bukan. Uraian yang menukar keduanya adalah kesalahan yang paling sering terjadi. Supervised learning membutuhkan pasangan fitur dan data berlabel pada masalah apa pun, sehingga tidak ada yang hanya cukup dengan fitur saja. Belajar hanya dengan reward sebagai petunjuk adalah reinforcement learning, dan ini bukan penjelasan untuk supervised learning.

Yang memiliki 1 variabel penjelas adalah regresi sederhana, dan yang memiliki 2 atau lebih adalah regresi berganda. Kata "sederhana" (simple/tunggal) dan "berganda" (multiple) langsung menyatakan jumlah variabel penjelas, sehingga uraian yang menukarnya dapat diketahui salah. Karena keduanya sama-sama metode regresi yang memprediksi nilai kontinu, uraian bahwa salah satunya untuk klasifikasi juga tidak tepat. Selain itu, analisis regresi adalah supervised learning, sehingga membutuhkan data berlabel terlepas dari jumlah variabelnya.

SVM melakukan maksimalisasi margin, yaitu menarik batas pada posisi di mana jarak dengan titik data terdekat menjadi maksimum. Titik terdekat ini disebut support vector. Menambah bobot data yang salah diklasifikasikan sambil menambahkan learner adalah pemikiran boosting, dan mencari arah dengan varians maksimum adalah pemikiran principal component analysis (PCA) - keduanya bukan penjelasan SVM. Cara yang melewati titik tengah pusat massa sama sekali tidak mempertimbangkan margin.

Kernel trick memungkinkan pemisahan non-linear dengan mencari langsung hasil kali dalam (inner product) setelah dipetakan ke ruang berdimensi tinggi menggunakan fungsi kernel, tanpa benar-benar menghitung koordinat hasil pemetaan tersebut. Tidak perlunya menghitung koordinat satu per satu inilah alasan disebut "trik", sehingga uraian yang menghitung terlebih dahulu baru memisahkan justru terbalik. Pembagian tanpa data berlabel adalah topik clustering, dan ini bukan mekanisme untuk mengurangi jumlah data pembelajaran.

Bagging membuat learner secara paralel dan saling independen dari data pelatihan yang dibuat dengan bootstrap sampling, lalu mengambil suara terbanyak atau rata-rata. Boosting menambahkan learner secara berurutan sambil memperlakukan contoh yang salah dari learner sebelumnya dengan lebih berat, sehingga bergantung urutan dan tidak dapat dibuat secara paralel. Menukar paralel dan berurutan ini adalah kesalahan yang paling sering terjadi. Keduanya sama-sama supervised learning yang menggunakan data berlabel, dan jenis weak learner yang dapat digunakan pun tidak terbatas pada decision tree atau linear regression saja.

Random forest adalah contoh representatif bagging yang membuat data pelatihan sedikit berbeda-beda dengan bootstrap sampling, yaitu pengambilan sampel dengan pengembalian, lalu membesarkan banyak decision tree secara paralel dan saling independen dari sana, kemudian mengambil suara terbanyak atau rata-rata. Menambahkan tree satu per satu sambil memperlakukan kesalahan tree sebelumnya dengan lebih berat adalah penjelasan sisi boosting seperti gradient boosting, dan menukar hal ini adalah kesalahan umum. Tree yang digunakan bukan satu melainkan dalam jumlah besar, dan yang digabungkan bukan linear regression melainkan decision tree.

Decision tree adalah metode yang menyusun percabangan kondisi terhadap fitur dalam bentuk pohon, dengan keunggulan bahwa manusia dapat membaca kondisi mana yang membawa ke arah mana. Di sisi lain, semakin dalam tree dibesarkan, semakin banyak kebiasaan halus data pelatihan yang ikut dihafal, sehingga mudah terjadi overfitting jika digunakan sendirian. Jika dibuat lebih dalam, kecocokan terhadap data pelatihan justru membaik, dan masalahnya adalah tetap menurun pada data baru, sehingga pernyataan bahwa kecocokan pasti memburuk adalah salah. Decision tree adalah supervised learning, dan dapat digunakan baik untuk klasifikasi maupun regresi.

Model AR menjelaskan nilai saat ini dari satu deret waktu dengan nilai masa lalu deret itu sendiri. Model VAR memperluas ini ke beberapa deret waktu, membentuknya menjadi bentuk yang saling menjelaskan dengan nilai masa lalu satu sama lain. Karena perbedaannya adalah satu atau beberapa deret, uraian yang menukar hal ini salah. Keduanya sama-sama model yang menangani deret waktu, dan bukan alat untuk mengambil fitur lokal gambar atau komponen frekuensi suara. Bukan pula yang dibedakan berdasarkan perlu tidaknya data berlabel.

Multi-class classification adalah masalah klasifikasi yang menebak termasuk kelas mana dari 3 kelas atau lebih, dan tugas menetapkan angka tulisan tangan ke salah satu dari 0 hingga 9 adalah contoh khasnya. Menebak nilai kontinu seperti suhu maksimum adalah masalah regresi, bukan klasifikasi. Menemukan gerombolan pelanggan yang mirip adalah clustering, topik unsupervised learning, dan memilih ulang langkah berdasarkan reward adalah reinforcement learning - keduanya sejak awal bukan masalah klasifikasi supervised learning.

Silabus mencantumkan tujuan "memahami bahwa unsupervised learning hanya membutuhkan fitur". Tanpa memiliki label jawaban, menemukan struktur data itu sendiri melalui clustering atau reduksi dimensi adalah unsupervised learning. Yang mengasumsikan pasangan fitur dan data berlabel adalah supervised learning, dan yang menggunakan reward sebagai petunjuk adalah reinforcement learning, keduanya ditempatkan di sub-bab berbeda. Prosedur membuang sisa data pun bukan penjelasan unsupervised learning.

Metode k-means adalah non-hierarchical clustering yang menentukan jumlah cluster k terlebih dahulu, lalu mengulang operasi menetapkan setiap titik ke pusat massa terdekat dan menghitung ulang pusat massa. Yang menggabungkan mulai dari yang paling dekat tanpa menentukan jumlah cluster adalah hierarchical clustering seperti metode Ward, yang dapat menggambar dendrogram. Memaksimalkan margin adalah SVM, supervised learning, dan memperkirakan topik dari kemunculan kata adalah topic model seperti latent Dirichlet allocation (LDA).

Metode Ward adalah hierarchical clustering yang menggabungkan mulai dari yang paling dekat, dan proses penggabungannya dapat digambar sebagai dendrogram. Keunggulannya adalah dapat menentukan jumlah cluster kemudian sambil melihat pada ketinggian berapa akan dipotong. Yang non-hierarchical dan menentukan jumlah cluster terlebih dahulu adalah metode k-means, yang tidak membuat dendrogram. Metode Ward bukan metode reduksi dimensi maupun supervised learning, dan tidak menggunakan label jawaban.

PCA adalah reduksi dimensi linear yang mengambil ulang sumbu ke arah dengan varians maksimum, dan t-SNE adalah metode non-linear yang memetakan ke dimensi rendah sambil mempertahankan kedekatan titik-titik yang berdekatan, sering digunakan untuk visualisasi dalam 2 atau 3 dimensi. Uraian yang menukar linear dan non-linear ini adalah kesalahan umum. Yang memperkirakan topik dokumen adalah topic model seperti latent Dirichlet allocation (LDA), dan yang mendekomposisi matriks adalah singular value decomposition (SVD). Baik PCA maupun t-SNE adalah unsupervised learning, sehingga tidak membutuhkan data berlabel.

Collaborative filtering merekomendasikan berdasarkan kemiripan penilaian antar pengguna atau antar produk sebagai petunjuk, sehingga untuk pengguna baru atau produk baru yang belum memiliki riwayat penilaian, tidak ada petunjuk yang dapat diambil dan rekomendasi sulit diberikan. Inilah cold start problem. Content-based filtering yang menggunakan teks deskripsi atau atribut produk itu sendiri sebagai petunjuk dibicarakan berdampingan sebagai pemikiran yang mengatasi kelemahan ini. Bukan soal waktu komputasi atau stok.

Reinforcement learning berinteraksi dengan lingkungan sambil mencoba-coba, dan mempelajari kebijakan yang memaksimalkan akumulasi reward yang diterima. Petunjuknya bukan label jawaban per langkah melainkan reward, sehingga ini bukan salah satu jenis supervised learning. Hanya mengandalkan kedekatan jarak adalah pemikiran unsupervised learning seperti clustering, dan jumlah kemunculan kata adalah topik representasi fitur pemrosesan bahasa alami - keduanya bukan sinyal pembelajaran reinforcement learning. Mengevaluasi masa depan dengan discount rate untuk mengantisipasi reward yang tidak segera kembali juga merupakan ciri khas kerangka kerja ini.

Silabus mencantumkan tujuan "memahami dua pendekatan representatif: pembelajaran fungsi nilai dan pembelajaran kebijakan". Memperkirakan state value function atau action value function lalu memilih tindakan adalah yang pertama, dengan Q-learning dan SARSA sebagai representatifnya. Menyatakan kebijakan itu sendiri dengan parameter dan memperbaruinya secara langsung adalah yang kedua, dengan policy gradient method dan REINFORCE sebagai representatifnya. Actor-Critic menggabungkan Actor yang menangani kebijakan dan Critic yang menangani nilai, memiliki keduanya. Pernyataan bahwa hanya ada salah satu, atau bahwa keduanya tidak pernah menjadi objek pembelajaran, adalah salah.

Keduanya adalah metode reinforcement learning yang memperbarui action value function, dan perbedaannya adalah apa yang digunakan untuk pembaruan. Q-learning menggunakan nilai tindakan maksimum di antara tindakan yang mungkin diambil pada keadaan berikutnya, dan SARSA memperbarui menggunakan nilai tindakan berikutnya yang benar-benar dipilih. Menukar keduanya adalah kesalahan umum. Q-learning juga memperbarui action value function, sehingga pernyataan bahwa hanya salah satunya yang menggunakannya tidak tepat. Karena reinforcement learning adalah kerangka kerja yang belajar dengan reward pada keduanya, pernyataan bahwa membutuhkan data berlabel juga salah.

Lengan dengan nilai perkiraan maksimum terpilih dalam dua kasus: saat dipilih secara greedy, dan saat kebetulan terpilih hasil dari pemilihan acak. Yang pertama adalah 1 dikurangi 0,1 menjadi 0,900, dan yang kedua adalah 0,1 dibagi 4 menjadi 0,025, sehingga jika dijumlahkan menjadi 0,925. 0,900 adalah nilai yang lupa menghitung bagian yang kebetulan terpilih dari pemilihan acak, 0,250 adalah probabilitas saat dipilih seragam dari 4 lengan, dan 0,100 adalah ε itu sendiri. Semakin besar ε, semakin banyak eksplorasi, dan probabilitas ini menurun.

4 dikalikan 0,5 menjadi 2, 12 dikalikan 0,5 pangkat 2 yaitu 0,25 menjadi 3, dan 8 dikalikan 0,5 pangkat 3 yaitu 0,125 menjadi 1, sehingga jumlahnya adalah 6,0. 24,0 adalah nilai penjumlahan 4, 12, dan 8 tanpa diskon sama sekali, 12,0 adalah nilai 24 tersebut dikalikan 0,5 hanya sekali, dan 7,5 adalah nilai dengan urutan perkalian dibalik, yaitu 4 dikalikan 0,125, 12 dikalikan 0,25, dan 8 dikalikan 0,5 - semuanya kesalahan umum. Karena tugas discount rate adalah menilai lebih kecil reward yang lebih jauh di masa depan, bobot lebih besar diberikan pada yang lebih dekat.

Precision menggunakan yang diprediksi positif sebagai penyebut, sehingga true positive 40 dibagi dengan jumlah true positive 40 dan false positive 10 yaitu 50, menghasilkan 0,80. 0,67 adalah recall yang menggunakan yang benar-benar positif sebagai penyebut, yaitu 40 dibagi jumlah true positive 40 dan false negative 20 yaitu 60. 0,85 adalah accuracy, yaitu proporsi 170 yang benar ditebak dari total 200, dan 0,73 adalah F-score, rata-rata harmonik precision 0,80 dan recall 0,67 - semuanya adalah nilai indikator lain yang tertukar.

Precision adalah "proporsi yang benar-benar positif di antara yang diprediksi positif", sehingga penyebutnya ada di sisi prediksi. Recall adalah "proporsi yang berhasil ditangkap di antara yang benar-benar positif", sehingga penyebutnya ada di sisi kenyataan. Kesalahan menukar keduanya paling sering terjadi, jadi ingat berdasarkan apakah penyebutnya prediksi atau kenyataan. Yang menggunakan seluruh data sebagai penyebut adalah accuracy, dan indikator yang hanya menggunakan true negative atau false negative sebagai penyebut bukan keduanya. Precision diutamakan saat ingin mengurangi false alarm, dan recall diutamakan saat ingin mengurangi yang terlewat.

F-score adalah rata-rata harmonik precision dan recall, sehingga 2 dikalikan hasil kali 0,6 dan 0,9 yaitu 0,54, menjadi 1,08, dibagi jumlah 0,6 dan 0,9 yaitu 1,5, menghasilkan 0,72. 0,75 adalah nilai yang menghitung rata-rata aritmetika, bukan rata-rata harmonik, 0,54 adalah nilai hasil kali keduanya saja, dan 1,50 adalah nilai hasil penjumlahan saja. Perlu diperiksa juga bahwa rata-rata harmonik tertarik ke nilai yang lebih kecil, sehingga lebih kecil dari rata-rata aritmetika 0,75.

Karena positif hanya 1%, hanya dengan menjawab semuanya negatif pun 99% akan benar, sehingga accuracy menjadi 99%. Namun karena tidak satu pun positif yang sebenarnya berhasil ditangkap, recall menjadi 0%, dan model ini tidak berguna. Ketika jumlah kelas tidak seimbang, hanya melihat accuracy dapat menyesatkan penilaian, sehingga perlu juga melihat recall, F-score, serta kurva ROC dan AUC bersamaan. Dalam setting ini, accuracy tidak akan menjadi 1% atau 50%.

Kurva ROC digambar dengan menggerakkan ambang batas penilaian, dengan sumbu vertikal true positive rate dan sumbu horizontal false positive rate, dan area di bawahnya adalah AUC. AUC semakin baik semakin mendekati 1, dan 0,5 berarti setara dengan penilaian yang dilakukan secara sembarangan. Jika sumbu vertikal diganti precision dan sumbu horizontal recall, akan menjadi kurva yang berbeda, sehingga di sinilah letak kesalahan umum. Kombinasi accuracy dengan jumlah data, atau error dengan jumlah iterasi, adalah grafik lain untuk melihat perkembangan pembelajaran.

Baik AIC maupun BIC adalah indikator yang menjumlahkan kebaikan kecocokan terhadap data dengan penalti atas penambahan parameter, dan nilai yang lebih kecil dianggap model yang lebih baik. Menganggap semakin besar semakin baik adalah salah, dan di sinilah yang paling sering diincar. Jika hanya memilih berdasarkan kecocokan terhadap data pelatihan, model dengan parameter banyak akan selalu terpilih dan mengarah ke overfitting, sehingga penalti ditempatkan untuk menyeimbangkannya. Ini sejalan dengan pemikiran pisau cukur Occam yang tidak membuat sesuatu lebih rumit dari yang diperlukan.

k-fold cross-validation membagi data menjadi k bagian, menggunakan satu bagian untuk validasi dan sisanya untuk pembelajaran, mengulang prosedur ini k kali lalu merata-ratakan hasilnya. Jika 200 data dibagi 5, satu kelompok berisi 40 data, sehingga validasi selalu 40 data, pembelajaran menggunakan sisa 160 data, dan ini diulang 5 kali. Yang hanya membagi sekali dan selesai adalah holdout validation, komputasinya ringan tetapi hasilnya mudah dipengaruhi cara pembagian. Menggunakan 160 data untuk validasi adalah cara menghitung yang menukar pembelajaran dan validasi.

Kuadrat error adalah 4, 16, 16, 0, dan jumlahnya adalah 36. Ini dibagi jumlah data 4 menjadi 9, yaitu mean squared error (MSE), dan akar kuadratnya yaitu 3,0 adalah RMSE. 9,0 adalah nilai yang dijawab masih dalam bentuk MSE, 2,5 adalah mean absolute error (MAE), yaitu rata-rata nilai absolut error 2, 4, 4, 0, dan 6,0 adalah nilai yang lupa membagi dengan jumlah data dan langsung mengambil akar kuadrat dari jumlah kuadrat 36. RMSE mudah dibaca karena satuannya sama dengan error aslinya.

Jumlah 84 dibagi jumlah data 7 menghasilkan mean 12, urutan ke-4 dari yang terkecil adalah 6 sehingga median 6, dan 4 yang muncul 2 kali adalah modus. Poin pentingnya adalah hanya mean yang tertarik jauh oleh outlier 50, sedangkan median dan modus hampir tidak bergeser - ini adalah contoh bahwa tidak boleh menilai hanya dengan melihat satu nilai representatif saja. Nilai yang menukar mean dan median, atau menukar median dan modus, adalah kesalahan umum.

Korelasi semu adalah fenomena di mana korelasi muncul di antara dua hal yang tidak memiliki hubungan sebab-akibat langsung, seperti penjualan es krim dan jumlah kecelakaan air yang bergerak bersamaan karena adanya faktor bersama yaitu suhu udara. Pelajaran di sini adalah meskipun ada korelasi, belum tentu ada hubungan sebab-akibat, sehingga tidak bisa dikatakan koefisien korelasi positif berarti sebab dan akibat. Selain itu, meskipun koefisien korelasi 0, mungkin ada hubungan non-linear yang tersembunyi, sehingga tidak dapat dipastikan tidak ada hubungan. Penanganan outlier adalah poin yang berbeda dari ini.