PERBANDINGAN RANDOM FOREST DAN SUPPORT VECTOR MACHINE UNTUK KLASIFIKASI CAPAIAN BELAJAR SISWA PADA DATA TIDAK SEIMBANG

Abstract

Ketidakseimbangan data (imbalanced data) pada capaian belajar siswa dapat memengaruhi performa model klasifikasi terutama dalam mengenali kelas minoritas. Tujuan riset ini mengevaluasi kinerja Random Forest pada klasifikasi capaian belajar dengan analisis komparatif terhadap model Support Vector Machine (SVM). Data yang digunakan merupakan data sekunder dari Student Performance Analytics Dataset yang terdiri dari 10.000 observasi dan 14 variabel sebelum tahap preprocessing. Rangkaian alur riset ini dimulai dengan menyiapkan dataset yang terdiri dari variabel input (X) dan variabel output (Y); melakukan tahap preprocessing data yang mencakup pembersihan data, penghapusan variabel yang tidak relevan serta sinkronisasi tipe data; melakukan analisis deskriptif untuk mengetahui karakteristik dan distribusi data; memisahkan dataset dilakukan dengan menetapkan proporsi 80:20 masing-masing untuk kebutuhan training data dan testing data menggunakan teknik stratified sampling; menyiapkan dua data skenario penelitian, yaitu tanpa balancing dan dengan balancing menggunakan metode upsampling pada data latih; membangun model klasifikasi menggunakan Random Forest; melakukan proses centering dan scaling pada Support Vector Machine (SVM); menjalankan teknis kernel Radial Basis Function (RBF) pada SVM; menguji model menggunakan data uji (testing data) untuk memprediksi capaian belajar; dan tahap akhir melakukan evaluasi pada model Random Forest tanpa balancing, Random Forest dengan balancing, SVM tanpa balancing, SVM dengan balancing. Evaluasi model disajikan dalam sebuah tabel confusion matrix yang menampilkan nilai accuracy dan kappa untuk mengukur kinerja klasifikasi secara keseluruhan sedangkan precision, recall dan F-1 score untuk mengevaluasi kemampuan model lebih rinci pada setiap kelas. Ditemukan nilai terbaik pada tabel confusion matrix dengan perolehan accuracy sebesar 95,89%, kappa 0,9341 dan F1-score 0,8235. Maka dapat disimpulkan bahwa analisis Support Vector Machine (SVM) lebih efektif dalam klasifikasi kondisi imbalanced data.