Prediksi predikat kelulusan mahasiswa menggunakan deep neural network dengan Hessian-free optimization

INDONESIA :

Prediksi predikat kelulusan mahasiswa merupakan kebutuhan strategis bagi perguruan tinggi dalam mendukung monitoring akademik dan pengambilan keputusan berbasis data. Penelitian ini bertujuan mengembangkan model prediksi menggunakan Deep Neural Network (DNN) dengan pendekatan optimisasi Hessian-Free Optimization (HFO), serta membandingkan kinerjanya dengan optimizer berbasis turunan orde pertama. Model yang digunakan berupa Multilayer Perceptron (MLP) dengan tiga hidden layer (19, 12, dan 9 neuron) beraktivasi ReLU dan output layer softmax untuk klasifikasi empat kelas predikat kelulusan. Fungsi loss yang digunakan adalah categorical cross-entropy. Pada pendekatan HFO, pembaruan parameter diperoleh dengan menyelesaikan sistem Newton H(θ)Δθ=-∇L(θ) menggunakan Hessian-vector product dan algoritma Conjugate Gradient tanpa membentuk matriks Hessian secara eksplisit. Evaluasi pada 1.386 data uji menunjukkan perbedaan kinerja antar optimizer. SGDM menghasilkan akurasi 80,16%, Adam 80,45%, RMSProp 81,10%, sedangkan HFO mencapai akurasi tertinggi sebesar 85,64% dengan F1-score 0,8358. Hasil ini mengindikasikan bahwa pendekatan second-order berpotensi memberikan konvergensi yang lebih stabil dan kualitas solusi yang lebih baik dibandingkan pendekatan first-order maupun adaptive first-order pada konteks data ini. Namun demikian, HFO gagal mengklasifikasikan kelas minoritas (Cukup dan Memuaskan) dengan precision dan recall nol, sehingga keunggulannya terutama terlihat pada kelas mayoritas (Sangat Memuaskan dan Cumlaude). Studi ablasi menunjukkan bahwa penggunaan variabel akademik saja menghasilkan akurasi 84,85% (F1-score 0,8281), sedangkan kombinasi variabel akademik dan non-akademik meningkatkan akurasi menjadi 85,64% (F1-score 0,8358), atau meningkat sebesar 0,79%. Temuan ini menunjukkan bahwa variabel akademik merupakan prediktor dominan, sementara variabel non-akademik memberikan kontribusi komplementer dalam meningkatkan stabilitas dan generalisasi model. Penelitian ini menyimpulkan bahwa optimisasi berbasis informasi kurvatur melalui HFO dapat meningkatkan performa prediksi pada data akademik multivariat, namun tetap memiliki keterbatasan signifikan pada data tidak seimbang. Model yang dihasilkan berpotensi dikembangkan sebagai sistem pendukung keputusan dalam monitoring capaian mahasiswa di perguruan tinggi, dengan catatan perlu ditambahkan mekanisme penanganan ketidakseimbangan kelas sebelum implementasi.

ENGLISH:

Berikut adalah revisi abstrak/teks Anda agar menjadi lebih akademis, mengalir secara logis (coherent), dan memenuhi standar publikasi ilmiah nasional maupun internasional (menggunakan academic English yang presisi).Saya membaginya menjadi dua versi: Versi Standar Akademis (fokus pada perbaikan tata bahasa dan struktur) dan Versi Jurnal Internasional (lebih ringkas, formal, dan memiliki dampak akademis yang lebih kuat).Versi 1: Standar Akademis (Direkomendasikan)Versi ini mempertahankan struktur asli Anda namun memperbaiki transisi antar kalimat, akurasi istilah, dan tata bahasa (grammar).Predicting student graduation predicates is crucial for higher education institutions to support academic monitoring and data-driven decision-making. This study aims to develop a predictive model using a Deep Neural Network (DNN) optimized with a Hessian-Free Optimization (HFO) approach, and to compare its performance against traditional first-order derivative-based optimizers. The proposed model employs a Multilayer Perceptron (MLP) architecture with three hidden layers (consisting of 19, 12, and 9 neurons, respectively) utilizing ReLU activation and a softmax output layer for a four-class graduation predicate classification. The categorical cross-entropy loss function is employed to measure performance. In the HFO approach, parameter updates are computed by solving the Newton system $H(\theta)\Delta\theta = -\nabla\mathcal{L}(\theta)$ via Hessian-vector products and the Conjugate Gradient algorithm, thereby avoiding explicit formation of the Hessian matrix.Evaluation on 1,386 test samples reveals distinct performance variations among the optimizers. SGDM achieves an accuracy of 80.16%, Adam yields 80.45%, and RMSProp reaches 81.10%, whereas HFO achieves the highest accuracy at 85.64% with an F1-score of 0.8358. These results indicate that the second-order approach provides more stable convergence and superior solution quality compared to first-order and adaptive first-order methods within this dataset. However, HFO struggles with class imbalance, failing to classify minority classes (Cukup and Memuaskan), resulting in zero precision and recall; thus, its advantages are primarily observed in the majority classes (Sangat Memuaskan and Cumlaude). Furthermore, an ablation study demonstrates that utilizing academic variables alone yields an accuracy of 84.85% (F1-score of 0.8281), while integrating academic and non-academic variables elevates the accuracy to 85.64% (F1-score of 0.8358)—a marginal improvement of 0.79%. This suggests that while academic variables serve as the dominant predictors, non-academic features offer complementary benefits that enhance model stability and generalization.This study concludes that curvature-based optimization through HFO significantly improves prediction performance on multivariate academic data, despite its limitations on imbalanced datasets. The developed model holds strong potential for integration into decision support systems for institutional student monitoring, provided that class imbalance handling mechanisms are implemented prior to deployment.

ARABIC:

التنبؤ بتقديرات تخرج الطلاب هو حاجة استراتيجية لمؤسسات التعليم العالي لدعم المتابعة الأكاديمية واتخاذ القرار القائم على البيانات. تهدف هذه الدراسة إلى تطوير نموذج تنبؤي باستخدام شبكة عصبية عميقة (DNN) مع نهج تحسين خالٍ من هسيان (HFO)، ومقارنة أدائه مع المحسنات المعتمدة على المشتقات من الدرجة الأولى. يستخدم النموذج المقترح بنية Perceptron متعددة الطبقات (MLP) مع ثلاث طبقات مخفية (19، 12، 9 عصبونات) باستخدام تفعيل ReLU وطبقة إخراج softmax لتصنيف مسند التخرج بأربع فئات. دالة الخسارة المستخدمة هي الإنتروبيا التصنيفية المتقاطعة. في نهج HFO، يتم الحصول على تحديثات المعلمات بحل نظام نيوتن $H(\theta)\Delta\theta = -\nabla\mathcal{L}(\theta)$ باستخدام حاصل ضرب متجه هسيان وخوارزمية التدرج المترافق دون تشكيل مصفوفة هسيان بشكل صريح.يكشف التقييم على 1,386 عينة اختبار عن فروق في الأداء بين المحسنين. تحقق SGDM دقة %80.16، وADAM %80.45، وRMSProp %81.10، بينما تحقق HFO أعلى دقة بنسبة %85.64 مع درجة F1 تبلغ 0.8358. تشير هذه النتائج إلى أن النهج من الدرجة الثانية لديه القدرة على توفير تقارب أكثر استقرارًا وجودة حل أفضل مقارنة بالنهج من الدرجة الأولى والتكيفية في سياق هذه البيانات. ومع ذلك، يفشل HFO في تصنيف فئات الأقليات (Cukup وMemuaskan) بدقة واستدعاء معدومين، لذا تلاحظ ميزته بشكل أساسي في الفئات الأغلبية (Sangat Memuaskan وCumlaude).تظهر دراسة الاستئصال أن استخدام المتغيرات الأكاديمية وحده يعطي دقة تبلغ %84.85 (درجة F1: 0.8281)، بينما يجمع بين المتغيرات الأكاديمية وغير الأكاديمية الدقة إلى %85.64 (درجة F1: 0.8358)، مما يمثل تحسنًا بنسبة %0.79. تشير هذه النتائج إلى أن المتغيرات الأكاديمية هي المتنبئات السائدة، بينما توفر المتغيرات غير الأكاديمية مساهمات تكميلية لتعزيز استقرار النموذج وتعميمه. خلصت هذه الدراسة إلى أن التحسين القائم على الانحناء من خلال HFO يمكن أن يحسن أداء التنبؤ على البيانات الأكاديمية متعددة المتغيرات، لكنه لا يزال يواجه قيودًا كبيرة على البيانات غير المتوازنة. النموذج الناتج لديه القدرة على أن يتطور كنظام دعم قرار لمراقبة تحصيل الطلاب في التعليم العالي، مع الإشارة إلى ضرورة إضافة آليات التعامل مع عدم توازن الفئات (class imbalance) قبل التنفيذ.