Apa itu Adjusted R-Squared? Definisi, Contoh

Adjusted R-Squared adalah ukuran statistik yang memberikan wawasan tentang seberapa baik model regresi cocok dengan data, dengan mempertimbangkan jumlah prediktor yang digunakan. Sementara R-Squared menunjukkan proporsi varians dalam variabel dependen yang dapat dijelaskan oleh variabel independen, Adjusted R-Squared menyesuaikan nilai ini berdasarkan jumlah prediktor dalam model. Penyesuaian ini sangat penting karena menambahkan lebih banyak prediktor dapat secara artifisial meningkatkan R-Squared, yang dapat menyebabkan interpretasi yang menyesatkan.

• R-Squared (R²): Ini adalah metrik dasar yang menunjukkan proporsi varians yang dijelaskan oleh model. Nilainya berkisar antara 0 hingga 1, dengan nilai yang lebih tinggi menunjukkan kecocokan yang lebih baik.

• Jumlah Prediktor (k): Ini adalah jumlah variabel independen yang termasuk dalam model. Semakin banyak prediktor yang Anda masukkan, semakin tinggi R-Squared dapat menjadi, terlepas dari kontribusi sebenarnya.

• Ukuran Sampel (n): Ini adalah total jumlah pengamatan dalam dataset. Ukuran sampel yang lebih besar dapat memberikan estimasi yang lebih dapat diandalkan tentang kinerja model.

• Menghindari Overfitting: Dengan memberikan penalti pada prediktor yang berlebihan, Adjusted R-Squared membantu dalam mengidentifikasi model yang benar-benar prediktif daripada sekadar menyesuaikan kebisingan dalam data.

• Perbandingan Model: Ini memungkinkan perbandingan yang adil antara model dengan jumlah prediktor yang berbeda. R-Squared yang Disesuaikan yang lebih tinggi menunjukkan model yang lebih baik dalam menangkap hubungan yang mendasari tanpa kompleksitas yang tidak perlu.

• Interpretabilitas yang Lebih Baik: R-Squared yang Disesuaikan memberikan estimasi yang lebih realistis tentang persentase varians yang dijelaskan, sehingga memudahkan analis untuk mengkomunikasikan temuan.

Sementara ada satu rumus untuk Adjusted R-Squared, itu dapat dihitung dalam konteks yang berbeda:

• Regresi Linier Berganda: Aplikasi yang paling umum, di mana beberapa variabel independen digunakan untuk memprediksi variabel dependen.

• Regresi Polinomial: R-Squared yang Disesuaikan juga berlaku dalam regresi polinomial, di mana hubungan antara variabel dimodelkan sebagai polinomial derajat n.

• Model Linier Generalisasi: Ini dapat disesuaikan untuk digunakan dalam berbagai jenis model linier generalisasi, memberikan wawasan tentang kinerja model.

• Contoh 1: Model regresi linier sederhana dengan satu prediktor dapat menghasilkan R-Squared sebesar 0,85. Namun, jika prediktor kedua ditambahkan yang tidak memberikan informasi yang berarti, Adjusted R-Squared dapat turun menjadi 0,80, menunjukkan bahwa prediktor kedua tidak berguna.

• Contoh 2: Dalam analisis regresi berganda yang melibatkan harga perumahan, sebuah model dengan lima prediktor mungkin menunjukkan R-Kuadrat sebesar 0,90. Jika prediktor lain ditambahkan dan R-Kuadrat yang Disesuaikan tetap di 0,90, itu menunjukkan bahwa prediktor baru tidak meningkatkan daya penjelasan model.

• Validasi Silang: Teknik ini melibatkan pembagian data menjadi subset untuk memvalidasi kinerja model, memberikan wawasan yang dapat mempengaruhi evaluasi Adjusted R-Squared.

• Kriteria Pemilihan Model: Teknik seperti Akaike Information Criterion (AIC) dan Bayesian Information Criterion (BIC) dapat melengkapi Adjusted R-Squared dalam memilih model terbaik.

• Pemilihan Fitur: Menggunakan strategi seperti eliminasi mundur atau pemilihan maju dapat membantu dalam mengidentifikasi prediktor yang paling signifikan, yang pada akhirnya meningkatkan Adjusted R-Squared.

Secara ringkas, Adjusted R-Squared adalah metrik yang berharga untuk mengevaluasi kinerja model regresi. Dengan menyesuaikan jumlah prediktor, ini membantu memastikan bahwa analis dapat membedakan hubungan yang bermakna tanpa terjebak oleh overfitting. Dengan memahami konsep ini, Anda dapat meningkatkan analisis statistik Anda dan membuat keputusan yang lebih tepat berdasarkan data Anda.