REGRESI LOGISTIK

REGRESI LOGISTIK (LOGISTIC REGRESSION)

REGRESI LOGISTIK Adalah regresi parametrik yang digunakan untuk Y berskala kategorik dan X berskala bebas.

Regresi Logistik

Biner

Y berskala nominal dengan 2 kategori

Multinomial

Y berskala nominal dengan lebih dari 2 kategori

Ordinal

Y berskala ordinal

REGRESI LOGISTIK • Jika pada regresi linier variabel prediktor digunakan untuk memprediksi nilai variabel respon, maka pada regresi logistik variabel prediktor digunakan untuk memprediksi peluang munculnya kategori variabel respon. 1

(x)

0,5

0

-∞

0 x

∞

REGRESI LOGISTIK • Jika variabel prediktor SEMUANYA kontinyu dan berdistribusi normal, maka dapat menggunakan analisis diskriminan. • Jika terdapat variabel prediktor berjenis kategorik, maka menggunakan analisis fungsi logit pada regresi logistik biner.

ASUMSI REGRESI LOGISTIK (Spring, 2010) • Meaningful coding. Untuk regresi logistik biner dan multinomial, variabel respon dikode 0 untuk kasus yang paling jarang terjadi. Sedangkan untuk regresi logistik ordinal kode 0 untuk tingkatan paling rendah • Adanya linearitas antara fungsi logit dan variabel prediktor. • Pengamatan dilakukan secara independen (misalnya, dengan teknik random sampling) • Menyertakan semua variabel yang relevan dalam model • Menyingkirkan semua variabel yang tidak relevan, atau memastikan tidak ada multikolinieritas antar variabel prediktor. • Variabel prediktor memiliki error dan data missing serendah mungkin bahkan tidak ada. • Tidak ada outlier • Sampel berukuran besar

REGRESI LOGISTIK BINER (BINARY LOGISTIC REGRESSION)

Regresi Logistik Biner • Salah satu bentuk regresi logistik dimana variabel respon dalam bentuk biner / dichotomy / dua kategori. • Juga sering disebut sebagai regresi logistik Binomial (Binomial Logistic Regression)

MODEL REGRESI LOGISTIK BINER Regresi linier: 𝐸 𝑌 𝑥 = 𝛽0 + 𝛽1 𝑥1 + ⋯ + 𝛽𝑝 𝑥𝑝 Regresi Logistik: 𝜋 𝑥 = 𝜋 𝑥 =

𝑒 𝛽 0 +𝛽 1 𝑥 1 +⋯+𝛽 𝑝 𝑥 𝑝 1+𝑒

𝑒

𝛽 0 +𝛽 1 𝑥 1 +⋯+𝛽 𝑝 𝑥 𝑝

 Fungsi peluang setiap kategori

𝑥𝑇𝛽

1 + 𝑒𝑥

𝑇𝛽

𝜋 𝑥 𝑔 𝑥 = 𝑙𝑛 1−𝜋 𝑥

Fungsi di-ln-kan

= 𝛽0 + 𝛽1 𝑥1 + ⋯ + 𝛽𝑝 𝑥𝑝 = 𝑥 𝑇 𝛽

𝑔 𝑥 = logit 𝜋 𝑥

REGRESI LOGISTIK MULTINOMIAL (MULTINOMIAL LOGISTIC REGRESSION)

REGRESI LOGISTIK MULTINOMIAL • Salah satu bentuk regresi logistik dimana variabel respon dalam bentuk MULTINOMIAL / polychotomy / lebih dari dua kategori.

MODEL REGRESI LOGISTIK MULTINOMIAL • Model tidak jauh berbeda dengan model regresi logistik biner. 𝜋 𝑥 = 𝜋 𝑥 =

𝑒 𝛽 0 +𝛽 1 𝑥 1 +⋯+𝛽 𝑝 𝑥 𝑝 1+𝑒

𝑒

𝛽 0 +𝛽 1 𝑥 1 +⋯+𝛽 𝑝 𝑥 𝑝

 Fungsi peluang setiap kategori

𝑥𝑇𝛽

1 + 𝑒𝑥

𝑇𝛽

𝜋 𝑥 𝑔 𝑥 = 𝑙𝑛 1−𝜋 𝑥

Fungsi di-ln-kan

= 𝛽0 + 𝛽1 𝑥1 + ⋯ + 𝛽𝑝 𝑥𝑝 = 𝑥 𝑇 𝛽

𝑔 𝑥 = logit 𝜋 𝑥

REGRESI LOGISTIK ORDINAL (ORDINAL LOGISTIC REGRESSION)

REGRESI LOGISTIK ORDINAL • Salah satu bentuk regresi logistik dimana variabel respon dalam bentuk ordinal, yaitu kategorik dengan memiliki tingkatan. • PERLU DIPERHATIKAN: Pada saat membuat model regresi logistik ordinal, diasumsikan bahwa hubungan antara variabel independen dengan logit adalah sama untuk semua logit. Ini berarti bahwa hasil model berupa sebuah garis paralel untuk setiap kategori variabel respon. Untuk membuktikannya dapat menggunakan Test of parallel lines, dimana uji tersebut digunakan untuk membuktikan terpenuhinya asumsi bahwa setiap kategori memiliki hubungan antara variabel independen dengan logit yang sama untuk semua persamaan logit. Jika tidak terpenuhi maka data cukup dimodelkan dengan regresi logistik multinomial.

MODEL REGRESI LOGISTIK ORDINAL 𝑃 𝑌 ≤ 𝑗𝑥 = 𝜋1 𝑥 + 𝜋2 𝑥 + ⋯ + 𝜋𝑗 𝑥 ,

𝑗 = 1, 2, ⋯ , 𝐽

Kumulatif logit didefinisikan sebagai 𝑙𝑜𝑔𝑖𝑡[𝑃 𝑌 ≤ 𝑗𝑥 = ln

𝑃 𝑌≤𝑗 𝑥 1−𝑃 𝑌≤𝑗 𝑥

= ln

𝑃 𝑌≤𝑗 𝑥 𝑃 𝑌>𝑗 𝑥

𝜋1 𝑥 + 𝜋2 𝑥 + ⋯ + 𝜋𝑗 𝑥 = ln 𝜋𝑗 =1 𝑥 + 𝜋𝑗 =2 𝑥 + ⋯ + 𝜋𝑗 𝑥 𝑗 = 1, 2, ⋯ , 𝐽

= 𝛽0𝑗 + 𝛽 𝑇 𝑥,

ODDS RATIO (ψ) • Odds Ratio digunakan untuk memperkirakan berapa besar kemungkinan risiko variabelvariabel prediktor terhadap variabel respon. 𝜓 a, b =

𝑌=𝑗 𝑥=𝑎 / 𝑌=𝑘 𝑥=𝑎 𝑌=𝑗 𝑥=𝑏 / 𝑌=𝑘 𝑥=𝑏

= exp 𝛽𝑖 𝑎 − 𝑏

ODDS RATIO (ψ) • Untuk ψ=1 berarti bahwa x = a memiliki risiko yang sama dengan x = b untuk menghasilkan Y = j. • Bila 1