REGRESI NON LINIER DENGAN PROSEDUR ESTIMASI KURVA

click to get the pdf version

Model regresi linier yang kita ketahui dalam pemodelan variabel dependen (Y) dengan beberapa variabel independen (X) adalah seperti berikut ;

Y = b0 + b1X1 + b2X2 + b3X3 + .... + bnXn

Kalau kita plotkan grafik dalam bentuk scatterplot bisa kita lihat pola sebaran data variabel independen mengikuti garis linier terhadap variabel dependen,

Kita lihat plot residual untuk regresi linier, tersebar secara merata, ini merupakan asumsi dari regresi linier,

Berikut ini adalah model regresi Non Linier secara umum;

Y =𝑓(X1, β1) + 𝜀

dimana : 

Y = variabel dependen yang akan digunakan untuk menghitung pemodelan
f = fungsi dari model regresi
X1 = vektor variabel bebas (independen)
β1 = vektor parameter yang belum diketahui
𝜀 = residual atau error

Asumsi dalam persamaan regresi non linier :

• Error terdistribusi secara normal,
• Keragaman bersifat homogen (Var(ϵ_i) = σ² untuk ∀_i)
• Error independen (Cov(ϵ_i, ϵ_j) = 0 untuk ∀_{i, j})

Beberapa persamaan lain yang biasa digunakan untuk Regresi Non Linier :

• Von Bertalanffy-Richard

• Michaelis-Menten

• Model Logistik

Regresi non linier menggunakan estimator model kuadrat terkecil (least square) non linier untuk membuat estimasi terhadap parameter. Seperti halnya estimator model kuadrat terkecil regresi linier, estimator NLS berguna untuk meminimalkan jumlah sum of squared errors (SSE). Formulanya seperti berikut ini :

Estimator NLS terhadap β adalah :

dimana :

X* adalah matriks turunan parsial dari model terkait dengan parameter

Parameternya dihitung secara terus menerus dengan persamaan tersebut hingga mendapatkan nilai SSE yang paling kecil. Prosedur ini dikenal sebagai iterasi.

Contoh scatterplot pola non linier adalah seperti gambar berikut ini :

Bagaimana menentukan model non linier untuk data yang kita miliki, kita akan lakukan prosedur curve fit pada SPSS versi 25, bagi yang belum punya softwarenya bisa beli disini.

Kita memiliki data efek waktu pemasangan iklan terhadap penjualan produk kosmetik "BELLA LUNA", waktu pemasangan iklan dinyatakan dalam bulan, sedangkan variabel bebas kita gunakan nilai penjualan sesaat setelah iklan berhenti ditayangkan atau masih ditayangkan.

Nilai negatif (-) mengindikasikan bulan sesudah iklan ditayangkan terhadap waktu penjualan, nilai 0 mengindikasikan waktu penayangan iklan pada bulan yang sama dengan penjualan, sedangkan nilai positif (+) mengindikasikan waktu iklan masih tayang setelah penjualan. Nilai penjualan dinyatakan dalam Ribuan Dollar US.

Data xls nya dapat kamu ambil disini,

 

Untuk mengambil data dari excel, seperti biasa kita pilih File - Import Data - Excel,

Pilih data kamu, open,

dan sudah masuk ke dalam jendela IBM SPSS versi 25,

Untuk prosedur curve fitting di IBM SPSS versi 25 kita dapat masuk ke tab Analyze - Regression - Curve Estimation,

Masukkan pada kotak dialog curve estimation, variabel dependen Sales, dan variabel independen month, kita coba dulu plotkan kurva linier,

Hasilnya,

Mari kita lihat nilai R-square = 0,001, dan nilai signifikansi sangat tidak signifikan, 0,916 lebih besar dari nilai kritik α = 0,05, sangat mengerikan bukan??lebih lagi plot datanya,

Oleh karena itu kita akan coba model lain, 

Hasilnya ;

Baik model kubik maupun kuadratik sama signifikan, pilih aja model yang paling simpel yaitu kuadratik, dengan demikikan model regresi non linier yang kita peroleh sesuai koefisien regresi adalah ;

Y = 216,8 + 2,53X1 - 4,87X2

Persamaan regresi yang kita peroleh mengikuti pola parabola (kuadratik), karena persamaan inilah yang menjelaskan model non linier yang paling baik.(yoso)

Read More

KONSEP HETEROSKEDASTISITAS DAN DETEKSINYA DENGAN UJI PARK

click to get the pdf version

Apa itu heteroskedastisitas???coba kita lihat uraian berikut, 

Asumsi OLS V(εj) = σ2 untuk j=1,2,...n, dimana keragaman dari error adalah konstan, ini adalah Asumsi data bersifat homoskedastik. Jika error tidak memiliki keragaman konstan maka dikatakan bersifat heteroskedastis. 

Error dapat meningkat ketika nilai variabel bebas (independen) meningkat. Misalnya sebuah model mengenai harapan hidup di suatu negara Y dimana variabel dependen yang digunakan adalah harapan hidup. Negara dengan tingkat migrasi dan fertility rate rendah tentunya akan memiliki harapan hidup yang rendah. Tetapi negara dengan tingkat migrasi dan fertility rate yang tinggi akan tinggi pula angka harapan hidupnya. Hal itu menyebabkan tinggi juga jumlah kelahiran maupun tingkat migrasi di negara tersebut, tetapi untuk negara dengan harapan hidup tinggi tersebut, hal lain selain dua variabel tersebut akan berpeluang menjadi tinggi juga di negara tersebut. Karena itu keragaman di negara Y akan menjadi lebih besar oleh variabel lain selain dua variabel bebas tadi, karena itulah terjadi masalah heteroskedastisitas. 

Bisa dikatakan pula bahwa error pada negara yang lebih besar mungkin memiliki keragaman yang lebih besar daripada error yang terjadi pada negara yang lebih kecil. Pendapatan pajak dari negara yang lebih besar mungkin lebih volatil daripada penerimaan pajak negara kecil. 

Error juga bisa meningkat jika nilai variabel independen menjadi ekstrim ke satu arah, kemudian dengan sedikit penyesuaian bisa menjadi ekstrim ke arah lain. Katakanlah nilai yang tadinya negatif dan besar, bisa tiba-tiba menjadi positif dan besar. Pengukuran error dapat menyebabkan masalah heteroskedastisitas juga. Beberapa responden mungkin akan memberikan hasil survey yang lebih akurat daripada responden lain. 

Atau misalnya hubungan yang tak masuk akal dimana pendapatan akan menyebabkan perbedaan belanja antara orang Korea dan orang Jepang, bukan perbedaan pendapatan yang menjadi fokus, tetapi orang Korea dan orang Jepang. Hal yang normal adalah perbedaan pendapatan akan mempengaruhi besarnya belanja seseorang, entah darimanapun asalnya.

Masalah heteroskedastisitas dapat menyebabkan estimasi OLS kita menjadi tidak BLUE (best linear unbiased estimator), artinya jika terjadi masalah heteroskedastisitas pada data maka  standar error akan menjadi bias, uji signifikansi model bisa saja memberikan hasil terlalu tinggi atau terlalu rendah. Dengan demikian uji statistik yang menggunakan standar error akan menjadi tidak valid.

Bagaimana cara mendeteksi masalah heteroskedastisitas??

Cara pertama adalah dengan metode grafik residual, Cukup dengan plot residual atau squared residual terhadap variabel independen atau predicted value variabel dependen. Jika terdapat sebuah pola, maka terdapat hubungan antara residual dengan X atau Xβ. Untuk uji heteroskedastisitas metode grafik residual kamu bisa lihat disini.

Salah satu uji untuk deteksi heteroskedastisitas adalah uji park, Uji Park ini dikembangkan oleh Park pada tahun 1966 (Park, 1966). Dengan data yang kita miliki sebagai ilustrasi berikut ini:

Tahap-tahap uji:

1. Langkah menginput dan mengimpor data serta menjalankan regresi.

Untuk langkah input data tidak perlu diterangkan lebih jauh karena telah dibahas pada bahasan regresi dengan eviews, kamu bisa lihat bahasannya disini.

2. Setelah itu kita akan membuat variabel baru, katakanlah disini res2 dengan menggunakan rumus resid^2, karena pada uji heteroskedastisitas kita akan bermain dengan residual kuadrat, langkahnya dilakukan dengan mengklik tombol Genr seperti berikut ini:

lalu isikan dengan res2 = resid^2, seperti berikut:

3. Setelah itu residual tadi akan kita regresikan dengan menggunakan persamaan ln(res2)=b0 + b1X1 + b2X2 + b3X3 + e. yaitu dengan memilih menu QUICK - ESTIMATE EQUATION - kemudian isikan log(res2) c x1 x2 x3 - lalu klik OK seperti berikut ini:

4. Setelah itu output akan didapatkan seperti berikut ini:

Kita dapat melihat koefisien yang dihasilkan dengan uji Park ini yaitu:

Log(res2) = 6,19 + 0,047 X1 - 0,01 X2 - 0,45 X3

t-statistik     (2,66)     (0,86)       (-0,28)     (-0,44)

p-value        (0,015)   (0,39)        (0,78)      (0,66)

Dari output diatas dapat kita lihat bahwa koefisien masing-masing variabel independen bersifat tidak signifikan, maka dengan demikian dapat kita simpulkan bahwa model yang kita kembangkan tidak mengandung masalah Heteroskedastisitas.

Read More

DETEKSI HETEROSKEDASTISITAS DENGAN PLOT RESIDUAL

click to get the pdf version

Pada bahasan sebelumnya telah dijelaskan mengenai konsep heteroskedastisitas pada model regresi yang kita jalankan, hal itu tidak akan kita bahas lagi disini, kamu bisa lihat di bahasan ini.

Seperti yang kita ketahui, ada beberapa cara untuk mengetahui residual pada model regresi kita bersifat homoskedastik atau heteroskedastik. Antara lain dengan uji white, uji park, uji breusch-pagan-godfrey, model ARCH, dan uji glejser. 

Pengujian indikasi heteroskedastisitas kali ini kita ilustrasikan dengan metode grafik/scatterplot residual. Pola residual yang mengandung masalah ini biasanya membentuk suatu pola dan tidak tersebar secara merata, dengan demikian kita dapat menduga bahwa model kita mengandung masalah heteroskedastisitas.

Pengujian metode grafik akan kita jalankan dengan bantuan software IBM SPSS versi 25, bagi yang belum punya versi terbarunya bisa beli disini.

Kita lihat lagi data box office movie sales yang pernah kita gunakan dalam bahasan regresi linier berganda (multiple), kamu bisa lihat lagi disini. Datanya adalah sebagai berikut, untuk data aslinya dalam bentuk excel bisa kamu ambil disini.

Untuk tahap pertama kita akan jalankan analisis regresi linier berganda terlebih dahulu,

Input data ke dalam SPSS dengan file - import data - excel,

Setelah mengambil data dalam bentuk excel tadi jalankan analyze - regression - linear,

Masukkan variabel dependen (Y) ke kotak dependen, dan variabel independen (X) ke kotak independen, plots di samping kanan,

dalam kotak dialog plots, masukkan residual dari persamaan yang kita miliki, untuk kolom Y adalah *ZRESID, dan untuk kolom X adalah *ZPRED, checklist normal probability plot,

lalu continue - OK, lalu akan ditampilkan outputnya,

Grafik normal probability mengikuti garis linier, artinya model yang kita peroleh signifikan,

Lihat sebaran residual pada plot residual di atas, tidak memperlihatkan suatu pola tertentu, residual tersebar merata, maka dapat kita simpulkan bahwa residual bersifat homoskedastik. Tidak cukup bukti untuk mengatakan model kita mengandung masalah heteroskedastisitas.

Berikut ini adalah contoh scatterplot residual dengan indikasi adanya masalah heteroskedastisitas, plot residual menunjukkan pola tertentu, peningkatan nilai error pada sumbu X diikuti dengan keragaman yang meningkat pada sumbu Y. (yoso)

Read More

REGRESI LOGISTIK

click to get the pdf version

Regresi linier seperti yang kita ketahui tidak dapat menyelesaikan kasus dimana variabel dependent bersifat dikotomi dan kategori dengan dua atau lebih kemungkinan (ex. sukses atau Gagal; terpilih atau tidak terpilih; lulus atau tidak lulus; melakukan pembelian atau tidak; mendapat promosi atau tidak, dan lain-lain). Regresi logistik umumnya melibatkan berbagai macam variabel prediktor baik numerik ataupun kategorik, termasuk variabel dummy. Pada regresi linier, variabel prediktor yang digunakan biasanya numerik, tetapi jika kita melibatkan campuran antara numerik maupun kategorik kita dapat menggunakan regresi logistik.

Regresi logistik membentuk persamaan atau fungsi dengan pendekatan maximum likelihood, yang memaksimalkan peluang pengklasifikasian objek yang diamati menjadi kategori yang sesuai kemudian mengubahnya menjadi koefisien regresi yang sederhana. Dua nilai yang biasa digunakan sebagai variabel dependen yang diprediksi adalah 0 dan 1 (ex. 1=berhasil, 0=gagal).

Regresi logistik menghasilkan rasio peluang (odds ratios) antara keberhasilan atau kegagalan suatu dari analisis. Dapat kita contohkan dengan seorang tokoh yang ingin menjadi presiden, akan lebih baik peluangnya jika menjadi ketua partai politik tertentu. Disini odds ratio yang dimaksud adalah seberapa besar peluang tokoh tersebut dengan mempertimbangkan variabel prediktor yang ada.

Regresi logistik akan membentuk variabel prediktor/respon (log (p/(1-p)) yang merupakan kombinasi linier dari variabel independen. Nilai variabel prediktor ini kemudian ditransformasikan menjadi probabilitas dengan fungsi logit.

Asumsi-asumsi dalam regresi logistik

• Tidak mengasumsikan hubungan linier antar variabel dependen dan independent 
• Variabel dependen harus bersifat dikotomi (2 variabel) 
• Variabel independent tidak harus memiliki keragaman yang sama antar kelompok variabel 
• Kategori dalam variabel independent harus terpisah satu sama lain atau bersifat eksklusif 
• Sampel yang diperlukan dalam jumlah relatif besar, minimum dibutuhkan hingga 50 sampel data untuk sebuah variabel prediktor (bebas).

Persamaan Regresi Logistik

Regresi logistik menghasilkan rasio peluang yang dinyatakan dengan transformasi fungsi logaritma (log), dengan demikian fungsi transformasi log ataupun ln diperlukan untuk p-value, dengan demikian dapat dinyatakan bahwa logit(p) merupakan log dari peluang (odds ratio) atau likelihood ratio dengan kemungkinan terbesar nilai peluang adalah 1, dengan demikian persamaan regresi logistik menjadi:

logit(p) = log (p/1-p) = ln (p/1-p)

dimana p bernilai antara 0-1.

Model yang digunakan pada regresi logistik adalah:

Log (P / 1 – p) = β0 + β1X1 + β2X2 + …. + βkXk

Dimana p adalah kemungkinan bahwa Y = 1, dan X1, X2, X3 adalah variabel independen, dan b adalah koefisien regresi.

Konsep Log Odds, Odds Ratio

Logit (log odds) merupakan koefisien slope (b) dari persamaan regresi. Slope disini adalah perubahan nilai rata-rata dari Y dari satu unit perubahan nilai X. Regresi logistik melihat perubahan pada nilai variabel dependen yang ditransformasi menjadi peluang, bukan nilai aslinya seperti pada regresi linier.

Sebagai ilustrasi jika nilai peluang adalah 0,25, maka nilai odds adalah 3 (25 : 75), sedangkan jika nilai peluang 50, maka nilai odds adalah 1 (50 : 50), atau jika nilai peluang 0,33, maka nilai odds adalah 2 (33 : 67) dengan total keseluruhan nilai peluang adalah 1. Nilai odds ratio biasanya dapat kita lihat pada kolom B pada ‘variables in the equation’ output SPSS.

Kecocokan Model (model fit) dan fungsi likelihood

Likelihood berarti juga peluang atau probabilitas untuk hipotesis tertentu. Seperti yang kita ketahui pada kurva regresi linier kita lihat adanya hubungan linier, peningkatan pada sumbu Y akan diikuti dengan peningkatan pada sumbu X dan sebaliknya. Tetapi pada regresi logistik dengan nilai Y antara 0 dan 1, pendekatan linier tidak bisa kita gunakan. Oleh karena itu metode maximum likelihood sangat berguna dalam menentukan kecocokan model yang tepat bagi persamaan yang kita miliki.

Hipotesis dalam regresi logistik antara lain: 

h0 = ketika persamaan regresi bernilai 0 [logit(p) = 0]. 

h1 = persamaan regresi berbeda nyata dari 0 [logit(p) ≠ 0]. 

Regresi logistik merupakan salah satu bentuk regresi non linier dimana model yang ditentukan akan mengikuti pola kurva linier seperti gambar di bawah ini.Untuk lebih detail mengenai Regresi non linier kamu bisa lihat bahasannya disini.

Regresi logistik juga menghasilkan rasio peluang (odds ratios) terkait dengan nilai setiap prediktor. Peluang (odds) dari suatu kejadian diartikan sebagai probabilitas hasil yang muncul yang dibagi dengan probabilitas suatu kejadian tidak terjadi. Secara umum, rasio peluang (odds ratios) merupakan sekumpulan peluang yang dibagi oleh peluang lainnya. Rasio peluang bagi prediktor diartikan sebagai jumlah relatif dimana peluang hasil meningkat (rasio peluang ; 1) atau turun (rasio peluang ; 1) ketika nilai variabel prediktor meningkat sebesar 1 unit.

Lebih jelasnya kita dapat mengikuti ilustrasi berikut ini:

Kita ingin mengetahui apakah berat badan (weightgain) sapi para peternak di kota elgrow bertambah signifikan atau tidak, dengan variabel prediktor adalah sex yang terdiri atas male (M) atau female (F), pemberian obat cacing (anthelmintic) secara rutin sesuai dosis yang dinyatakan dengan yes dan no, dan biaya pemeliharaan per bulan yang dinyatakan dalam US$. Kali ini kita akan menjalankan model logit menggunakan bantuan software IBM SPSS versi 23, untuk yang masih menggunakan SPSS seri di bawahnya jangan khawatir, masih kurang lebih sama koq cara aplikasinya, bagi yang belum memiliki software SPSS kamu bisa beli versi 25 yang paling baru disini.

1. tahap impor data (misalnya dari excel), Buka SPSS kamu,

file - read text data,

pada kotak dialog open data, files of type ; pilih excel, maka datanya muncul di layar, pilih lalu klik - open,

kemudian dimunculkan lagi jendela opening data, checklist seperti gambar ; ok,

data telah masuk dalam record spss, berikut adalah dataview, lihat sususannya tidak beraturan, kamu bisa atur dalam variable view:

atur label, desimal, dan lain-lain dalam variabel view,

2. Tahap Analisis,

Analyze; regression ; binary logistic,

Setelah muncul jendela logistic regression, masukkan weightgain kedalam dependen, dan variabel kategorik yaitu sex dan anthelmintic ke kotak covariates, lalu klik categorical, untuk menyesuaikan tipe data variabel kategorik, 

Di jendela define covariates variables pilih reference category first, kemudian klik changes; continue,

klik next lalu masukkan variabel kontinyu cost, ke dalam covariates, kemudian option,

kemudian continue ; ok, maka outputnya akan ditampilkan,

• Chi-Square model sebesar 18,440, angka ini menjelaskan kemampuan model dalam memprediksi variabel dependen weightgain. Dengan signifikansi 0,000 < 0,05, berarti terdapat peningkatan signifikansi dengan penambahan variabel sex, dan anthelmintic, ke dalam model. 
• -2 log likelihood menjelaskan signifikansi model layaknya R-sq pada regresi linier OLS. 
• Tabel Hosmer and Lemeshow test menunjukkan nilai penambahan signifikansi model dari konstanta, dan model sesudah ditambahkan variabel independen sex dan anthelmintic. Penambahannya cukup kecil dengan signifikansi 0,631 (>0.05). 

Kita lihat kembali pada output variables in the equation menunjukkan model sesuai hipotesis null atau model tanpa prediktor,

Output variables not in the equation menunjukkan signifikansi masing-masing variabel independen terhadap weightgain. Dari tabel dapat kita lihat bahwa variabel anthelmintic(1) memberikan peningkatan yang signifikan terhadap model (0,000), sedangkan sex(1) tidak signifikan (0,298). Tetapi secara keseluruhan signifikan terhadap perbaikan model (overall statistics, sig = 0,000).

Dari output variables in the equation persamaan yang kita peroleh adalah (lihat nilai pada kolom B) :

Log odds(weightgain) = B0 + B1*sex(1) + B2*anthelmintic(1) + B3*cost

atau dengan nilai aslinya;

Log odds(weightgain) = -3,502 + 0,116*sex(1) + 2,638*anthelmintic(1) + 0,011*cost

Jika sex(1)=1 (lihat output coding), anthelmintic(1)=1 (lihat output coding), dan cost=US$ 100, maka persamaannya menjadi:

Log odds(weightgain) = -3,502 + 0,116(1) + 2,638(1) + 0,011(100)

Log odds(weightgain) = -3,502 + 0,116 + 2,638 + 1,1 

Jika kita hilangkan log maka persamaan akan dalam bentuk eksponensial:

odds(weightgain) = e^{-3,502 + 0,116 + 2,638 + 1,1} 

Interpretasi dari Persamaan 

• Untuk setiap perubahan per unit pada variabel sex(1) (koding dummy untuk variabel M/jantan), akan meningkatkan weightgain sebesar 0,116. 
• Untuk setiap kenaikan pada variabel anthelmintic(1)sebesar 1 unit, maka akan meningkatkan weightgain sebesar 2,638. 
• Untuk setiap penambahan sebesar US$1 terhadap variabel cost, maka akan meningkatkan peluang weightgain sebesar 0,011. Dari nilai signifikansi dapat kita simpulkan bahwa variabel yang signifikan berpengaruh terhadap log odds (weightgain) adalah pemberian obat cacing secara rutin (anthelmintic(1)), dan cost dengan nilai signifikansi berturut-turut 0,02 dan 0,018 (pada tingkat signifikansi 95%).

Kemudian mari kita interpretasikan nilai exp(B) pada output variables in the equation di atas:

• Variabel sex(1) yang mengacu pada Male/Jantan, memiliki kecenderungan untuk mendapatkan pertambahan berat badan (weightgain) 1,122 kali daripada Female/betina yang menjadi kategori referensi kita (ini adalah koding dummy, dimana 0 untuk F dan 1 untuk M). 
• Variabel anthelmintic(1) yang mengacu pada yes, dimana pemberian obat cacing secara teratur dan sesuai dosis memiliki peluang sebesar 13,988 kali daripada kategori referensi kita yang mengacu pada no, dimana no dinyatakan sebagai tidak memberikan asupan obat cacing secara rutin dan sesuai dosis. variabel ini sangat signifikan mempengaruhi log odds (weightgain) dengan nilai signifikansi 0,002. 
• Variabel cost cenderung meningkatkan weightgain sebesar 0,030 kali dengan nilai signifikansi yang baik yaitu 0,018 ; 0,05.(yoso)

Read More

UJI MULTIKOLINEARITAS DAN AUTOKORELASI

click to get pdf version

A. Multikolinearitas

Multikolinearitas adalah kondisi terdapatnya hubungan linier atau korelasi yang tinggi antara masing-masing variabel independen dalam model regresi. Multikolinearitas biasanya terjadi ketika sebagian besar variabel yang digunakan saling terkait dalam suatu model regresi. Oleh karena itu masalah multikolinearitas tidak terjadi pada regresi linier sederhana yang hanya melibatkan satu variabel independen.

Indikasi terdapat masalah multikolinearitas dapat kita lihat dari kasus-kasus sebagai berikut:

1. Nilai R² yang tinggi (signifikan), namun nilai standar error dan tingkat signifikansi masing-masing variabel sangat rendah.

2. Perubahan kecil sekalipun pada data akan menyebabkan perubahan signifikan pada variabel yang diamati.

3. Nilai koefisien variabel tidak sesuai dengan hipotesis, misalnya variabel yang seharusnya memiliki pengaruh positif (nilai koefisien positif), ditunjukkan dengan nilai negatif.

Memang belum ada kriteria yang jelas dalam mendeteksi masalah multikolinearitas dalam model regresi linier. Selain itu hubungan korelasi yang tinggi belum tentu berimplikasi terhadap masalah multikolinearitas. Tetapi kita dapat melihat indikasi multikolinearitas dengan tolerance value (TOL), eigenvalue, dan yang paling umum digunakan adalah varians inflation factor (VIF).

Hingga saat ini tidak ada kriteria formal untuk menentukan batas terendah dari nilai toleransi atau VIF. Beberapa ahli berpendapat bahwa nilai toleransi kurang dari 1 atau VIF lebih besar dari 10 menunjukkan multikolinearitas signifikan, sementara itu para ahli lainnya menegaskan bahwa besarnya R² model dianggap mengindikasikan adanya multikolinearitas. Klein (1962) menunjukkan bahwa, jika VIF lebih besar dari 1/(1 – R²) atau nilai toleransi kurang dari (1 – R²), maka multikolinearitas dapat dianggap signifikan secara statistik.

B. Autokorelasi

Uji autokorelasi digunakan untuk melihat apakah ada hubungan linier antara error serangkaian observasi yang diurutkan menurut waktu (data time series). Uji autokorelasi perlu dilakukan apabila data yang dianalisis merupakan data time series (Gujarati, 1993).

dimana:

d = nilai Durbin Watson

Σe_i = jumlah kuadrat sisa

Nilai Durbin Watson kemudian dibandingkan dengan nilai d-_tabel. Hasil perbandingan akan menghasilkan kesimpulan seperti kriteria sebagai berikut:

• Nilai statistik Durbin Watson adalah untuk mengetahui masalah autokorelasi pada data.
• Statistik DW terentang mulai dari 0 hingga 4.0.
• Nilai statistik DW 2.0 mengindikasikan tidak terdapat masalah autokorelasi pada sampel data, 
• Nilai statistik DW mulai dari 0 hingga 2.0 mengindikasikan terdapat autokorelasi positif pada data,
• Nilai antara 2.0 - 4.0 mengindikasikan adanya masalah autokorelasi negatif,

Ilustrasi Kasus:

Oke, kemudian kita lihat contoh berikut (pengerjaannya sama dengan langkah pengerjaan regresi linier berganda,  untuk yang belum mengerti secara penuh regresi linier berganda bisa lihat materinya disini.

Seandainya kita memiliki variabel dependen (Y) tingkat inflasi di Amerika Serikat, dengan variabel independen yang diamati adalah kurs Yen terhadap US$ (X1), kurs Rupiah terhadap US$ (X2), dan kurs US$ terhadap Poundsterling (X3), maka kita akan memilki model sebagai berikut:

Y = β₀ + β₁X₁ + β₂X₂ + β₃X₃ + ε

Berikut adalah data-datanya selama 10 tahun dari tahun 1979 – 1988:

Kita akan lakukan analisis dengan bantuan perangkat lunak Minitab Versi 14, sudah ada yang versi 19 lho, kalau yang mau minitab terbaru versi 19.1 bisa beli disini.

Maka dengan Minitab 14, langkah-langkah pengerjaannya adalah sebagai berikut:

1. Buka Minitab, kemudian copy – paste datanya ke dalam worksheet minitab seperti berikut ini:

2. Kemudian langkah kedua, dari menubar pilih Stat – Regression – Regression seperti berikut:

3. Setelah muncul kotak dialog Regression, masukkan variabel Y ke kotak Response, dan masukkan variabel X₁, X₂, dan X₃ ke kotak Predictors. Proses ini dilakukan dengan memblok variabel dan pilih select. Setelah itu pilih Option (kiri bawah), lalu centang durbin Watson statistic, varians inflation factor, dan predicter R-square. Durbin Watson statistic berguna untuk melihat indikasi autokorelasi, sedangkan nilai varians inflation factor (VIF) adalah untuk melihat adanya indikasi multikolinearitas pada model, kemudian klik OK – OK,

4. Kemudian outputnya seperti berikut:

Persamaan Regresi yang diperoleh adalah:

Y = -26,3 + 0,0086 X1 + 0,0843 X2 + 4,26 X3

Dari persamaan tersebut dapat dikemukakan bahwa semua variabel berpengaruh positif, artinya jika terjadi kenaikan inflasi di Amerika Serikat, maka akan diikuti oleh ketiga variabel penjelas/independen. Dengan koefisien korelasi X1 dan X2 yang sangat kecil, maka pengaruhnya tidak signifikan. Karena jumlah sampel yang baik minimal adalah 30, serta pemilihan variabel secara dilakukan secara acak, karena untuk kebutuhan ilustrasi saja.

Nilai VIF pada output menunjukkan keberadaan multikolinearitas tidak signifikan, artinya tidak ada indikasi multikolinearitas dalam model. Ini ditunjukkan dengan nilai VIF berturut-turut untuk X1, X2, dan X3 adalah 4,7, 3,9, dan 1,7.

Nilai signifikansi pada output Analysis Of Variance menunjukkan model regresi yang digunakan kurang baik, diindikasikan dengan nilai F-statistik yang kecil (3,44%) dan nilai p-value 0,092 kurang dari 0,05.

Nilai Durbin Watson mengindikasikan tidak adanya autokorelasi yang terjadi yang diindikasikan dengan nilai 2,06. Nilai tersebut terletak pada daerah tengah rentang pengujian autokorelasi Durbin Watson.

Jika nilai statistik durbin-watson kamu mengindikasikan adanya autokorelasi positif atau negatif, maka kamu perlu koreksi dengan mengganti persamaan dengaan menjalankan prosedur cochrane-orcutt menggunakan, kamu bisa lihat bahasannya disini

Untuk masalah heteroskedastisitas, coba lihat bahasan uji white disini, uji park disini, dan metode grafik disini.

Read More