SIMPLE LINEAR REGRESSION

CHAPTER 14

SIMPLE LINEAR REGRESSION

Analisis Varians Satu-Arah (One-Way Analysis of Variance—ANOVA)

Prosedur analisis varians (Analysis of Variance—ANOVA) menggunakan variabel numerik tunggal (single numerical variable) yang diukur dari sejumlah sampel untuk menguji hipotesis nol dari populasi yang (diperkirakan) memiliki rata-rata hitung (mean) sama. Variabel dimaksud harus berupa variabel kuantitatif. Variabel ini terkadang dinamakan sebagai variabel terikat (dependent variable).

Hipotesis nol (H₀) dalam uji ANOVA adalah bahwa semua (minimal 3) populasi yang sedang dikaji memiliki rata-rata hitung (mean) sama. Ringkasnya, hipotesis nol (H₀) dan hipotesis alternatif (H₁) dalam ANOVA adalah:

H0	:	1 =  2 =  3 = … =  n
H1	:	Tidak semua populasi memiliki rata-rata hitung (mean) sama.

Analisis varians (Analysis of Variance—ANOVA) adalah prosedur statistika untuk mengkaji (mendeterminasi) apakah rata-rata hitung (mean) dari 3 (tiga) populasi atau lebih, sama atau tidak.

Dalam uji ANOVA, bukti sampel diambil dari setiap populasi yang sedang dikaji. Data-data yang diperoleh dari sampel tersebut digunakan untuk menghitung statistik sampel. Distribusi sampling yang digunakan untuk mengambil keputusan statistik, yakni menolak atau menerima hipotesis nol (H₀), adalah DISTRIBUSI F (F Distribution).

Dalam uji ini diasumsikan bahwa semua populasi yang sedang dikaji memiliki keragaman atau varians (variance) sama tanpa mempertimbangkan apakah populasi-populasi tersebut memiliki rata-rata hitung (mean) sama atau berbeda. Ada 2 (dua) cara atau metode dalam mengestimasi nilai varians ini, yakni metode dalam kelompok (within method) dan metode antar-kelompok (between method). Metode dalam kelompok menghasilkan estimasi tentang varians yang sahih (valid) apakah hipotesis nol salah atau benar. Sementara metode antar-kelompok menghasilkan estimasi tentang varians yang sahih (valid) hanya jika hipotesis nol benar.

Metode dalam kelompok (within method) menghasilkan estimasi yang sahih (valid) apakah hipotesis nol benar atau tidak. Metode antar-kelompok (between method) menghasilkan estimate yang sahih (valid) jika hipotesis nol benar.

Langkah akhir dari uji ANOVA adalah menghitung rasio antara metode antar-kelompok (between method) sebagai numerator (faktor yang dibagi) dan metode dalam kelompok (within method) sebagai denominator (faktor pembagi). Jika hipotesis nol benar (diterima), rasio di atas berisikan dua hasil estimasi yang terpisah dari populasi yang memiliki varians sama dan, karenanya, berasal dari distribusi F. Namun demikian, jika rata-rata hitung (mean) populasi yang dikaji tidak sama, hasil estimasi dalam numerator akan mengembung sehingga rasionya akan menjadi sangat besar. Jelas bahwa rasio demikian, dengan membandingkannya dengan distribusi F, tidak berasal dari distribusi F, dan hipotesis nol akan ditolak. Uji hipotesis dalam ANOVA adalah uji hipotesis bersisi-satu (one-tailed) di mana nilai statistik F yang besar akan mengarah ke ditolaknya hipotesis nol, sementara nilai statistik F yang kecil akan mengarah ke penerimaan hipotesis nol.

Metode dalam Kelompok (Within Method)

Terlepas dari benar atau tidaknya hipotesis nol, metode dalam kelompok (within method) akan menghasilkan estimasi yang sahih (valid). Hal ini disebabkan oleh variabilitas sampel dideterminasi dengan jalan membandingkan setiap butir data dengan rata-rata hitung masing-masing. Nilai sampel yang diambil dari populasi A dibandingkan dengan rata-rata sampel A. Demikian pula dengan masing-masing populasi yang diobservasi. Persamaan (1) berikut digunakan untuk mengestimasi keragaman atau varians (variance) dalam metode dalam kelompok.

di mana:

S_w² : varians yang diestimasi menggunakan metode dalam kelompok;

X_{ij :} butir data ke-i dalam kelompok j;

X_j : rata-rata (mean) kelompok j

c : jumlah kelompok

n : jumlah/ukuran sampel dalam setiap kelompok

c(n-1) : derajat bebas (degree of freedom).

Tanda penjumlahan ganda berarti bahwa ada 2 (dua) langkah penjumlahan. Pertama menyelesaikan tanda jumlah sebelah kanan. Setelah itu, menyelesaikan tanda penjumlahan sebelah kiri.

Metode Antar-kelompok (Between Method)

Metode penghitungan varians yang kedua adalah metode antar-kelompok (between method). Metode menghasilkan estimasi varians yang sahih jika hipotesis nol benar. Persamaan yang digunakan dalam meode ini adalah sebagai berikut:

 

Varians dalam metode ini bisa juga dihitung dengan menggunakan persamaan berikut:

Uji dan Tabel F Analisis Varians (Analysis of Variance—ANOVA F Test and Table)

Setelah menghitung nilai varians yang sebelumnya tidak diketahui dengan menggunakan metode dalam kelompok (within method) dan metode antar-kelompok (between method), selanjutnya kita membuat perbandingan atau rasio (ratio) antara kedua nilai varians tersebut.

Jika hipotesis nol benar, numerator (pembilang) dan denumerator (penyebut) dalam persamaan di atas akan merupakan estimasi yang sahih (valid) bagi varians dari populasi yang sedang dikaji. Rasio tersebut, dengan demikian, akan sesuai (conform) dengan distribusi F.

Hasil dari pengujian analisis varians biasanya disajikan dalam bentuk tabel yang biasa dinamakan TABEL ANOVA (ANOVA TABLE). Tabel ini terdiri atas kolom-kolom yang berisikan sumber keragaman atau sumber varians (source of variance), jumlah kuadrat (sums of squares—SS), derajat bebas analisis (degree of freedom), nilai keragaman atau varians yang diestimasi (estimates of the variance), dan nilai F untuk prosedur analisis keragaman/varians (F value for the analysis of variance procedure), sebagaimana tampak pada tabel berikut.

Analisis Varians Dua-Arah (Two-Way Analysis of Variance—ANOVA)

Dalam analisis varians satu-arah, hanya ada 1 (satu) sumber keragaman (source of variability) dalam variabel terikat (dependent variable), yakni: kelompok dalam populasi yang sedang dikaji. Terkadang kita juga perlu untuk mengetahui atau mengidentifikasi adanya 2 (dua) faktor yang mungkin menyebabkan perbedaan dalam variabel terikat (dependent variable). Untuk tujuan tersebut dilakukan analisis varians dua-arah (Two-way ANOVA). Dalam analisis varians dua-arah, kita harus mengukur setiap kombinasi dua faktor dari variabel terikat (dependent variable) yang sedang dikaji.

Anova Dua Faktor atau Dua Arah

Banyak variabel respons atau variabel terikat dipengaruhi oleh lebih dari satu faktor atau variabel bebas. Oleh karena itu, kita sering dituntut untuk melakukan pelbagai eksperimen di mana kita mempelajari efek atau pengaruh dari sejumlah variabel bebas (faktor) terhadap sebuah variabel terikat. Pada kesempatan ini, kita akan mempelajari pengaruh dari dua (2) faktor (variabel bebas) terhadap sebuah variabel terikat. Kita asumsikan bahwa faktor pertama (kita sebut faktor 1) memiliki a tingkat atau level (level 1, 2, ……, a) dan faktor kedua (kita sebut faktor 2) memiliki b tingkat atau level (level 1, 2, ……, b). Yang merupakan perlakuan (treatment) di sini adalah kombinasi antara sebuah level faktor 1 dan sebuah level dari faktor 2. Dengan demikian, kita bisa mempelajari sebanyak ab perlakuan.

Tujuan dari analisis dua-faktor adalah untuk mengestimasi dan membandingkan pengaruh dari pelbagai perlakuan yang berbeda-beda terhadap variabel bebas atau variabel respon. Bergantung pada situasi tertentu, kita dapat melakukan pengujian untuk melihat apakah terdapat perbedaan nyata atau signifikan (significant differences) pengaruh:

1.      antar-level dari faktor 1;

2.      antar-level dari faktor 2; dan

3.      antar-kombinasi faktor 1 dan 2.

Apabila terdapat perbedaan nyata, kita akan mengestimasi seberapa tinggi tingkat perbedaan tersebut dalam kerangka untuk mengetahui apakah ada keuntungan praktik dari perbedaan tersebut. Selanjutnya, kita bisa mengestimasi pengaruh dari perlakuan tertentu terhadap rata-rata (mean) respons (variabel bebas), dan kita bisa memprediksikan nilai individu dari variabel respons atau variabel bebas.

Metode yang kita terapkan untuk tujuan tersebut adalah analisis keragaman dua-arah atau analisis keragaman dua-faktor (two-way analysis of variance or two-factor analysis of variance). Sebelum lebih lanjut membicarakan analisis tersebut, kita terlebih dahulu lihat dua definisi berikut.

·         Eksperimen faktorial lengkap (complete factorial experiment) bisa dilakukan jika kita memilih sebuah sampel yang berkaitan dengan masing-masing dan setiap perlakuan (yakni kombinasi antar-level dari masing-masing faktor).

·         Apabila ukuran sampel yang diterapkan untuk semua perlakuan adalah sama, maka eksperimen demikian dikategorikan sebagai eksperimen faktorial lengkap seimbang (balanced complete factorial experiment).

Anova dua-arah atau dua-faktor harus memenuhi asumsi-asumsi berikut.

a.   Kita melakukan suatu eksperimen faktorial lengkap seimbang (balanced complete factorial experiment).

b.      Kita menerapkan rancangan eksperimen acak lengkap (complete randomized experimental design). Yakni, sampel acak bebas dari unit eksperimen dikaitkan pada perlakuan (treatment).

c.      Populasi dari semua nilai yang memungkinkan dari variabel respons berkaitan dengan semua perlakuan terdistribusi secara normal.

d.     Semua populasi tersebut memiliki varians yang sama.

Share:

Read More

Comparing Multiple Proportions Test Of Independence And Goodness Of Fit

CHAPTER 12

Comparing Multiple Proportions Test Of Independence And Goodness Of Fit

Metode Uji Chi Square

Chi-Square disebut juga dengan Kai Kuadrat. Chi Square adalah salah satu jenis uji komparatif non parametris yang dilakukan pada dua variabel, di mana skala data kedua variabel adalah nominal. (Apabila dari 2 variabel, ada 1 variabel dengan skala nominal maka dilakukan uji chi square dengan merujuk bahwa harus digunakan uji pada derajat yang terendah).

Uji chi-square merupakan uji non parametris yang paling banyak digunakan. Namun perlu diketahui syarat-syarat uji ini adalah: frekuensi responden atau sampel yang digunakan besar, sebab ada beberapa syarat di mana chi square dapat digunakan yaitu:

1.      Tidak ada cell dengan nilai frekuensi kenyataan atau disebut juga Actual Count (F0) sebesar 0 (Nol).

2.      Apabila bentuk tabel kontingensi 2 X 2, maka tidak boleh ada 1 cell saja yang memiliki frekuensi harapan atau disebut juga expected count (“Fh”) kurang dari 5.

3.      Apabila bentuk tabel lebih dari 2 x 2, misak 2 x 3, maka jumlah cell dengan frekuensi harapan yang kurang dari 5 tidak boleh lebih dari 20%.

Rumus chi-square sebenarnya tidak hanya ada satu. Apabila tabel kontingensi bentuk 2 x 2, maka rumus yang digunakan adalah “koreksi yates”.

Apabila tabel kontingensi 2 x 2 seperti di atas, tetapi tidak memenuhi syarat seperti di atas, yaitu ada cell dengan frekuensi harapan kurang dari 5, maka rumus harus diganti dengan rumus “Fisher Exact Test”.

Pada artikel ini, akan fokus pada rumus untuk tabel kontingensi lebih dari 2 x 2, yaitu rumus yang digunakan adalah “Pearson Chi-Square”.

Rumus Tersebut adalah:

Uji kai kuadrat (dilambangkan dengan “χ²” dari huruf Yunani “Chi” dilafalkan “Kai”) digunakan untuk menguji dua kelompok data baik variabel independen maupun dependennya berbentuk kategorik atau dapat juga dikatakan sebagai uji proporsi untuk dua peristiwa atau lebih, sehingga datanya bersifat diskrit. Misalnya ingin mengetahui hubungan antara status gizi ibu (baik atau kurang) dengan kejadian BBLR (ya atau tidak).

Dasar uji kai kuadrat itu sendiri adalah membandingkan perbedaan frekuensi hasil observasi (O) dengan frekuensi yang diharapkan (E). Perbedaan tersebut meyakinkan jika harga dari Kai Kuadrat sama atau lebih besar dari suatu harga yang ditetapkan pada taraf signifikan tertentu (dari tabel χ²).

Uji Kai Kuadrat dapat digunakan untuk menguji :

1.      Uji χ² untuk ada tidaknya hubungan antara dua variabel (Independency test).

2.      Uji χ² untuk homogenitas antar- sub kelompok (Homogenity test).

3.      Uji χ² untuk Bentuk Distribusi (Goodness of Fit)

Sebagai rumus dasar dari uji Kai Kuadrat adalah :

Keterangan :

O = frekuensi hasil observasi

E = frekuensi yang diharapkan.

Nilai E = (Jumlah sebaris x Jumlah Sekolom) / Jumlah data

df = (b-1) (k-1)

Dalam melakukan uji kai kuadrat, harus memenuhi syarat:

1.      Sampel dipilih secara acak

2.      Semua pengamatan dilakukan  dengan independen

3.      Setiap sel paling sedikit berisi frekuensi harapan sebesar 1 (satu). Sel-sel dengdan frekuensi harapan kurang dari 5 tidak melebihi 20% dari total sel

4.      Besar sampel sebaiknya > 40 (Cochran, 1954)

Keterbatasan penggunaan uji Kai Kuadrat adalah tehnik uji kai kuadarat memakai data yang diskrit dengan pendekatan distribusi kontinu.Dekatnya pendekatan yang dihasilkan tergantung pada ukuran pada berbagai sel dari tabel kontingensi. Untuk menjamin pendekatan yang memadai digunakan aturan dasar “frekuensi harapan tidak boleh terlalu kecil” secara umum dengan ketentuan:

1.      Tidak boleh ada sel yang mempunyai nilai harapan lebih kecil dari 1 (satu)

2.      Tidak lebih dari 20% sel mempunyai nilai harapan lebih kecil dari 5 (lima)

Bila hal ini ditemukan dalam suatu tabel kontingensi, cara untuk menanggulanginyanya adalah dengan menggabungkan nilai dari sel yang kecil ke se lainnya (mengcollaps), artinya kategori dari variabel dikurangi sehingga kategori yang nilai harapannya kecil dapat digabung ke kategori lain. Khusus untuk tabel 2×2 hal ini tidak dapat dilakukan, maka solusinya adalah melakukan uji

“Fisher Exact atau Koreksi Yates”

Analisis Chi Square
Contoh kasus

Perusahaan penyalur alat elektronik AC ingin mengetahui apakah ada hubungan antara gender dengan sikap mereka terhadap kualitas produk AC. Untuk itu mereka meminta 25 responden mengisi identitas mereka dan sikap atau persepsi mereka terhadap produknya.

Permasalahan : Apakah ada hubungan antara gender dengan sikap terhadap kualitas AC?

Hipotesis :

·         H0 = Tidak ada hubungan antara gender dengan sikap terhadap kualitas AC

·         H1 = Ada hubungan antara gender dengan sikap terhadap kualitas AC

Tolak hipotesis nol (H0) apabila nilai signifikansi chi-square < 0.05 atau nilai chi-square hitung lebih besar (>) dari nilai chi-square tabel.

1.      Menguji Independensi antara 2 faktor (independensi)

Independensi (keterkaitan) antara 2 faktor dapat diuji dengan uji chi square.  Masalah independensi ini banyak mendapat perhatian hampir di semua bidang, baik eksakta maupun sosial ekonomi.  Kita ambil contoh di bidang ekonomi dan pendidikan.  Kita bisa menduga bahwa keadaan ekonomi seseorang tidak ada kaitannya dengan tingkat pendidikannya, atau justru sebaliknya bahwa keadaan ekonomi seseorang  terkait erat dengan tingkat pendidikannya.  Untuk menjawab dugaan-dugaan ini, kita bisa menggunakan uji chi square.
Langkah-langkahnya sebagai berikut.

1.      Buatlah hipotesis
H0: tidak ada kaitan antara keadaan ekonomi seseorang dengan pendidikannya
HA: ada kaitan antara keadaan ekonomi seseorang dengan pendidikannya

2.      Lakukan penelitian dan kumpulkan data

Hasil penelitian adalah sebagai berikut (tentatif).

Kategori	Di bawah garis kemiskinan	Di atas garis kemiskinan	Total
Tidak tamat SD	8	4	12
SD	20	17	37
SMP	15	16	31
SMA	3	23	26
Perguruan Tinggi	2	22	24
Total	48	82	130

3.      Lakukan analisis

Kategori	Di bawah garis kemiskinan	Di atas garis kemiskinan	Total
Tidak tamat SD O E	8 4,43	4 7,57	12
SD O E	20 13,66	17 23,34	37
SMP O E	15 11,45	16 19,55	31
SMA O E	3 9,60	23 16,40	26
Perguruan Tinggi O E	2 8,86	22 15,14	24
Total	48	82	130

Nilai O (Observasi) adalah nilai pengamatan di lapangan
Nilai E (expected) adalah nilai yang diharapkan, dihitung sbb:
1. Nilai E untuk kategori tidak tamat SD di bawah garis kemiskinan= (12 x 48)/130 = 4,43
2. Nilai E untuk kategori tidak tamat SD di atas garis kemiskinan = (12 x 82)/130 = 7,57
3. Nilai E untuk kategori SD di bawah garis kemiskinan = (37 x 48)/130 = 13,66
4. Nilai E untuk kategori SD di atas garis kemiskinan = (37 x 82)/130 = 23,34
5. Nilai E untuk kategori SMP di bawah garis kemiskinan = (31 x 48)/130 = 11,45
6. Nilai E untuk kategori SMP di atas garis kemiskinan = (31 x 82)/130 = 19,55
7. Nilai E untuk kategori SMA di bawah garis kemiskinan = (26 x 48)/130 = 9,60
8. Nilai E untuk kategori SMA di atas garis kemiskinan = (26 x 82)/130 = 16,40
9. Nilai E untuk kategori Perguruan Tinggi di bawah garis kemiskinan = (24 x 48)/130 = 8,86
10. Nilai E untuk kategori Perguruan Tinggi di atas garis kemiskinan = (24 x 82)/130 = 15,14

Hitung nilai Chi square (x^2)

TABEL CHI-SQUARE

4.      Kriteria Pengambilan Kesimpulan


Kesimpulan
Hasil analisis menunjukkan bahwa nilai x^2 hitung = 26,586, yaitu lebih besar darinilai x^2 tabel yaitu  9,488, sehingga kita harus menerima HA. Dengan demikian, kita simpulkan bahwa ada kaitan yang signifikan antara keadaan ekonomi seseorang dengan tingkat pendidikannya (lihat lagi hipotesis di atas, khususnya bunyi hipotesis HA).
Catatan: kata signifikan berasal dari α = 0,05.

2.      Menguji proporsi

Contoh kasus (1):

Menurut teori genetika (Hukum Mendel I)  persilangan antara kacang kapri berbunga merah dengan yang berbunga putih akan menghasilkan tanaman dengan proporsi sebagai berikut: 25% berbunga merah, 50% berbunga merah jambu, dan 25% berbunga putih.  Kemudian, dari suatu penelitian dengan kondisi yang sama,  seorang peneliti memperoleh hasil sebagai berikut, 30 batang berbunga merah, 78 batang berbunga merah jambu, dan 40 batang berbunga putih.  Pertanyaannya adalah apakah hasil penelitian si peneliti tersebut sesuai dengan Hukum Mendel atau tidak?

Untuk menjawab pertanyaan tersebut, kita bisa menggunakan uji chi-square, sebagai berikut:

1.      Buatlah hipotesis
H0: rasio penelitian adalah 1:2:1 atau 25%:50%:25%
HA: rasio penelitian  adalah rasio lainnya

2.      Lakukan analisis

Kategori	Merah	Merah Jambu	Putih	Jumlah
Pengamatan (O)	30	78	40	148
Diharapkan (E)	37	74	37	148

Proporsi diharapkan (E) dicari berdasarkan rasio 1:2:1, sebagai berikut:
Merah             = 1/4 x 148 = 37
Merah Jambu  = 2/4 x 148 = 74

Putih               = 1/4 x 148 = 37

Df = (kolom -1)(baris -1) = (3-1)(2-1) = 2

Kriteria Pengambilan Kesimpulan
Terima H0 jika  x^2 hitung< x^2 tabel
Tolak H0 jik  x^2 hitung≥ x^2 tabel

Kesimpulan
Dari hasil analisis data, diperoleh x^2 hitung< x^2 tabel, maka H0 diterima.
Artinya, rasio hasil penelitian si peneliti tersebut sesuai dengan  rasio menurut Hukum Mendel (lihat bunyi hipotesis pada H0).

Contoh Kasus (2): 
Suatu survey ingin mengetahui apakah ada hubungan Asupan Lauk dengan kejadian Anemia pada penduduk desa X. Kemudian diambil sampel sebanyak 120 orang yang terdiri dari  50 orang asupan lauknya baik dan 70 orang asupan lauknya kurang. Setelah dilakukan pengukuran kadar Hb ternyata dari 50 orang yang asupan lauknya baik, ada 10 orang yang dinyatakan anemia. Sedangkan dari 70 orang yang asupan lauknya kurang ada 20 orang yang anemia.Ujilah apakah ada perbedaan proporsi anemia pada kedua kelompok tersebut.
Jawab :
HIPOTESIS :
Ho : P1 = P2 (Tidak ada perbedaan proporsi anemia pada kedua kelompok tersebut)
Ho : P1 ≠ P2 (Ada perbedaan proporsi anemia pada kedua kelompok tersebut)

PERHITUNGAN :
Untuk membantu dalam perhitungannya kita membuat tabel silangnya seperti ini :

Kemudian tentukan nilai observasi (O) dan nilai ekspektasi (E) :

Selanjutnya masukan dalam rumus :

sekarang kita menentukan nilai tabel pada taraf nyata/alfa = 0.05. Sebelumnya kita harus menentukan nilai df-nya. Karena tabel kita 2×2, maka nilai df = (2-1)*(2-1)=1.

Dari tabeli kai kudrat di atas pada df=1 dan alfa=0.05 diperoleh nilai tabel = 3.841.

KEPUTUSAN STATISTIK
Bila nilai hitung lebih kecil dari nilai tabel, maka Ho gagal ditolak, sebaliknya bila nilai hitung lebih besar atau sama dengan nilai tabel, maka Ho ditolak.

Dari perhitungan di atas menunjukan bahwa χ² hitung <  χ² tabel, sehingga Ho gagal ditolak.

KESIMPULAN 
Tidak ada perbedaan yang bermakna proporsi antara kedua kelompok tersebut. Atau dengan kata lain tidak ada hubungan antara asupan lauk dengan kejadian anemia.

BAB III

PENUTUP

1.      Kesimpulan

Chi-Square disebut juga dengan Kai Kuadrat. Chi Square adalah salah satu jenis uji komparatif non parametris yang dilakukan pada dua variabel, di mana skala data kedua variabel adalah nominal.

Rumusnya adalah:

Fungsi uji chi square adalah untuk melihat apakah suatu pernyataan dapat dinyatakan benar atau tidak berdasarkan hasil perhitungannya

Share:

Read More