Diklogi

Kali ini kita membahas cara merangkum data dan hubungan antar-variabel dengan 2 hal utama:

• Mean / Ekspektasi: nilai rata-rata yang diharapkan
• Varians & Kovarians: "seberapa menyebar” dan “seberapa bergerak bersama” antar variabel

Ini dipakai untuk memahami ide di SEM: model yang bagus harus bisa “menjelaskan” pola/ matriks kovarians yang terlihat di data.

Mean/ Ekspektasi E(Y)

- Konsepnya

-- Bayangkan kamu mengulang pengukuran berkali-kali. Ekspektasi E(Y) adalah “rata-rata jangka panjang”.

Makna sederhananya: rata-rata jangka panjang kalau percobaan diulang sangat banyak.

-- Mean populasi ditulis μY

- Aturan dasar ekspektasi

• Konstanta: E(c) = c
• Kelipatan konstanta: E(cY) = cE(Y)
• Penjumlahan/pengurangan: E(X - Y) = E(X) + E(Y) atau E(X - Y) = E(X) - E(Y)
• Perkalian (butuh independen!), kalau X dan Y independen (tidak saling memengaruhi): E(XY) = E(X)E(Y), jika dependen, umumnya tidak sama

Varians (VAR): ukuran “sebaran”

- Konsepnya

Varians mengukur: nilai-nilai itu rapat (mirip-mirip) atau menyebar jauh.

Notasi:

- Rumus cepat

sehingga juga

- Aturan varians yang penting

• Varians konstanta: Var(c) = 0 (konstanta tidak menyebar)
• Varians skala: Var(cY) = c^2Var(Y)
• Tambah konstanta tidak mengubah varians: Var(c+Y) = Var(Y)

Kovarians (COV): ukuran “gerak bareng” 2 variabel

- Konsepnya

Kovarians menjawab: "kalau X naik, apakah Y juga cenderung naik?"

Cov(X,Y) > 0: naik bersama

Cov(X,Y) < 0: yang satu naik, yang lain turun

Cov(X,Y) = 0: tidak ada hubungan linear (belum tentu “tidak berhubungan sama sekali”)

- Rumus cepat

- Hubungan dengan independen

Kalau X dan Y independen, maka kovariansnya 0 -> Cov(X,Y) = 0.

- Aturan kovarians

-- Dengan konstanta:

-- Skala:

-- Penjumlahan:

- Varians penjumlahan: kenapa muncul “2Cov”?

Rumus penting:

Maknanya:

Kalau X dan Y sering naik bersama (kovarians positif), total sebaran X+Y jadi lebih besar.

Kalau Cov(X,Y) = 0, barulah:

Var dan Cov Dipakai untuk apa?

Misal model:

Artinya:

• Y1 dipengaruhi oleh X1 dan X2 
• ζ1 = faktor lain yang tidak kita ukur (error)

Maka varians Y1 berasal dari:

• sebaran X1
• sebaran X2
• hubungan X1 dengan X2 (kovarians)
• sebaran error ζ1

Itulah mengapa rumusnya jadi “campuran” antara varians dan kovarians.

Implied Covariance Matrix” (kovarians yang diprediksi model)

- Di SEM, kita bandingkan 2 “tabel hubungan”:

Σ = kovarians populasi/observasi (yang “kita lihat” dari data)

Σ(θ) = kovarians yang diprediksi oleh model (tergantung parameter θ)

Hipotesis dasarnya:

Kalau mirip → model dianggap cocok/ bagus.

- Apa itu “matriks” di sini?

Anggap matriks seperti tabel kotak-kotak angka:

diagonalnya = varians tiap variabel

luar diagonal = kovarians antar variabel

Bentuk model struktural dan “reduced form”

Notasi:

Penjelasan:

y: variabel endogen (dipengaruhi variabel lain dalam model)

x: variabel eksogen (sebagai penyebab/prediktor)

B: pengaruh antar komponen di y

Γ: pengaruh x ke y

ζ: error/disturbance untuk y

I: matriks identitas (analog “angka 1” untuk matriks)

Pindahkan By ke kiri:

Jika (I−B) bisa dibalik (non-singular), maka:

Ini yang disebut reduced form: y ditulis langsung sebagai fungsi x dan error.

Rumus inti: kovarians yang “diimplied” oleh model

Biasanya diasumsikan:

Maka kovarians y:

Makna sederhananya: varians/kovarians pada y berasal dari:

• variasi pada x yang “mengalir” lewat Γ, dan
• variasi error ζ, lalu semuanya “dipropagasikan” oleh struktur hubungan di B lewat (I−B)^−1.

bagian kedua:

bagian ketiga:

akhirnya:

Contoh:

Penjelasan:

• y1 dipengaruhi x1
• y2 dipengaruhi y1 dan x1

Persamaan dari gambar ini:

Secara konsep, matriks B jadi sederhana (hanya ada panah y1 → y2), sehingga (I−B)^−1 masih bisa dihitung manual. Untuk model besar, hitung tangan jadi rumit, tapi kita perlu paham “isi black box”-nya: dari aturan varians/kovarians + aljabar matriks.

Jenis parameter

Ada 3 tipe:

- Free (diestimasi)

Nilainya dicari dari data (misal β21 tidak ditentukan).

- Fixed (ditetapkan, sering 0)

Misal tidak ada panah dari y2 ke y1 → koefisiennya dipaksa 0. Kadang bisa fixed bukan 0, tapi harus ada teori kuat.

- Constrained (dibuat sama)

Misalnya (dua pengaruh dianggap sama besar)

Artinya pengaruh x1 ke y1 dipaksa sama dengan pengaruh x1 ke y2. Ini mengurangi jumlah parameter bebas.

Correlated errors” (error saling berkorelasi)

Artinya apa?

Jika ada dua error (misal ζ1 dan ζ2) dibuat berkorelasi, artinya:

• Ada faktor lain yang tidak dimodelkan yang mempengaruhi keduanya bersamaan, atau
• Ada kemiripan pengukuran/lingkungan yang membuat residual mereka “nyambung”

Dalam matriks Ψ, ini muncul sebagai elemen off-diagonal ≠ 0.

Referensi

Bollen, K. A. (1989). Structural equations with latent variables. New York: Wiley.

Kline, R. B. (2016). Principles and practice of structural equation modeling (4th ed.). New York: Guilford Press.

Model itu seperti peta sebab–akibat, di pelajaran sehari-hari, kita sering bertanya:

“Kalau waktu belajar bertambah, apakah nilai naik?”

“Kalau motivasi tinggi, apakah prestasi naik?”

Di materi ini, kita membuat model untuk menggambarkan hubungan seperti itu dengan:

• Persamaan (equations)
• Gambar panah (path diagram)
• Bentuk matriks (cara ringkas menulis banyak persamaan sekaligus)

Model lengkap: Sistem persamaan struktural

Structural equations (persamaan struktural) biasanya berisi:

• Variabel acak (random variables): nilainya bisa berbeda pada tiap orang
• Parameter struktural: angka “pengaruh” yang ingin diestimasi (mis. seberapa kuat pengaruh X ke Y)
• Kadang ada variabel non-acak (mis. konstanta), tapi di materi ini ada catatan bahwa intercept bisa tidak ditulis (lihat konsep asumsi).

Tiga jenis “random variables” dalam SEM/path

- Observed/manifest variables: variabel yang kita ukur langsung (mis. nilai matematika, skor motivasi dari angket).

Latent variables: konsep yang tidak diukur langsung (mis. kepercayaan diri, kecerdasan), biasanya butuh indikator-indikator.

- Disturbance/error (ζ atau error term): pengaruh faktor lain yang tidak masuk model. Di dunia nyata nilai siswa tidak 100% ditentukan oleh variabel yang kita masukkan, selalu ada faktor lain seperti sakit, soal lebih sulit, dll.

Pada bagian path analysis dalam materi ini, semua variabel utamanya observed (tanpa latent), sehingga lebih ramah untuk awal belajar SEM.

Path analysis itu apa?

- Path analysis = memodelkan hubungan antar variabel observed kontinu menggunakan sistem persamaan.

- Nama lain (di ekonometrika): Simultaneous equation modeling. Kenapa “simultaneous”? Karena beberapa variabel bisa jadi “sebab” di satu persamaan, tapi “akibat” di persamaan lain.

- Simbol:

- Endogenous dan Exogenous (konsep kunci notasi)

Dalam notasi SEM:

• Endogenous variables (y): Variabel yang dipengaruhi oleh variabel lain di dalam model (ada panah masuk).
• Exogenous variables (x): Variabel “dari luar” model yang tidak dijelaskan penyebabnya di dalam model (sering hanya punya panah keluar, boleh saling berkorelasi).

Contoh path diagram:

Penjelasan:

y1 = reading achievement

y2 = math achievement

x1 = socioeconomic status (SES)

Bentuk hubungan tipikalnya:

Makna koefisien (yang disebut structural parameters):

β21: efek y1 → y2. Artinya, jika reading naik 1 satuan, maka ekspektasi (rata-rata) 

y2 berubah sebesar β21 dengan SES tetap (ceteris paribus).

γ1: efek x1 → y1 (SES ke reading).

γ2: efek x1 → y2 (SES ke math).

ζ1, ζ2: faktor lain yang memengaruhi y1 dan y2 tapi tidak dimasukkan ke model.

Bentuk matriks: menulis semua persamaan jadi ringkas

Model dasarnya ditulis:

Arti tiap komponen:

y: vektor variabel endogenous (mis. y1, y2, y3)

x: vektor variabel exogenous

B: matriks koefisien endogenous → endogenous (tabel pengaruh y ke y) (isi koefisien β)

Γ: matriks koefisien exogenous → endogenous (tabel pengaruh y ke y) (isi koefisien γ)

ζ: vektor error/disturbance (daftar error untuk tiap persamaan)

Matriks kovarians: Φ dan Ψ

Path/SEM banyak bekerja dengan kovarians (seberapa “bergerak bersama”).

- Φ (phi): kovarians antar exogenous (x)

• Diagonal: Var(x1), Var(x2), ...
• Di luar diagonal: Cov(x1, x2), dst.
• Simetris: Cov(x1,x2) = Cov(x2,x1)

- Ψ (psi): kovarians antar error persamaan (ζ)

• Diagonal: Var(ζ1),Var(ζ2), ...
• Di luar diagonal: Cov(ζ1 ,ζ2) (kalau error dua persamaan saling berhubungan)
• Juga simetris

Dua tipe besar model observed: Recursive dan Non-recursive

- Recursive model

Ciri:

Tidak ada feedback (tidak saling mempengaruhi bolak-balik)

B lower triangular (panah mengalir satu arah, tidak membentuk “lingkaran sebab-akibat”)

Ψ diagonal (error antar persamaan tidak berkorelasi/ error 1 tidak “nyambung” dengan error 2)

Contoh:

sehingga persamaannya:

Maknanya: model lebih sederhana dan biasanya lebih mudah diestimasi/ diinterpretasi.

- Non-recursive model

Terjadi jika:

Ada pengaruh timbal-balik (mis. y1 ↔ y2 lewat dua panah arah berlawanan), atau

B tidak lower triangular, atau

Ψ tidak diagonal (error persamaan berkorelasi)

sehingga persamaannya menjadi:

Regresi itu sebenarnya “SEM versi sederhana”

Regresi berganda biasa:

Di SEM/LISREL notation, itu dipandang sebagai “satu persamaan” dalam sistem:

• y = endogenous
• x1, x2, x3 = exogenous
• koefisien dari x ke y adalah bagian dari Γ
• error regresi = ζ

Sedangkan path diagram: tiga panah dari x1, x2, x3 → y.

Di SEM notation, itu ditulis sebagai:

Ringkasan

• Path analysis: hubungan sebab-akibat antar variabel observed.
• y: variabel “akibat” (endogenous)
• x: variabel “penyebab dari luar” (exogenous).
• B atau β (beta): pengaruh y→y. 
• Γ atau γ (gamma): pengaruh x→y.
• ζ (zeta): error (pengaruh lain).
• Φ (phi): kovarians antar x
• Ψ (psi): kovarians antar error ζ
• Recursive: tanpa feedback, B lower triangular, Ψ diagonal
• Non-recursive: ada timbal-balik atau error berkorelasi

Referensi

Bollen, K. A. (1989). Structural equations with latent variables. New York: Wiley.

Kline, R. B. (2016). Principles and practice of structural equation modeling (4th ed.). New York: Guilford Press.

Structural Equation Modeling (SEM) itu apa?

SEM memiliki banyak jenis, dikenal juga sebagai:

• Structural Equation Modeling (SEM)
• Covariance Structure Analysis
• Structural modeling
• LISREL modeling
• Latent variable modeling

Makna sederhananya:

SEM adalah cara membuat model untuk menjelaskan hubungan antar banyak variabel sekaligus. Jadi bukan cuma “X mempengaruhi Y”, tetapi bisa “X mempengaruhi Y lewat Z”, bahkan melibatkan konsep yang tidak terlihat langsung (variabel latent).

SEM dipakai untuk apa?

SEM adalah metode yang dipakai untuk menemukan hubungan dalam data.

Fitur penting SEM:

- Memperhitungkan kesalahan pengukuran (measurement error)

Contoh: skor ujian tidak 100% mencerminkan “pintar”, karena bisa dipengaruhi tegang, kurang tidur, salah baca soal, dll.

- Bisa membuat model yang kaya dengan “latent construct” (konsep yang tidak terlihat langsung).

- Ada tes “model fit” (SEM tidak hanya menghitung koefisien tetapi juga mengecek seberapa cocok model kita dengan data).

- Model di-fit ke matriks kovarians/korelasi (SEM lebih fokus pada pola hubungan antar variabel (kovarians/korelasi), bukan hanya menebak nilai Y per individu).

Variabel: yang terlihat/teramati vs yang tersembunyi

- Variabel teramati (observed/manifest): variabel yang bisa kita lihat langsung dari data, misalnya skor tes, jawaban kuis, jawaban kuesioner.

- Konstruk tersembunyi (latent): konsep yang tidak bisa diukur persis dengan satu angka. Contoh: motivasi belajar, sikap terhadap matpel, kemampuan matematika, dll.

Latent biasanya diukur dengan beberapa indikator:

• Proficiency/kemampuan (mis. matematika, bahasa)
• Attitude/sikap (mis. sikap terhadap belajar)
• Perception/persepsi (mis. cara memandang aturan)

Analoginya:

Bayangkan “motivasi belajar”, kita tidak bisa melihatnya langsung, tapi bisa menilai dari beberapa indikator: apakah siswa bersemangat, tidak mudah menyerah, mau mengulang tugas, dsb. Indikator-indikator itu adalah variabel observed yang membantu kita menilai latent construct.

Perbedaan fokus: Regresi OLS vs SEM

- Regresi OLS (fokus ke “kasus per kasus”)

Contoh: kita punya banyak siswa (banyak data).

Biasanya:

• 1 variabel jadi hasil (misalnya nilai matematika Y)
• 1 variabel jadi prediktor (misalnya jam belajar X)

Model garis lurus:

Makna:

(intercept): nilai Y saat X=0 (misalnya kalau tidak belajar sama sekali, perkiraan nilainya berapa).

(slope/kemiringan): seberapa naik nilai Y kalau X naik 1 unit.

Lalu kenapa kita butuh “error” di regresi?

Karena data nyata tidak rapi di garis lurus.

Maka ada error untuk tiap data siswa:

: “selisih” antara nilai asli siswa dengan nilai yang diprediksi garis.

Sumber error:

• kesalahan ukur (misalnya nilai ujian dipengaruhi faktor teknis)
• ada variabel penting yang tidak dimasukkan (misalnya kualitas tidur)
• variasi alami (setiap orang beda)

- Statistical error dan Residual

Statistical error 

: “error sebenarnya” di dunia nyata (tidak bisa dilihat langsung).

Residual 

: error “versi hitungan” dari data -> residual = nilai asli − nilai prediksi

Konsep kovarians

“hubungan gerak bersama”, ini bagian yang jadi ciri SEM.

- Apa itu kovarians

Kovarians tujuannya untuk melihat apakah dua hal cenderung naik bersama atau satu naik yang lain turun.

Contoh:

-- Jam belajar dan nilai matematika:

kalau jam belajar naik, nilai cenderung naik → kovarians positif

-- Waktu main game dan waktu belajar:

kalau waktu main game naik, belajar turun → kovarians negatif (seringnya)

- Perubahan fokus utama SEM

Di SEM, kita tidak meminimalkan error untuk tiap siswa seperti OLS.

SEM fokusnya:

• Membandingkan kovarians dari data (sample covariance) dengan kovarians yang diprediksi model.
• Tujuannya untuk membuat keduanya sedekat mungkin.

Persamaan “penting” di SEM

Σ = kovarians populasi dari variabel yang kita amati

θ = parameter model (angka-angka yang ingin kita cari, misalnya “seberapa kuat pengaruh A ke B”)

Σ(θ) = kovarians yang diprediksi oleh model, berdasarkan parameter θ

Ide besarnya:

- Data punya “pola hubungan” (kovarians).

- Model kita juga menghasilkan “pola hubungan” yang seharusnya.

- SEM mengecek: apakah pola model cocok dengan pola data?

-- Kalau cocok → model “fit”.

-- Kalau tidak cocok → model perlu diperbaiki.

Jenis-jenis SEM

1. Path Analysis

Ciri:

• biasanya hanya variabel observed
• fokus pada panah sebab-akibat antar variabel terukur

Contoh:

Rumus:

Penjelasan:

Jenis kelamis (x1) → bisa memengaruhi Waktu belajar (y1) dan/atau Nilai (y2)

Waktu belajar (y1) → memengaruhi Nilai (y2)

- Direct effect, indirect effect, total effect (konsep efek)

SEM/path analysis bisa membedakan:

-- Direct effect (pengaruh langsung): A → C langsung

-- Indirect effect (pengaruh tidak langsung): A memengaruhi C lewat perantara B: A → B → C

-- Total effect (pengaruh total) = direct + indirect

Contoh dari gambar:

Waktu belajar (y1) → Nilai (y2) itu direct.

Jenis kelamin (x1) → Waktu belajar (y1) → Nilai (C) itu indirect.

Total = pengaruh langsung + lewat waktu belajar.

2. Confirmatory Factor Analysis (CFA) / Measurement Model

Contoh dua faktor:

Penjelasan:

• Ada latent variable (“Affect”, “Confidence”)
• Latent dihubungkan ke indikator observed (misalnya item kuesioner “enjoy”, “bored”, “like”, dll.)
• Tidak menspesifikkan hubungan sebab-akibat antar latent (fokusnya “mengukur dengan benar”)
• Berguna untuk membuat/mengecek skala (scale development)

Inti CFA: Apakah kuesioner/soal-soal ini benar-benar mengukur konsep yang sama atau tidak?

3. Structural Model

Mirip dengan CFA/measurement model, tapi ditambah hubungan antar latent.

Contoh dua faktor:

Penjelasan:

• Affect memprediksi Confidence (Affect → Confidence)
• Masing-masing latent tetap diukur oleh beberapa item observed

Intinya: Tidak hanya “alat ukurnya benar”, tapi juga “hubungan antar konsepnya benar”.

4. Latent Growth / Change Model

Tujuan: mempelajari perubahan dari waktu ke waktu.

Contoh:

Penjelasan:

Nilai matematika di semester 1, 2, 3, 4.

Kita ingin tahu:

• tingkat awal (mulainya di mana)
• laju pertumbuhan (naiknya cepat atau lambat)

Intinya: SEM bisa memodelkan “perkembangan” bukan cuma “snapshot sekali”.

Kapan SEM berguna?

SEM berguna untuk:

• menguji teori (apakah teori/ model hubungan A→B→C yang kita yakini didukung data)
• memvalidasi alat ukur (kuesioner/ tes)
• mengembangkan teori (eksplorasi)
• mempelajari direct & indirect effects

Evolusi & Notasi LISREL

SEM berkembang dari path analysis ke model LISREL (Linear Structural Relations).

Di kelas/notasi, sering dipakai huruf Yunani (Greek letters) seperti β, λ, ϕ, θ, dll.

Referensi

Bollen, K. A. (1989). Structural equations with latent variables. New York: Wiley.

Kline, R. B. (2016). Principles and practice of structural equation modeling (4th ed.). New York: Guilford Press.

Tujuan:

- Memahami apa itu skalar, vektor, dan matriks
- Mengerti cara melakukan operasi dasar pada matriks (penjumlahan, perkalian dengan skalar, perkalian matriks)
- Mengetahui konsep identitas, invers, transpose, dan determinan pada matriks
- Memahami konsep eigenvalues dan eigenvectors

1. Skalar, Vektor, dan Matriks

- Skalar: hanya satu bilangan, misalnya 5, -3, 2,7

- Vektor: kumpulan bilangan yang disusun dalam baris (vektor baris) atau kolom (vektor kolom).

Contoh vektor kolom:

Contoh vektor baris:

- Matriks: kumpulan beberapa bilangan yang disusun dalam baris dan kolom.

Misalnya matriks 2 baris, 3 kolom (2x3):

2. Penjumlahan Matriks

Jika dua matriks memiliki ukuran yang sama (misalnya keduanya 2x3), kita bisa menjumlahkan elemen per elemen.

Rumus:

jika C = A + B, maka untuk setiap i dan j,

3. Perkalian Matriks dengan Skalar

Jika kita mengalikan matriks A dengan bilangan skalar k, setiap elemen matriks itu dikalikan dengan k.

Misalnya: k⋅A

Contoh:

Hasil perkalian matriks hanya bisa jika jumlah kolom matriks pertama sama dengan jumlah baris matriks kedua.

Misal A ukurnya m x n, B ukurnya n x r, maka hasilnya C berukuran m x r.

Rumus elemen: untuk setiap i (baris) dan j (kolom),

Catatan: umumnya AB ≠ BA (tidak komutatif), bahkan kadang AB ada tapi BA tidak.

5. Identitas dan Invers

- Identitas matriks (I)

I adalah matriks khusus seperti “nol di semua tempat” kecuali diagonal utama (1 pada posisi i,i).

Misalnya identitas 2x2 dan 3x3:

Perkalian dengan identitas tidak mengubah matriks: AI=IA=A (asal ukurannya cocok).

- Invers matriks

Matriks A dikatakan invertible (non-singular) jika ada matriks B sehingga AB=BA=I.

Hanya matriks tertentu yang punya invers. Jika det(A) = 0, maka A tidak punya invers.

Contoh 2x2 inverse:

atau

adj(A) adalah transpose dari matriks kofaktor.

6. Determinan

Determinan adalah sebuah angka yang memberi tahu apakah suatu matriks bisa dibalik/invers dan seberapa “besar” pengaruh transformasinya.

Untuk matriks 2x2:

Syarat invertibel: 

Jika det(A) ≠ 0 → A invertible (punya invers)

Jika det(A) = 0 → A singular (tidak punya invers)

Hubungan singkat: semakin besar det(A), transformasi matriksnya bisa “mengubah skala” lebih kuat.

Untuk matriks 3×3:

Pilih baris/kolom, lalu “pecah” jadi determinan 2×2 (minor) dengan tanda

Intinya: 3×3 dihitung lewat kombinasi 2×2.

Teorema cepat:

det(A^T) = det(A)

Jika A segitiga (upper/lower triangular), det(A) = hasil kali diagonalnya

Ada baris/kolom semua nol atau dua baris sama → det(A) = 0

7. Transpose

Transpose artinya menukar baris dan kolom.

Simbolnya A^T.

Contoh:

Aturan penting:

(A^T)^T = A

(αA)^T = α A^T

(A+B)^T = A^T + B^T

(AB)^T = B^T A^T (ini perlu diingat karena urutannya penting)

9. Eigenvalues dan Eigenvectors 

Ide inti: cari sebuah skalar λ (eigenvalue) dan vektor x (eigenvector) sedemikian rupa sehingga

Artinya, jika kita mengalikan vektor x dengan matriks A, hasilnya hanya skalar kelipatan dari x.

Contoh (matriks diagonal):

Eigenvaluesnya adalah λ1 = 4 dengan eigenvector x1 = (1,0), dan λ2 = -3 dengan eigenvector x2 = (0,1).