model linier KS141321 SISTEM CERDAS

MODEL LINIER

KS141321 SISTEM CERDAS

Materi 5

Jurusan Sistem Informasi ITS

OUTLINE

Model linier

Regresi Linier

Metode Least-Square

MODEL LINIER

MODEL GEOMETRI

Model geometri : model yang mengasumsikan bahwa instances digambarkan dalam d fitur bilangan real

Contoh : lokasi dalam peta

 d=2 : longitude dan latitude

 d=3 : longitude, latitude dan altitude

d fitur instance dapat digambarkan dalam sistem koordinat Cartesian d-dimensi

MODEL LINIER

Konsep Geometri seperti garis dan bidang dapat digunakan untuk menggambarkan struktur model

Konsep Geometri seperti distance digunakan untuk merepresentasikan similarity, bahwa dua titik yang berdekatan akan mempunyai fitur yang mirip

Model yang dapat digambarkan dengan menggunakan garis dan bidang disebut dengan model linier

REGRESI LINIER

VARIABLE

Suatu masalah terkadang dapat diselesaikan berdasar beberapa variable yang saling berhubungan

Contoh :

 Harga jual rumah dipengaruhi oleh luas tanah dan bangunan

 Komsumsi bahan bakar dipengaruhi oleh kapasitas mesin, berat kendaraan, model kendaraan

 Nilai akhir MK didapatkan dari nilai Tugas, Nilai UTS dan nilai UAS

Luas tanah dan bangunan, kapasitas mesin, berat kendaraan, model kendaraan, nilai tugas nilai uts dan nilai uas disebut dengan variable independent

Harga jual rumah, konsumsi bahan bakar, nilai akhir MK disebut dengan variable dependent

MACAM VARIABLE

Variable Dependent – Responses variable

Variable yang nilainya bergantung pada variable lain. Perubahan nilai pada variable lain akan

mengubah nilai variable dependent

Variable Independent – Regressors variable:

Variable yang berdiri sendiri dan besaran nilainya tidak dipengaruhi oleh variable lain

HUBUNGAN ANTAR VARIABLE

Y = f (x)

Y = 0 + 1x Dimana :

Y = Variable Dependent X = variable Independent

0= Intercept

1= Slope

Slope : konstanta yang menunjukkan perubahan sebesar 1 pada Y setiap terjadi perubahan 1 unit pada x Intercept Y : konstanta yang menunjukkan perpotongan garis regresi dengan sumbu Y

ANALISA REGRESI

Konsep Analisa regresi :

 Proses mencari bagaimana hubungan terbaik dan

kekuatan hubungan antara response Y dan regressor X

 Memprediksi nilai response Y bila diketahui regressor X

MACAM REGRESI

 Simple regression

 Regresi yang hanya memiliki satu variable independent/regressors

 Y = ₀ + ₁x

 Contoh : Harga tanah (Y) ditentukan dari luas tanah (X)

 Multiple regression

 Regresi yang memiliki lebih dari satu variable independent/regressor

 Y = ₀ + ₁x1 + ₂x2

 Harga tanah (Y) ditentukan dari luas tanah (X1) dan lokasi tanah (X2)

EMPIRICAL MODEL

 Persamaan linier Y = ₀ + ₁x adalah persamaan untuk memperkirakan nilai yang sederhana dari

sesuatu yang tidak diketahui atau sangat kompleks

 Model empiris : model yang sederhana dan empiris

STATISTICAL MODEL

 Model statistic : model yang menggunakan fungsi statistik untuk menggambarkan suatu sistem

 Nilai Y (dependent variable) selain tergantung pada nilai x (independent variable) juga dipengaruhi oleh komponen bilangan random.

 Y = ₀ + ₁x + dimana adalah komponen bilangan random

 Data yang digunakan biasanya degenerate oleh sistem, bukan data aktual

 

ESTIMASI GARIS REGRESI

 Aspek penting dari analisa regresi adalah

memperkirakan besaran parameter ₀ dan ₁

 Dengan asumsi bahwa estimasi nilai ₀ adalah b₀ dan estimasi nilai ₁ adalah b₁ maka estimasi garis regresi (fitted regression line) dapat dicari dengan

persamaan

= b₀+ b₁X

 

RESIDUAL

 Residual adalah error untuk setiap estimasi y dibandingkan dengan data actual

 Bila diketahui data regresi {(x_i,y_i); i=1,2,…,n} dan

= b0+ b1X maka residual dapat dicari dengan persamaan :

 

HUBUNGAN ANTARA

REGRESI DAN ESTIMASI

REGRESI

METODE LEAST-

SQUARES

METODE LEAST SQUARE

 Metode least square : metode untuk meminimasi estimasi parameter ₀ dan ₁

 b₀ dan b₁ sebagai estimasi ₀ dan ₁ harus dicari sedemikian hingga sum of square dari residual bernilai minimum

SUM OF SQUARE OF THE ERRORS

 Residual sum of square disebut juga dengan sum of square of the errors (SSE)

ESTIMASI b

₀

DAN b

₁

 Untuk mendapatkan nilai b₀ dan b₁, SSE diturunkan terhadap b₀ dan b₁

 Dengan memberi nilai partial derivative =0 maka didapat

ESTIMASI b

₀

DAN b

₁ ^(LANJUTAN)

Kedua persamaan diselesaikan secara simultan

CONTOH ESTIMASI REGRESI

Diketahui 33 data pasangan variable solid reduction dan oxygen demand reduction di

samping

CONTOH ESTIMASI REGRESI

(LANJUTAN)

CONTOH ESTIMASI REGRESI

(LANJUTAN)

KEKUATAN METODE LEAST SQUARE

Least square metode menghasilkan garis yang memiliki SSE deviasi vertikal yang minimum dari garis regresi terhadap titik aktual

REGRESSION

House size Lot size Bedrooms Granite Upgraded

bathroom? Selling price

3529 9191 6 0 0 $205000

3247 10061 5 1 1 $224900

4032 10150 5 0 1 $197900

2397 14156 4 1 0 $189900

2200 9600 4 0 1 $195000

3536 19994 6 1 1 $325000

2983 9365 5 0 1 $230000

3198 9669 5 1 1 ????

Selling price = -26.6882 * houseSize + 7.0551 * lotSize + 43166.0767 * bedrooms + 42292.0901 * bathroom -21661.1208

= $219,328.25

Coming Up:

ARTIFICIAL NEURAL

NETWORK

REFERENCES

1. Ronald E Walpole, Raymond H Myers, Sharon L. Myers, Keying Ye 2012, Probability & statistics for engineers &

scientists, Prentice Hall

2. Peter Flatch, 2012. Machine Learning : The Art and

Science of Algorithms that Make Sense of Data, Cambridge University Press.