program fresh graduate academy digital talent scholarship

17
Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning Non-Linear Regression Regression

Upload: others

Post on 13-Nov-2021

9 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Non-LinearRegressionNon-LinearRegression

Page 2: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Pendahuluan

Bagian 1

Pendahuluan

15/07/2019 Non-Linear Regression 2

Page 3: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Pendahuluan

• Regresi non linier adalah suatu metode untuk mendapatkanmodel non linier yang menyatakan hubungan variabeldependen dan variabel independen

• Regresi nonlinier dapat mengestimasi model hubunganvariabel dependen dan independen dalam bentuk non linierdengan keakuratan yang lebih baik daripada regresi linier,karena dalam mengestimasi model dipakai iterasi algoritma.

• Regresi non linier adalah suatu metode untuk mendapatkanmodel non linier yang menyatakan hubungan variabeldependen dan variabel independen

• Regresi nonlinier dapat mengestimasi model hubunganvariabel dependen dan independen dalam bentuk non linierdengan keakuratan yang lebih baik daripada regresi linier,karena dalam mengestimasi model dipakai iterasi algoritma.

15/07/2019 Non-Linear Regression 3

Page 4: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Pendahuluan (2)

ANALISIS REGRESI

REGRESI NONLINEARREGRESI LINEAR

15/07/2019 Non-Linear Regression 4

REGRESI LINEARSEDERHANA

REGRESI LINEARBERGANDA

REGRESIKUADRATIK REGRESI KUBIK

Membentuk Garis Lurus Membentuk Garis Lengkung

Page 5: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Model Regresi Non-Linear

Bagian 2

Model Regresi Non-Linear

15/07/2019 Non-Linear Regression 5

Page 6: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Linear VS Non-Linear

• Bagaimana Anda bisa menyatakan bahwa dataset yang ada,secara alamiah bersifat linear atau non-linear?

• Model yang dipilih untuk regresi, sangat bergantung kepadadataset itu sendiri.

• Mari tinjau kembali perbedaan fungsi linear dan non linear:

• Bagaimana Anda bisa menyatakan bahwa dataset yang ada,secara alamiah bersifat linear atau non-linear?

• Model yang dipilih untuk regresi, sangat bergantung kepadadataset itu sendiri.

• Mari tinjau kembali perbedaan fungsi linear dan non linear:

15/07/2019 Non-Linear Regression 6

IR1

Page 7: Program Fresh Graduate Academy Digital Talent Scholarship

Slide 6

IR1 ISRAM RASAL, 6/28/2019

Page 8: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Linear VS Non-Linear (2)

• Fungsi linear: Secara sederhana didefinisikan sebagai fungsiyang mengikuti prinsip:

• Input/output = konstan

• Persamaan linear selalu merupakan polinomial derajat 1(misalnya x + 2y + 3 = 0).

• Dalam kasus dua dimensi, fungsi linear selalu membentukgaris

• Pada dimensi lain, fungsi linear mungkin juga membentukbidang atau titik. "Bentuk" fungsi linear selalu benar-benarlurus, tanpa kurva apa pun.

• Fungsi linear: Secara sederhana didefinisikan sebagai fungsiyang mengikuti prinsip:

• Input/output = konstan

• Persamaan linear selalu merupakan polinomial derajat 1(misalnya x + 2y + 3 = 0).

• Dalam kasus dua dimensi, fungsi linear selalu membentukgaris

• Pada dimensi lain, fungsi linear mungkin juga membentukbidang atau titik. "Bentuk" fungsi linear selalu benar-benarlurus, tanpa kurva apa pun.

15/07/2019 Non-Linear Regression 7

Page 9: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Mengapa Regresi Non-Linear

• Misalkan diberikan data seperti ini:

• Gunakan regresi linear atau non-linear?

• Misalkan diberikan data seperti ini:

• Gunakan regresi linear atau non-linear?15/07/2019 Non-Linear Regression 8

Page 10: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Mengapa Regresi Non-Linear (2)

• Digunakan model linear/ derajat 1:

• Banyak data yang “jauh” dari garis model.• Kondisi: under-fitting

RMSE of linearregression is15.908242501429998.

R2 score of linearregression is0.6386750054827146

• Digunakan model linear/ derajat 1:

• Banyak data yang “jauh” dari garis model.• Kondisi: under-fitting15/07/2019 Non-Linear Regression 9

RMSE of linearregression is15.908242501429998.

R2 score of linearregression is0.6386750054827146

Page 11: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Mengapa Regresi Non-Linear (3)

• Jika menggunakan model non-linear (kuadratik) / derajat 2:

• Garis model terlihat sudah mendekati persebaran data.

RMSE of polynomialregression is10.120437473614711.

R2 of polynomialregression is0.8537647164420812.

• Jika menggunakan model non-linear (kuadratik) / derajat 2:

• Garis model terlihat sudah mendekati persebaran data.

15/07/2019 Non-Linear Regression 10

RMSE of polynomialregression is10.120437473614711.

R2 of polynomialregression is0.8537647164420812.

Page 12: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Mengapa Regresi Non-Linear (4)

• Jika menggunakan model non-linear (kubik) / derajat 3:

• Garis model terlihat semakin mendekati persebaran data.• Kondisi: appropriate-fitting / correct-fit

RMSE is3.449895507408725

R2 score is0.9830071790386679

• Jika menggunakan model non-linear (kubik) / derajat 3:

• Garis model terlihat semakin mendekati persebaran data.• Kondisi: appropriate-fitting / correct-fit15/07/2019 Non-Linear Regression 11

RMSE is3.449895507408725

R2 score is0.9830071790386679

Page 13: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Perbandingan 3 Model

• Berikut adalah perbandingan model linear, kuadratik dankubik:

• Berikut adalah perbandingan model linear, kuadratik dankubik:

15/07/2019 Non-Linear Regression 12

Page 14: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Bagaimana Dengan Derajat Yang Lain

• Misalkan dimodelkan dengan derajat “20”:

• Garis model juga melewati “noise” data.• Kondisi: over-fitting

• Misalkan dimodelkan dengan derajat “20”:

• Garis model juga melewati “noise” data.• Kondisi: over-fitting15/07/2019 Non-Linear Regression 13

Page 15: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Bias vs Varians

• Bias merujuk pada kesalahan, karena asumsi model yangsederhana dalam menyesuaikan data.

• Bias yang tinggi artinya bahwa, model tidak dapat menangkappola di dalam data dan ini mengakibatkan kondisi under-fitting.

• Varians mengacu pada kesalahan, karena model yangkompleks mencoba menyesuaikan data.

• Varians tinggi artinya model melewati sebagian besar titikpada data dan menghasilkan kondisi over-fitting

• Bias merujuk pada kesalahan, karena asumsi model yangsederhana dalam menyesuaikan data.

• Bias yang tinggi artinya bahwa, model tidak dapat menangkappola di dalam data dan ini mengakibatkan kondisi under-fitting.

• Varians mengacu pada kesalahan, karena model yangkompleks mencoba menyesuaikan data.

• Varians tinggi artinya model melewati sebagian besar titikpada data dan menghasilkan kondisi over-fitting

15/07/2019 Non-Linear Regression 14

Page 16: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Bias vs Varians

• Bias merujuk pada kesalahan, karena asumsi model yangsederhana dalam menyesuaikan data.

• Bias yang tinggi artinya bahwa, model tidak dapat menangkappola di dalam data dan ini mengakibatkan kondisi under-fitting.

• Varians mengacu pada kesalahan, karena model yangkompleks mencoba menyesuaikan data.

• Varians tinggi artinya model melewati sebagian besar titikpada data dan menghasilkan kondisi over-fitting

• Bias merujuk pada kesalahan, karena asumsi model yangsederhana dalam menyesuaikan data.

• Bias yang tinggi artinya bahwa, model tidak dapat menangkappola di dalam data dan ini mengakibatkan kondisi under-fitting.

• Varians mengacu pada kesalahan, karena model yangkompleks mencoba menyesuaikan data.

• Varians tinggi artinya model melewati sebagian besar titikpada data dan menghasilkan kondisi over-fitting

15/07/2019 Non-Linear Regression 15

Page 17: Program Fresh Graduate Academy Digital Talent Scholarship

Program Fresh Graduate Academy Digital Talent Scholarship 2019 | Machine Learning

Bias vs Varians (2)

15/07/2019 Non-Linear Regression 16