รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562...

38
รายงานโครงงานวิศวกรรมไฟฟ้า วิชา 2102499 ปีการศึกษา 2562 การเปรียบเทียบวิธีการกำจัดสัญญาณรบกวนในสัญญาณคลื่นไฟฟ้าสมอง A comparison of EEG artifact removal methods นายธนกฤต แสนเจริญกิจ เลขประจำตัว 5930218721 อาจารย์ที่ปรึกษา ผศ.ดร. จิตโกมุท ส่งศิริ ภาควิชาวิศวกรรมไฟฟ้า คณะวิศวกรรมศาสตร์ จุฬาลงกรณ์มหาวิทยาลัย

Upload: others

Post on 20-Feb-2022

3 views

Category:

Documents


0 download

TRANSCRIPT

Page 1: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

รายงานโครงงานวศวกรรมไฟฟา วชา 2102499 ปการศกษา 2562

การเปรยบเทยบวธการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมองA comparison of EEG artifact removal methods

นายธนกฤต แสนเจรญกจ เลขประจำตว 5930218721อาจารยทปรกษา ผศ.ดร. จตโกมท สงศร

ภาควชาวศวกรรมไฟฟา คณะวศวกรรมศาสตรจฬาลงกรณมหาวทยาลย

Page 2: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

บทคดยอ

ในโครงงานนนำเสนอการเปรยบเทยบวธการกำจดสญญาณรบกวนทเกดจากการกะพรบตาในสญญาณคลนไฟฟาสมองหนงชองสญญาณซงการกำจดสญญาณรบกวนนมประโยชนอยางมากในทางการแพทยเพอชวยใหการวนจฉยโรคเปนไปอยางถกตอง และยงสามารถนำไปประยกตใชในการตดตอสอสารกบคอมพวเตอรดวยสมองเพอใหการสอสารมความถกตอง โครงงานนครอบคลมถงการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตาเพอนำมาใชเปนขอมลในโครงงานน การพจารณาคดแยกคณลกษณะเฉพาะทชวยในการทำนายบรเวณทมสญญาณรบกวน แบบจำลองปาสม, แบบจำลองโครงขายประสาทเทยมแบบสงวตนาการ และแบบจำลองฐานนนคอแบบจำลองขดกนถกใชสำหรบตรวจจบบรเวณทมสญญาณรบกวน จากนนสญญาณรบกวนในบรเวณดงกลาวจะถกกำจดดวยตวกรองสาวทซก-โกเลย การทดลองทงหมดจะทำบนขอมลสงเคราะห ผลการทดลองพบวาแบบจำลองปาสมมสมรรถนะในดานความแมนยำในการทำนายเทากบ 87.94 เปอรเซนตและคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 24.29 เปอรเซนต ซงเปนสมรรถนะทดทสด แตแบบจำลองโครงขายประสาทเทยมแบบสงวตนาการมสมรรถนะในดานความแมนยำในการทำนายเทากบ 81.69 เปอรเซนต และคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 30.31 เปอรเซนต ซงมคาใกลเคยงกบแบบจำลองฐาน โดยแบบจำลองฐานมความแมนยำในการทำนายเทากบ 81.09 เปอรเซนตและคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานเทากบ 29.50 เปอรเซนต

คำสำคญ: สญญาณคลนไฟฟาสมอง, การตดตอสอสารกบคอมพวเตอรดวยสมอง, การแปลงเวฟเลตไมตอเนอง, แผนภาพสเปกตรม, แบบจำลองปาสม, แบบจำลองโครงขายประสาทเทยมแบบสงวตนาการ และตวกรองสาวทซก-โกเลย

Abstract

In this project, we propose a comparison of single-channel electroencephalogram (EEG) eye blink artifact removalmethods. The artifact removal is very useful in medicine to help diagnose symptoms correctly and can also be appliedto brain-computer interface (BCI) to communication with brain correctly. The scope of the project covers the synthesisof simulated EEG with eye blink artifact to be used as data in this project, features extraction that help predict thearea of artifact. Random forest, Convolutional neural network (CNN), and a baseline model, that is the thresholdingmodel, used for detecting the area of artifact. Then, the artifact will be eliminated with the Savitzki-Golay filter. Allexperiments are done on simulated data. The results show that the random forest model yielded the predictionaccuracy of 87.94 percent and the normalized mean square error of 24.29 percent which are the best performance.However, the Convolutional neural network model yielded the prediction accuracy of 81.69 percent and the normalizedmean square error of 30.31 percent, which have quite similar performance to the baseline model. The baseline modelyielded the prediction accuracy of 81.09 percent and the normalized mean square error of 29.50 percent.

Keywords: Electroencephalogram (EEG), Brain-computer interfaces (BCI), Discrete wavelet transform (DWT), Spectro-gram, Random forest (RF), Convolutional neural network (CNN) and Savitzky-Golay filter

2

Page 3: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

สารบญสารบญรป 4

สารบญตาราง 5

1 บทนำ 6

2 ภาพรวมของโครงงาน 82.1 วตถประสงค . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82.2 ขอบเขตของโครงงาน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82.3 ผลลพธทคาดหวง . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8

3 หลกการและทฤษฎทเกยวของ 83.1 การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา . . . . . . . . . . . . . . . 83.2 การแยกหาคณลกษณะเฉพาะและการจดการขอมล . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9

3.2.1 การแยกหาคณลกษณะเฉพาะ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 103.2.2 การจดการขอมลกอนการประมวลผลของวธ Convolutional neural network . . . . . . . . . . . 12

3.3 การตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123.3.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133.3.2 Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133.3.3 Convolutional neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15

3.4 การกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153.5 การประเมนประสทธภาพของวธการกำจดสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . 15

4 ผลลพธของโครงงาน 164.1 การคดเลอกคณลกษณะเฉพาะ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 164.2 การตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18

4.2.1 Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194.2.2 Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204.2.3 Convolutional neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234.2.4 Artificial neural network . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 244.2.5 สมรรถนะการตรวจจบสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26

4.3 การกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.3.1 การปรบคา parameter ของ Savitzky-Golay filter . . . . . . . . . . . . . . . . . . . . . . . 274.3.2 ตวอยางผลลพธจากการกำจดสญญาณ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 274.3.3 คาความแตกตางของคาสมประสทธสหสมพนธ (∆ρ = ρ− ρ) . . . . . . . . . . . . . . . . . . 284.3.4 สมรรถนะการกำจดสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31

5 การวเคราะหและวจารณ 31

6 บทสรป 32

7 กตตกรรมประกาศ 32

8 เอกสารอางอง 33

9 ภาคผนวก 359.1 การคำนวณหาคาสมประสทธคอนโวลชนของตวกรองสาวทซก-โกเลย . . . . . . . . . . . . . . . . . . . . . 359.2 ตารางการคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน 369.3 การใชวธ grid search เพอหาคา hyperparameter ทเหมาะสมทสด . . . . . . . . . . . . . . . . . . . . . 379.4 ตารางการปรบโครงสรางของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379.5 ตารางการปรบโครงสรางของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37

3

Page 4: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

สารบญรป1 ขนตอนการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา . . . . . . . . . . . . 92 ขนตอนการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมอง ทนำเสนอในโครงงานน . . . . . . . . . . . . . . 93 ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104 ขนตอนของการกำจดสญญาณรบกวนในบรเวณทตรวจจบได . . . . . . . . . . . . . . . . . . . . . . . . . 105 ขนตอนการแปลงเวฟเลตหลายระดบชน โดยท x[n] คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน, g[n] คอ

ตวกรองความถตำผาน, h[n] คอ ตวกรองความถสงผาน . . . . . . . . . . . . . . . . . . . . . . . . . . . 116 ขนตอนการหาแผนภาพสเปกตรม . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137 แบบจำลอง Thresholding . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 138 แบบจำลอง Random forest . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 149 ฮสโตแกรมแสดงการเปรยบเทยบคาคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวน กบคาคณลกษณะเฉพาะในบรเวณ

ทไมมสญญาณรบกวน โดยท สสม คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และสนำเงน คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17

10 Feature importances โดยท std_coef_X คอคาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในระดบชน X, kur-tosis_coef_X คอ Kurtosis ของคาสมประสทธเวฟเลตในระดบชน X, mean_coef_X คอคาเฉลยของคาสมประสทธเวฟเลตในระดบชน X, median_coef_X คอคามธยฐานของคาสมประสทธเวฟเลตในระดบชน X, p_75_coef_Xคอคา ณ ตำแหนงเปอรเซนตไทลท 75 ของคาสมประสทธเวฟเลตในระดบชน X, p_25_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 25 ของคาสมประสทธเวฟเลตในระดบชน X . . . . . . . . . . . . . . . . . . . . . . . . . 18

11 แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน . . . . . . . . . . . . . . . . 1912 Receiver operating characteristic curve ของวธ Thresholding ทไดจากการแบงสญญาณคลนไฟฟาสมองทม

สญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . 2013 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding เมอแบงทอนขอมลไมเทา

กน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2014 Receiver operating characteristic curve ของวธ Random forest ทไดจากการแบงสญญาณคลนไฟฟาสมองท

มสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . 2215 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Random forest เมอแบงทอนขอมลไม

เทากน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2316 ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2317 Receiver operating characteristic curve ของวธ CNN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณ

รบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . . . . . 2418 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง CNN เมอแบงทอนขอมลไมเทากน . . . . 2419 ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2520 Receiver operating characteristic curve ของวธ ANN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณ

รบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง) . . . . . . . . . . . . 2621 ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง ANN เมอแบงทอนขอมลไมเทากน . . . . 2622 การเปรยบเทยบ ROC curve ของแบบจำลอง Thresholding, Random forest, CNN และ ANN . . . . . . . . 2723 คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทคาอนดบและความยาวของฟลเตอรคาตาง ๆ . . . . . . . . 2824 ตวอยางผลจากการกำจดสญญาณรบกวนดวยวธการ Thresholding, Random forest, CNN และ ANN เมอ แตละ

แถวของแตละรปคอแตละตวอยาง, pure EEG คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน, contaminatedEEG คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และ cleaned EEG คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29

25 ความแตกตางของคาสมประสทธสหสมพนธ ∆ρ ของวธ Thresholding (เขยว), Random forest (เหลอง), CNN(ฟา) และ ANN (ชมพ) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30

4

Page 5: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

สารบญตาราง1 ตารางสมประสทธคอนโวลชน . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152 คาของ hyperparameter ทถกเลอกใชในแบบจำลอง Random forest . . . . . . . . . . . . . . . . . . . . 223 โครงสรางของแบบจำลอง CNN ทเลอกใช โดยท สสม คอ Convolutional layer ทมตวกรองขนาด 3× 3 จำนวน

ตาง ๆ, สเขยว คอ Max pooling layer และ สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ . . . . . . . . . . . . 234 โครงสรางของแบบจำลอง ANN ทเลอกใช โดยท สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ . . . . . . . . . . 255 สมรรถนะการตรวจจบสญญาณรบกวนเมอเปรยบเทยบจากทกวธ . . . . . . . . . . . . . . . . . . . . . . . 276 คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทมคาตำทสด 3 อนดบ . . . . . . . . . . . . . . . . . . 287 สมรรถนะการกำจดสญญาณรบกวนเมอเปรยบเทยบจากทกวธ . . . . . . . . . . . . . . . . . . . . . . . . 318 การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน . . 369 คาของ hyperparameter ทถกใชในวธ grid search . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3710 ตารางการปรบความซบซอนของแบบจำลอง CNN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3711 ตารางการปรบความซบซอนของแบบจำลอง ANN . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38

5

Page 6: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

1 บทนำElectroencephalography (EEG) เปนเทคนคการบนทกสญญาณคลนไฟฟาสมองทมการนำไปประยกตใชอยางแพรหลายโดยเฉพาะการศกษาทางคลนก การทดลองในหองทดลอง การดแลสขภาพผปวย การวนจฉยโรค และ brain-computer interfaces (BCI) ขอไดเปรยบของเทคนคนคอมคาใชจายทไมสงเกนไป อยางไรกตาม ปญหาทพบในการบนทกสญญาณคอ การรบกวนอยางมนยสำคญจากแหลงสญญาณอน ๆ ทไมไดมาจากสมอง เชน สญญาณรบกวนทเกดจากการเคลอนทของตา สญญาณรบกวนทเกดจากการเคลอนทของกลามเนอ สญญาณรบกวนจากคลนไฟฟาหวใจ สญญาณรบกวนจากสงแวดลอมภายนอก ทำใหการวนจฉยโรคมความผดพลาดได ใน BCI สญญาณรบกวนอาจสงผลใหเกดการตความทผดพลาดทำใหเกดการควบคมอปกรณทไมเปนไปตามความตองการ [IRY16] ดงนนการตรวจจบและกำจดสญญาณรบกวนจงเปนขนตอนทสำคญในการเตรยมขอมลเพอนำไปประยกตใชตอ

ในงานวจยกอนหนา วธการหลายวธถกพฒนาขนเพอกำจดสญญาณรบกวน วธหนงทเปนทนยมในการกำจดสญญาณรบกวนทเกดจากตาคอวธการถดถอย (Regression methods) วธการนเปนการประมาณสญญาณรบกวนจากสญญาณ Electrooculography (EOG) จากนนสญญาณทถกประมาณจะถกนำไปลบออกจากสญญาณคลนไฟฟาสมองเพอกำจดสญญาณรบกวน ปญหาของวธการนคอ วธการนอาจจะกำจดสญญาณสมองบางสวนออกไปดวย เนองจากในสญญาณ EOG จะมสญญาณสมองรวมอยปรมาณหนง [UGZ15] วธการทสองคอ วธการกำจดสญญาณรบกวนดวยตวกรอง ตวกรองจะกำจดสญญาณรบกวนไดอยางมประสทธภาพกตอเมอยานความถของสญญาณรบกวนและยานความถของสญญาณสมองไมซอนทบกน อยางไรกตาม ความถของสญญาณรบกวนมโอกาสซอนทบกบยานความถของสญญาณสมอง ตวกรองแบบปรบตวไดถกพฒนาสำหรบการกำจดสญญาณรบกวนทมความถซอนทบกบยานความถของสญญาณสมอง ซงจะมตวถวงนำหนกทถกปรบคาดวยคาความผดพลาดระหวางสญญาณรบกวนทถกประมาณมาจากสญญาณอางอง กบสญญาณคลนไฟฟาสมอง ตวถวงนำหนกนจะมหนาทเปนตวกรองสญญาณอางอง สญญาณอางองเมอผานตวกรองนกจะไดสญญาณทประมาณเปนสญญาณรบกวน วธการนจะทำวนซำการปรบคาตวถวงนำหนกเพอลดคาความผดพลาดระหวางสญญาณรบกวนทถกประมาณมาจากสญญาณอางองกบสญญาณคลนไฟฟาสมอง [KM17] อยางไรกตาม ตวกรองนยงตองการสญญาณ EOG เพอใชในการประมาณสญญาณรบกวน วธการตอมาคอ วธการวเคราะหองคประกอบอสระ (Inde-pendent component analysis, ICA) [RSHM15] ทใชกนอยางแพรหลายสำหรบการแยกองคประกอบของสญญาณออกเปนองคประกอบทเปนอสระตอกน วธหนงทใชหาเมทรกซของการแปลงสำหรบใชในการแยกองคประกอบ คอ InfoMax [LGS99] InfoMax จะมกระบวนการหาเมทรกซของการแปลง เมอเรานำเมทรกซของการแปลงนไปทำการแปลงเชงเสนกบเมทรกซของสญญาณคลนไฟฟาสมองหลายชองสญญาณผลลพธทไดจะเปนการประมาณสญญาณจากแหลงสญญาณตาง ๆ ในสมอง โดย InfoMax จะพยายามลดสารสนเทศรวม (Mutual Informa-tion) ของสญญาณทไดจากผลลพธการแปลงเชงเสนนน [LGS99] ผใชงานสามารถนำสญญาณทถกแยกเปนองคประกอบตาง ๆ ไปใชสำหรบการพจารณาวาองคประกอบนนเปนสญญาณรบกวนหรอไม แตวธการนจำเปนจะตองมผเชยวชาญ เปนผระบวาองคประกอบไหนเปนองคประกอบของสญญาณรบกวน เพอจะกำจดองคประกอบนนทงออกไป สมมตฐานของวธการนคอ จำนวนขวอเลกโทรดจะตองมจำนวนมากกวาหรอเทากบจำนวนแหลงกำเนดทเปนอสระกนของสญญาณคลนไฟฟาสมอง [IRY16] เปนเหตให วธการนไมเหมาะสมกบการนำไปประยกตใชใน BCI และอปกรณดแลสขภาพทตดอยกบรางกาย เนองจากแหลงกำเนดสญญาณคลนไฟฟาสมองมแหลงกำเนดหลายแหลงจากในสมอง แตอปกรณเหลานสวนใหญแลวจะมขวอเลกโทรดเพยงขวเดยวในอปกรณหนงชน [MLGP17]

วธการทไดกลาวไป เราจะใชวธการเหลานนกตอเมอสญญาณคลนไฟฟาสมองมหลายชองสญญาณ วธการตอไปน ผใชสามารถนำไปใชไดกบสญญาณคลนไฟฟาสมองหนงชองสญญาณ วธการหนงทใชคอ Empirical mode decomposition (EMD) เปาหมายของวธการนคอ วธการนตองการแยกสญญาณออกเปนผลรวมของฟงกชนพนฐาน ทเรยกวา intrinsic mode functions (IMFs) โดยสญญาณรบกวนและสญญาณสมองสามารถถกอธบายไดดวยฟงกชนพนฐานแตละฟงกชน [UGZ15] แตวธการนจำเปนจะตองมผเชยวชาญเปนผระบวาองคประกอบไหนเปนองคประกอบของสญญาณรบกวน เพอจะกำจดองคประกอบนนทงออกไป นกวจยพฒนาวธการนมาสำหรบ non-stationary processes ดวยเหตผลนวธการนจงเหมาะกบการนำไปใชวเคราะหสญญาณคลนไฟฟาสมอง [IRY16] อยางไรกตาม วธนมขอเสยในขนตอนของการแยกสญญาณออกเปนผลรวมของฟงกชนพนฐานซงจะทำผาน Sifting process กระบวนการนเปนกระบวนการททำให EMD มความซบซอนในการประมวลผลขอมลทสง [IRY16] เราพบวายงมวธกำจดสญญาณรบกวนดวยตวกรองทไมตองการสญญาณอางองอาท วธการกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) [SLS12] วธการนจะตองระบบรเวณทมสญญาณรบกวนกอน จากนนจงทำการกำจดสญญาณรบกวนทเกดจากตาในสญญาณคลนไฟฟาสมองหนงชองสญญาณในบรเวณทพบวามสญญาณรบกวนจะถกประมาณดวยวธการถดถอยพหนามสญญาณทไดจากการประมาณจะถกนำไปลบออกจากบรเวณทพบวามสญญาณรบกวน วธการทใชสำหรบแยกองคประกอบของสญญาณ เพอนำองคประกอบนนไประบวาเปนสญญาณรบกวนหรอไมอกวธการหนงคอ วธการแปลงเวฟเลต (Wavelet transform, WT) วธการนเปนวธการทมประโยชนมากสำหรบการนำไปประยกตใชในการวเคราะหสญญาณคลนไฟฟาสมอง วธการนจะแยกสญญาณออกเปนหลายอำนาจจำแนก(Multiresolution) โดยแตละอำนาจจำแนกจะนำเสนอคณลกษณะทางกายภาพทแตกตางกน คณลกษณะทางกายภาพทไมพบในอำนาจจำแนกนง อาจพบในอกอำนาจจำแนกนง ซงมประโยชนสำหรบการใชแยกหาคณลกษณะเฉพาะของสญญาณอยางมาก [UGZ15] วธการนแตกตางกบวธวเคราะหองคประกอบอสระตรงท วธการนสามารถใชกบสญญาณคลนไฟฟาสมองหนงชองสญญาณได ทำใหมประโยชนตอการนำไปประยกตใชใน BCI และอปกรณดแลสขภาพทตดอยกบรางกาย [MLGP17] และวธการนสามารถนำไปประยกตใชกบ real-time processing ได [UA96]ดวยเหตผลเหลานวธการนจงถกนำไปประยกตใชเพอหาคณลกษณะเฉพาะของสญญาณสมอง ซงจะเหนไดใน [HLH+12] ในตวอยางนสญญาณคลนไฟฟาสมองในแตละชวงเวลาจะถกนำมาแปลงเวฟเลต เพอหาคณลกษณะทางกายภาพในแตละอำนาจจำแนก จากนนคณลกษณะทางกายภาพจะถกนำไปหากรอบของสญญาณดวยวธการกลำสญญาณเชงขนาด (Amplitude modulation) บนพนฐานของ Hilbert transform ตอมา

6

Page 7: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

นกวจยจะนำกรอบของสญญาณไปใชเปนคณลกษณะเฉพาะเพอใชในการเรยนรของเครองตอไปวธการสวนใหญทกลาวมาขางตนจำเปนจะตองมขนตอนหลก คอ จะตองมผเชยวชาญซงทำหนาทระบบรเวณหรอองคประกอบทมสญญาณ

รบกวน งานวจยอกกลมหนงจงสนใจการตรวจจบบรเวณทมสญญาณรบกวนดวยวธการอตโนมต อยางไรกตาม การระบบรเวณทมสญญาณรบกวนอตโนมตกยงตองการคา Threshold สำหรบการจำแนกบรเวณทเกดสญญาณรบกวน เพอทจะกำจดสญญาณรบกวนในบรเวณนนตอไป ทำใหวธการเรยนรของเครองเปนวธการทถกใหความสนใจในโครงงานน วธการเรยนรของเครองทถกใชในการระบบรเวณทมสญญาณรบกวนวธการหนงคอ Support vector machine (SVM) วธการนถกนำไปใชตรวจจบสญญาณรบกวน ดงตวอยางทไดเหนใน [HLH+12] การแยกคณลกษณะเฉพาะจะถกแยกดวยวธการแปลงเวฟเลตดงทไดอธบายไปแลวขางตน คณลกษณะเฉพาะจะถกนำไปใชในการเรยนรของเครอง เพอการตรวจจบการขยบนวในสญญาณคลนไฟฟาสมอง วธการทยงถกเลอกใชกนนอยคอ Random forest อยางไรกตาม วธการนมความสามารถในการเลอกคณลกษณะเฉพาะซงเปนประโยชนมากเพราะการเลอกคณลกษณะเฉพาะเปนเรองทยากสำหรบคณลกษณะเฉพาะของสญญาณรบกวนและสมองทมความซบซอน งานวจยทเลอกใชวธการนคอ [SDL+18] ในงานวจยนวธการ Random forest จะถกใชในการตรวจจบสญญาณรบกวน โดยสญญาณจะถกตดเปนชวง ๆ จากนนคณลกษณะเฉพาะจากสญญาณชวงนนจะถกคำนวณหาคาตาง ๆ อนไดแก คาขนาดสญญาณมากสด คาพลงงานในชวงความถ 0.5-50 เฮรตซ วธการตอมาคอ Convolutional neural network (CNN) เปนอกวธการหนงทไดรบความสนใจ เนองจากวธนจะมระดบชนทใชสำหรบแยกคณลกษณะเฉพาะ ซงเปนขอดทจะนำไปใชกบสญญาณคลนไฟฟาสมองทมคณลกษณะเฉพาะทซบซอน การแยกคณลกษณะเฉพาะนจะอยในระดบชนของ Convolutional layer วธการนถกใชใน [NCK+19] ในการทดลองน CNN จะถกใชในการตรวจจบสญญาณรบกวนทเกดใน intracerebral EEG โดยวธการนจะสนใจสญญาณคลนไฟฟาสมองหนงชองสญญาณ สญญาณจะถกแบงเปนชวง ๆ จากนนสญญาณแตละชวงจะถกนำไปผานตวกรองแถบความถผานในชวงความถตาง ๆ ตอมาสญญาณทผานตวกรองแตละชวงความถจะถกนำไปหากรอบของสญญาณ เพอนำกรอบของสญญาณนไปเปนขอมลขาเขาของ CNN เพอการตรวจจบชวงทมสญญาณรบกวน

จากวธทศกษามาทงหมด โครงงานนจะใหความสนใจการกำจดสญญาณรบกวนทเกดจากตา เนองจากอปกรณบนทกสญญาณคลนไฟฟาสมองทมอย ตำแหนงของอเลกโทรดจะอยใกลกบดวงตา สงผลใหสญญาณรบกวนทเกดจากตามอทธพลมากกวาสญญาณรบกวนชนดอน ขอมลสญญาณคลนไฟฟาสมองจะเปนขอมลทไดจากการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ ในโครงงานนขอมลจะถกสงเคราะหขน วธทจะศกษาจะตองสามารถตรวจจบสญญาณรบกวนไดอตโนมต ขนตอนจะถกแบงออกเปนสองสวน 1) ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน 2) ขนตอนของการกำจดสญญาณรบกวนในบรเวณทถกตรวจจบ วธการดงตอไปนจะถกใชสำหรบการตรวจจบสญญาณรบกวน

1. Thresholding เลอกวธการนสำหรบเปนวธพนฐานเพอนำมาใชสำหรบเปรยบเทยบประสทธภาพของวธการ Random forest และCNN โดยวธการ Thresholding จะใชวธการตรวจจบสญญาณรบกวนดวยการคำนวณพลงงานในยานความถ 0.5-5 เฮรตซของสญญาณในแตละชวงเวลา ถาบรเวณไหนมพลงงานทสงกวาคาคาหนงบรเวณนนจะเปนบรเวณทมสญญาณรบกวน ซงสมมตฐานคอบรเวณทมสญญาณรบกวนจะมขนาดของสญญาณสงกวาบรเวณทไมมสญญาณรบกวนสงผลใหมคาพลงงานทสงกวาบรเวณทไมมสญญาณรบกวนเชนกน

2. Random Forest เลอกวธการนเพราะวธการนมความสามารถในการเลอกคณลกษณะเฉพาะ วธการนถกใชใน [SDL+18] และถกนำไปเปรยบเทยบประสทธภาพกบวธ Fasst [WMG+16] ผลลพธทไดวธการ Random forest ใหประสทธภาพทสงกวา และงานวจยเกยวกบการตรวจจบสญญาณรบกวนในสญญาณคลนไฟฟาสมองยงไมมหลกฐานยนยนวาวธการใดดทสด ในโครงงานนตองการทดลองวธการทยงมผทดลองนอย

3. CNN เลอกวธการนเนองจากเปนวธการทมความสามารถในการแยกคณลกษณะเฉพาะของขอมลได และยงมงานวจยจำนวนนอยทใชวธการนในการตรวจจบสญญาณรบกวนหนงชองสญญาณ และยงมการนำวธการนไปใชกบการตรวจจบสญญาณรบกวนใน Intracere-bral EEG [NCK+19] แลวใหผลลพธทด ผศกษาจงอยากนำวธการนมาประยกตใชกบการตรวจจบสญญาณรบกวนใน EEG

ทงสามวธเปนวธการตรวจจบบรเวณทมสญญาณรบกวน ตอมาเมอวธการตาง ๆ สามารถตรวจจบบรเวณทมสญญาณรบกวนไดแลว เราจะตองทำการกำจดสญญาณรบกวนในบรเวณนน ตวกรองสาวทซก-โกเลยจะถกใชสำหรบกำจดสญญาณรบกวนในบรเวณทตรวจจบไดวามสญญาณรบกวน ดงทมใชใน [SLS12] และขอดของตวกรองนคอสามารถใชไดกบสญญาณคลนไฟฟาสมองหนงชองสญญาณ

โครงงานฉบบน จะศกษาวธการตรวจจบและกำจดสญญาณรบกวนทเกดจากตา ทเกดขนในการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ โดยโครงงานนจะทดลองบนขอมลสงเคราะห และโครงงานนมเนอหาทศกษาครอบคลมดงน 1) การศกษาคณลกษณะเฉพาะของสญญาณไฟฟาในสมองและสญญาณรบกวน 2) วธการกำจดสญญาณรบกวน 3) วธการประเมนประสทธภาพของวธการกำจดสญญาณรบกวน จากนนจะทำการทดลองเปรยบเทยบวธการกำจดสญญาณรบกวนทไดศกษานนคอวธการ Thresholding, Random forest และ CNN ตอมาจะวเคราะหผลทไดจากการเปรยบเทยบผลลพธเพอนำเสนอวธการทเหมาะสมสำหรบใชกำจดสญญาณรบกวนซงเกดขนในการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ

7

Page 8: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

2 ภาพรวมของโครงงาน2.1 วตถประสงค

• เพอศกษาวธการกำจดสญญาณรบกวนทประยกตใชไดกบการบนทกสญญาณคลนไฟฟาสมองหนงชองสญญาณ

• เพอเปรยบเทยบผลลพธและความซบซอนในการคำนวณของวธการกำจดสญญาณรบกวนทแตกตางกน ซงมวธการกำจดสญญาณรบกวนดงตอไปน Thresholding, Random forest และ Convolutional neural network

2.2 ขอบเขตของโครงงาน• การกำจดสญญาณรบกวนจะกำจดสญญาณรบกวนทเกดจากตาเทานน อาท การเคลอนทของตา การกะพรบตา ไมสนใจสญญาณรบกวน

ทเกดจากกลามเนอ และสญญาณรบกวนทเกดจากสญญาณคลนไฟฟาหวใจ

• วธการทจะศกษาสำหรบกำจดสญญาณรบกวนคอ Thresholding, Random forest และ Convolutional neural network

• ขอมลทนำมาใชจะเปนขอมลจำลองการบนทกสญญาณจากเครองบนทกคลนไฟฟาสมองหนงชองสญญาณ และไมมการบนทกสญญาณอางองรวมดวย

• การเปรยบเทยบของวธการกำจดสญญาณรบกวนทเกดจากตา จะทำบนขอมลสงเคราะห

• การเปรยบเทยบประสทธภาพของการกำจดสญญาณรบกวนทเกดจากตา ผศกษาจะเปรยบเทยบดวยความแตกตางของสมประสทธสหสมพนธ และคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ของวธการตาง ๆ

2.3 ผลลพธทคาดหวง• ผลการเปรยบเทยบประสทธภาพของการกำจดสญญาณรบกวนทเกดจากการกะพรบตาในสญญาณคลนไฟฟาสมองดวยวธ 1) Thresh-

olding 2) Random forest 3) CNN

3 หลกการและทฤษฎทเกยวของในโครงงานฉบบนการทดลองจะถกแบงเปน 4 สวน ดงน 1) การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา 2) การแยกหาคณลกษณะเฉพาะและการจดการขอมล 3) การตรวจจบบรเวณทมสญญาณรบกวน 4) การกำจดสญญาณรบกวนในบรเวณทตรวจจบได สวนทหนงแสดงดงรปท 1 สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และสญญาณรบกวนทเกดจากการกะพรบตาทถกสงเคราะหขน จะถกนำมารวมกนไดเปนสญญาณคลนไฟฟาสมองทมสญญาณรบกวน สวนทสอง สวนทสามและสวนทสแสดงดงรปท 2 สญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกนำไปแยกหาคณลกษณะเฉพาะ จากนนจะนำคาคณลกษณะเฉพาะทไดไปใชในการตรวจจบบรเวณทมสญญาณรบกวน บรเวณทมสญญาณรบกวนทตรวจจบไดจะถกนำไปกำจดสญญาณรบกวน ผลลพธทไดจะเปนสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน ในหวขอสดทาย จะอธบายวธการประเมนประสทธภาพของวธการกำจดสญญาณรบกวนทง 3 วธ

3.1 การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตาขอมลทถกนำมาใชกบการทดลองกำจดสญญาณรบกวนทง 3 วธ จะเปนขอมลทถกสงเคราะหขน สญญาณจะถกสงเคราะหโดยมอตราการสมเทากบ 256 เฮรตซ โดยสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะถกสงเคราะหทงหมด 20000 ตวอยาง (trials) แตละตวอยางจะมความยาวของสญญาณ 10 วนาท การสงเคราะหขอมลจะถกแบงออกเปน 2 สวน ดงน

1. การสงเคราะหสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน ในทางประสาทวทยาศาสตร (Neuroscience) คนพบวา สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะมความหนาแนนสเปกตรมกำลง (Power spectral density) เหมอนกบสญญาณรบกวนสชมพ(Pink noise) [BKD06] ซงมความหนาแนนสเปกตรมกำลง ดงสมการ

S(f) =1

f(1)

ดงนนในโครงงานนสญญาณรบกวนสชมพจะถกใชเปนตวแทนของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน การสงเคราะหสญญาณรบกวนสชมพจะเรมจากการนำสญญาณรบกวนสขาว (White noise) ไปผาน Second-order section digital filter of orders 12ผลลพธทไดจะเปนสญญาณรบกวนสชมพทมความหนาแนนสเปกตรมกำลง ดงสมการ (1)

8

Page 9: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

2. การสงเคราะหสญญาณรบกวนทเกดจากการกะพรบตา สญญาณรบกวนจะถกสงเคราะหจากสมการ

y[n] = c(e−bn − e−an

)โดยคา a, b และ c จะถกเลอกเพอใหสมการมเงอนไขดงตอไปน

• ขนาดของสญญาณรบกวนจะอยในชวง 90 - 150 µV90 6 y[n] 6 150

• ชวงเวลาของการเกดสญญาณรบกวนจะอยในชวง 0.2 - 2 วนาท0.2× fs 6 n2 − n1 6 2× fs

เมอ n1 คอ จดเรมตนของสญญาณรบกวน (y[n1] = 0), n2 คอ จดทขนาดของสญญาณรบกวนเปน 1 เปอรเซนตของ 90µV (y[n2] = 0.9), fs คอ อตตราสมของสญญาณ

เมอสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และสญญาณรบกวนทเกดจากการกะพรบตาถกสงเคราะหมาเรยบรอยแลว สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนแตละตวอยางจะถกนำมารวมกบสญญาณรบกวนทเกดจากการกะพรบตาแบบสม โดยในแตละตวอยางจะมสญญาณรบกวนรวมอยจำนวน 2-4 สญญาณ ดงรปท 1

ขอมลจะถกแบงเปน 50 เปอรเซนต (10000 ตวอยาง) สำหรบการฝกของวธการตาง ๆ (Training set) 25 เปอรเซนต (5000 ตวอยาง)สำหรบการตรวจสอบ (Validation set) และ 25 เปอรเซนต (5000 ตวอยาง) สำหรบการทดสอบวธการกำจดสญญาณรบกวนวธการตาง ๆ(Test set)

รป 1: ขนตอนการสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวนทเกดจากการกะพรบตา

รป 2: ขนตอนการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมอง ทนำเสนอในโครงงานน

3.2 การแยกหาคณลกษณะเฉพาะและการจดการขอมลการเตรยมขอมลจะมขนตอนการแบงสวนของขอมล (Data segmentation) กอนเสมอ นนคอ สญญาณจะถกนำมาแบงออกเปนทอน (epoch)โดยแตละทอนจะมจำนวนจดขอมล N จด เชน x = (x[1], x[2], ..., x[N ]) จากนนสญญาณในแตละทอนจะถกนำไปประมวลผลตอ

9

Page 10: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

รป 3: ขนตอนของการตรวจจบบรเวณทมสญญาณรบกวน

รป 4: ขนตอนของการกำจดสญญาณรบกวนในบรเวณทตรวจจบได

ซงการเตรยมขอมลของแตละแบบจำลองจะตางกน สำหรบแบบจำลอง Thresholding และ Random forest จะมขนตอนเหมอนกน นนคอขนตอนการแยกหาคณลกษณะเฉพาะ (Features extraction) สวนแบบจำลอง CNN จะเปนขนตอนการจดการขอมลกอนการประมวลผล(Data pre-processing) ดงรปท 3

3.2.1 การแยกหาคณลกษณะเฉพาะ

การแยกหาคณลกษณะเฉพาะของขอมลจะเปนการคำนวณบนขอมลแตละทอนของสญญาณ จะมทงหมด 4 คณลกษณะเฉพาะ

1. พลงงานในยานความถ 0.5-5 เฮรตซ สญญาณในแตละทอนจะถกนำมาแปลงฟเรยรไมตอเนอง ดงสมการ

X(f) =N−1∑n=0

x[n]e−j2πnf

10

Page 11: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

โดยท x[n] คอ สญญาณทจะนำมาแปลงฟเรยรไมตอเนอง ณ จดขอมลท n, N คอ จำนวนจดขอมลททำการแปลงฟเรยรไมตอเนองจากนนจะนำผลลพธทไดไปหาความหนาแนนสเปกตรมกำลง ดงสมการ

S(f) = |X(f)|2

ตอมาจะนำความหนาแนนสเปกตรมกำลงไปหาพลงงานในยานความถ 0.5-5 เฮรตซ ดงสมการ

E =5∑

f=0.5

S(f)

ผลลพธทไดคอพลงงานในยานความถ 0.5-5 เฮรตซซงจะใชเปนคณลกษณะเฉพาะในการเรยนรของเครอง ทเลอกใชยานความถนเพราะวาสญญาณรบกวนจากตาจะเกดในยานความถน [LPBS93]

2. ขนาดสญญาณ (Amplitude) สงทสด

3. Kurtosis ของการกระจายตวของสญญาณ สญญาณในแตละทอนจะถกนำมาคำนวณ Kurtosis ของสญญาณ ดงสมการ

Kurtosis = E{[

x−xσ

]4}โดยท x คอสญญาณทจะนำมาหา Kurtosis, x คอคาเฉลยของสญญาณทจะนำมาหา Kurtosis, σ คอสวนเบยงเบนมาตรฐานของสญญาณทจะนำมาหา Kurtosis Kurtosis คอคาทบงบอกถงความโดงของการกระจายตวของสญญาณเมอเทยบกบการกระจายตวแบบปกต Kurtosis จะมคามากเมอสญญาณคลนไฟฟาสมองในบรเวณนนมสญญาณรบกวนทเกดจากการกะพรบตา [SCKS11]

4. คาทางสถตของคาสมประสทธเวฟเลต (Statistical value of wavelet coefficients) สญญาณในแตละทอนจะถกนำมาแปลงเวฟเลตไมตอเนองหลายระดบชน โดยเลอกใช Daubechies wavelet ทมจำนวน vanishing moments ทคาตาง ๆ เชน 1, ,2 ,3 และ4 เปนตน การแปลงเวฟเลตไมตอเนองหลายระดบชนจะมขนตอนคอในระดบชนแรกสญญาณจะถกนำไปผานตวกรองความถตำ และตวกรองความถสง ตอจากนนจะถกลดอตราสมลงสองเทา จากนนในระดบชนถดไปสญญาณทไดจากตวกรองความถตำทถกลดอตราสมลงจะถกนำไปผานตวกรองดวยวธเดยวกนกบระดบชนกอนหนา จะทำตามขนตอนนซำจนถงระดบชนทตองการ ดงรปท 5 จากนน Approximation coefficients และ Detail coefficients ทไดจากการแปลงเวฟเลต จะถกแบงเปนคณลกษณะเฉพาะยอย 2คณลกษณะเฉพาะ

รป 5: ขนตอนการแปลงเวฟเลตหลายระดบชน โดยท x[n] คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน, g[n] คอ ตวกรองความถตำผาน, h[n] คอ ตวกรองความถสงผาน

(a) คาสมประสทธเวฟเลต (Wavelet coefficients) ทถกนำไปหากรอบของสญญาณ Approximation coefficients และ Detailcoefficients ทไดจากการแปลงเวฟเลตจะถกนำไปหากรอบของสญญาณ (Envelope) ดวยวธการกลำสญญาณเชงขนาด [HLH+12]ดงสมการ

AA(k) =√cA(k)2 +H(cA(k))2 และ AD(k) =

√cD(k)2 +H(cD(k))2

โดยท cA(k) คอ Approximation coefficient ทตำแหนง k, cD(k) คอ Detail coefficient ทตำแหนง k, AA(k)คอ กรอบของสญญาณของ Approximation coefficient ทตำแหนง k, AD(k) คอ กรอบของสญญาณของ Detail coef-ficient ทตำแหนง k, H(y) คอ การแปลงฮลเบรทของสญญาณ y

11

Page 12: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

(b) คาสมประสทธเวฟเลตทไมถกนำไปหากรอบของสญญาณ

เหตผลทตองแยกการทดลองเปนการทดลองยอยดงกลาวเนองจากการหากรอบของสญญาณใน [CFLE96] แสดงใหเหนวาการหากรอบของสญญาณ จะชวยเพมความแมนยำในการคดแยกเหตการณประเภทตาง ๆ ทเกดในสญญาณคลนไฟฟาสมองไดดมากขน ในการทดลองของโครงงานนจงมสมมตฐานวาการนำการหากรอบของสญญาณไปประยกตใชกบคาสมประสทธเวฟเลต จะชวยทำใหคาสมประสทธเวฟเลตนเปนคณลกษณะเฉพาะทชวยในการทำนายไดดมากขนคาสมประสทธเวฟเลตในขอ (a) และ (b) ของแตละระดบชนจะถกนำไปคำนวณคาทางสถต ดงน

• คาเบยงเบนมาตรฐาน• คา ณ ตำแหนงเปอรเซนตไทลท 75• Kurtosis ของคาสมประสทธเวฟเลต• คามธยฐาน• คาเฉลย• คา ณ ตำแหนงเปอรเซนตไทลท 25

คาทางสถตของคาสมประสทธเวฟเลต ในแตละระดบชนจะถกนำไปใชเปนคณลกษณะเฉพาะของแบบจำลอง Random forest

3.2.2 การจดการขอมลกอนการประมวลผลของวธ Convolutional neural network

การจดการขอมลกอนการประมวลผลในหวขอนจะถกนำไปใชประมวลผลขอมลขาเขาของวธ CNN ซงจะมขนตอน ดงรปท 6 สญญาณแตละทอนจะถกนำไปหาแผนภาพสเปกตรม (Spectrogram) ดวยการแปลงฟเรยรชวงเวลาสน (Short-time Fourier transform) โดยการแปลงฟเรยรชวงเวลาสนจะเปนการเลอน analysis window ทมความยาว P จดขอมลไปตามสญญาณทมจำนวนจดขอมล K จดขอมล และทำการแปลงฟเรยรไมตอเนองใน window นน โดย window จะมการเลอนไปทละR จดขอมลและมการซอนทบกบสญญาณกอนหนาL จดขอมล(R = P − L) ผลลพธของการแปลงฟเรยรชวงเวลาสนจะเปนเมทรกซ ดงสมการ

X(f) = [X1(f) X2(f) ... Xk(f)]

โดยท k =⌊K−LP−L

⌋คอจำนวนคอลมนของเมทรกซ และ Xm(f) คอการแปลงฟเรยรไมตอเนองใน window นน ดงสมการ

Xm(f) =∞∑

n=−∞x[n]g[n−mR]e−j2πnf

เมอ g[n − mR] คอ analysis window จากนนจะนำสมาชกของเมทรกซทไดแตละตวไปหาขนาดและยกกำลงสอง ผลลพธทไดจะเปนแผนภาพสเปกตรม ดงรปท 6

ในโครงงานนจะเลอกใช analysis window ทมความยาว 32 จดขอมล เนองจากชวงเวลาทเกดสญญาณรบกวนทสนทสดคอ 0.2 วนาทความยาว analysis window ทคานจะสามารถเหนการเปลยนแปลงของสเปกตรมทชวงเวลาสน ๆ ได และเลอกจำนวนจดของการแปลงฟเรยรไมตอเนองเทากบ 512 จดขอมล เพอใหไดชวงความถของแผนภาพสเปกตรมอยในชวง 0 - 128 เฮรตซ ซงเปนชวงทครอบคลมยานความถของสญญาณคลนไฟฟาสมองและสญญาณรบกวน และการเพมขนของความถแตละครงเพมขนทละ 0.5 เฮรตซ

เหตผลทเลอกใชแผนภาพสเปกตรมคอสญญาณคลนไฟฟาสมองเมอมสญญาณรบกวนทเกดจากการกะพรบตาขนาดของสญญาณจะเพมขน สงผลใหคาสเปกตรมในยานความถของสญญาณรบกวน (0.5-5 เฮรตซ) สงขนดวย นนคอบรเวณทมสญญาณรบกวนคาสเปกตรมในแผนภาพสเปกตรมกจะสงกวาบรเวณทไมมสญญาณรบกวน และแผนภาพสเปกตรมเปนอาเรยสองมต ซงแบบจำลอง CNN จะม Convolutional layerทไวใชสำหรบสกดคณลกษณะเฉพาะในอาเรยสองมตไดจงเหมาะสมทจะนำมาทดลองใชกบสญญาณคลนไฟฟาสมองทมคณลกษณะเฉพาะทซบซอน

3.3 การตรวจจบบรเวณทมสญญาณรบกวนการตรวจจบบรเวณทมสญญาณรบกวน จะมขนตอนตาง ๆ ดงรปท 3 สำหรบโครงงานนจะมแบบจำลองสำหรบตรวจจบบรเวณทมสญญาณรบกวน 3 แบบจำลอง คอ 1) Thresholding 2) Random forest และ 3) CNN โดยในแบบจำลองแตละหวขอจะอธบายหลกการพนฐานของแบบจำลองนนกอน จากนนจะอธบายวธการนำแบบจำลองนนไปใชกบการตรวจจบบรเวณทมสญญาณรบกวนของโครงงานน แบบจำลองทง3 แบบจำลอง มดงน

12

Page 13: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

รป 6: ขนตอนการหาแผนภาพสเปกตรม

3.3.1 Thresholdingแบบจำลองนจะมสมมตฐานสำหรบการตรวจจบบรเวณทมสญญาณรบกวนคอ ถาพลงงานของสญญาณในชวงความถ 0.5 – 5 เฮรตซ ในทอนใดทอนหนง มคาสงกวาคา Threshold คาหนง ทอนนนจะเปนทอนทพบสญญาณรบกวน ดงรปท 7 สำหรบการเลอกใชยานความถ 0.5- 5 เฮรตซเพราะวาสญญาณรบกวนจากตาจะเกดในยานความถน [LPBS93] การหาคา Threshold จะมหลกการดงน สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนในสวนของขอมลทแบงไวสำหรบการฝกจะถกนำมาหาคณลกษณะเฉพาะในแตละทอนตามหวขอท 3.2.1 นนคอพลงงานในยานความถ 0.5 - 5 เฮรตซ จากนนจะนำคาพลงงานของแตละทอนทกคามาเรยงเพอเลอกคา Threshold ซงจะเลอกคาทเปอรเซนไทลท 85, 90, หรอ 95 เพอเปนตวแทนของคาพลงงานสงสดในยานความถ 0.5 - 5 เฮรตซ ของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน และใชคาทเลอกเปนคา Threshold ทเลอกใชคาพลงงานสงสดของสญญาณคลนไฟฟาสมองขณะทไมมสญญาณรบกวนเพราะวาคาพลงงานของสญญาณรบกวนควรจะมคาสงกวาคาพลงงานสงสดของสญญาณคลนไฟฟาสมองขณะทไมมสญญาณรบกวน ถาเลอกคาทตำกวานอาจจะทำใหมการกำจดสญญาณคลนไฟฟาสมองไปดวย

เมอแบบจำลองถกเลอกคา Threshold ทเหมาะสมแลว ตอไปจะเปนวธการนำแบบจำลองไปใชจรง โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอน จากนนสญญาณในทอนนนจะถกนำไปแยกหาคณลกษณะเฉพาะตามหวขอท 3.2.1 ซงใชเฉพาะพลงงานในยานความถ0.5 - 5 เฮรตซ คณลกษณะเฉพาะทไดจะถกนำไปใชเปรยบเทยบกบคา Threshold ในแบบจำลองดงรปท 7 ผลลพธทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0 สำหรบทอนทไมมสญญาณรบกวน

รป 7: แบบจำลอง Thresholding

3.3.2 Random forestแบบจำลองนเปนแบบจำลองทพฒนามาจากแบบจำลองตนไมตดสนใจ (Decision tree) ในเบองตนหลกการของ Classification trees [JWHT13]จะมขนตอนดงน

1. จะแบงพนทของคณลกษณะเฉพาะตาง ๆ ออกเปน J พนททไมมการซอนทบกน โดยเรยกแตละพนทยอยวาR1, R2, ..., RJ และเรยกคณลกษณะเฉพาะตาง ๆ วา X1, X2, ..., Xp, p คอ จำนวนคณลกษณะเฉพาะทงหมด

2. สำหรบทก ๆ ขอมลทตกลงไปในพนท Rj กลม (Class) ของขอมลนนจะถกทำนายจากกลมของขอมลฝกทงหมดทมมากสดในพนทRj นน

13

Page 14: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

สำหรบในขนตอนท 1 จะแบงพนทของคณลกษณะเฉพาะตาง ๆ ออกเปนพนทยอย R1, R2, ..., RJ โดยพนทยอยทแบงนน จะทำใหคา Gini index นอยทสด โดย Gini index นยามดงสมการ

G =K∑k=1

pmk(1− pmk)

โดยท K คอ จำนวนกลมทงหมด, pmk คอ สดสวนของกลมท k ทอยในพนทท m จะเหนไดวาคา Gini index จะนอยทสดกตอเมอในพนททถกแบงมจำนวนกลมอยเพยงกลมเดยวในพนทนน ซงพนทจะถกแบงไปเรอย ๆ แตในแตละครงของการแบงจะมเงอนไขทพยายามทำให Gini index มคานอยทสด

จากทกลาวมาขางตน แบบจำลอง Random forest เปนการรวมแบบจำลองตนไมตดสนใจ หลาย ๆ แบบจำลอง โดยแตละแบบจำลองของแบบจำลองตนไมตดสนใจ จะสมเลอกคณลกษณะเฉพาะมาเพยงบางสวนเพอสรางแบบจำลองตนไมตดสนใจ [JWHT13] ในแตละตนไมตดสนใจกจะทำนายผลลพธออกมาเปนกลมตาง ๆ จากนนจะทำการเลอกกลมทถกทำนายจำนวนมากทสด เพอเปนผลลพธการทำนายของแบบจำลอง Random forest กระบวนการดงกลาวเปนการลดคาสหสมพนธระหวางตนไมตดสนใจตาง ๆ

ในขนตอนของการฝกแบบจำลอง สญญาณทอนตาง ๆ ของขอมลสวนทแบงไวสำหรบการฝก จะถกตดปาย (label) ไววาทอนใดเปนทอนทมสญญาณรบกวนและทอนใดไมมสญญาณรบกวน จากนนจะนำคณลกษณะเฉพาะของทอนนน ซงไดจากหวขอท 3.2.1 และปายของทอนนนเปนขอมลขาเขาสำหรบฝกแบบจำลอง ผลลพธทไดจากการฝกแบบจำลองกคอแบบจำลองทสามารถตรวจจบหรอจำแนกทอนทมสญญาณรบกวนหรอไมมสญญาณรบกวนได

เมอไดแบบจำลองแลว ตอมาจะเปนวธการนำแบบจำลองไปใชจรง วธการนำไปใชจะเปนดงรปท 8 โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอน จากนนสญญาณในทอนตาง ๆ จะถกนำไปแยกหาคณลกษณะเฉพาะตามหวขอท 3.2.1 คณลกษณะเฉพาะทไดจะถกนำไปใชสำหรบเปนขอมลขาเขาของแบบจำลอง Random forest ผลลพธทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0สำหรบทอนทไมมสญญาณรบกวน

รป 8: แบบจำลอง Random forest

14

Page 15: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

3.3.3 Convolutional neural networkขนตอนของการฝกแบบจำลอง สญญาณทอนตาง ๆ ของขอมลสวนทแบงไวสำหรบการฝก จะถกตดปาย ไววาทอนใดเปนทอนทมสญญาณรบกวนและทอนใดไมมสญญาณรบกวน จากนนจะนำสญญาณทอนตาง ๆ ไปทำการจดการขอมลกอนการประมวลผล ซงเปนไปตามหวขอท 3.2.2 ผลลพธทไดจะเปนแผนภาพของสเปกตรม จากนนจะนำแผนภาพทไดและปายทคกบแผนภาพนนเปนขอมลขาเขาสำหรบฝกแบบจำลองผลลพธทไดจากการฝกแบบจำลองกคอแบบจำลองทสามารถตรวจจบหรอจำแนกทอนทมสญญาณรบกวนหรอไมมสญญาณรบกวนได

เมอไดแบบจำลองแลว ตอมาจะเปนวธการนำแบบจำลองไปใชจรง โดยสญญาณคลนไฟฟาสมองทมสญญาณรบกวนจะถกแบงเปนทอนจากนนสญญาณในทอนตาง ๆ จะถกนำไปทำการจดการขอมลกอนการประมวลผล ซงเปนไปตามหวขอท 3.2.2 แผนภาพทไดจะถกนำไปใชสำหรบเปนขอมลขาเขาของแบบจำลอง CNN โดยในเลยอรแรกของแบบจำลองจะเปนคอนโวลชนเลเยอร เลเยอรนมความสำคญเพราะเปนเลเยอรทไวใชหาคณลกษณะเฉพาะของเมเทรกซขาเขา ผลลพธของแบบจำลองทไดจะเปนคา 1 สำหรบทอนทมสญญาณรบกวน และคา 0สำหรบทอนทไมมสญญาณรบกวน

3.4 การกำจดสญญาณรบกวนในบรเวณทตรวจจบไดการกำจดสญญาณรบกวนในบรเวณทพบวามสญญาณรบกวน จะใชตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) [SG64] สำหรบกำจดสญญาณรบกวน โดยจะมขนตอนการกำจดสญญาณรบกวน ดงรปท 4 ขอมลแตละจดของสญญาณในบรเวณทพบวามสญญาณรบกวนจะถกประมาณคาในแตละจด ดงสมการ (2) จากนนสญญาณทไดจากการประมาณดวยตวกรองสาวทซก-โกเลยจะถกนำไปลบออกจากบรเวณทพบวามสญญาณรบกวน ผลลพธทไดจะเปนสญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด

z[n] =

m−12∑

i= 1−m2

Ciz[n+ i],m− 1

2≤ n ≤ N − m− 1

2(2)

โดยท z[n] คอ คาทถกประมาณจากจดขางเคยง, N คอ จำนวนจดของขอมลในบรเวณทพบสญญาณรบกวน n = 1, 2, ..., N , m คอจำนวนจดขางเคยงทจะนำมาใชประมาณ z[n], z[n + i] คอ ขอมลขางเคยงทนำมาใชประมาณ z[n], Ci คอ สมประสทธคอนโวลชน(Convolution coefficients) [SG64] โดยตวอยางคาสมประสทธคอนโวลชนสามารถดไดจากตารางท 1

ตาราง 1: ตารางสมประสทธคอนโวลชน

Polynomial Degree Quadratic or Cubic (2 or 3) Quartic or Quintic (4 or 5)Window size 5 7 9 7 9

C−4 -21 15C−3 -2 14 5 -55C−2 -3 3 39 -30 30C−1 12 6 54 75 135C0 17 7 59 131 179C1 12 6 54 75 135C2 -3 3 39 -30 30C3 -2 14 5 -55C4 -21 15

Normalization 35 21 231 231 429

3.5 การประเมนประสทธภาพของวธการกำจดสญญาณรบกวนกำหนดให xi คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวนตวอยางท i, xi คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนตวอยางท i, xi คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจดตวอยางท i การประเมนประสทธภาพของวธการกำจดสญญาณรบกวนหนงๆ จะใชดชนดงตอไปน

1. กำหนดให ρi คอ คาสมประสทธสหสมพนธระหวาง xi กบ xi และ ρi คอ คาสมประสทธสหสมพนธระหวาง xi กบ xi ดงนนเราจะใชดชนความแตกตางของสมประสทธสหสมพนธ

∆ρi = ρi − ρi

15

Page 16: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

เพอแสดงวาหลงจากทสญญาณรบกวนถกกำจด ความมลกษณะรวมกนของ xi กบ xi มมากขนหรอนอยลง เมอเทยบกบกอนสญญาณรบกวนถกกำจด ถา∆ρi มคาเปนบวกแสดงวา xi มลกษณะทางกายภาพคลายกบ xi มากกวาตอนทสญญาณรบกวนยงไมถกกำจดนนคอบรเวณนนมสญญาณรบกวนจรง ๆ แตถา ∆ρi มคาเปนลบแสดงวา xi มลกษณะทางกายภาพคลายกบ xi นอยกวาตอนทสญญาณรบกวนไมถกกำจดนนคอบรเวณนนไมควรถกกำจดสญญาณรบกวนเพราะบรเวณนนอาจจะไมมสญญาณรบกวนอย

2. คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน (Normalized mean square error, NMSE)

NMSE = 1M

M∑i=1

(∑Kn=1 |xi[n]− xi[n]|2∑K

n=1 |xi[n]|2

)

คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานมไวใชหาความคลาดเคลอนระหวางสญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจดกบสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน โดยK คอ จำนวนจดของขอมลในหนงตวอยางซงเทากบ 2560 จด,M คอจำนวนตวอยางทงหมดในขอมลชดทดสอบ

4 ผลลพธของโครงงานการทดลองจะถกแบงเปน 2 การทดลอง ดงน 1) แบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล 2) แบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล เหตผลทเลอกจำนวนจดในแตละทอนตามจำนวนดงกลาวเพราะวาสญญาณรบกวนทเกดจากตาจะเกดในยานความถ 0.5 - 5 เฮรตซ และการบนทกขอมลมอตราการสมเทากบ256 เฮรตซ ดงนนจำนวนจดในหนงทอนทครอบคลมการเกดสญญาณรบกวนหนงครงคอ 512 จดขอมล จงทำการทดลองท 512 จดขอมลและ 256 จดขอมลซงเปนความยาวทอนทแคบลง ผลการทดลองจะถกแบงเปน 3 สวนหลก ดงน 1) การคดเลอกคณลกษณะเฉพาะ 2) การตรวจจบบรเวณทมสญญาณรบกวน 3) การกำจดสญญาณรบกวนในบรเวณทตรวจจบได

4.1 การคดเลอกคณลกษณะเฉพาะในหวขอนจะแสดงผลการเปรยบเทยบคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวนของพลงงานในยานความถ0.5-5 เฮรตซ, ขนาดสญญาณทสงทสด และ Kurtosis ของการกระจายตวของสญญาณ ถดมาคาความสำคญจะถกนำมาใชสำหรบการคดเลอกคณลกษณะเฉพาะทไดจากการหาคาทางสถตของคาสมประสทธเวฟเลต และในสวนสดทายจะแสดงแผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน

การเปรยบเทยบคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน1. พลงงานในยานความถ 0.5-5 เฮรตซ ผลลพธจากฮสโตแกรมของพลงงานในยานความถ 0.5-5 เฮรตซ ดงรปท 9(a) แสดงใหเหนวาใน

บรเวณทมสญญาณรบกวนสวนใหญแลวคาพลงงานในยานความถ 0.5-5 เฮรตซ จะมคามากกวาบรเวณทไมมสญญาณรบกวน เนองจากสญญาณรบกวนจะทำใหขนาดของสญญาณมคาสงขนสงผลใหพลงงานมคาสงมากขนตามไปดวย คาพลงงานในยานนจงเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน

2. ขนาดสญญาณทสงทสด ผลลพธจากฮสโตแกรมของขนาดสญญาณทสงทสด ดงรปท 9(b) แสดงใหเหนวาขนาดสญญาณทสงทสดของบรเวณทมสญญาณรบกวนจะมคามากกวาขนาดสญญาณทสงทสดของบรเวณทไมมสญญาณรบกวน ซงเปนไปตามลกษณะทางกายภาพของสญญาณทสามารถสงเกตเหนได ขนาดสญญาณทสงทสดนจงเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน

3. Kurtosis ของการกระจายตวของสญญาณ ผลลพธจากฮสโตแกรมของ Kurtosis ของการกระจายตวของสญญาณ ดงรปท 9(c) แสดงใหเหนวา Kurtosis ในบรเวณทมสญญาณรบกวนจะมคากระจายตงแตคาศนยไปยงคามากกวาศนย แต Kurtosis ในบรเวณทไมมสญญาณรบกวนจะอยแคบรเวณศนย ซงฮสโตแกรมของทงสองบรเวณซอนทบกนทำใหไมสามารถแยกแยะไดอยางชดเจน Kurtosis ของการกระจายตวของสญญาณจงไมเหมาะสมกบการเปนคณลกษณะเฉพาะสำหรบนำไปใชในการทำนายบรเวณทมสญญาณรบกวน

16

Page 17: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0 100 200 300 400 500Values

0

20

40

60

80

100

120

140

Coun

t

Histogram of EEG signal's energy85th percentile90th percentile95th percentileno artifactartifact

(a) พลงงานในยานความถ 0.5-5 เฮรตซ

50 100 150 200 250Values

0

250

500

750

1000

1250

1500

1750

2000

Coun

t

Histogram of EEG signal's peakno artifactartifact

(b) ขนาดสญญาณทสงทสด

0.0 2.5 5.0 7.5 10.0 12.5 15.0 17.5Values

0

20

40

60

80

100

120

140

160

Coun

t

Histogram of EEG signal's kurtosisno artifactartifact

(c) Kurtosis ของการกระจายตวของสญญาณ

รป 9: ฮสโตแกรมแสดงการเปรยบเทยบคาคณลกษณะเฉพาะในบรเวณทมสญญาณรบกวน กบคาคณลกษณะเฉพาะในบรเวณทไมมสญญาณรบกวน โดยท สสม คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และสนำเงน คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน

17

Page 18: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

การคดเลอกคณลกษณะเฉพาะดวยคาความสำคญ

หวขอนจะเปนการคดเลอกคณลกษณะเฉพาะทไดจากแบบจำลอง random forest เมอเลอกใชคณลกษณะเฉพาะทไดจากการหาคาทางสถตของคาสมประสทธเวฟเลต ผลลพธจากกราฟของคาความสำคญ (feature importances) ดงรปท 10 แสดงใหเหนวาคณลกษณะเฉพาะทมความสำคญเปนอนดบตน ๆ ไดแก

• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน

• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน

ในการแบงโนดของแบบจำลองแตละครง คณลกษณะเฉพาะเหลานจะทำใหคา Gini index มคานอยทสด คณลกษณะเฉพาะเหลานจงถกเลอกใชในแบบจำลอง random forest

0.00 0.02 0.04 0.06 0.08 0.10 0.12 0.14

p_25_coef_D3p_75_coef_D3p_25_coef_D4mean_coef_D3mean_coef_D2p_75_coef_D4p_25_coef_D2mean_coef_D4

median_coef_D3median_coef_D2median_coef_D1median_coef_D4mean_coef_D1p_75_coef_D2

kurtosis_coef_D1median_coef_D5

p_75_coef_D5median_coef_D6

p_75_coef_D1p_25_coef_D1p_25_coef_D5p_25_coef_D6p_75_coef_D6

kurtosis_coef_D2std_coef_D2

mean_coef_D5std_coef_D3std_coef_D1

mean_coef_D6median_coef_A6kurtosis_coef_A6kurtosis_coef_D3

p_25_coef_A6p_75_coef_A6

kurtosis_coef_D6mean_coef_A6

std_coef_D4kurtosis_coef_D4kurtosis_coef_D5

std_coef_A6std_coef_D5std_coef_D6

Feature importances

รป 10: Feature importances โดยท std_coef_X คอคาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในระดบชน X, kurtosis_coef_Xคอ Kurtosis ของคาสมประสทธเวฟเลตในระดบชน X, mean_coef_X คอคาเฉลยของคาสมประสทธเวฟเลตในระดบชน X, me-dian_coef_X คอคามธยฐานของคาสมประสทธเวฟเลตในระดบชน X, p_75_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 75 ของคาสมประสทธเวฟเลตในระดบชน X, p_25_coef_X คอคา ณ ตำแหนงเปอรเซนตไทลท 25 ของคาสมประสทธเวฟเลตในระดบชน X

แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวนแผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน ดงรปท 11 แสดงใหเหนวาเมอสญญาณมการเปลยนแปลงไปโดยมสญญาณรบกวนทเกดจากการกะพรบตาเกดขน บรเวณนนจะมการเปลยนแปลงคาสเปกตรมในยานความถของสญญาณรบกวน (0.5-5 เฮรตซ) โดยจะมคาสงกวาบรเวณทไมมสญญาณรบกวน แผนภาพสเปกตรมดงกลาวจงเหมาะสมสำหรบนำไปใชเปนขอมลขาเขาของแบบจำลองCNN เพอใชในการตรวจจบบรเวณทมสญญาณรบกวน

4.2 การตรวจจบบรเวณทมสญญาณรบกวนการตรวจจบบรเวณทมสญญาณรบกวนจะถกแบงเปน 4 วธ ดงน 1) Thresholding 2) Random forest 3) CNN 4) Artificial neuralnetwork (ANN) ผลลพธทจะแสดงจะเปนการเปรยบเทยบระหวางการแบงสญญาณใหจำนวนในทอนเทากบ 256 จดขอมล และ 512 จด

18

Page 19: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0 100 200 300 400 500Samples

−75

−50

−25

0

25

50

75

100Am

plitu

de (u

V)

(a) สญญาณคลนไฟฟาสมองทมสญญาณรบกวน

0.25 0.50 0.75 1.00 1.25 1.50 1.75Time (seconds)

0

20

40

60

80

100

120

Freq

uenc

y (H

z)

Spectrogram

(b) แผนภาพสเปกตรม

รป 11: แผนภาพสเปกตรมในบรเวณทมสญญาณรบกวนและบรเวณทไมมสญญาณรบกวน

ขอมล เนองจากมสมมตฐานคอการแบงจำนวนจดขอมลทแตกตางกนจะสงผลถงสมรรถนะทแตกตางกน โดยการแบงจำนวนจดขอมลใหมากพอทจะครอบคลมบรเวณทมสญญาณรบกวนหนงสญญาณรบกวนนนคอ 512 จดขอมล นาจะสงผลใหไดสมรรถนะทดกวาการแบงจดขอมล256 จดขอมล และการทำนายจะมคา 1 เมอแบบจำลองทำนายวาบรเวณนนมสญญาณรบกวน คา 0 เมอแบบจำลองทำนายวาบรเวณนนไมมสญญาณรบกวน

4.2.1 Thresholdingในขนตอนแรกของวธ Thresholding สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนในสวนของขอมลทแบงไวสำหรบการฝกจะถกนำมาหาคณลกษณะเฉพาะในแตละทอนนนคอ พลงงานในยานความท 0.5 - 5 เฮรตซ จากนนจะนำคาพลงงานของแตละทอนทกคามาเรยงเพอเลอกคา threshold ซงจะเลอกคาทเปอรเซนไทลท 85, 90, หรอ 95 ดงรปท 9(a) เพอเปนตวแทนของคาพลงงานสงสดในยานความถ 0.5 - 5เฮรตซ ของสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน จากนนพจารณา Receiver operating characteristic curve (ROC curve)เพอดประสทธภาพของการตรวจจบบรเวณทมสญญาณรบกวน จดตาง ๆ บน ROC curve คอคา threshold ทแตกตางกนจากคานอยไปยงคามาก เราจะเลอกคา threshold จากคาทเปอรเซนไทลตาง ๆ ทไดกอนหนานเพอไปใชพจารณาบน ROC curve

1. ROC curve ดงรปท 12 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา Threshold ทเปอรเซนไทลตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทตำกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทเปอรเซนไทลเดยวกน

19

Page 20: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.0

0.2

0.4

0.6

0.8

1.0

True

pos

itive

rate

Receiver operating characteristic curve (Thresholding)

Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)85th percentile90th percentile95th percentile85th percentile90th percentile95th percentile

รป 12: Receiver operating characteristic curve ของวธ Thresholding ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)

2. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา Threshold คาทเปอรเซนไทลท 90 ดงรปท 13 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 12 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

Thresholding (Windowlength = 1 seconds (256 samples/epoch))

predicted class actual class

(a) 256 จดขอมล ใน 1 ทอน

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

Thresholding (Windowlength = 2 seconds (512 samples/epoch))

predicted class actual class

(b) 512 จดขอมล ใน 1 ทอน

รป 13: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding เมอแบงทอนขอมลไมเทากน

4.2.2 Random forestแบบจำลอง Random forest มคณลกษณะเฉพาะทถกนำมาเลอกใช ดงหวขอท 3.2.1 คณลกษณะเฉพาะตอไปน

• พลงงานในยานความถ 0.5-5 เฮรตซ

• ขนาดสญญาณทสงทสด

เปนคณลกษณะเฉพาะทเหมาะสมสำหรบนำมาใชในการทำนายบรเวณทมสญญาณรบกวน ซงแสดงไดดงหวขอท 4.1 ในสวนของคาทางสถต

20

Page 21: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

ของคาสมประสทธเวฟเลต สญญาณจะถกนำไปแปลงเวฟเลตไมตอเนองหลายระดบชน โดยเลอกจำนวนระดบชนทแตกตางกน และเลอกใชDaubechies wavelet ทมจำนวน vanishing moments ทคาตาง ๆ เชน 1, 2 ,3 และ 4 เปนตน จากนนการทดลองจะถกแบงยอยดงน

• คาสมประสทธเวฟเลตในแตละระดบชนจะถกนำไปหากรอบของสญญาณ จากนนจะถกนำไปคำนวณคาทางสถต

• คาสมประสทธเวฟเลตในแตละระดบชนทไมถกนำไปหากรอบของสญญาณ จากนนจะถกนำไปคำนวณคาทางสถต

เหตผลทตองแยกการทดลองเปนการทดลองยอยดงกลาวเนองจากการหากรอบของสญญาณใน [CFLE96] แสดงใหเหนวาการหากรอบของสญญาณ จะชวยเพมความแมนยำในการคดแยกเหตการณประเภทตาง ๆ ทเกดในสญญาณคลนไฟฟาสมองไดดมากขน ในการทดลองของโครงงานนจงมสมมตฐานวาการนำการหากรอบของสญญาณไปประยกตใชกบคาสมประสทธเวฟเลต จะชวยทำใหคาสมประสทธเวฟเลตนเปนคณลกษณะเฉพาะทชวยในการทำนายไดดมากขน

เมอพจารณาทคาความแมนยำของการทำนายจะพบวา สำหรบการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล การแปลงเวฟเลตไมตอเนองไปถงระดบชนท 5 และจำนวน vanishing moment เทากบ 3 และไมมการนำคาสมประสทธเวฟเลตในแตละระดบชนไปหากรอบของสญญาณ ใหคาความแมนยำในการทำนายสงทสด และสำหรบการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล การแปลงเวฟเลตไมตอเนองไปถงระดบชนท 6 และจำนวน vanishing moment เทากบ 3 และไมมการนำคาสมประสทธเวฟเลตในแตละระดบชนไปหากรอบของสญญาณ ใหคาความแมนยำในการทำนายสงทสด ดงตารางท 8 และจำนวน vanishing moment เทากบ3 เปนจำนวนททำให Daubechies wavelet สอดคลองกบลกษณะทางกายภาพของสญญาณรบกวนทเกดจากการกะพรบตา และทเลอกระดบชนท 5 และ 6 เนองจากตองการแปลงเวฟเลตไปยงระดบชนสง ๆ เพราะวาถายงระดบชนสงกจะยงอธบายสญญาณความถตำไดด แตยงมขอจำกดของจำนวนจดในทอนอยจงเลอกระดบชนนเปนระดบชนสงสด ในขนตอนนคาทางสถตทถกคำนวณจากคาสมประสทธเวฟเลตในแตละระดบชนจะมดงน

• คาเบยงเบนมาตรฐาน

• คา ณ ตำแหนงเปอรเซนตไทลท 75

• Kurtosis ของคาสมประสทธเวฟเลต

• คามธยฐาน

• คาเฉลย

• คา ณ ตำแหนงเปอรเซนตไทลท 25

คาทางสถตตาง ๆ จะถกคดเลอกดวยคาความสำคญ ดงหวขอท 4.1 ซงคาทางสถตทถกเลอกคอ

• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน

• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน

จากผลการทดลองขางตน คณลกษณะเฉพาะทถกเลอกใชมดงน

• พลงงานในยานความถ 0.5-5 เฮรตซ

• ขนาดสญญาณทสงทสด

• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน

• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน

เมอไดคณลกษณะเฉพาะสำหรบฝกแบบจำลองแลว ตอมาคอขนตอนการปรบคา hyperparameter ของแบบจำลอง random forestโดยคา hyperparameter จะถกปรบจนโดยวธ grid search คา hyperparameter ทถกใชในวธ grid search เปนดงตารางท 9 ผลลพธคาของ hyperparameter ทไดจาก grid search ทใหคาความแมนยำสงสดจะมคา ดงตารางท 2

แตละจดบน ROC curve ของวธ Random forest, CNN และ ANN จะสอดคลองกบคา threshold ทตงขนไว เทยบกบคาความนาจะเปนทแบบจำลองจะทำนายวาเปนบรเวณทมสญญาณรบกวน ถาคาความนาจะเปนทแบบจำลองทำนายออกมามคาตำกวาคา thresh-old บรเวณนนจะถกทำนายวาเปนบรเวณทไมมสญญาณรบกวน แตถาคาความนาจะเปนทแบบจำลองทำนายออกมามคาสงกวาหรอเทากบthreshold บรเวณนนจะถกทำนายวาเปนบรเวณทมสญญาณรบกวน จากนนจะนำคาททำนายไดไปคำนวณหาคา TPR และ FPR เพอสรางROC curve

ผลลพธการประเมนประสทธภาพของแบบจำลองจะแสดงดงหวขอตอไปน

21

Page 22: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

ตาราง 2: คาของ hyperparameter ทถกเลอกใชในแบบจำลอง Random forest

คาของ hyperparameter แตละชนดn_estimators 200

criterion ”gini”max_depth 20

max_features ”sqrt”min_samples_leaf 2min_samples_split 2

1. ROC curve ดงรปท 14 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทใกลเคยงกบการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold คาเดยวกน

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.5

0.6

0.7

0.8

0.9

1.0

True positive ra

te

Receiver operating characteristic curve (Random forest)

Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%

รป 14: Receiver operating characteristic curve ของวธ Random forest ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)

2. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 15 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 14 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล

22

Page 23: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

Random forest (Windowlength = 1 seconds (256 samples/epoch))

predicted class actual class

(a) 256 จดขอมล ใน 1 ทอน

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

Random forest (Windowlength = 2 seconds (512 samples/epoch))

predicted class actual class

(b) 512 จดขอมล ใน 1 ทอน

รป 15: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง Random forest เมอแบงทอนขอมลไมเทากน

4.2.3 Convolutional neural network1. ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN ดงรปท 16 การปรบโครงสรางของแบบจำลองจะคอย ๆ เพมจำนวนชนของ

Convolutional layer และจำนวนตวกรอง จากนนจะคอย ๆ เพมจำนวนชนของ Dense layer จาก 2 ชนไปยง 3 ชน และในระหวางการเพมชนกจะมการเพมจำนวนโนดในแตละชน ดงตารางท 10 โดยโครงสรางของแบบจำลองทเลอกใชจะเปน ดงตารางท 3 แบบจำลองนใหคา validation loss ตำทสด และ test accuracy สงทสด ดงรปท 16

1 2 3 4 5 6 7 8 9 10 11 12 13 14Model number

0.40

0.41

0.42

0.43

0.44

0.45

Valid

atio

n lo

ss

0.79

0.80

0.81

0.82

0.83Te

st a

ccur

acy

Variation of CNN's model complexity

รป 16: ผลลพธจากการปรบโครงสรางของแบบจำลอง CNN

ตาราง 3: โครงสรางของแบบจำลอง CNN ทเลอกใช โดยท สสม คอ Convolutional layer ทมตวกรองขนาด 3× 3 จำนวนตาง ๆ, สเขยวคอ Max pooling layer และ สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ

layer/node layer1 layer2 layer3 layer4 layer5 layer6 layer7 layer8model 7 64 filters 64 filters Maxpooling 128 filters 128 filters Maxpooling 4096 4096

2. ROC curve ดงรปท 17 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดย

23

Page 24: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

การทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold ทคาเดยวกน

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.2

0.4

0.6

0.8

1.0True positive ra

te

Receiver operating characteristic curve (CNN)

Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%

รป 17: Receiver operating characteristic curve ของวธ CNN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)

3. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 18 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 17 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

CNN (Windowlength = 1 seconds (256 samples/epoch))

predicted class actual class

(a) 256 จดขอมล ใน 1 ทอน

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

CNN (Windowlength = 2 seconds (512 samples/epoch))

predicted class actual class

(b) 512 จดขอมล ใน 1 ทอน

รป 18: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง CNN เมอแบงทอนขอมลไมเทากน

4.2.4 Artificial neural networkผลลพธของวธ ANN ในหวขอนเปนการทดลองททำเพมขนนอกเหนอจากขอบเขตของโครงงาน ขอมลขาเขาของแบบจำลอง ANN จะใชคณลกษณะเฉพาะเดยวกบทใชในแบบจำลอง Random forest นนคอ

• พลงงานในยานความถ 0.5-5 เฮรตซ

24

Page 25: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

• ขนาดสญญาณทสงทสด

• คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน

• Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน

สมมตฐานคอแบบจำลอง ANN ทใชขอมลอยางอนดวยนอกเหนอจากสเปกตรมของสญญาณจะใหการทำนายทแมนยำกวาแบบจำลอง CNNทใชขอมลขาเขาเฉพาะแผนภาพสเปกตรม

1. ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN ดงรปท 19 การปรบโครงสรางของแบบจำลองจะคอย ๆ เพมจำนวนชนของDense layer จาก 1 ชนไปยง 5 ชน และในระหวางการเพมชนกจะมการเพมจำนวนโนดในแตละชน ดงตารางท 11 โดยโครงสรางของแบบจำลองทเลอกใชจะเปน ดงตารางท 4 แบบจำลองนใหคา validation loss ตำทสด และ test accuracy สงทสด ดงรปท 19

1 2 3 4 5 6 7 8 9 10111213141516171819202122232425262728293031Model number

0.32

0.34

0.36

0.38

Valid

atio

n lo

ss

0.84

0.85

0.86

0.87

0.88

0.89

Test

acc

urac

y

Variation of ANN's model complexity

รป 19: ผลลพธจากการปรบโครงสรางของแบบจำลอง ANN

ตาราง 4: โครงสรางของแบบจำลอง ANN ทเลอกใช โดยท สฟา คอ Dense layer ทมจำนวนโนดตาง ๆ

layer/node layer1 layer2 layer3 layer4 layer5model 19 256 128 64 64 64

2. ROC curve ดงรปท 20 จะเหนไดวาการแบงจำนวนจดขอมลในแตละทอนสงผลใหได ROC curve ทแตกตางกน การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธทนาพอใจมากทสด โดยจะมคา TPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทจด FPR เดยวกน และคา threshold คาตาง ๆ กใหประสทธภาพทแตกตางกน โดยการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะใหคา TPR ทสงกวา และ FPR ทสงกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เมอเทยบทคา threshold คาเดยวกน

3. ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวน โดยใชคา threshold เทากบ 50 เปอรเซนต ดงรปท 21 จากตวอยางจะเหนไดวาผลลพธจากการทำนายสอดคลองกบ ROC curve ดงรปท 20 การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ใหผลลพธการทำนายทถกตองมากกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล

25

Page 26: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.2

0.3

0.4

0.5

0.6

0.7

0.8

0.9

1.0

True

pos

itive

rate

Receiver operating characteristic curve (ANN)

Windowlength = 1 seconds (256 samples/epoch)Windowlength = 2 seconds (512 samples/epoch)Probability of 40%Probability of 50%Probability of 60%Probability of 40%Probability of 50%Probability of 60%

รป 20: Receiver operating characteristic curve ของวธ ANN ทไดจากการแบงสญญาณคลนไฟฟาสมองทมสญญาณรบกวนใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล (นำเงน) และ 512 จดขอมล (แดง)

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

ANN (Windowlength = 1 seconds (256 samples/epoch))

predicted class actual class

(a) 256 จดขอมล ใน 1 ทอน

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

0 500 1000 1500 2000 25000.0

0.5

1.0

ANN (Windowlength = 2 seconds (512 samples/epoch))

predicted class actual class

(b) 512 จดขอมล ใน 1 ทอน

รป 21: ตวอยางผลลพธจากการทำนายบรเวณทมสญญาณรบกวนดวยแบบจำลอง ANN เมอแบงทอนขอมลไมเทากน

4.2.5 สมรรถนะการตรวจจบสญญาณรบกวน

การเปรยบเทยบ ROC curve ดงรปท 22 จะเหนไดวาทงกรณแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมลและการแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล แบบจำลองทมคา TPR สงทสดในสำหรบทกคา FPR คอแบบจำลอง Random forest ลองลงมาคอแบบจำลองANN ทเลอกใชคณลกษณะเฉพาะเหมอนกบแบบจำลอง Random forest และแบบจำลองทมคา TPR รองลงมาคอแบบจำลอง CNN ซงใชแผนภาพสเปกตรมเปนขอมลขาเขา แสดงใหเหนวาขอมลแผนภาพสเปกตรมของสญญาณเพยงอยางเดยวไมเพยงพอตอการทำนายบรเวณทมสญญาณรบกวน คณลกษณะเฉพาะอน ๆ จะตองถกใชรวมดวยเพอเพมความสามารถของแบบจำลอง และแบบจำลองทมคา TPR ตำสดเปนอนดบสดทายกคอ Thresholding ซงเปนไปตามสมมตฐานเพราะแบบจำลองนถกเลอกใชเปนแบบจำลองฐาน

การตรวจจบบรเวณทมสญญาณรบกวนจะมผลลพธคาความแมนยำของการตรวจจบ ดงตารางท 5 จะเหนไดวาในทกแบบจำลองคาความแมนยำของการตรวจจบโดยแบงขอมลในหนงทอนเทากบ 512 จดขอมล จะมคาความแมนยำมากกวาการแบงขอมลในหนงทอนเทากบ 256จดขอมล ทเปนแบบนมสาเหตมาจากสญญาณรบกวนทเกดจากการกะพรบตามชวงเวลาการเกดอยในชวง 0.2 - 2 วนาท (52 - 512 จดขอมล)ซงขนาดของสญญาณทสงจะเกดในชวงตนของสญญาณรบกวนแลวคอย ๆ ลดลงตามเวลา การแบงขอมลในหนงทอนเทากบ 256 จดขอมลจง

26

Page 27: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.0

0.2

0.4

0.6

0.8

1.0True positive ra

te

Receiver operating characteristic curve (Windowlength = 1 seconds (256 samples/epoch))

ThresholdingRandom forestCNNANN

(a) 256 จดขอมล ใน 1 ทอน

0.0 0.2 0.4 0.6 0.8 1.0False positive rate

0.0

0.2

0.4

0.6

0.8

1.0

True positive ra

te

Receiver operating characteristic curve (Windowlength = 2 seconds (512 samples/epoch))

ThresholdingRandom forestCNNANN

(b) 512 จดขอมล ใน 1 ทอน

รป 22: การเปรยบเทยบ ROC curve ของแบบจำลอง Thresholding, Random forest, CNN และ ANN

เปนการแบงสญญาณยอยจนเกนไปทำใหขณะแบงสญญาณอาจจะไปแบงตรงทเปนสวนทายของสญญาณรบกวนซงบรเวณนนมขนาดของสญญาณทนอย ทำใหสญญาณบรเวณนนไมไดแสดงถงคณลกษณะของสญญาณรบกวน แบบจำลองจงทำนายผด การแบงขอมลในหนงทอนเทากบ 512จดขอมลซงครอบคลมความยาวของชวงเวลาการเกดสญญาณรบกวนทงหมดจงใหคาความแมนยำทสงกวา

ตาราง 5: สมรรถนะการตรวจจบสญญาณรบกวนเมอเปรยบเทยบจากทกวธ

Test Accuracy256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอน

Thresholding 0.81086 0.78948Random forest 0.87936 0.91212CNN 0.81688 0.83992ANN 0.87072 0.89868

4.3 การกำจดสญญาณรบกวนในบรเวณทตรวจจบไดในหวขอนจะแสดงการเลอก parameter ของตวกรองสาวทซก-โกเลย (Savitzky-Golay filter) ถดมาจะแสดงผลลพธจากการกำจดสญญาณรบกวน และในสวนตอมาจะแสดงคาความแตกตางของคาสมประสทธสหสมพนธ ในสวนสดทายจะแสดงสมรรถนะการกำจดสญญาณรบกวนผลลพธทจะแสดงจะเปนการเปรยบเทยบระหวางการแบงสญญาณใหจำนวนในทอนเทากบ 256 จดขอมล และ 512 จดขอมล ของวธตาง ๆ

4.3.1 การปรบคา parameter ของ Savitzky­Golay filterตวกรองสาวทซก-โกเลยจะม parameter ทตองปรบคอ 1) อนดบของพหนาม (Polynomial degree) 2) ความยาวของวนโดว (Windowlength) ผลลพธจากการกำจดสญญาณรบกวนทประเมนดวยคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานโดยเลอกใช parameter ตางๆ แสดงดงรปท 23 จะเหนไดวา การแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล จะใหคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานนอยกวาการแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานทตำทสด 3 อนดบ แสดงดงตารางท 6 อนดบของพหนามเทากบ 3 ความยาวของวนโดวเทากบ 41 จะถกเลอกใชสำหรบการทดลองทแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 256 จดขอมล และอนดบของพหนามเทากบ 3 ความยาวของวนโดวเทากบ 61 จะถกเลอกใชสำหรบการทดลองทแบงสญญาณใหจำนวนจดขอมลในทอนเทากบ 512 จดขอมล ซงเปนอนดบของพหนามทสอดคลางกบลกษณะทางกายภาพของสญญาณรบกวน และสอดคลองกบงานวจย [SLS12]

4.3.2 ตวอยางผลลพธจากการกำจดสญญาณตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ Thresholding โดยใชคา threshold คาทเปอรเซนไทลท 90 ดงรปท 24(a) และรปท 24(b) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ Random forest ดงรปท 24(c) และรปท 24(d) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ CNN ดงรปท 24(e) และรปท 24(f) และตวอยางผลลพธจากการกำจดสญญาณรบกวนดวยวธ ANN ดงรป

27

Page 28: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

50 100 150 200 250Window length

0.25

0.30

0.35

0.40

0.45

0.50No

rmalize

d mea

n sq

uare erro

r

Epoch time = 1 second (256 samples/epoch)Degree = 1Degree = 2Degree = 3Degree = 4Degree = 5Degree = 6Degree = 7

(a) 256 จดขอมล ใน 1 ทอน

50 100 150 200 250Window length

0.25

0.30

0.35

0.40

0.45

0.50

Norm

alize

d mea

n sq

uare erro

r

Epoch time = 2 second (512 samples/epoch)

Degree = 1Degree = 2Degree = 3Degree = 4Degree = 5Degree = 6Degree = 7

(b) 512 จดขอมล ใน 1 ทอน

รป 23: คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทคาอนดบและความยาวของฟลเตอรคาตาง ๆ

ตาราง 6: คาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ทมคาตำทสด 3 อนดบ

256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอนDegree Window length NMSE Degree Window length NMSE

1 21 0.2396 1 31 0.34412 41 0.2492 2 61 0.36033 41 0.2497 3 61 0.3613

ท 24(g) และรปท 24(h) โดยวธ Random forest, CNN และ ANN จะใชคา threshold เทากบ 50 เปอรเซนต จากผลดงกลาวจะเหนไดวาผลลพธการกำจดสญญาณรบกวนใกลเคยงกน แตการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล จะมการกำจดสญญาณรบกวนในบรเวณทจรง ๆ แลวบรเวณนนไมมสญญาณรบกวน มากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล เนองจากชวงเวลาในการเกดสญญาณรบกวนคอชวง 0.2-2 วนาท การแบงจดขอมล 512 จดขอมล จะครอบคลมเวลา 2 วนาท ทำใหถาเกดสญญาณรบกวนทเกดขนยาวนอยกวา 2 วนาทมาก ๆ ในทอนนนจะมบรเวณทไมมสญญาณรบกวนอยเยอะ ตวกรองอาจจะไปประมาณสญญาณคลนไฟฟาสมองทไมใชสญญาณรบกวนนนแลวกำจดออก ทำใหสญเสยขอมลบางสวนของสญญาณคลนไฟฟาสมอง

4.3.3 คาความแตกตางของคาสมประสทธสหสมพนธ (∆ρ = ρ− ρ)∆ρ มสมมตฐานคอ ถา ∆ρ มคาเปนบวก แสดงวาสญญาณทถกกำจดสญญาณรบกวน มลกษณะทางกายภาพคลายกบสญญาณไฟฟาสมองทไมมสญญาณรบกวนมากกวาตอนทสญญาณรบกวนยงไมถกกำจด นนคอบรเวณนนมสญญาณรบกวนจรง ๆ แตถา ∆ρ มคาเปนลบ แสดงวาสญญาณทถกกำจดสญญาณรบกวน มลกษณะทางกายภาพคลายกบสญญาณไฟฟาสมองทไมมสญญาณรบกวนนอยกวาตอนทสญญาณรบกวนยงไมถกกำจด นนคอบรเวณนนไมควรถกกำจดสญญาณรบกวนเพราะบรเวณนนอาจจะไมมสญญาณรบกวนอย ∆ρ ของวธ Thresholding,Random forest, CNN และ ANN ดงรปท 25 แสดงใหเหนวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล สวนใหญแลวผลลพธของ ∆ρ มคาทเปนบวกมากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล นนคอการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 256 จดขอมล สญญาณคลนไฟฟาสมองทถกกำจดสญญาณรบกวนมคณลกษณะทางกายภาพทคลายกบสญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน มากกวาการทดลองทแบงจำนวนจดขอมลในทอนเทากบ 512 จดขอมล และจะเหนไดวา∆ρ ของวธ Ran-dom forest จะมจำนวนตวอยางทม ∆ρ เปนบวกมากกวา ∆ρ ของวธอน ๆ เนองจากคาความแมนยำในการทำนายบรเวณทมสญญาณรบกวนของวธ Random forest มคามากกวาวธอน ๆ แบบจำลองอน ๆ กจะมจำนวนตวอยางทม ∆ρ เปนบวกลดลงตามความแมนยำในการทำนายบรเวณทมสญญาณรบกวน ของแบบจำลองนน ๆ นนคอแบบจำลอง Thresholding จะมจำนวนตวอยางทม ∆ρ เปนบวกนอยทสด

28

Page 29: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Ampl

itude

(uV)

0 400 800 1200 1600 2000 2400

0

100

Thresholding (Windowlength = 1 seconds (256 samples/epoch))

contaminated EEG pure EEG cleaned EEG

(a) Thresholding : 256 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Ampl

itude

(uV)

0 400 800 1200 1600 2000 2400

0

100

Thresholding (Windowlength = 2 seconds (512 samples/epoch))

contaminated EEG pure EEG cleaned EEG

(b) Thresholding : 512 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Amplitu

de (u

V)

0 400 800 1200 1600 2000 2400

0

100

Random fore t (Windowlength = 1 econd (256 ample /epoch))

contaminated EEG pure EEG cleaned EEG

(c) Random forest : 256 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Amplitu

de (u

V)

0 400 800 1200 1600 2000 2400

0

100

Random fore t (Windowlength = 2 econd (512 ample /epoch))

contaminated EEG pure EEG cleaned EEG

(d) Random forest : 512 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Amplitu

de (u

V)

0 400 800 1200 1600 2000 2400

0

100

CNN (Windowlength = 1 econd (256 ample /epoch))

contaminated EEG pure EEG cleaned EEG

(e) CNN : 256 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Amplitu

de (u

V)

0 400 800 1200 1600 2000 2400

0

100

CNN (Windowlength = 2 econd (512 ample /epoch))

contaminated EEG pure EEG cleaned EEG

(f) CNN : 512 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Ampl

itude

(uV)

0 400 800 1200 1600 2000 2400

0

100

ANN (Windowlength = 1 seconds (256 samples/epoch))

contaminated EEG pure EEG cleaned EEG

(g) ANN : 256 จดขอมล ใน 1 ทอน

0 400 800 1200 1600 2000 2400−100

0

100

0 400 800 1200 1600 2000 2400

0

100

200

Ampl

itude

(uV)

0 400 800 1200 1600 2000 2400

0

100

ANN (Windowlength = 2 seconds (512 samples/epoch))

contaminated EEG pure EEG cleaned EEG

(h) ANN : 512 จดขอมล ใน 1 ทอน

รป 24: ตวอยางผลจากการกำจดสญญาณรบกวนดวยวธการ Thresholding, Random forest, CNN และ ANN เมอ แตละแถวของแตละรปคอแตละตวอยาง, pure EEG คอ สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวน, contaminated EEG คอ สญญาณคลนไฟฟาสมองทมสญญาณรบกวน และ cleaned EEG คอ สญญาณคลนไฟฟาสมองทสญญาณรบกวนถกกำจด

29

Page 30: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

0 20 40 60 80 100Trial index

−20

−10

0

10

20Di

ffe e

nce

of C

o e

latio

n co

effic

ient

s

Windowlength = 1 seconds (256 samples/epoch)Random fo estANNCNNTh esholding

(a) 256 จดขอมล ใน 1 ทอน

0 20 40 60 80 100Trial index

−20

−10

0

10

20

Diffe

enc

e of

Co

ela

tion

coef

ficie

nts

Windowlength = 2 seconds (512 samples/epoch)Th esholdingRandom fo estANNCNN

(b) 512 จดขอมล ใน 1 ทอน

รป 25: ความแตกตางของคาสมประสทธสหสมพนธ ∆ρ ของวธ Thresholding (เขยว), Random forest (เหลอง), CNN (ฟา) และ ANN(ชมพ)

30

Page 31: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

4.3.4 สมรรถนะการกำจดสญญาณรบกวนจากการกำจดสญญาณรบกวนจะมผลลพธคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของวธการตาง ๆ ดงตารางท 7 จะเหนไดวาในทกแบบจำลองคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของการแบงขอมลในทอนเทากบ 256 จดขอมลจะมคานอยกวาการแบงขอมลในทอนเทากบ 512 จดขอมล เนองจากเมอทำการแบงขอมลในทอนเทากบ 512 จดขอมล บรเวณดงกลาวจะครอบคลมถงบรเวณทไมมสญญาณรบกวนดวยเมอสญญาณรบกวนเกดขนในเวลาสน ๆ ทำใหมการกำจดสญญาณคลนไฟฟาสมองทไมใชสญญาณรบกวนออกไปดวย คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจงมคาทสง เมอพจารณาคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของแตละแบบจำลองจะเหนไดวา คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจะมคานอยทสดเมอแบบจำลองนนเปนแบบจำลองทมความแมนยำในการทำนายสงทสด นนคอแบบจำลอง Random forest และคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานจะเพมขนตามคาความแมนยำในการทำนายของแตละแบบจำลองทลดลง

ตาราง 7: สมรรถนะการกำจดสญญาณรบกวนเมอเปรยบเทยบจากทกวธ

NMSE256 จดขอมลใน 1 ทอน 512 จดขอมลใน 1 ทอน

Thresholding 0.295011 0.369642Random forest 0.242921 0.359389CNN 0.303126 0.399602ANN 0.243585 0.366378

5 การวเคราะหและวจารณตวแปรตน จากหวขอท 4.1 แสดงใหเหนวาสำหรบแบบจำลอง Thresholding คณลกษณะเฉพาะทสำคญคอคาพลงงานในยานความถ 0.5-5 เฮรตซ เนองจากเมอสญญาณรบกวนเกดขนจะเกดในยานความถน และคาขนาดของสญญาณจะสงขนทำใหพลงงานในยานนมคาสงขนดวยซงมความแตกตางจากบรเวณทไมมสญญาณรบกวนอยางเหนไดชด ดงรปท 9(a) สำหรบแบบจำลอง Random forest คณลกษณะเฉพาะทสำคญมดงน คาพลงงานในยานความถ 0.5-5 เฮรตซ ซงมเหตผลเดยวกบทไดกลาวไปขางตน ขนาดสญญาณทสงทสด เนองจากสญญาณรบกวนจะทำใหขนาดของสญญาณคลนไฟฟาสมองสงขน ทำใหบรเวณทมสญญาณรบกวนจะมขนาดของสญญาณแตกตางจากบรเวณทไมมสญญาณรบกวนอยางเหนไดชด ดงรปท 9(b) คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน และ Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน สำหรบสองคณลกษณะนจะใชวธเลอกโดยดจากคาความสำคญ ดงรปท 10 จะเหนไดวาคาคณลกษณะเฉพาะสองตวดงกลาวมคาความสำคญสงอยางมนยสำคญ โดยทคาความสำคญสงเนองมาจากในขณะทแยกโนดในแบบจำลองคาคณลกษณะเฉพาะทงสองทำใหการแยกโนดแตละครงคา Gini index มคานอยทสด นนคอแตละการแยกโนด ใบไมของของแบบจำลองมความบรสทธมากทสด สำหรบแบบจำลอง CNN ขอมลขาเขาทสำคญคอแผนภาพสเปกตรม เนองจากเมอบรเวณใดเกดสญญาณรบกวนขนบรเวณนนจะมสเปกตรมในยานความถของสญญาณรบกวนทเพมสงขน ทำใหเกดความแตกตางขนในแผนภาพสเปกตรม และแผนภาพสเปกตรมแสดงถงคาสเปกตรม ณ ตำแหนงและความถตาง ๆ ของสญญาณ ซงเปนอาเรยสองมต ทำใหสอดคลองกบการทจะเปนขอมลขาเขาของ Convolutional layer ทมความสามารถในการสกดคณลกษณะเฉพาะของขอมลขาเขาทเปนเชงพนท

ผลของขนาดทอนของขอมล (epoch) ทมตอสมรรถนะ ขนาดของทอนมผลสำคญตอสมรรถนะในการตรวจจบสญญาณรบกวน และสมรรถนะในการกำจดสญญาณรบกวน จะเหนไดวาในทกแบบจำลองการแบงสญญาณในทอนเทากบ 512 จดขอมลจะทำใหสมรรถนะในการตรวจจบสญญาณรบกวนสงกวาการแบงสญญาณในทอนเทากบ 256 จดขอมล แตเมอพจารณาทคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานจะเหนไดวาในทกแบบจำลองการแบงสญญาณในทอนเทากบ 256 จดขอมลจะทำใหสมรรถนะในการกำจดสญญาณรบกวนสงกวาการแบงสญญาณในทอนเทากบ 512 จดขอมล จากทกลาวมาขางตนการตรวจจบสญญาณรบกวน จะม trade-off กนกบการกำจดสญญาณรบกวน โดยถาการแบงขอมลในทอนมากการตรวจจบจะทำไดด แตการกำจดสญญาณรบกวนกจะทำไดไมด ในทางตรงกนขามถาการแบงขอมลในทอนนอยการตรวจจบจะทำไดไมด แตการกำจดสญญาณรบกวนกจะทำไดด แตเมอพจารณาทคาความแมนยำในการตรวจจบ ดงตารางท 5 จะเหนไดวาคาความแมนในการตรวจจบของแตละการแบงทอนจะไมตางกนมากอยางมนยสำคญ แตเมอพจารณาทคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐาน ดงตารางท 7 จะเหนไดวาการแบงทอนเทากบ 256 จดขอมลมคาความคลาดเคลอนกาลงสองเฉลยแบบบรรทดฐานตำกวามากในการกำจดสญญาณรบกวนเราตองการทำใหสญญาณทถกกำจดสญญาณรบกวนมลกษณะทางกายภาพเหมอนกบสญญาณทไมมสญญาณรบกวนมากทสด ดงนนเราจงเลอกคา 256 จดขอมล เปนคาทเหมาะสมสำหรบการแบงจำนวนจดขอมลในหนงทอน

แบบจำลองการตรวจจบสญญาณรบกวน จากหวขอท 4.2 แสดงใหเหนวาแบบจำลอง Random forest เปนแบบจำลองทมสมรรถนะในการตรวจจบสญญาณรบกวนดทสด ดงรปท 22 และตารางท 5 คาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 87.94 เปอรเซนต

31

Page 32: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

ซงดกวาแบบจำลอง Thresholding ซงเปนแบบจำลองฐานมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 81.09 เปอรเซนต แบบจำลอง Random forest ทำไดดกวาเนองจากแบบจำลอง Random forest ไมไดใชคาพลงงานในยานความถ 0.5-5 เฮรตซ เปนคณลกษณะเฉพาะเพยงอยางเดยว แตยงมขนาดของสญญาณสงทสด ซงเปนคณลกษณะเฉพาะทแยกความตางของสญญาณไดด และยงมคณลกษณะเฉพาะทไดจากคาทางสถตของคาสมประสทธเวฟเลต ซงเปนคาทมประโยชนมากเมอทำการวเคราะหสญญาณทมลกษณะไมนง (Non-Stationary)เนองจากสามารถแสดงขอมลทางโดเมนความถ และโดเมนเวลาไดพรอม ๆ กน และแบบจำลอง Random forest เปนแบบจำลองทเกดจากการเรยนรของขอมลโดยแบบจำลองจะเรยนรหาคาทเหมาะสมในการแบงโนดเพอใหการทำนายทำนายไดอยางถกตอง แตในสวนของแบบจำลองThresholding เปนแบบจำลองทคนเปนคนเลอกคา threshold เองจงไมมความยดหยนตอขอมลทมความหลากหลาย ในสวนของแบบจำลองCNN เปนแบบจำลองทมสมรรถนะในการตรวจจบสญญาณรบกวนใกลเคยงกบแบบจำลอง Thresholding โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 81.69 เปอรเซนต เนองจากขอมลแผนภาพสเปกตรมเพยงอยางเดยวไมเพยงพอตอการทำนายบรเวณทมสญญาณรบกวน คณลกษณะเฉพาะทไดจากแผนภาพสเปกตรมยงมขอมลนอยเกนไป ควรจะมคณลกษณะเฉพาะอนเพอชวยเพมสมรรถนะของแบบจำลองดงทไดทดลองในแบบจำลอง ANN โดยใชคณลกษณะเฉพาะชดเดยวกบแบบจำลอง Random forest ซงเปนไปตามสมมตฐานแบบจำลองANN มสมรรถนะในการทำนายบรเวณทมสญญาณรบกวนทสงกวาแบบจำลอง CNN โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ87.07 เปอรเซนต ซงนอยกวาแบบจำลอง Random forest เพยงเลกนอย

การกำจดสญญาณรบกวน จากหวขอท 4.3 ในสวนของการกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย โดยเลอก parameter ของตวกรองสาวทซก-โกเลยเปนอนดบของพหนามเทากบ 3 และความยาวของวนโดวเทากบ 41 ซงเปนอนดบของพหนามทสอดคลองกบลกษณะทางกายภาพของสญญาณรบกวน จะเหนไดวาสมรรถนะของการกำจดสญญาณรบกวนจะขนกบการตรวจจบสญญาณรบกวน ถาการตรวจจบสญญาณรบกวนมสมรรถนะทสง คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานของการกำจดสญญาณรบกวนกจะตำ ดงตารางท 7 และจำนวน ∆ρ ทมคาเปนบวกกจะมมาก ดงรปท 25(a) จะเหนไดวาแบบจำลอง Random forest ทมความแมนยำในการตรวจจบสญญาณรบกวนทสงทสด คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานกจะตำทสด และจำนวน ∆ρ ทมคาเปนบวกกจะมมาก ในทางตรงกนขามในแบบจำลอง Thresholding ทมความแมนยำในการตรวจจบสญญาณรบกวนทตำทสด คาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานกจะสงทสด และจำนวน ∆ρ ทมคาเปนบวกกจะมนอย อกสาเหตหนงททำใหสมรรถนะของการกำจดสญญาณรบกวนไมดกคอปญหาของตวกรอง การตรวจจบสญญาณรบกวนจะตรวจเจอเปนทอน เมอสญญาณรบกวนทเกดขนเกดในชวงเวลาสน ๆ บรเวณทเหลอในทอนจะเปนบรเวณทมเฉพาะสญญาณคลนไฟฟาสมอง การประมาณสญญาณรบกวนจะมการประมาณสญญาณคลนไฟฟาสมองทความถตำในสวนนนรวมไปดวยทำใหการกำจดสญญาณรบกวนนมการกำจดสญญาณคลนไฟฟาสมองออกไปบางสวน ทำใหคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานมคาสงขนได และคา ∆ρ มคาบวกนอย ๆ หรอมคาเปนลบไปเลย

6 บทสรปโครงงานนนำเสนอการเปรยบเทยบวธการกำจดสญญาณรบกวนในสญญาณคลนไฟฟาสมองหนงชองสญญาณ โดยสญญาณรบกวนเกดจากการกะพรบตา โครงงานนประกอบไปดวย 1) การสงเคราะหสญญาณคลนไฟฟาสมองทมสญญาณรบกวน 2) การสกดหาคณลกษณะเฉพาะ 3)การตรวจจบบรเวณทมสญญาณรบกวนดวยแบบจำลอง Thresholding, Random forest และ CNN 4) การกำจดสญญาณรบกวนดวยตวกรองสาวทซก-โกเลย ในขนตอนแรก สญญาณคลนไฟฟาสมองทไมมสญญาณรบกวนจะถกสงเคราะหขนจากสญญาณรบกวนสชมพ และถกนำไปรวมกบสญญาณรบกวนทเกดจากกะพรบตาทสงเคราะหขน ถดมาคณลกษณะเฉพาะจะถกสกด โดยมคณลกษณะเฉพาะทถกใชในแบบจำลอง Thresholding คอ พลงงานในยานความถ 0.5 - 5 เฮรตซ และของแบบจำลอง Random forest คอดงน 1) พลงงานในยานความถ0.5-5 เฮรตซ 2) ขนาดสญญาณทสงทสด 3) คาเบยงเบนมาตรฐานของคาสมประสทธเวฟเลตในแตละระดบชน 4) Kurtosis ของคาสมประสทธเวฟเลตในแตละระดบชน สวนแบบจำลอง CNN จะใชแผนภาพสเปกตรมเปนขอมลขาเขา คาคณลกษณะเฉพาะเหลานเปนคาทดทชวยเพมความแมนยำในการทำนายของแบบจำลอง ถดมาบรเวณทมสญญาณรบกวนจะถกตรวจจบดวยแบบจำลอง Thresholding ซงเปนแบบจำลองฐาน, Random forest และ CNN จากนนบรเวณทตรวจจบไดวามสญญาณรบกวนจะถกกำจดดวยตวกรองสาวทซก-โกเลย ผลลพธชใหเหนวาแบบจำลอง Random forest มสมรรถนะในการตรวจจบและกำจดสญญาณรบกวนสงทสด ซงดกวาแบบจำลองฐาน โดยมคาความแมนยำในการตรวจจบสญญาณรบกวนเทากบ 87.94 เปอรเซนต และคาความคลาดเคลอนกำลงสองเฉลยแบบบรรทดฐานเทากบ 24.29 เปอรเซนตในอนาคตเราจะคนหาคณลกษณะเฉพาะทชวยในการเพมสมรรถนะของแบบจำลองใหมากขน และพฒนาใหการกำจดสญญาณรบกวนนสามารถนำไปใชกบการคำนวณเวลาจรงเพอนำไปประยกตใชใน Brain-computer interface

7 กตตกรรมประกาศโครงงานฉบบนสำเรจลลวงไดอยางสมบรณ ดวยความกรณาชวยเหลอของ ผชวยศาสตราจารย ดร. จตโกมท สงศร ทไดสละเวลาอนมคาแกผจดทำ เพอแนะนำใหคำปรกษาอนเปนประโยชนตอโครงงาน ทงชวยเหลอแกไขปญหาทเกดขนตลอดการดำเนนงาน ดวยความเอาใจใสอยางดยง ทำใหโครงงานฉบบนสำเรจลลวงไดดวยด ผจดทำขอกราบขอบพระคณเปนอยางสง

32

Page 33: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

ขอขอบพระคณ อาจารย ดร. กองภพ อยเยน และ ดร. อรรถพล วรโยภาส และพ ๆ ทศนยวจยนวตกรรมทางวทยาศาสตรและเทคโนโลยแหงอนาคต ทชวยแนะนำและใหความรในการทำโครงงานฉบบน

ขอกราบขอบพระคณบดา มารดา ทไดอบรมสงสอน และใหกำลงใจผจดทำมาโดยตลอด

สดทายนขอขอบคณพ ๆ เพอน ๆ และนอง ๆ ในภาควชาวศวกรรมไฟฟา จฬาลงกรณมหาวทยาลย ทใหความชวยเหลอและเปนกำลงใจในการจดทำโครงงานฉบบนเสมอมา

8 เอกสารอางอง[BKD06] C. Bedard, H. Kroeger, and A. Destexhe. Does the 1/f frequency scaling of brain signals reflect self-organized

critical states? Physical review letters, 97(11):118102, 2006.

[CFLE96] P. Clochon, JM. Fontbonne, N. Lebrun, and P. Etévenon. A new method for quantifying EEG event-relateddesynchronization: Amplitude envelope analysis. Electroencephalography and clinical neurophysiology,98(2):126–129, 1996.

[HLH+12] WY. Hsu, CH. Lin, HJ. Hsu, PH. Chen, and IR. Chen. Wavelet-based envelope features with automatic EOGartifact removal: Application to single-trial EEG data. Expert Systems with Applications, 39(3):2743–2749,2012.

[IRY16] M. K. Islam, A. Rastegarnia, and Z. Yang. Methods for artifact detection and removal from scalp EEG: Areview. Neurophysiologie Clinique/Clinical Neurophysiology, 46(4-5):287–305, 2016.

[JWHT13] G. James, D. Witten, T. Hastie, and R. Tibshirani. An introduction to statistical learning. Springer, 2013.

[KM17] S. Kanoga and Y. Mitsukura. Review of artifact rejection methods for electroencephalographic systems.Electroencephalography, page 69, 2017.

[LGS99] T. Lee, M. Girolami, and T. Sejnowski. Independent component analysis using an extended infomax algorithmfor mixed subgaussian and supergaussian sources. Neural computation, 11(2):417–441, 1999.

[LPBS93] O. G. Lins, T. W. Picton, P. Berg, and M. Scherg. Ocular artifacts in EEG and event-related potentials I: Scalptopography. Brain topography, 6(1):51–63, 1993.

[MLGP17] J. Minguillon, M. A. Lopez-Gordo, and F. Pelayo. Trends in EEG-BCI for daily-life: Requirements for artifactremoval. Biomedical Signal Processing and Control, 31:407–418, 2017.

[NCK+19] P. Nejedly, J. Cimbalnik, P. Klimes, F. Plesinger, J. Halamek, V. Kremen, I. Viscor, B. Brinkmann, M. Pail,M. Brazdil, et al. Intracerebral EEG artifact identification using convolutional neural networks. Neuroinfor­matics, 17(2):225–234, 2019.

[RSHM15] T. Radüntz, J. Scouten, O. Hochmuth, and B. Meffert. EEG artifact elimination by extraction of ICA-componentfeatures using image processing algorithms. Journal of neuroscience methods, 243:84–93, 2015.

[SCKS11] R. Singla, B. Chambayil, A. Khosla, and J. Santosh. Comparison of SVM and ANN for classification of eyeevents in EEG. Journal of Biomedical Science and Engineering, 4(1):62, 2011.

[SDL+18] E. Saifutdinova, D. Dudysová, L. Lhotská, V. Gerla, and M. Macaš. Artifact detection in multichannel sleepEEG using random forest classifier. In 2018 IEEE International Conference on Bioinformatics and Biomedicine(BIBM), pages 2803–2805. IEEE, 2018.

[SG64] A. Savitzky and M. J. Golay. Smoothing and differentiation of data by simplified least squares procedures.Analytical chemistry, 36(8):1627–1639, 1964.

33

Page 34: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

[SLS12] D. Szibbo, A. Luo, and T. Sullivan. Removal of blink artifacts in single channel EEG. In 2012 AnnualInternational Conference of the IEEE Engineering in Medicine and Biology Society, pages 3511–3514. IEEE,2012.

[UA96] M. Unser and A. Aldroubi. A review of wavelets in biomedical applications. Proceedings of the IEEE, 84(4):626–638, 1996.

[UGZ15] J. A. Urigüen and B. Garcia-Zapirain. EEG artifact removal—state-of-the-art and guidelines. Journal of neuralengineering, 12(3):031001, 2015.

[WMG+16] D. Coppieters’t Wallant, V. Muto, G. Gaggioni, M. Jaspar, S. L. Chellappa, C. Meyer, G. Vandewalle, P. Maquet,and C. Phillips. Automatic artifacts and arousals detection in whole-night sleep EEG recordings. Journal ofneuroscience methods, 258:124–133, 2016.

34

Page 35: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

9 ภาคผนวก9.1 การคำนวณหาคาสมประสทธคอนโวลชนของตวกรองสาวทซก­โกเลยคาสมประสทธคอนโวลชนจะมหลกการหาดงน จากคอนดบ (xj , yj)

สมมตให พหนามอนดบท k คอ yj+i = a0 + a1zi + a2z2i + ...+ akz

ki เปนแบบจำลองของ yj+i

โดยท zi = xi+j−xj

h เมอ h = xj+1 − xj

ถาจดทจะนำมาประมาณ yj มทงหมด m จด จะได i = 1−m2 , 3−m

2 , ..., 0, ..., m−32 , m−1

2

นนคอ z 1−m2

= 1−m2 , ..., z0 = 0, ..., zm−1

2= m−1

2

และจะได y = Jθ โดยทแตละแถวของ J มสมาชก 1, zi, z2i , ..., z

ki , y = [yj+ 1−m

2yj+ 3−m

2... yj+m−1

2]T

สมประสทธ θ = [a0 a1 ... ak]T จะหาไดจากการพยายามทำใหคา ∥y − y∥2 มคานอยทสด

ซงมผลเฉลยรปแบบปด (Closed form solution) คอ θ = (JTJ)−1JT y

สมมตใหแถวท 1 ของ (JTJ)−1JT เทากบ [C 1−m2

... C0 ... Cm−12

]

ซงจด yj จะถกประมาณจาก yj = a0 + a1z0 + a2z20 + ...+ akz

k0 ซง z0 = 0

ดงนน yj = a0นนคอ yj = a0 = θ1 = C 1−m

2yj+ 1−m

2+C 3−m

2yj+ 3−m

2+ ...+C0yj + ...+Cm−3

2yj+m−3

2+Cm−1

2yj+m−1

2

จงสรปไดวา C 1−m2

, ..., C0, ..., Cm−12

คอสมประสทธคอนโวลชน

35

Page 36: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

9.2 ตารางการคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน

การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน ดงตารางท 8 เพอหาจำนวนระดบชน และจำนวน vanishing moments ทเหมาะสมทสด

ตาราง 8: การคดเลอกจำนวนระดบชน และจำนวน vanishing moments ของการแปลงเวฟเลตไมตอเนองหลายระดบชน

Feature : Statistical value of wavelet coefficientsAmplitude modulation no Amplitude modulation

Accuracy ROC AUC Accuracy ROC AUCdB levelA,D coefs A coefs A,D coefs A coefs A,D coefs A coefs A,D coefs A coefs

1 9 0.873 0.6088 0.928 0.598 0.8758 0.9342 6 0.8741 0.932 0.8767 0.9362 7 0.8722 0.6595 0.933 0.71 0.8758 0.6815 0.938 0.743

0.8706 0.932 0.8759 0.9370.87 0.931 0.875 0.936

0.8664 0.929 0.8702 0.9340.8502 0.918 0.8542 0.9220.8044 0.882 0.8065 0.8850.7266 0.804 0.7379 0.818

3 6 0.8717 0.7078 0.931 0.782 0.8725 0.7228 0.935 0.799AD65432=0.8708 0.931 0.8719 0.935AD6543=0.8679 0.929 0.8702 0.934AD654=0.8665 0.927 0.8673 0.932AD65=0.8501 0.917 0.8519 0.921AD6=0.7974 0.877 0.8034 0.882

4 6 0.8679 0.7044 0.929 0.776 0.8656 0.7152 0.932 0.7875 5 0.8644 0.7799 0.926 0.859 0.8625 0.7838 0.928 0.866

AD5432=0.8632 0.925AD543=0.8624 0.925AD54=0.8597 0.923AD5=0.8423 0.911

8 5 0.8591 0.7721 0.924 0.85 0.8549 0.7769 0.923 0.8569 4 0.8636 0.8388 0.923 0.906 0.8565 0.8348 0.924 0.90816 4 0.8554 0.8315 0.92 0.902 0.8449 0.825 0.916 0.9

36

Page 37: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

9.3 การใชวธ grid search เพอหาคา hyperparameter ทเหมาะสมทสดวธ grid search จะเลอกคาของ hyperparameter ดงตารางท 9 เพอหาคา hyperparameter ทเหมาะสมทสด

ตาราง 9: คาของ hyperparameter ทถกใชในวธ grid search

คาของ hyperparameter แตละชนดn_estimators 10 20 30 100 200criterion ”gini” ”entropy”

max_depth 10 20 30 40 50max_features ”auto” ”sqrt”

min_samples_leaf 1 2 4min_samples_leaf 2 5 10

9.4 ตารางการปรบโครงสรางของแบบจำลอง CNNตารางการปรบโครงสรางของแบบจำลอง CNN ดงตารางท 10 เพอหาโครงสรางทเหมาะสมทสด

ตาราง 10: ตารางการปรบความซบซอนของแบบจำลอง CNNlayer/node layer1 layer2 layer3 layer4 layer5 #Epochs Train loss Train accuracy Validation loss Validation accuracy Test loss Test accuracymodel 1 256 14 0.3727 0.8559 0.3751 0.8549 0.3762 0.855model 2 256 128 29 0.3261 0.8685 0.3278 0.8666 0.3289 0.8685model 3 256 256 32 0.327 0.869 0.3288 0.8678 0.33 0.8684model 4 256 128 64 21 0.3426 0.8575 0.3431 0.8569 0.3436 0.8579model 5 256 128 128 32 0.3228 0.8704 0.3245 0.8697 0.3252 0.8703model 6 256 256 128 19 0.3267 0.8684 0.3281 0.8666 0.3288 0.8679model 7 256 256 256 11 0.3297 0.866 0.331 0.865 0.331 0.865model 8 256 128 64 32 40 0.3228 0.8695 0.3261 0.8674 0.3264 0.8685model 9 256 128 64 64 30 0.3218 0.8703 0.3234 0.8692 0.3246 0.8705model 10 256 128 128 64 38 0.3208 0.8715 0.3232 0.8697 0.3242 0.8705model 11 256 128 128 128 37 0.3209 0.8707 0.3236 0.8679 0.3239 0.8702model 12 256 256 128 64 37 0.3211 0.8713 0.3253 0.8692 0.3249 0.8711model 13 256 256 128 128 26 0.3313 0.8655 0.3313 0.8651 0.3326 0.8651model 14 256 256 256 128 33 0.3204 0.8714 0.3229 0.8687 0.3231 0.8703model 15 256 256 256 256 33 0.32 0.8716 0.323 0.8697 0.322 0.871model 16 256 128 64 32 16 37 0.3192 0.8722 0.3233 0.8692 0.3234 0.871model 17 256 128 64 32 32 40 0.3193 0.8723 0.322 0.8702 0.3226 0.8715model 18 256 128 64 64 32 21 0.3239 0.8696 0.3259 0.8672 0.3267 0.8679model 19 256 128 64 64 64 40 0.3174 0.8726 0.3211 0.8709 0.3213 0.872model 20 256 128 128 64 32 16 0.3297 0.8677 0.3308 0.8663 0.3316 0.8671model 21 256 128 128 64 64 22 0.3239 0.8696 0.3255 0.8677 0.3259 0.8691model 22 256 128 128 128 64 15 0.3287 0.8676 0.3295 0.8663 0.3304 0.8674model 23 256 128 128 128 128 20 0.3243 0.8693 0.3263 0.8677 0.3256 0.8697model 24 256 128 128 64 32 16 0.3297 0.8677 0.3308 0.8663 0.3316 0.8671model 25 256 256 128 64 64 26 0.3218 0.8713 0.3239 0.8689 0.3247 0.8707model 26 256 256 128 128 64 38 0.3198 0.8725 0.324 0.8696 0.3242 0.8707model 27 256 256 128 128 128 34 0.3197 0.8714 0.3225 0.8688 0.3231 0.8705model 28 256 256 256 128 64 32 0.32 0.8722 0.3224 0.8699 0.3229 0.8718model 29 256 256 256 128 128 40 0.3182 0.8726 0.3222 0.869 0.3222 0.8714model 30 256 256 256 256 128 27 0.3222 0.8702 0.3241 0.8679 0.3241 0.8695model 31 256 256 256 256 256 21 0.3222 0.8711 0.3238 0.8695 0.3246 0.8703

9.5 ตารางการปรบโครงสรางของแบบจำลอง ANNตารางการปรบโครงสรางของแบบจำลอง ANN ดงตารางท 11 เพอหาโครงสรางทเหมาะสมทสด

37

Page 38: รายงานโครงงานวิศวกรรมไฟฟ้าวิชา2102499ปีการศึกษา2562 การ

ตารา

ง11:

ตารา

งการ

ปรบค

วามซ

บซอน

ของแ

บบจำ

ลองA

NNlay

er/no

delay

er1lay

er2lay

er3lay

er4lay

er5lay

er6lay

er7lay

er8lay

er9lay

er10

layer1

1lay

er11

layer1

2mo

del1

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD4

096

D409

6mo

del2

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD4

096

Drop

out(0

.6)D4

096

Drop

out(0

.6)mo

del3

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD8

192

Drop

out(0

.6)D8

192

Drop

out(0

.6)mo

del4

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD4

096

Drop

out(0

.6)D4

096

Drop

out(0

.6)D4

096

Drop

out(0

.6)mo

del5

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD8

192

Drop

out(0

.6)D8

192

Drop

out(0

.6)D8

192

Drop

out(0

.6)mo

del6

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gD8

192

Drop

out(0

.8)D8

192

Drop

out(0

.8)D8

192

Drop

out(0

.8)mo

del7

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

D409

6D4

096

mode

l8C3

*3(64

filters

)C3

*3(64

filters

)Ma

xpoo

ling

C3*3

(128fi

lters)

C3*3

(128fi

lters)

Maxp

oolin

gD4

096

Drop

out(0

.6)D4

096

Drop

out(0

.6)mo

del9

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

D409

6Dr

opou

t(0.6)

D409

6Dr

opou

t(0.6)

D409

6Dr

opou

t(0.6)

mode

l10

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

D819

2Dr

opou

t(0.6)

D819

2Dr

opou

t(0.6)

D819

2Dr

opou

t(0.6)

mode

l11

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

D819

2Dr

opou

t(0.8)

D819

2Dr

opou

t(0.8)

D819

2Dr

opou

t(0.8)

mode

l12

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

C1*1

(256fi

lters)

C1*1

(256fi

lters)

Maxp

oolin

gD2

048

D204

8mo

del1

3C3

*3(64

filters

)C3

*3(64

filters

)Ma

xpoo

ling

C3*3

(128fi

lters)

C3*3

(128fi

lters)

Maxp

oolin

gC1

*1(25

6filte

rs)C1

*1(25

6filte

rs)Ma

xpoo

ling

D204

8Dr

opou

t(0.6)

D204

8Dr

opou

t(0.6)

mode

l14

C3*3

(64filt

ers)

C3*3

(64filt

ers)

Maxp

oolin

gC3

*3(12

8filte

rs)C3

*3(12

8filte

rs)Ma

xpoo

ling

C1*1

(256fi

lters)

C1*1

(256fi

lters)

Maxp

oolin

gD2

048

Drop

out(0

.8)D2

048

Drop

out(0

.8)

Mode

l#E

pochs

Train

loss

Train

accurac

yVa

lidati

onlos

sVa

lidati

onaccurac

yTe

stlos

sTe

staccurac

ymo

del1

80.4

1173

30.8

1840

90.4

2614

60.8

1011

90.4

2224

90.8

1363

9mo

del2

110.4

0722

70.8

1872

90.4

2939

40.8

0974

0.426

209

0.812

96mo

del3

120.4

1727

50.8

1483

0.428

882

0.808

70.4

2468

50.8

1309

9mo

del4

100.4

1820

60.8

1485

90.4

2845

20.8

0804

0.426

658

0.811

439

mode

l59

0.421

007

0.813

30.4

3215

80.8

0636

0.427

956

0.810

679

mode

l620

0.427

089

0.810

410.4

2957

70.8

0746

0.426

982

0.809

84mo

del7

90.4

1123

30.8

2064

90.4

1987

90.8

1411

90.4

1686

70.8

1698

mode

l812

0.411

20.8

2017

90.4

2173

60.8

1396

0.418

359

0.815

819

mode

l910

0.417

465

0.816

039

0.422

268

0.811

640.4

1908

40.8

1537

9mo

del1

014

0.413

428

0.819

429

0.422

199

0.812

699

0.419

918

0.814

719

mode

l11

120.4

2228

10.8

1357

90.4

2597

90.8

1085

90.4

2338

40.8

1319

9mo

del1

212

0.407

345

0.823

870.4

2166

70.8

1121

90.4

1893

90.8

1584

mode

l13

150.4

0258

30.8

2481

0.420

573

0.813

120.4

1794

40.8

1537

9mo

del1

413

0.410

430.8

2042

90.4

2043

30.8

1294

0.418

821

0.814

999

38