Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması

Yıl: 2016 Cilt: 7 Sayı: 1 Sayfa Aralığı: 41 - 50 Metin Dili: Türkçe İndeks Tarihi: 29-07-2022

Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması

Öz:
Artan teknoloji, düşen maliyetler ve küçülen donanım boyutları nedeniyle işaret işleme yöntemleri birçok alanda sıklıkla kullanılmaya başlanmıştır. Algılanan bazı sinyaller tek bir kaynaktan değil de birçok kaynaktan oluşan sinyallerin karışımı olabilmektedir. Bu tip durumlarda işaret işleme teknikleriyle elde edilebilecek başarı oranı düşüktür. Aynı zamanda sistemin içyapısının anlaşılması zordur. Bu tip durumlarda gizli kaynak ayrıştırma işlemi ile ölçülen sinyaller gizli kaynaklarına ayrıştırılabilmektedir. Bu amaçla yaygın olarak kullanılan temel kaynak ayrıştırma (PCA) ve bağımsız kaynak ayrıştırma (ICA) istatiksel yöntemlerinde sinyallerin ayrıştırılabileceği gizli kaynak sayısı ölçülen sinyal sayısı ile sınırlıdır. Bu sebeple karmaşık sinyallerde gizli kaynaklara ulaşmak bu yöntemlerle zordur Bu yöntemlere alternatif olarak yapay sinir ağları (YSA) da gizli kaynak ayrıştırma amacıyla başarıylakullanılmıştır. Bu çalışmada ise tek gizli katmanlı ileri beslemeli yapay sinir ağlarını eğitmek için kullanılanaşırı öğrenme makineleri (ELM) yöntemi klasik YSA ile gizli kaynak ayrıştırma yöntemlerinden farklı bityaklaşım ile kullanılarak tek bir sinyal birden fazla birbirinden bağımsız gizli kaynağa ayrıştırılmıştır. Buamaçla EEG, EMG, ECG sinyalleri ile ivmeölçer, magnetometre ve jiroskop algılayıcılarından alınan zamansinyalleri gizli kaynaklarına ayrıştırılmıştır.Önerilen metodun başarısını eğitim başarısını gösteren ortalama hataların karekökü (RMSE) ve gizlikaynakların bağımsızlığını gösteren kovaryans kullanılmıştır. Test sinyallerinde 10-4-64x10-4 aralığındaRMSE ve 0.2x10-4-38.3x10-4 aralığında kovaryans değerleri elde edilmiştir. Elde edilen RMSE değerleriYSA'nın başarılı olarak eğitildiğini, elde edilen kovaryans değerleri ise ayrıştırılmış sinyallerin birbirindenbağımsız olduğunu göstermiştir. Ayrıca 2 adet epileptik ve 2 adet normal EEG sinyali 16 ayrı gizli kaynağakadar ayrıştırılmıştır. Dört örnekte de elde edilen başarı oranları önerilen metodun gizli kaynakayrıştırmada başarıyla kullanılabileceğini göstermiştir
Anahtar Kelime:

Blind signal separation in biological by Extreme Learning Machines

Öz:
Improvements in the technology cause not onlydecrease in the sensor costs but also, reduce thedimensions of the sensors. Based on these facts theimportance of signal processing methods increasesday by day. But, in most applications sensors pick upa collection or mixture of signals from many sourcesinstead of only one sensor. In this case, it is hard tounderstand or manipulate the system. For example,recorded EEG signals are mixtures of actionpotentials of many neurons, therefore, the reasons ormechanisms behind epilepsy are still since unknown.For such situations, blind signal separation methodshave been employed. Generally, used blind signalseparation methods are principal componentanalysis (PCA) and independent component analysis(ICA) methods. Although many successful results ofPCA and ICA have been reported in the literature,they suffer from a major drawback; the number ofsources that will be separated must be equal or lessthan the number of sensors. Therefore, it is hard toobtain the true sources of complex signals by thesemethods. As an alternative, the method of delay wasproposed to separate a signal into two independentsources, but its performance is highly dependent onthe delay value.Addition to these methods, artificial neural network(ANN) was also employed for the purpose of blindsignal separation. By ANN, better blind signalseparation results with compared to PCA and ICAwere reported in the literature. In this study, extremelearning machine, which is a novel learning schemeof single hidden layer feed-forward artificial neuralnetwork, was employed. In ELM, the weights andbiases in the hidden layer are assigned arbitraryand the weights in the output layer are calculatedanalytically. Therefore, ELM showed faster trainingstage and higher generalization capability withcompare to back-propagation trained ANN.The proposed approach has three maincontributions, which are: (1) proposed approachcan be employed to separate a signal into a desirednumber of sources without the limitation of PCA andICA, which is the number of sources that the signalscan be separated, must be equal to or less than theobservations, (2) unlike the classical ANNapproaches, in the proposed approach, anorthogonal transfer function was used in the outputof each neuron in the hidden layer, and (3) theproposed approach is extremely fast because of thetraining scheme of ELM.To evaluate and validate the proposed approach,biological signals, which are the EEG, ECG, EMG,accelerometer, gyroscope, and magnetometersignals, were utilized. Achieved RMSE in thetraining stage were in the range of 10-4-64x10-4 andthe duration of training for different lengths of datawere in the range of 0.37-2.33 sec, for separating asignal into 2 and 10 sources, respectively, while thelength of the dataset is 106. Additionally, obtainedcovariance of the separated signals were in therange of 0.2x10-4-38.3x10-4.Obtained RMSE values and fast training stageshowed that the proposed approach has highaccuracy in the separation of a signal and also ithas an extremely fast learning stage. Theseadvantages are because of the training scheme ofELM. Moreover, obtained covariance values showedthat the separated signals are highly independent. Inorder to investigate the reason of obtained lowcovariance, a traditional transfer function wasemployed and not only higher covariance but alsohigher RMSEs were obtained. These results showedthat using orthogonal transfer functions (such assine and cosine, Bessel functions, etc.) after eachneuron in the hidden layer increases the dependencyof the separated signals. Furthermore, two normalEEG and two epileptic EEG signals were separatedinto 1-16 independent sources. Achieved resultsshowed that there is not any relation between thenumbers of separated sources with obtained theindependency of sources of sources and alsotraining accuracy.As a summary, in this study a novel approach, whichis based on ELM, was proposed in order to separatea signal into a desired number of independentsources. Achieved results showed that the proposedapproach is fast and can successfully separate asignal into independent sources.
Anahtar Kelime:

Belge Türü: Makale Makale Türü: Araştırma Makalesi Erişim Türü: Erişime Açık
  • Aydemir, Ö., Kayıkçıoğlu, T., (2009). “EEG Tabanlı Beyin Bilgisayar Arayüzleri”, Akademik Bilişim Konferansı, 7-13.
  • Belouchrani, A., Amin, M. G., (1998). “Blind source separation based on time-frequency signal representations”, IEEE Transactions on Signal Processing, 46,11, 2888-2897.
  • Casdagli, M. C., Iasemidis, L. D., Savit, R. S., Gilmore, R. L., Roper, S. N., Sackellares, J. C., (1997). “Non-linearity in invasive EEG recordings from patients with temporal lobe epilepsy”, Electroencephalography and clinical Neurophysiology, 102, 2, 98-105.
  • Chaovalitwongse, W., Iasemidis, L. D., Pardalos, P. M., Carney, P. R., Shiau, D. S., Sackellares, J. C., (2005). “Performance of a seizure warning algorithm based on the dynamics of intracranial EEG”, Epilepsy research, 64, 3, 93-113.
  • Choi S., (2005). “Blind source separation and independent component analysis: A review”, Neural Information Processing-Letters and Reviews, 6, 1, 1-57.
  • Ertuğrul, Ö. F., Kaya Y., (2014). “A detailed analysis on extreme learning machine and novel approaches based on ELM”, American Journal of Computer Science and Engineering, 1,5,43-50.
  • Ertuğrul, Ö. F., Tağluk, M. E., Kaya Y., (2013). “Enerji İletim Hatlarında Oluşan Arızaların Aşırı Öğrenme Makinesi ile Tespiti”, 21. Sinyal İşleme ve İletişim Uygulamaları Kurultayı, SIU2013.
  • Huang, G. B., Zhu Q. Y., Siew C. K., (2006). “Extreme learning machine: Theory and applications”, Neurocomputing, 70, 489–501.
  • Huang, G. B., Wang, D. H., Lan, Y., (2011). “Extreme learning machines: a survey”, Int. J. Mach. Learn. & Cyber., 2, 107–122.
  • Hyvärinen, A., Oja, E., (2000). “Independent component analysis: algorithms and applications”, Neural networks, 13, 4, 411-430.
  • Iasemidis, L. D., Zaveri, H. P., Sackellares, J. C., Williams, W. J., (1988). “Phase space analysis of EEG in temporal lobe epilepsy”, IEEE 10th Annual International Conference on Engineering in Medicine and Biology, 1201–1203.
  • Karadağ, K., Özerdem M. S., (2014). “Dalgacık Dönüşümü Kullanılarak Fare EEG İşaretlerinde Epileptik Nöbet Tespiti”, Tıbbi Tanı ve Tedavi Sistemlerinde Sinyal İşleme Uyg. 78-81.
  • Karhunen, J., Oja, E., Wang, L., Vigario, R., Joutsensalo, J., (1997). “A class of neural networks for independent component analysis”, IEEE Transactions on Neural Networks, 8, 3, 486-504.
  • Kaya, Y., (2013). “A new intelligent classifier for breast cancer diagnosis based on rough set and extreme learning machine: RS+ELM”, Turkish Journal of Electrical Engineering and Computer Sciences, 21, 2079-2091.
  • Kirei, B. S., Topa, M. D., Muresan, I., Homana, I., Toma, N., (2011). “Blind Source Separation for Convolutive Mixtures with Neural Networks”, Advances in Electrical and Computer Engineering, 11, 1, 63-68.
  • Kokkinakis, K., Loizou, P. C., (2010). “Advances in Modern Blind Signal Separation Algorithms: Theory and Applications”, Synthesis Lectures on Algorithms and Software in Eng., 2, 1, 2-24.
  • Lichman, M. (2013). “UCI Machine Learning Repository”, [http://archive.ics.uci.edu/ml]. Irvine, CA: University of California, School of Information and Computer Science.
  • Lin, Y. D., Hsu, C. Y., Chen, H. Y., Tseng, K. K., (2010). “An efficient ICA approach based on neural network framework for biomedical applications”, IEEE International Joint Conference on Neural Networks (IJCNN), 1-8.
  • Ling, X. T., Huang, Y. F., Liu, R. W., (1994). “A neural network for blind signal separation”, IEEE International Symposium on Circuits and Systems, ISCAS'94, 6, 69-72.
  • Meyer-Bäse, A., Gruber, P., Theis, F., Foo, S., (2006). “Blind source separation based on selforganizing neural network”, Engineering Applications of Artificial Intelligence, 19, 3, 305- 311.
  • Sezgin, N., Tağluk, M. E., Tekin, R., (2012). “Separation of EEG signals by using Independent Component Analysis”, IEEE 20th Signal Processing and Communications Applications Conference, 1-4.
  • Sezgin N., “Nonlinear Analysis of Electrocardiography Signals for Atrial Fibrillation”, Scientific World Journal, 1-4, 2013.
  • Özerdem, M. S., Koçyiğit, Y., Korürek, M., (2003). "Dalgacık Dönüşümü ve Yapay Sinir Ağları ile Elektromiyografik İşaretlerin Sınıflandırılması", 11. Sinyal İşleme ve İletişim Uygulamaları.
  • Takens, F., (1981). “Detecting strange attractors in turbulence”, Dynamical Systems and Turbulence, Lecture Notes in Mathematics. Springer-Verlag, Heidelburg, 366-381.
  • Tan, Y., Wang, J., Zurada, J. M., (2001). “Nonlinear blind source separation using a radial basis function network”, IEEE Transactions on Neural Networks, 12, 1, 124-134.
  • Zomorodi, A. R., Nasernezhad, B., Kabudian, J., (2006). “Comparison of MLP NN Approach with PCA and ICA for Extraction of Hidden Regulatory Signals in Biological Networks”, Iranian Journal Of Chemistry and Chemical Engineering (IJCCE), 25, 4, 1-7.
  • Zomorrodi, A., Nasernejad, B., Dehkordi, MR., Kabudian, J., (2005). “A Comparison of PCA, ICA and Neural Network-based Approaches for Determination of Regulatory Signals in Biological Systems”, IKT.
APA Ertuğrul Ö (2016). Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. , 41 - 50.
Chicago Ertuğrul Ömer Faruk Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. (2016): 41 - 50.
MLA Ertuğrul Ömer Faruk Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. , 2016, ss.41 - 50.
AMA Ertuğrul Ö Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. . 2016; 41 - 50.
Vancouver Ertuğrul Ö Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. . 2016; 41 - 50.
IEEE Ertuğrul Ö "Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması." , ss.41 - 50, 2016.
ISNAD Ertuğrul, Ömer Faruk. "Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması". (2016), 41-50.
APA Ertuğrul Ö (2016). Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi, 7(1), 41 - 50.
Chicago Ertuğrul Ömer Faruk Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi 7, no.1 (2016): 41 - 50.
MLA Ertuğrul Ömer Faruk Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi, vol.7, no.1, 2016, ss.41 - 50.
AMA Ertuğrul Ö Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi. 2016; 7(1): 41 - 50.
Vancouver Ertuğrul Ö Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması. Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi. 2016; 7(1): 41 - 50.
IEEE Ertuğrul Ö "Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması." Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi, 7, ss.41 - 50, 2016.
ISNAD Ertuğrul, Ömer Faruk. "Aşırı Öğrenme Makineleri ile biyolojik sinyallerin gizli kaynaklarına ayrıştırılması". Dicle Üniversitesi Mühendislik Fakültesi Mühendislik Dergisi 7/1 (2016), 41-50.