Entropi, İnformasyon ve Entropi Korelasyon KatsayısI
Yıl: 2020 Cilt: 12 Sayı: 1 Sayfa Aralığı: 83 - 88 Metin Dili: Türkçe DOI: 10.5336/biostatic.2020-74305 İndeks Tarihi: 25-06-2021
Entropi, İnformasyon ve Entropi Korelasyon KatsayısI
Öz: İstatistiksel analizler gözlemlenen verilerin araştırmacı tarafından doğru bir şekilde yorumlanmasına yardımcı olan ve araştırmacının konu hakkında elde ettiği bilgi miktarını artıran yöntemlerdir. Araştırmacılar, gözlemlerden elde ettikleri bilgiyi yorumlamada kararsızlığa düşebilir. Bu karasızlığı belirlemede araştırmacılara kolaylık sağlayabilecek yöntemlerin önerilmesi önemlidir. Bu sayede araştırmacı çalışmanın dizaynını olumlu yönde değiştirebilir. Entropi ve informasyon, araştırmacılara gözlem sonrası elde ettikleri bilginin miktarını veya verideki düzensizliğin bir ölçüsünü göstermesi bakımından önemli kavramlardır. Amaç: Entropi ve informasyon kavramları olasılık açısından değerlendirilerek entropi korelasyon katsayısının yorumlanmasıdır. Gereç ve Yöntemler: Çoğu uygulamada gözlemlenen veride olasılık sadece nispi frekansların yorumlanmasında kullanılmaktadır. Verideki ilgilenilen değişkenin gözlenen olayları ve bu olaylardan edinilen bilgi miktarına göre değişkenin entropisinin hesabı yapılmamaktadır. Çalışmada kullanılacak olan temel yöntem gözlemlenen olaylar yardımıyla tanımlanan değişkenlerin aralarında muhtemel olan ilişkilerin belirlenerek korelasyonlarının ortaya çıkartılmasıdır. Bulgular: Çalışmada elde edilen 2 önemli bulgudan birincisi regresyon hata teriminin entropisinin belirlenmesi, 2.si ise örnek üzerinde gösterilen ve aralarında zayıf ilişki bulunan 4 değişkenin ikişerli ortak entropilerinin yüksek olmasına rağmen ortak entropileri tanımlayan değişkenlerin korelasyonunun yüksek olarak bulunabilmesidir. Sonuç: Çok değişkenli veri yapısı söz konusu olduğunda değişkenlerin bazılarının lineer formu diğer değişkenlerin lineer bir formuyla ilişkili olabilir. Bu durumda 2 lineer formun korelasyonu yüksek olacaktır. Bunun tespit edilebilmesi lineer formların oluşturulması ile mümkündür. Böyle bir durumda entropi korelasyon katsayısı rahatlıkla kullanılabilir.
Anahtar Kelime: Entropy, Information and Entropy Correlation Coefficient
Öz: Statistical analyzes are methods that help the research er to interpret correctly and increase the amount of information ob tained by the researcher. Researchers may be undecided in interpret ing the information they obtain from observations. It is important torecommend methods that can facilitate researchers in determiningthis uncertainty. In this way, the researcher can positively change thedesign of the study. Entropy and information are important conceptsin terms of showing researchers the amount of information they ob tain after observation or a measure of the irregularity in the data.Objective: The aim of the study is to interpret the entropy correlationcoefficient by evaluating the concepts of entropy and information interms of probability. Material and Methods: In most applications,probability is used only in the interpretation of relative frequenciesin the observed data. Relative frequencies are not used for entropycalculation. The main method to be used in the study is to deter mine the possible relationships between the variables identified withthe help of observed events and to obtain their correlations. Results:The first of the two important findings obtained in the study is todetermine the entropy of the regression error term, and the second isto find a correlation of the variables defining the common entropiesamong the four variables with weak correlations. Conclusion: In themultivariate data structure, the linear form of some variables may berelated to the linear form of some other variables. In this case, thecorrelation of the two linear forms will be high. It is possible to detectthis by creating linear forms. In such a case, the entropy correlationcoefficient can be easily used.
Anahtar Kelime: Belge Türü: Makale Makale Türü: Araştırma Makalesi Erişim Türü: Erişime Açık
- 1. Shamilov A. Generalized entropy optimization problems and the existence of their solutions. Physica A: Statistical Mechanics and its Applications. 2007;382(2):465- 72. [Crossref]
- 2. Joe H. Relative entropy measures of multivariate dependence. J Am Stat Assoc. 1989;84(405):157-64. [Crossref]
- 3. Neemuchwala H, Hero A, Carson P. Image matching using alpha-entropy measures and entropic graphs. Signal Processing. 2005;85(2):277-96. [Crossref]
- 4. Benesty J, Huang Y, Chen J. Time delay estimation via minimum entropy. IEEE Signal Processing Letters. 2007;14(3):157-60. [Crossref]
- 5. Ye J. Multicriteria fuzzy decision-making method using entropy weights-based correlation coefficients of interval-valuedintuitionistic fuzzy sets. Applied Mathematical Modelling. 2010;34(12):3864-70. [Crossref]
- 6. Macke JH, ManfrOpper M, Bethge M. Common input explains higher-order correlations and entropy in a simple model of neural population activity. Phys Rev Lett. 2011;106(20):208102. PMID: 21668265. [Crossref] [PubMed]
- 7. Liu LZ, Qian XY, Qian XY. Cross-sample entropy of foreign exchange time series. Physica A. 2010;389(21):4785-92. [Crossref]
- 8. Eshima N, Tabata M. Entropy correlation coefficient for measuring predictive power of generalized linear models. Statistics & Probability Letters. 2007;77(6):588- 93. [Crossref]
- 9. Eshima N, Tabata M. Three predictive power measures for generalized linear models: the entropy coefficient of determination, the entropy correlation coefficient and the regression correlation coefficient. Computational Statistics and Data Analysis. 2011;55(11):3049-58. [Crossref]
- 10. Gilli P, Ferretti V, Gilli G. Enthalpy-entropy compensation in drug-receptor binding. J Phys Chem. 1994;98:1515-8. [Crossref]
- 11. Kvalseth TO. Entropy and correlation: some comments. IEEE Transactions On Systems, Man, and Cybernetics. 1987;17(3):517-9. [Crossref]
| APA | KAYA M, GÜRAL Y, GÜRCAN M (2020). Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. , 83 - 88. 10.5336/biostatic.2020-74305 |
| Chicago | KAYA Mehmet Onur,GÜRAL YUNUS,GÜRCAN MEHMET Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. (2020): 83 - 88. 10.5336/biostatic.2020-74305 |
| MLA | KAYA Mehmet Onur,GÜRAL YUNUS,GÜRCAN MEHMET Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. , 2020, ss.83 - 88. 10.5336/biostatic.2020-74305 |
| AMA | KAYA M,GÜRAL Y,GÜRCAN M Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. . 2020; 83 - 88. 10.5336/biostatic.2020-74305 |
| Vancouver | KAYA M,GÜRAL Y,GÜRCAN M Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. . 2020; 83 - 88. 10.5336/biostatic.2020-74305 |
| IEEE | KAYA M,GÜRAL Y,GÜRCAN M "Entropi, İnformasyon ve Entropi Korelasyon KatsayısI." , ss.83 - 88, 2020. 10.5336/biostatic.2020-74305 |
| ISNAD | KAYA, Mehmet Onur vd. "Entropi, İnformasyon ve Entropi Korelasyon KatsayısI". (2020), 83-88. https://doi.org/10.5336/biostatic.2020-74305 |
| APA | KAYA M, GÜRAL Y, GÜRCAN M (2020). Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. Türkiye Klinikleri Biyoistatistik Dergisi, 12(1), 83 - 88. 10.5336/biostatic.2020-74305 |
| Chicago | KAYA Mehmet Onur,GÜRAL YUNUS,GÜRCAN MEHMET Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. Türkiye Klinikleri Biyoistatistik Dergisi 12, no.1 (2020): 83 - 88. 10.5336/biostatic.2020-74305 |
| MLA | KAYA Mehmet Onur,GÜRAL YUNUS,GÜRCAN MEHMET Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. Türkiye Klinikleri Biyoistatistik Dergisi, vol.12, no.1, 2020, ss.83 - 88. 10.5336/biostatic.2020-74305 |
| AMA | KAYA M,GÜRAL Y,GÜRCAN M Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. Türkiye Klinikleri Biyoistatistik Dergisi. 2020; 12(1): 83 - 88. 10.5336/biostatic.2020-74305 |
| Vancouver | KAYA M,GÜRAL Y,GÜRCAN M Entropi, İnformasyon ve Entropi Korelasyon KatsayısI. Türkiye Klinikleri Biyoistatistik Dergisi. 2020; 12(1): 83 - 88. 10.5336/biostatic.2020-74305 |
| IEEE | KAYA M,GÜRAL Y,GÜRCAN M "Entropi, İnformasyon ve Entropi Korelasyon KatsayısI." Türkiye Klinikleri Biyoistatistik Dergisi, 12, ss.83 - 88, 2020. 10.5336/biostatic.2020-74305 |
| ISNAD | KAYA, Mehmet Onur vd. "Entropi, İnformasyon ve Entropi Korelasyon KatsayısI". Türkiye Klinikleri Biyoistatistik Dergisi 12/1 (2020), 83-88. https://doi.org/10.5336/biostatic.2020-74305 |
