Sınıflandırma problemleri için aşırı öğrenme makine modellerinin incelenmesi

Abstract

Bu tez çalışmasında, sınıflandırma problemlerinde kullanılan ELM ve varyantlarının performansları incelenmiş ve elde edilen bulgular doğrultusunda CELM temel alınarak yeni bir model geliştirilmiştir. Çalışmanın ilk aşamasında ELM ve varyantları farklı görüntü sınıflandırma veri kümeleri üzerinde karşılaştırılmış ve CELM yaklaşımının yeni modelin geliştirilmesi için uygun bir temel sunduğu belirlenmiştir. Bununla birlikte, tek bir kısıtlama stratejisinin kullanılması farklı sınıf ilişkilerinin birlikte değerlendirilmesini sınırlandırabildiğinden, bu sınırlılığın giderilmesi amacıyla ReSQu-CELM modeli önerilmiştir. ReSQu-CELM'de gizli katman dört bölüme ayrılmış ve farklı örnek ilişkilerini temel alan dört kısıtlama stratejisi bu bölümlere rastgele atanmıştır. Böylece sınıflar arası ve sınıf içi ilişkilerden aynı öğrenme yapısı içerisinde yararlanılması amaçlanmıştır. Farklı gizli nöron sayılarının değerlendirildiği deneylerde 100 gizli nöronlu yapı 1,93 ortalama sıralama değeriyle en uygun yapı olarak belirlenmiştir. Önerilen model WaveformEW, Ecoli, Breast Cancer, Madelon, Hill-Valley ve Digits veri kümeleri üzerinde değerlendirilmiş; deneylerde 10 katlı tabakalı çapraz doğrulama kullanılarak doğruluk, hassasiyet, geri çağırma, Makro-F1, Ağırlıklı-F1 ve eğitim süresi ölçütleri incelenmiştir. ELM tabanlı modellerle yapılan karşılaştırmalar, ReSQu-CELM'in başarımının veri kümesinin özelliklerine göre değiştiğini ve özellikle bazı karmaşık veri yapılarında avantaj sağlayabildiğini göstermiştir. Geleneksel makine öğrenmesi yöntemleriyle yapılan genel karşılaştırmada ReSQu-CELM 2,70 ortalama sıralama değeriyle SVM (2,47) ve RF'nin (2,60) ardından üçüncü sırada yer almıştır. Eğitim süresi açısından ise 1,83 ortalama sıralama değeri elde edilmiştir. Sonuç olarak, farklı kısıtlama stratejilerinin aynı ELM tabanlı yapı içerisinde kullanılmasının veri yapısına bağlı olarak sınıflandırma performansına katkı sağlayabildiği görülmüştür. ReSQu-CELM, her veri kümesinde en yüksek başarıyı sağlamamakla birlikte, farklı örnek ilişkilerini birlikte değerlendiren ve sınıflandırma başarımı ile hesaplama maliyeti arasında dengeli sonuçlar sunan alternatif bir ELM yaklaşımı ortaya koymaktadır.

In this thesis, the performance of ELM and its variants used in classification problems was investigated, and a new model was developed based on CELM in accordance with the findings obtained. In the first stage of the study, ELM and its variants were compared on different image classification datasets, and CELM was determined to provide a suitable basis for the development of the new model. However, since the use of a single constraint strategy may limit the simultaneous consideration of different class relationships, the ReSQu-CELM model was proposed to address this limitation. In ReSQu-CELM, the hidden layer was divided into four sections, and four constraint strategies based on different sample relationships were randomly assigned to these sections. Thus, the model was designed to utilize both inter-class and intra-class relationships within the same learning structure. In experiments evaluating different numbers of hidden neurons, the 100-hidden-neuron configuration achieved the best overall performance with an average rank of 1.93. The proposed model was evaluated on the WaveformEW, Ecoli, Breast Cancer, Madelon, Hill-Valley, and Digits datasets. A 10-fold stratified cross-validation procedure was employed, and accuracy, precision, recall, Macro-F1, Weighted-F1, and training time were considered as evaluation metrics. Comparisons with ELM-based models showed that the performance of ReSQu-CELM varied depending on the characteristics of the dataset and that it provided advantages particularly on certain complex data structures. In the overall comparison with conventional machine learning methods, ReSQu-CELM ranked third with an average rank of 2.70, following SVM (2.47) and RF (2.60). In terms of training time, it achieved an average rank of 1.83. Overall, the results indicate that employing different constraint strategies within the same ELM-based structure can contribute to classification performance depending on the characteristics of the data. Although ReSQu-CELM did not achieve the highest performance on every dataset, it provides an alternative ELM approach that jointly considers different sample relationships and offers a balanced trade-off between classification performance and computational cost.