Pamukkale Univ Muh Bilim Derg. 2018; 24(5): 857-863 | DOI: 10.5505/pajes.2017.76401

A cluster based approach to reduce pattern layer size for generalized regression neural network

Mustafa Oral, Serkan Kartal, Buse Melis Özyýldýrým
Cukurova University Computer Engineering Department, Adana, Turkey

Generalized Regression Neural Network (GRNN), is a radial basis function based supervised learning type Artificial Neural Network (ANN) which is commonly used for data predictions. In addition to its easy modelling structure, being fast and producing accurate results are the other strong features of it. On the other hand, GRNN employs a neuron in pattern layer for each data sample in training data set. Therefore, for huge data sets pattern layer size increases proportional to the number of samples in training data set, memory requirement and computational time also increase excessively. In this study, in order to reduce space and time complexity of GRNN, k-means clustering algorithm which had been used as pre-processor in the literature is utilized and outlier data emergence which affects the performances of previous studies negatively, is prevented by identifying test data located between clusters. Hence, while memory requirement in pattern layer and number of calculations are reduced, negative effect on the performance emerged by the use of clustering algorithm is significantly removed and almost the same prediction performances to that of standard GRNN are achieved by using %90 less training samples.

Keywords: Generalized regression neural network, Prediction neural network, Pattern reduction, Reduced dataset

---

Genelleþtirilmiþ regresyon yapay sinir aðý örüntü katman büyüklüðünü azaltmak için kümeleme tabanlý bir yaklaþým

Mustafa Oral, Serkan Kartal, Buse Melis Özyýldýrým
Çukurova Üniversitesi Bilgisayar Mühendisliði Bölümü, Adana

Genelleþtirilmiþ Regresyon Yapay Sinir Aðý (GRYSA) radyal tabanlý çalýþan ve genellikle tahminleyici olarak kullanýlan denetimli-öðrenimli bir yapay sinir aðý (YSA) modelidir. Kolay modellenebilmesinin yanýnda hýzlý ve tutarlý sonuçlar üretmesi bu algoritmanýn güçlü yanlarýný oluþturmaktadýr. Ancak GRYSA tahmin mekanizmasýnda, eðitim veri setindeki her örnek veri için örüntü katmanýnda bir adet nöron tutulmaktadýr. Bu nedenle, eðitim veri setinin çok büyük olduðu çalýþmalarda örüntü katman yapýsý örnek verilerinin sayýsýyla ayný oranda büyümekte, yapýlan iþlem sayýsý ve bellek gereksinimi artmaktadýr. Bu çalýþmada, GRYSA algoritmasýnýn iþlem sayýsýný azaltmaya yönelik olarak literatürde daha önce de denenmiþ olan k-ortalama kümeleme algoritmasý ön-iþlemci olarak kullanýlmýþ, literatürdeki çalýþmalardan farklý olarak, bu çalýþmalarýn performansýný negatif anlamda etkileyen kümeler arasýna düþen test verileri bulunarak aykýrý veri oluþmasýnýn önüne geçilmiþtir. Böylece, örüntü katmanýndaki bellek ihtiyacý ve iþlem sayýsý azaltýlýrken, kümeleme algoritmasýnýn eklenmesi ile performansta ortaya çýkan negatif etki büyük oranda giderilmiþ ve yaklaþýk %90 daha az eðitim verisi ile neredeyse ayný tahmin sonuçlarý elde edilmiþtir.

Anahtar Kelimeler: Genelleþtirilmiþ regresyon yapay sinir aðý, Tahminleyici yapay sinir aðý, Örüntü azaltma, Azaltýlmýþ veri seti

---