A Clustering Based Method to Stipulate the Number of Hidden Neurons of mlp Neural Networks: Applications in Pattern Recognition

Autores

  • M.R. Silvestre
  • S.M. Oikawa
  • F.H.T. Vieira
  • L.L. Ling

DOI:

https://doi.org/10.5540/tema.2008.09.02.0351

Resumo

In this paper, we propose an algorithm to obtain the number of necessary hidden neurons of single-hidden-layer feed forward networks (SLFNs) for different pattern recognition application tasks. Our approach is based on clustering analysis of the data in each class. We show by simulations that the proposed approach requires less computation CPU time and error rates as well as a smaller number of neurons than other methods.

Referências

[1] A. Asuncion, D.J. Newman, “UCI Machine Learning Repository”, Irvine, CA: University of California, School of Information and Computer Science, 2007. Available: http://www.ics.uci.edu/~mlearn/MLRepository.html

W. Duch, R. Adamczak, N. Jankowski, Initialization and optimization of multilayered perceptrons, in “Proceedings of the 3th Conference on Neural Networks and Their Applications”, pp. 105-110, 1997.

G.B. Huang, H.A. Babri, Upper bounds on the number of hidden neuron in feedforward networks with arbitrary bounded nonlinear activation functions, IEEE Transactions on Neural Networks, 9, No. 1 (1998), 224-229.

R.A. Johnson, D.W. Wichern, “Applied Multivariate Statistical Analysis”, 5th ed., Prentice Hall, Upper Saddle River, 2002.

R.P. Lippmann, Pattern classification using neural networks, IEEE Communications Magazine, (1989), 47-64.

S.A. Mingoti, “An´alise de Dados atrav´es de Metodos de Estat´ıstica Multivariada: uma Abordagem Aplicada”, UFMG, Belo Horizonte, 2005.

H.C. Romesburg, “Cluster Analysis for Researchers”, Robert E. Krieger, Malabar, 1990.

M.R. Silvestre, L.L. Ling, Optimization of neural classifiers based on Bayesian decision boundaries and idle neurons pruning, in “Proceedings of the 16th International Conference on Pattern Recognition”, pp. 387-390, 2002.

N. Weymaere, J.P. Martens, On the initialization and optimization of multilayer perceptrons, IEEE Transactions on Neural Networks, 5, No. 5, (1994), 738-751.

Downloads

Publicado

2008-06-01

Como Citar

Silvestre, M., Oikawa, S., Vieira, F., & Ling, L. (2008). A Clustering Based Method to Stipulate the Number of Hidden Neurons of mlp Neural Networks: Applications in Pattern Recognition. Trends in Computational and Applied Mathematics, 9(2), 351–361. https://doi.org/10.5540/tema.2008.09.02.0351

Edição

v. 9 n. 2 (2008)

Seção

Artigo Original

Licença

Direitos Autorais

Autores de artigos publicados no periódico Trends in Computational and Applied Mathematics mantêm os direitos autorais de seus trabalhos. O periódico utiliza a Atribuição Creative Commons (CC-BY) nos artigos publicados. Os autores concedem ao periódico o direito de primeira publicação.

Propriedade Intelectual e Termos de uso

O conteúdo dos artigos é de responsabilidade exclusiva dos autores. O periódico utiliza a Atribuição Creative Commons (CC-BY) nos artigos publicados. Esta licença permite que os artigos publicados sejam reutilizados sem permissão para qualquer finalidade, desde que o trabalho original seja corretamente citado.

O periódico encoraja os Autores a autoarquivar seus manuscritos aceitos, publicando-os em blogs pessoais, repositórios institucionais e mídias sociais acadêmicas, bem como postando-os em suas mídias sociais pessoais, desde que seja incluída a citação completa à versão do website da revista.