Zastosowanie głębokich sieci neuronowych do ekstrakcji semantycznie znaczących znaków

• Autorzy: Adamovich-Golovko V. , Aliaksandrovich-Kroshchanka A.

Warianty tytułu

EN

Applying deep belief neural networks to extraction of significant semantic features

• Języki publikacji: RU

Abstrakty

PL

W pracy przedstawiono podstawowe zasady budowy i nauczania sieci neuronowej głebokiego zaufania do określenia semantycznie ważnych oznak na podstawie próbki CIFAR-10. Dla przygotowania do nauki sieci neuronowej głębokiego zaufania stosuje się opracowane podejście na podstawie minimalizacji błędu rekonstrukcyjnego obrazów widocznych i ukrytych dla ograniczonej maszyny Boltzmanna (RBM).

EN

The main principles of construction and learning deep belief neural networks for extraction valuable semantic features are proposed. The proposed approach is based on minimization of reconstruction mean square error, which we can obtain using a simple iterations of Gibbs sampling.

Słowa kluczowe

PL

sieć semantyczna; głęboka sieć neuronowa; ograniczona maszyna Boltzmanna; błąd rekonstrukcji; algorytm wstecznej propagacji błędu

EN

semantic network; deep belief neural network; restricted Boltzmann machine; error of reconstruction; backpropagation algorithm

• Wydawca: Oficyna Wydawnicza Europejskiej Uczelni
• Czasopismo: Studia i Materiały / Europejska Uczelnia Informatyczno-Ekonomiczna w Warszawie
• Rocznik: 2014
• Tom: Nr 2(8)
• Strony: 123--135
• Opis fizyczny: Bibliogr. 8 poz., tab.

Twórcy

autor

Adamovich-Golovko V.

• Europejska Uczelnia Informatyczno-Ekonomiczna w Warszawie, ul. Białostocka 22, 03-741 Warszawa

autor

Aliaksandrovich-Kroshchanka A.

• Brzeski Panstwowy Uniwersytet Techniczny ul. Moskiewska 267, 224017 Brzesc, Białorus

Bibliografia

• [1] [Hinton et al., 2006a] Hinton, G. A fast learning algorithm for deep belief nets / G. Hinton, S. Osindero, Y. Teh // Neural Computation. – 2006. – Vol. 18. – P. 1527-1554.
• [2] [Hinton, 2002] Hinton, G. Training products of experts by minimizing contrastive divergence // Neural Computation. – 2002. – Vol. 14. – P. 1771-1800.
• [3] [Hinton et al., 2006b] Hinton, G. Reducing the dimensionality of data with neural networks / G. Hinton, R. Salakhutdinov // Science, 313 (5786). – 2006. – P. 504-507.
• [4] [Hinton, 2010] Hinton, G. A practical guide to training restricted Boltzmann machines // Tech. Rep. 2010-000). – Toronto: Machine Learning Group, University of Toronto, 2010.
• [5] [Bengio, 2009] Bengio, Y. Learning deep architectures for AI // Foundations and Trends in Machine Learning. – 2009. – Vol. 2(1). – P. 1-127
• [6] [Hinton, 2009] Hinton, G. Greedy layer-wise algorithm // Journal of Machine Learning Research 1. – 2009. – P. 1-40.
• [7] [Golovko et al., 2014] Golovko, V. A Learning Technique for Deep Belief Neural Networks / V. Golovko, A. Kroshchanka, U. Rubanau, S. Jankowski // in book Neural Networks and Artificial Intelligence. – Springer, 2014. – Vol. 440. Communication in Computer and Information Science. – P. 136-146.
• [8] [Golovko et al., 2012] Golovko, V. Neural network model for transient ischemic attacks diagnostics / V. Golovko, H. Vaitsekhovich, E. Apanel, A. Mastykin // Optical Memory and Neural Networks (Information Optics). – 2012. – 21(3). – P. 166-176.