Modeling dynamical systems by means of dynamic Bayesian networks

• Autorzy: Łupińska-Dubicka A.

Warianty tytułu

PL

Modelowanie systemów dynamicznych przy użyciu dynamicznych sieci Bayesowskich

• Języki publikacji: EN

Abstrakty

EN

Bayesian networks (BNs) are powerful tools for modeling complex problems involving uncertain knowledge. They have been employed in practice in a variety of fields. Their extension to time-dependent domains, dynamic Bayesian networks (DBNs) allow to monitor and update the system as time procedes and predict further behavior of the system. Most practical uses of DBNs involve temporal influences of the first order, i.e., influences between neighboring time steps. This choice is a convenient approximation influenced by the existence of efficient algorithms for first order models and limitations of available tools. This paper presents how to create higher order dynamic Bayesian networks and shows that introducing higher order influences can improve the accuracy of the model. To introduce the formalism to the readers, it describes a hypothetical simplified model based on a DBN.

PL

Sieci Bayesowskie (Bayesian networks, BNs) są popularnym narzędziem do reprezentacji wiedzy w warunkach niepewnosci. Znalazły praktyczne zastosowanie w wielu dziedzinach. Ich rozszerzenie o domenę czasową dynamiczne sieci bayesowskie (dynamic Bayesian networks, DBNs) umozliwiają monitorowanie oraz aktualizację systemów zmieniających się wraz z upływem czasu, a takze predykcję przyszłego stanu takiego systemu. Większość praktycznych zastosowań dynamicznych sieci Bayesowskich bierze pod uwagę tylko zależności pierwszego rzędu, to znaczy, że bieżący stan systemu zale ży tylko od jego stanu w bezpośrednio poprzedzającym go kroku czasowym. Takie założenie jest uproszczeniem, wynikającym najprawdopodobniej z braku efektywnych narzędzi zdolnych obsłużyć modele wyższych rzędów. Niniejszy artykuł przedstawia na przykładzie sposób w jakim tworzy się modele wyższych rzędów oraz pokazuje, wpływy wyższych rzędów mogą zwiększyc jakość modelu.

Słowa kluczowe

EN

Bayesian networks; temporal dependencies; dynamical models; dynamic Bayesian networks

PL

sieci bayesowskie; zależości temporalne; modele dynamiczne; dynamiczna sieć bayesowska

• Wydawca: Oficyna Wydawnicza Politechniki Białostockiej
• Czasopismo: Zeszyty Naukowe Politechniki Białostockiej. Informatyka
• Rocznik: 2012
• Tom: Z. 9
• Strony: 77--92
• Opis fizyczny: Bibliogr. 22 poz., rys.

Twórcy

autor

Łupińska-Dubicka A.

• Bialystok University of Technology, Faculty of Computer Science, Białystok, Poland

Bibliografia

• [1] Constantin Aliferis and Gregory Cooper. A Structurally and Temporally Extended Bayesian Belief Network Model: Definitions, Properties, and Modeling Techniques. In Proceedings of the Twelfth Conference Annual Conferenceon Uncertainty in Artificial Intelligence (UAI-96), pages 28–39, San Francisco, CA, 1996. Morgan Kaufmann.
• [2] Gustavo Arroyo-Figueroa and Luis Enrique Sucar. Temporal Bayesian Network of Events for Diagnosis and Prediction in Dynamic Domains. Applied Intelligence, 23:77–86, October 2005.
• [3] Jon .L. Bentley. Programming pearls. ACM Press Series. Addison-Wesley, 2000.
• [4] Carlo Berzuini. Representing time in causal probabilistic networks. In Uncertainty in Artificial Intelligence 5 Annual Conference on Uncertainty in Artificial Intelligence (UAI-89), pages 15–28, Amsterdam, NL, 1989. Elsevier Science.
• [5] John Binder, Daphne Koller, Stuart Russell, Keiji Kanazawa, and Padhraic Smyth. Adaptive Probabilistic Networks with Hidden Variables. In Machine Learning, pages 213–244, 1997.
• [6] Xavier Boyen and Daphne Koller. Approximate Learning of Dynamic Models. In IN NIPS-11, pages 396–402. MIT Press, 1998.
• [7] Thomas Dean and Keiji Kanazawa. A Model for Reasoning About Persistence and Causation. Computational Intelligence, 5(2):142–150, 1989
• [8] Norbert Dojer. An Efficient Algorithm for Learning Bayesian Networks from Data. Fundam. Inf., 103(1-4):53–67, January 2010.
• [9] Arnaud Doucet, Nando de Freitas, Kevin Murphy, and Stuart Russell. Rao–Blackwellised Particle Filtering for Dynamic Bayesian Networks. In Proceedings of the Sixteenth Conference Annual Conference on Uncertainty in Artificial Intelligence (UAI-00), pages 176–183, San Francisco, CA, 2000. Morgan Kaufmann.
• [10] Nir Friedman. Learning Belief Networks in the Presence of Missing Values and Hidden Variables. In Proceedings of the Fourteenth International Conference on Machine Learning, pages 125–133. Morgan Kaufmann, 1997.
• [11] Nir Friedman, Kevin Murphy, and Stuart Russell. Learning the Structure of Dynamic Probabilistic Networks. pages 139–147. Morgan Kaufmann, 1998.
• [12] Severino F. Galán, Francisco Aguado, Francisco Javier Díez, and José Mira. Nasonet, Modeling the Spread of Nasopharyngeal Cancer with Networks of Probabilistic Events in Discrete Time. Artificial Intelligence in Medicine, 25(3):247–264, 2002.
• [13] David Heckerman. A tutorial on learning with bayesian networks. Technical report, Learning in Graphical Models, 1996.
• [14] Eugene Santos Jr. and Joel D. Young. Probabilistic temporal networks. Technical report, Air Force Institute of Technology, 1996.
• [15] Steffen L. Lauritzen. The EM Algorithm for Graphical Association Models with Missing Data. Computational Statistics and Data Analysis, 19:191–201, February 1995.
• [16] Kevin Murphy and Saira Mian. Modelling gene expression data using dynamic bayesian networks. Technical report, 1999.
• [17] Kevin Murphy and Yair Weiss. The Factored Frontier Algorithm for Approximate Inference in DBNs. In Proceedings of the Seventeenth Conference Annual Conference on Uncertainty in Artificial Intelligence (UAI-01), pages 378–385, San Francisco, CA, 2001. Morgan Kaufmann.
• [18] Kevin P. Murphy. Dynamic Bayesian Networks: Representation, Inference and Learning. Ph.d. dissertation, University of California Berkeley, Computer Science Division, 2002.
• [19] Kevin P. Murphy, Yair Weiss, and Michael I. Jordan. Loopy Belief Propagation for Approximate Inference: An Empirical Study. In In Proceedings of Uncertainty in AI, pages 467–475, 1999.
• [20] Judea Pearl. Probabilistic Reasoning in Intelligent Systems: Networks of Plausible Inference. Morgan Kaufmann PUBLISHERs, Inc., San Mateo, CA, 1988.
• [21] Claude E. Shannon. A mathematical theory of communication. The Bell System Technical Journal, 27:379–423, 623–656, July, October 1948.
• [22] Geoffrey Zweig and Stuart Russell. Speech recognition with dynamic bayesiannetworks. Technical report, 1998.