Expected Entropy as a Measure and Criterion of Randomness of Binary Sequences

• Autorzy: Leśniewicz M.

Identyfikatory

DOI

10.12915/pe.2014.01.10

Warianty tytułu

PL

Entropia oczekiwana jako miara i kryterium losowości ciągów binarnych

• Języki publikacji: EN

Abstrakty

EN

We present a new approach to modelling binary random sequences. We introduce a new concept of expected entropy which enables to explain us the problem that in practice the sample entropy never achieves its limit values. We show how to use the expected entropy to estimate the randomness of physically generated binary random sequences. Our theoretical analysis have been verified experimentally.

PL

Przedstawiamy nowe podejście do modelowania losowych ciągów binarnych. Wprowadzamy nowe pojęcie entropii oczekiwanej, które pozwala wyjaśnić, dlaczego entropia prób ciągów nigdy nie osiąga wartości granicznej. Pokazujemy, jak wykorzystać entropię oczekiwaną do oszacowania losowości ciągów losowych generowanych sprzętowo. Nasze analizy teoretyczne zostały potwierdzone doświadczalnie.

Słowa kluczowe

EN

randomness; entropy; random binary sequence; Markov chain

PL

losowość; entropia; losowy ciąg binarny; łańcuch Markowa

• Wydawca: Wydawnictwo SIGMA-NOT
• Czasopismo: Przegląd Elektrotechniczny
• Rocznik: 2014
• Tom: R. 90, nr 1
• Strony: 42--46
• Opis fizyczny: Bibliogr. rys., tab.

Twórcy

autor

Leśniewicz M.

• Wojskowy Instytut Łączności, Zakład Kryptologii, ul. Warszawska 22A, 05-130 Zegrze

Bibliografia

• 1. Shannon, C. E., A Mathematical Theory of Communication, The Bell System Technical Journal, 27 (1948), 379–423, 623–656.
• 2. Shannon, C. E., Communication Theory of Secrecy Systems, The Bell System Technical Journal, 28 (1949), 656–715.
• 3. Cover T.M. & Thomas J.A., Elements of Information Theory, John Wiley and Sons, (2006), 2nd ed.
• 4. Gray R. M., Entropy and Information Theory, Springer-Verlag, (2010), 2nd ed.
• 5. Seidler J., Nauka o informacji (Information Theory), Wydawnictwa Naukowo-Techniczne, (1983). (In Polish.)
• 6. Leśniewicz M., Sprzętowa generacja losowych ciągów binarnych (Hardware generation of binary random sequences),Wydawnictwo Wojskowej Akademii Technicznej (Military University of Technology), (2009). (In Polish.)