Wyniki wyszukiwania - Biblioteka Nauki

Nowa wersja platformy, zawierająca wyłącznie zasoby pełnotekstowe, jest już dostępna.
Przejdź na https://bibliotekanauki.pl

Ograniczanie wyników

1 Przegląd Elektrotechniczny

1 2012

1 Swornowski P.

Znaleziono wyników: 1

Liczba wyników na stronie

Wyniki wyszukiwania

Wyszukiwano:
w słowach kluczowych: limitations of the 32-bitwises system

Sortuj według:

Ogranicz wyniki do:

Błędy przekształcenia danych wejściowych na postać binarną we współrzędnościowej technice pomiarowej

100%

Swornowski P.

Przegląd Elektrotechniczny

2012

tom R. 88, nr 2

208-211

W artykule przedstawiono problem niedokładnego przekształcenia liczby z postaci dziesiętnej na postać binarną. Rozważania oparto na przykładzie współrzędnościowej techniki pomiarowej (w tej technice istotna jest część ułamkowa liczby). Przedstawiono ograniczenia systemu 32-bitowego (w tym również standardu IEEE745 – single precision). Pokazano błędy, jakie mogą pojawić się w rzeczywistych warunkach pomiarowych na przykładzie trzech konkretnych rozwiązań.

The article presents the problem of inaccurate conversion from a decimal number to binary. Considerations were based on the example coordinate measuring technique (CMT). In this technique is essential the fractional number. Presents the limitations of the 32-bit system (including the standard IEEE745 - single precision, too). Conversion errors on example of three CMT solutions are shown.