Błędy przekształcenia danych wejściowych na postać binarną we współrzędnościowej technice pomiarowej

• Autorzy: Swornowski, P.

Warianty tytułu

EN

The conversion errors input data on the binary form in the coordinate measuring technique

• Języki publikacji: PL

Abstrakty

PL

W artykule przedstawiono problem niedokładnego przekształcenia liczby z postaci dziesiętnej na postać binarną. Rozważania oparto na przykładzie współrzędnościowej techniki pomiarowej (w tej technice istotna jest część ułamkowa liczby). Przedstawiono ograniczenia systemu 32-bitowego (w tym również standardu IEEE745 – single precision). Pokazano błędy, jakie mogą pojawić się w rzeczywistych warunkach pomiarowych na przykładzie trzech konkretnych rozwiązań.

EN

The article presents the problem of inaccurate conversion from a decimal number to binary. Considerations were based on the example coordinate measuring technique (CMT). In this technique is essential the fractional number. Presents the limitations of the 32-bit system (including the standard IEEE745 - single precision, too). Conversion errors on example of three CMT solutions are shown.

Słowa kluczowe

PL

komputer klasy PC; postać binarna; ograniczenia systemu 32-bitowego

EN

PC; binary form; limitations of the 32-bitwises system

• Czasopismo: Przegląd Elektrotechniczny
• Rocznik: 2012
• Tom: R. 88, nr 2
• Strony: 208-211
• Opis fizyczny: Bibliogr. 3 poz., rys., tab.

Twórcy

autor

Swornowski, P.

• Politechnika Poznańska, Instytut Technologii Mechanicznej, ul. Piotrowo 3a, 60-965 Poznań,

Bibliografia

• [1] ANSI/IEEE, IEEE Standard for Binary Floating Point Arithmetic, Std 754–2008 edition, IEEE, New York.
• [2] EN-ISO 10360-6:2001 Geometrical Product Specifications (GPS) - Acceptance and reverification tests for coordinate measuring machines (CMM) - Part 6: Estimation of errors in computing Gaussian associated features.
• [3] Swornowski P.J., Idealne oprogramowanie pomiarowe, Przegląd Elektrotechniczny, 87 (2011), nr.6, 174-179.