W artykule opisano system umożliwiający odbieranie i przetwarzanie strumienia wideo w technologii 3D transmitowanego w standardzie HDMI (tryb side by side), co pozwala na współpracę z dostępnymi na rynku kamerami 3D. Zaproponowana architektura umożliwia implementację popularnych metod obliczania map dysparycji: m. in. SAD oraz opartych o transformatę Censusa, realizację sprawdzenia symetryczności mapy oraz filtrację medianową poprawiającą jakość wyników. W pracy omówiono budowę każdego z modułów, użycie zasobów FPGA, zużycie mocy, a także przykładowe rezultaty działania na płycie ewaluacyjnej VC707 z układem Virtex 7.
EN
In the paper a system for acquisition and processing of a 3D video stream is presented. It can work with 3D HDMI cameras available on the market. In Section 2 the basic concepts of stereovision systems are described [1]. In Section 3 three distance metrics, SAD [4], ZSAD and Census [5], used for correspondence matching are discussed. Evaluation of the matching process on the Middlebury dataset [2] is also presented. The best results were obtained for the SAD and ZSAD methods and greyscale images. In Table 1 there are shown three best configurations. Figure 1 illustrates the obtained disparity maps. A description of the hardware implementation is given in Section 4. The block diagram of the system is presented in Figure 2. The proposed solution is able to process images transmitted in side by side mode, to compute two disparity maps (left to right and right to left, method from [4]), to use SAD or ZSAD cost function, to check maps consistency and execute median filtering for final image processing. The described module is highly parameterizable: different cost functions, window sizes and disparity range can be used, image size and median filtering size can be adjusted. FPGA resource utilization is presented in Table 2. A picture of the working system is shown in Figure 3 (1280 x 720 @60 fps, real-time video-stream processing). The proposed module can be used for video surveillance, pedestrian collision avoidance systems or in autonomous vehicles.
Przedmiot artykułu stanowi test ośmiu metod obliczania miary podobieństwa zaimplementowanych w postaci algorytmu porównującego blokami dla potrzeb obliczania mapy dysparycji ze wzorcowej stereopary. Przyjęte przez autorów kryteria oceny uzyskanych wyników pod względem ich przydatności w głównej mierze uwzględniają zarówno kryteria jakościowe wygenerowanej mapy dysparycji oraz kryteria ilościowe uwzględniające czas przetwarzania przyjętej za wzorzec stereopary.
EN
The article focus on the eight methods of the similarity measures, implementing in the region matching algorithms for the needs of disparity calculation. The authors establishes quality and quantitative criteria for the final results examine. Each posses dense disparity map was tested under her outward appearance and computing time. All tests was realized on the example stereo pair photos.
3
Dostęp do pełnego tekstu na zewnętrznej witrynie WWW
W pracy omówiono urządzenie elektroniczne specjalnej konstrukcji wspomagające osobę niewidomą w samodzielnym poruszaniu się. Urządzenie składa się układu stereoskopowego kamer o rozdzielczości 2 MPix każda, modułu dźwiękowego oraz procesora nadzorującego akwizycję obrazów oraz danych z czujników przyspieszeń liniowych i prędkości kątowych. Urządzenie komunikuje się z komputerem przez pojedynczą magistralę USB (zastosowano koncentrator USB 2.0). Układ zasilany jest z portu USB, a prąd pobierany przez moduł nie przekracza 450 mA. Prototyp urządzenia jest elementem systemu dźwiękowego ostrzegania o przeszkodach dla osoby niewidomej.
EN
A special design of an electronic device for aiding the visually impaired in independent travel is presented in the paper. The device contains a stereovision module consisting of 2 MPix resolution digital cameras, a sound card and a processor that controls image acquisition and data recording from linear acceleration and angular velocity sensors. The modules communicate with a computer via single USB 2.0 interface (USB 2.0 hub is used). The device is powered directly from the USB port. The electrical current drawn by the module does not exceed 450 mA. This prototype system is a key element in the electronic travel aid for the visually impaired.
Opracowano metody śledzenia własnego ruchu stereoskopowego układu kamer w statycznej scenie trójwymiarowej na podstawie sekwencji obrazów i wektora prędkości kątowych, mierzonego za pomocą czujnika inercyjnego. Założeniem projektu było połączenie strumieni danych pochodzących z obydwu źródeł w celu uzyskania dokładniejszej estymacji wektora własnego ruchu. Zaprojektowano oraz wykonano układ akwizycji i transmisji do komputera wektora odczytów z czujników inercyjnych. Pomierzenie prędkości kątowych pozwoliło na zgrubną estymację pola ruchu w obrazie, zawężającą zakres poszukiwania jego wartości metodami obrazowymi i dającą możliwość śledzenia ruchu kamer w chwilach braku wiarygodnej informacji obrazowej.
EN
A method for ego-motion tracking of stereoscopic camera system in static 3D scene, based on image sequence and angular velocity vector measured by inertial sensor was developed. The main assumption of the project was fusion of data streams from both sources to obtain more accurate ego-motion estimation. An electronic module for recording inertial sensor data was built. Measurement of angular velocities allowed for rough estimation of image motion field, reducing its search range by standard image-based methods. Continuous tracking of camera motion has been achieved (including time intervals of image information loss).
W artykule opisano eksperyment obliczeniowy, przeprowadzony dla stereoskopowej pary obrazów, mający na celu zbadanie różnic i podobieństw w efektywności wykrywania punktów charakterystycznych z wykorzystaniem trzech metod bazujących na wartościach własnych hesjanu. Stosując gaussowską czteropoziomową piramidę, wyznaczono punkty charakterystyczne wspólne dla wszystkich poziomów, porównano wizualnie i statystycznie ich lokalizację, a następnie wyznaczono mapy dysparycji. W badaniach wykorzystano korelacyjną technikę wyznaczania dysparycji. Wykazano różnice między teoretycznie podobnymi metodami wykorzystującymi iloraz wartości własnych oraz potwierdzono korzystne cechy metody bazującej na różnicy wartości własnych.
EN
In the paper a computational experiment performed for the stereoscopic image pair has been described. The aim of the designed experiment was to investigate the similarities and differences between three methods used to localize the keypoints, basing on the Hessian matrix eigenvalues. The keypoints were obtained for the four-level Gaussian pyramid, and then the ones common for all levels were selected. Afterwards their locations were visually and statistically compared and then the disparity maps were computed. The disparity in that task was calculated with use of the correlation coefficient. The results indicate noticeable differences between theoretically similar techniques utilizing the eigenvalues ratio. The advantegous properties of the third method, based on the difference between eigenvalues, have been confirmed.
W pracy przedstawiono istotę działania i wstępna ocenę dokładności prototypowego cyfrowego systemu stereowizyjnego, który stanowi podstawę konstrukcji urządzenia wspomagającego osobę niewidoma w percepcji otoczenia (projekt badawczy realizowany w Instytucie Elektroniki Politechniki Łódzkiej). W prototypowej wersji systemu zastosowano 2 kolorowe kamery cyfrowe Flea® firmy Point Grey (rozdzielczość 1024×768, interfejs IEEE 1394), wyposażone w obiektywy Ernitec f = 3.5 mm. Kalibracja kamer została przeprowadzona za pomocą programu wspomaganego biblioteką OpenCV (Intel® Open Source Computer Vision Library). Proces automatycznego wyznaczenia gęstej mapy dysparycji (mapy paralaks podłu_nych) został wsparty algorytmem dopasowującym obszary (winx×winy - okno korelacji). Zastosowana miara podobieństwa jest suma wartości bezwzględnych różnic SAD (Sum of Absolute Differences), obliczana technika „przesuwanych okien” (sliding window). Poszukiwanie wiarygodnych minimów miary SAD jest wykonywane w czterech krokach przez znalezienie minimum globalnego SADmin oraz trzech najmniejszych wartości SAD1 < SAD2 < SAD3. Za pomocą mapy dysparycji i parametrów orientacji zewnętrznej modelu (macierze przekształcenia MR , ML) wyznaczane są współrzędne 3D sceny. Algorytm segmentacji sceny 3D realizuje w trybie iteracyjnym detekcje płaszczyzn oraz obiektów „przeszkód”. Procedura akwizycji obrazów cyfrowych, generowanie mapy dysparycji i segmentacji zostały zaimplementowane na platformie procesora sygnałowego DSP (Digital Signal Processor). Ocenę dokładności systemu wykonano na podstawie stereopar zdjęć cyfrowych (baza zdjęć B = 80.75 mm) dwóch przestrzennych pól testowych. Współrzędne 3D punktów zostały wyznaczone na podstawie wygenerowanej gęstej mapy dysparycji (okno korelacji wyniosło 25×25pikseli). Algorytm dysparycji wykrył średnio ca 72 % sygnalizowanych punktów kontrolnych. Średnia odchyłka kwadratowa dla współrzędnych 3D w układzie współrzędnych systemu stereowizyjnego wyniosła _XYZ = ±39.6 mm (test 1) oraz _XYZ = ±124.1 mm (test 2). Średnia odchyłka kwadratowa dla współrzędnych X, Y, Z po transformacji 3D do układu obiektu wyniosła _XYZ = ±72 mm (test 1) oraz _XYZ = ±74 mm (test 2).
EN
The prototype of digital stereovision system is presented along with its procedures, main parts and its accuracy evaluation. The presented system is a prototype for vision module in electronic travel aid device for the blind, being designed and developed in Institute of Electronics in Technical University of Lodz. The system consists of two Flea type Point Grey digital cameras (resolution of 1024×768, IEEE 1394 interface) and Ernitec f = 3.5 mm objective). The cameras calibration was performed by means of the software using OpenCV library (Intel® Open Source Computer Vision Library). The process of automatic computation of dense disparity maps was performed by the stereo matching local algorithm (with correlation window of a given size). The measure of similarity is defined as a sum of absolute differences (SAD) between pixels form windows surrounding the compared pixels. The SAD values are calculated with the use of sliding window method in order to obtain real time speed of dense disparity maps computation. The procedure of finding rob ust minimum SAD values consists of four steps: searching for global minimum value SADmin and three other smallest values SAD1 < SAD2 < SAD3. The 3D scene coordinates are calculated by means of disparity map values and model exterior orientation parameters (transformation matrices MR , ML). 3D scene segmentation algorithm detects planes and surrounding objects, obstacles. The digital images acquisition, disparity and segmentation map generation are implemented on the DSP (Digital Signal Processor) platform. The accuracy of the system is evaluated by analysing stereo pairs of digital pictures of two different 3D test fields. The base line of stereoscopic set of cameras used in the system was B = 80.75 mm. 3D coordinates were computed by means of dense disparity map values (search window of the matching algorithm was of the size 25×25 pixels) The average effectiveness of signalised check points detection by disparity algorithm was 72 %. RMSE for 3D object coordinates in the stereovision system was _XYZ = ±39.6 mm (test 1) and _ XYZ = ±124.1 mm (test 2). RMSE for X,Y,Z coordinates after 3D transformation into the object coordinates system was _XYZ = ±72 mm (test 1) and _XYZ = ±74 mm (test 2).
This article presents the problem of creation of three dimensional model which can visualize results of the flow measurement in 3D graphics. Firstly the algorithm prepares the data for proposed module. This preparation consists of sequences of processing images algorithms. The tests were conducted for series of USG images. These images represent the multi-phase flow of water and oil in the pipe.
PL
Artykuł przedstawia program do reprezentowania wyników w grafice trójwymiarowej. Proces tworzenia wyników rozpoczyna się od sekwencji operacji przetwarzania obrazów dwuwymiarowych, a następnie przedstawienie otrzymanych wyników w grafice 3D. Testy prowadzone były dla serii obrazów przedstawiających przepływ wody i oleju w rurze PCV. Obrazy te otrzymano z ultrasonografu.
This article presents results of investigation of robot motion planner in which obstacles motion detector was implemented. Images from stereo vision system are used to compute disparity distribution and robot environment map. The results of obstacle motion detection are presented. Optical motion approach for obstacle movements detection was also presented.
PL
W artykule przedstawiono zagadnienie planowania trajektorii robotów mobilnych z uwzględnieniem ruchu przeszkód. Zaproponowano wykorzystanie systemu stereowizyjnego do wyznaczenia otoczenia robota na podstawie mapy dysparycji. Przedstawiono koncepcję wykorzystania ruchu optycznego do wykrywania poruszających się przeszkód.
JavaScript jest wyłączony w Twojej przeglądarce internetowej. Włącz go, a następnie odśwież stronę, aby móc w pełni z niej korzystać.