Modeling interactions between features improves the performance of machine learning solutions in many domains (e.g. recommender systems or sentiment analysis). In this paper, we introduce Exponential machines (ExM), a predictor that models all interactions of every order. The key idea is to represent an exponentially large tensor of parameters in a factorized format called tensor train (TT). The tensor train format regularizes the model and lets you control the number of underlying parameters. To train the model, we develop a stochastic Riemannian optimization procedure, which allows us to fit tensors with ¼ 256 entries. We show that the model achieves state-of-the-art performance on synthetic data with high-order interactions and that it works on par with high-order factorization machines on a recommender system dataset MovieLens 100 K.
W pracy badano zadanie rekonstrukcji brakujących pikseli w obrazach poddanych losowym zaburzeniom impulsowym w kanale transmisyjnym. Takie zadanie może być sformułowane w kontekście interpolacji obrazu na nieregularnej siatce lub aproksymacji niekompletnego obrazu za pomocą modeli dekompozycji obrazu na faktory niskiego rzędu. Porównano skuteczność czterech algorytmów opartych na dekompozycjach macierzy lub tensorów: SVT, SmNMF-MC, FCSA-TC i SPC-QV. Badania przeprowadzono na obrazach niekompletnych, otrzymanych z obrazów oryginalnych przez usunięcie losowo wybranych pikseli lub linii tworzących regularną siatkę. Najwyższą efektywność rekonstrukcji obrazu uzyskano gdy na estymowane faktory niskiego rzędu narzucano ograniczenia nieujemności i gładkości w postaci wagowej filtracji uśredniającej.
EN
The paper is concerned with the task of reconstructing missing pixels in images perturbed with impulse noise in a transmission channel. Such a task can be formulated in the context of image interpolation on an irregular grid or by approximating an incomplete image by low-rank factor decomposition models. We compared four algorithms that are based on the low-rank decomposition model: SVT, SmNMF-MC , FCSA-TC and SPC-QV. The numerical experiments are carried out for various cases of incomplete images, obtained by removing random pixels or regular grid lines from test images. The best performance is obtained if nonnegativity and smoothing constraints are imposed onto the estimated low-rank factors.
3
Dostęp do pełnego tekstu na zewnętrznej witrynie WWW
The paper presents a framework for object detection by the tensor decomposition, called Higher Order Singular Value Decomposition (HOSVD), of the space of the training patterns. This allows a direct control over a number of dimensions inherent to the pattern space. The pattern space can be build from the available prototypes, as well as their geometrically deformed versions. Such strategy allows recognition of shifted and rotated patterns. In the paper a software framework for efficient representation and manipulations of tensors is also discussed. Tensors are stored in the matricized form with simultaneous abstraction imposed on tensor indices thanks to the proxy design pattern. This allows minimization of data copying, e.g. in the process of tensor decomposition. Finally, the whole framework was tested in the system of driver drowsiness control in which it is used for eye recognition. The latter is called TensorEye processing.
JavaScript jest wyłączony w Twojej przeglądarce internetowej. Włącz go, a następnie odśwież stronę, aby móc w pełni z niej korzystać.